之前没写过 python ,现在领导指定框架使用 langchain ,要对接市面上多种大模型实现对话能力,当然还有业务上的一些东西。我的想法是在 github 上找一个有完整对话功能实现的 python 项目下来学习学习顺便改改,但是上边的项目好像都很大了,对我来说要剥离出来不容易。有没有 v 友看过一些比较简易或者只有对话功能的项目,分享一下
langchain 本身就支持各种模型,可以看 chat_models 模块,还有现在大模型的参数基本都是一致的,有 one-api 、new-api 这种模型 api 集成平台,可以接入市面上几乎所有模型
用 Python 的直接用 open ai 的 SDK 就行,绝大多数的大模型后端都支持 openai 的 sdk ,支持同一套标准,模型名字 base url 和 API key 一改就能无缝衔接。这包括什么 OpenAI, Gemini, deepseek, 智谱, 硅基流动,还有本地的推理引擎,比如 vllm ,ollama ,llamacpp 之类的。单纯的与 llm 对话一个几十行一百行的 Python 单文件就能实现,一般不会单独写成项目,你上网搜 openai 的相关教程可能能找的到,或是直接让 ai 给你写个案例代码。如果你不熟悉 Python 记得顺便看一下包管理器,依赖管理,虚拟环境之类的东西。2025 年这套东西可以用 uv 解决,不过 ai 可能还不熟悉最新版本的 uv 。纯对话的最小代码我没有,不过之前写过一个 gist ,向 LLM 提问 1000 次,让他生成随机数,但生成 0 的概率是 90%,运行结果是跑 1000 次之后所有的结果都是 0 (?)。62 行,配置一改就能换到其他大模型去。https://gist.github.com/t41372/84f250d2ae3567332fc2b97ed4f868a8关于 langchain ,我不推荐新手用 langchain ,他会让你的生活很痛苦。