V2EX = way to explore
V2EX 是一个关于分享和探索的地方
Sign Up Now
For Existing Member Sign In
• 请不要在回答技术问题时复制粘贴 AI 生成的内容
This topic created in 1053 days ago, the information mentioned may be changed or developed.
本地部署 ChatGLM-6B API 服务，将 ChatGLM API 接入 BabyAGI ，使得 BabyAGI 运行时调用 ChatGLM 的结果。
将 BabyAGI 的提示和输出都进行了中文优化，使其输出中文结果。Embedding 使用针对中文优化的 text2vec-large-chinese 模型。
ChatGLM 占用大约 12G 左右显存，embedding 模型大约占用 3G 左右显存，最终大约共使用 15G 显存成功运行。
GitHub 项目地址： https://github.com/EmbraceAGI/LocalAGI
效果图：
No Comments Yet
Select Language