想部署一套 AI 服务,大家有推荐的吗?

2024 年 11 月 29 日
 MagicCoder

之前一直用的 oaifree ,前几天他跑路了。现在打算买 chatgpt4 的 API key ,然后部署到服务端,跟朋友一起用。

我的需求是:

4579 次点击
所在节点    程序员
23 条回复
lucasdev
2024 年 11 月 29 日
推荐 one-api ,部署简单,支持 Gemini ,支持用户管理,你也可以直接生成好 one-api 的 key 给他们
https://github.com/songquanpeng/one-api
MagicCoder
2024 年 11 月 29 日
@lucasdev 牛啊 这个看着不错
TY233
2024 年 11 月 29 日
接口又不是只有它一个,还有跟多活着的,oaifree 只是认可度最高
TY233
2024 年 11 月 29 日
部署的话可以看自己需求, 最开始是 one api ,然后 oaifree 的作者二开了 new api ,除此外还有人三开了化简版的 uni api
LeslieLeung
2024 年 11 月 29 日
one-api 系列的都只能转成 openai 格式,不能代理 claude ;有个 litellm (带一个面板)也可以看看。蹲一下有没有做能代理、统计用量的 openai+anthropic 比较全的,最近 claude 封号严重
tianPPPP
2024 年 11 月 29 日
https://github.com/zhayujie/chatgpt-on-wechat 装服务器,在装个 clash 代理
libaili
2024 年 11 月 29 日
gorvey
2024 年 11 月 29 日
https://gpt302.saaslink.net/hEDI6f
看看这个,比较稳。注册送 1 刀
TyCoding
2024 年 11 月 29 日
可以看一下 LangChat ,最近已经在 Gitee 榜首了

Gitee: https://gitee.com/langchat/langchat
Github: https://github.com/tycoding/langchat
mengdodo
2024 年 11 月 29 日
VoAPI
Hookery
2024 年 11 月 29 日
建议谷歌 local LLM frontend
Byleth
2024 年 11 月 29 日
还是推荐 LibreChat ,高仿 ChatGPT 界面,https://www.librechat.ai/
Byleth
2024 年 11 月 29 日
aff
Byleth
2024 年 11 月 29 日
@gorvey aff
Carson089
2024 年 11 月 29 日
个人使用不建议部署了,现在满大街都是,直接用免费的就好
Carson089
2024 年 11 月 29 日
要用,就试试较新的应用 notebookLLM ,google 和腾讯都有
victorkk
2024 年 11 月 29 日
我个人觉得 one api 或者 new api 太重了,可以试试 uni-api
https://github.com/yym68686/uni-api
Alwaysonline
2024 年 11 月 29 日
https://github.com/lobehub/lobe-chat

推荐 Lobe Chat ,支持 Vercel/Sealos 等各种云部署。
0x5c0f
2024 年 11 月 29 日
最近发现一个新的工具叫 chatnio ,感觉还是不错的, 另外推荐的就是 one-api 了(目前个人部署的就是这个), 至于其他的我就只能呵呵了
wzry2580
2024 年 11 月 29 日
https://github.com/ChatGPTNextWeb/ChatGPT-Next-Web
只是用于网页端,其他客户端自行测试,
不清楚是否支不支持多账号

https://github.com/ChatBot-All/chatbot-app

移动端或者 iOS 设备用这个

这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://study.congcong.us/t/1093646

V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX