现在还有人需要“翻译 API 服务”吗？

@M9l7chlLGv 早知道有这个我就懒得自己写了

@shewhen 说实话，准确性倒是超乎想象。我用的 gemma3 12b

这种不是很多，就算细分领域都一大堆了，比如日语游戏小说翻译：

https://github.com/NEKOparapa/AiNiee
https://github.com/neavo/LinguaGacha

还有提高翻译质量的译前自动术语表生成

https://github.com/neavo/KeywordGacha

更便捷的 gui 参数设置和 llama.cpp 启动器

https://github.com/PiDanShouRouZhouXD/Sakura_Launcher_GUI

甚至社区算力共享：
https://github.com/1PercentSync/sakura-share

大部分非游戏用户只是核显，跑本地大模型你会遇到一大堆用户投诉，是不是把市场想得太美好了？

12b 本地 cpu 跑速度非常感人，正常人都会用 api 。gpu 又不是每个人都有。

AI 翻译有道德限制，有时候带有一些特殊的词会导致 AI 断言。

@june4 现在 gpu 普及率这么低？

有的, 前 2 天针对这个问题, 我的确还真的搜索过解决方案. 而且也稍微对比过. 目前我有个需求的确是需要翻译的 api 的. 我对比过阿里云, 腾讯云的翻译 api, 都不能满足我的需求. 有 2 点: 1. 没法针对我涉及的行业做翻译. 2. 每次翻译的数量级太少了. 只能 500 条左右. 事实上, 我有一个 pdf, 一次要 18000 多行要做翻译, 所以, 我需要超级快的给我返回.

@xhawk 那么这种方案也不适合，速度不可能满足你的需求。但针对行业的专业词汇说不定可以有特殊处理。

并发怎么样？大文本支持多大长度？大模型处理这种大并发翻译场景还是不适合！

@xiaoheicat 自建服务，并发完全受限于自己的服务器的能力。

超长文本肯定是要拆分的，段落拆分要根据 llm 的上下文窗口来动态判断。算法倒是现成的，做在 sdk 或服务里面都可以。