V2EX = way to explore
V2EX 是一个关于分享和探索的地方
Sign Up Now
For Existing Member  Sign In
neptuno
V2EX  ›  OpenAI

如果我想对垂直领域文档进行智能回复,是不是只能使用 fine tuning

  •  
  •   neptuno · Feb 23, 2024 · 1630 views
    This topic created in 800 days ago, the information mentioned may be changed or developed.
    1 、使用 api 进行智能回复(类似于对说明书进行训练,回复的都是说明书的内容) 2 、想用第三方便宜的 key 3 、第三方便宜的 key 是不是不支持 fine tuning 4 、有没有其他方法
    5 replies    2024-02-23 17:32:25 +08:00
    mercurylanded
        1
    mercurylanded  
       Feb 23, 2024
    一般来说 RAG 效果更好
    neptuno
        2
    neptuno  
    OP
       Feb 23, 2024
    @mercurylanded 感谢🙏,我就说 v2 能学到知识。检索增强生成 (RAG) 的定义
    检索增强生成 (RAG) 是一种使用来自私有或专有数据源的信息来辅助文本生成的技术。它将检索模型(设计用于搜索大型数据集或知识库)和生成模型(例如大型语言模型 (LLM),此类模型会使用检索到的信息生成可供阅读的文本回复)结合在一起。

    通过从更多数据源添加背景信息,以及通过训练来补充 LLM 的原始知识库,检索增强生成能够提高搜索体验的相关性。这能够改善大型语言模型的输出,但又无需重新训练模型。额外信息源的范围很广,从训练 LLM 时并未用到的互联网上的新信息,到专有商业背景信息,或者属于企业的机密内部文档,都会包含在内。

    RAG 对于诸如回答问题和内容生成等任务,具有极大价值,因为它能支持生成式 AI 系统使用外部信息源生成更准确且更符合语境的回答。它会实施搜索检索方法(通常是语义搜索或混合搜索)来回应用户的意图并提供更相关的结果。
    TimePPT
        3
    TimePPT  
    PRO
       Feb 23, 2024
    @neptuno 先看看这个吧,能解释你好多疑惑 https://www.promptingguide.ai/zh
    ns2250225
        4
    ns2250225  
       Feb 23, 2024
    用 FastGPT 吧,简单快捷
    neptuno
        5
    neptuno  
    OP
       Feb 23, 2024
    @TimePPT 好的谢谢!公司临时接的项目,给我练练手,确实我不懂这一块。
    @ns2250225
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Solana   ·   2708 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 291ms · UTC 13:52 · PVG 21:52 · LAX 06:52 · JFK 09:52
    ♥ Do have faith in what you're doing.