V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
V2EX 提问指南
chilaoqi
V2EX  ›  问与答

基于 LLM 知识库,大家觉得要成功,或者要持续成功,做对哪些,或者不做什么事情比较重要?

  •  
  •   chilaoqi · 56 天前 · 784 次点击
    这是一个创建于 56 天前的主题,其中的信息可能已经有所发展或是发生改变。

    现在基于 LLM 大模型的场景里面,面向个人和企业的知识库比较火了,大大小小国内外厂商,项目都挺多了。

    我看 1Panel 项目组也开源了自己的项目,MaxKB ,似乎还不错。https://github.com/1Panel-dev/MaxKB

    所以想听听大家选择产品,或者自己公司要搞这块的话,有没有一些期待(或者坑啊?

    2 条回复    2024-04-17 15:59:33 +08:00
    loryyang
        1
    loryyang  
       56 天前
    RAG 这玩意儿,本质上强依赖两个效果:
    1. 大模型基座的能力,目前看下来,小一些的比如*B ,1*B 的都不太行
    2. 检索测的效果,这个类比于搜广推的检索,要做好难度极大
    总结来说,玩一玩,很简单,像那么回事。要做好,这事就难了。你可以自己拿开源的试试,基本上就我说的这种情况
    MadSix
        2
    MadSix  
       56 天前
    说实话,选择产品上,主要是还是 1.效果足够好 2.成本足够低。
    之前也试过几家,包括跟 dify 之类的也线下/线上都沟通过。
    好多企业选择知识库首先想到的就是 AI 客服,但实际用下来,目前没找到真的实现效果好的。基本要么用不起来,要么需要无数的人力去打标记。原本想要的是智能客户降本增效,用上知识库之后反而反过来了。
    大家概念都说的很好,演示也是拿一些很傻瓜的场景做 demo ,一旦到实际生产落地的时候,对输入的内容要求太高了。又要有规律,又要规则统一,又要内容种类明晰不杂乱,总之基本不太可能实现,最终还是要大量的人力去打标记。
    单在 AI 客服这个上面,目前就没找到能真的落地面向客户的。
    关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   4440 人在线   最高记录 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 24ms · UTC 01:06 · PVG 09:06 · LAX 18:06 · JFK 21:06
    Developed with CodeLauncher
    ♥ Do have faith in what you're doing.