开发了一个浏览器插件,一个本地知识库 AI 助手,关于 RAG 的,希望各位大佬帮我指定下,给点建议,产品本身以及推广都可以,谢谢

[doujiangjiyaozha]

具体的介绍都在官网这里 guanzhangai.cn

[RotkPPP]

网站打不开

[ospider]

搞笑呢，cn 域名和 AI 是互斥的，你有牌照吗？就敢大模型

[doujiangjiyaozha]

@RotkPPP 再试下老哥,我改了下 DNS,测了下全国网速,应该没问题了

[doujiangjiyaozha]

@ospider em, cn 域名和 AI 是互斥的, 这话我有点不太理解, 麻烦老哥帮忙解释下; 至于牌照与大模型,我也不太理解,我全程都用的第三方的开源 LLM 模型或者 api 调用,跟牌照有什么关系吗?

[hefish]

我也想做个类似的东西，不知道如何下手，op 大佬能指点一二吗？比如需要哪些基础知识，基于哪个开源模型来搞之类的。。。

[doujiangjiyaozha]

@hefish 我想想哈, 如果是你要做服务端的话, 可以去看下 langchain, 它里面有提供 python 和 nodejs(我已知的)的库,基本上是可以帮你直接从清理文本,到存入向量数据库,到搜索匹配,直接一条龙完成了的,很方便; 如果你要是像我一样做客户端的话, web 端我调研的方案, 基本上就是 transformjs 处理向量,加 indexdb 存储, 复杂的点主要是中间的一些优化, 我当初弄我这玩意时候,内存老是爆;向量模型的话,就是 huggingface 上找找 embeding 的, 目前国外很多人用的是 nomic-embed-text-v1,不过我测了中文效果不咋地,我就换成了 jina-embeddings-v2-base-zh,目前测试还不错,后面有时间我应该会更新一些我碰到的坑写到我那个博客里(官网里有挂,才刚弄), 希望能帮到你

[smallparking]

@xiaoyuan9816 https://www.cac.gov.cn/2024-04/02/c_1713729983803145.htm
有备案吗？ 还用国外 api ？符合 "坚持社会主义核心价值观" 吗？
https://www.cac.gov.cn/2023-07/13/c_1690898327029107.htm

[doujiangjiyaozha]

@smallparking 我去 我还真不知道这玩意 感谢老哥提醒;我找时间研究下,不过 api 我只用我们国内的,支持我们国产模型 qianwen 之类的 hh