 |
dbgV2EX 第 96150 号会员，加入于 2015-02-06 22:46:49 +08:00今日活跃度排名 115 |
dbg 最近回复了
19 天前 回复了 avalox 创建的主题 › 程序员 › 想用手头的硬件最低成本尝试下本地 LLM 推理，请教一下方案 |
@lichdkimba 14B 模型，至少需要 16G 显存的显卡。你可以看看 Ollama 的文档，有这方面的介绍的。
19 天前 回复了 avalox 创建的主题 › 程序员 › 想用手头的硬件最低成本尝试下本地 LLM 推理，请教一下方案 |
7B 模型能力实在有限。最起码要 14B 的模型，才能做一些翻译类的基础工作。
28 天前 回复了 kerb15 创建的主题 › OpenAI › GPT4 API 好像无法保证每次输出都一样？ |
输出
28 天前 回复了 kerb15 创建的主题 › OpenAI › GPT4 API 好像无法保证每次输出都一样？ |
亲，你应该了解下大语言模型的原理，它们的输从原理上就是随机的。
32 天前 回复了 vincenzokepler 创建的主题 › 推广 › 欢迎加入 Ai-hub，您可以优惠的价格畅享 OpenAI 服务，也可以参与推广实现 GPT-4 自由并获得被动收入 |
已经注册，持续关注！ 用户名 lynx
40 天前 回复了 nmap 创建的主题 › Linux › Linux 怎么隐藏监听的端口？ |
Linux rookit
123 天前 回复了 dearealeo 创建的主题 › OpenAI › 如何设置 Shadowrocket 才能使用 ChatGPT？ |
Select Language