这是一个创建于 197 天前的主题，其中的信息可能已经有所发展或是发生改变。
不知道办公台式机能玩的开不？
3 条回复 • 2024-05-14 08:18:15 +08:00
 |
1
hao7Chen 197 天前
langchain 就是个编排框架，不需要啥配置，看你用的啥本地模型
用 cpp 就得内存大，cpu 大 用 gpu 就缓存越大越好吧 |
 |
2
sleeepyy 197 天前
langchain 就是个 library 啊，本身又不做 llm inference ，不需要啥硬件
|
 |
3
smalltong02 197 天前
langchain 是一套简化大语言模型加载推理的框架，而且还提供 Agent 和各种工具的集成，它本身并不需要什么硬件配置。真正吃硬件的还是你想加载的模型，鉴于一般办公台式机的 GPU 都没有或者很差，那建议你只能玩玩 gguf 的量化模型了。
|
Select Language