$V2EX
Solana
Give SOL to Copy Address
使用 SOL 向 hanli 打赏,数额会 100% 进入 hanli 的钱包。
 hanli's recent timeline updates
hanli

hanli

V2EX member #99602, joined on 2015-02-23 21:46:27 +08:00
Today's activity rank 1424
hanli's recent replies
看了下已经 3/5 了,等满了领下试试
啊,我都是听到蚊子声音,睡着了都要开灯干死蚊子再睡的
想用 5 年就买苹果,安卓不就想 2 年换一次嘛
May 10
Replied to a topic by davidyin Local LLM 想折腾一个 AI 主机,请行家出手
前面研究过这个问题,新配显卡的话显存至少考虑 24G 以上,不然模型效果都比较一般。现在用的 12G 的 3080ti ,都跑 QWEN Q4 量化模型,跑 27b 稠密架构的基本用不了,35b 的 moe 架构勉强能用下。
FRE-e7bde8b6
感谢
FRE-978ee2c6
感谢
About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Solana   ·   5816 Online   Highest 6679   ·     Select Language
创意工作者们的社区
World is powered by solitude
VERSION: 3.9.8.5 · 26ms · UTC 01:48 · PVG 09:48 · LAX 18:48 · JFK 21:48
♥ Do have faith in what you're doing.