V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
V2EX  ›  uprit  ›  全部回复第 2 页 / 共 14 页
回复总数  276
1  2  3  4  5  6  7  8  9  10 ... 14  
补充:关键还是考虑下你需要多大显存。
16G 显存,可以选 4060ti ,贵一点的 4070tis 也可以,或者你等 50 系也行。再便宜,就是可选 v100
24G 显存,3090 其实也不错,带宽够高。
搞 CPU 推理,内存带宽上不来,都是邪路,别折腾了,就选 N 卡。
@nocae 我在用双卡 2080ti 22G ,32B 模型大概每秒 20+token 吧,再大就没试了。日常用的最多还是 14B 模型。其他至少还没遇到不支持的东西。我还在用 6 代平台,是旧电脑升级上来的,升级了内存、电源、主板、显卡、机箱。总共花了不到 6k 吧。你要上新平台双卡 2080ti ,7K 应该也能搞定。
55 天前
回复了 Daath 创建的主题 随想 吐槽一句,现在腾讯视频 vip 连 4K 也砍了?
那句话怎么说来着?活该你看正版。
64 天前
回复了 nlzy 创建的主题 Local LLM 三千预算本地 70b 大模型
感觉精力全花在折腾上了,划不来划不来。
这踏马的不是我想看的色图。
俺不信,你贴图吧,大概率你用的是一个野鸡站。
@liufei19740722 你这太少了,这不还得继续,2 点再来一炮,4 点接着干,6 点再来一次,睡醒继续再来一炮。
82 天前
回复了 yleoer 创建的主题 广州 封阳台碰到的糟糕事,请大佬分析下
起码先了解下行情,多少平啊,这价格是真便宜。这么便宜的价格默认全是杂牌白牌呗。
三个月有点短,估计得半年,你这身高,起码得先减到 120 。
单控制饮食足够了。运动不用急,慢慢来,先从走路开始
你应该拿 12 寸以上的大设备刷,就得让自己不舒服。
85 天前
回复了 kyonn 创建的主题 NAS 能不能分享下照片和微信聊天记录备份方案.
iCloud 省心省事儿且无感
基本就剩个空壳了,还有啥用?
好个鸡毛。
肯定 M1 啊,你有啥必须要用 Intel 的理由吗?
97 天前
回复了 nrtEBH 创建的主题 Apple 消灭了 TouchBar 引入了大刘海
感觉吧,喷 MacBook 上的刘海屏,都是没用过 MacBook 的。
他们大概率在观望,想买又下不去手,给自己找个不买的理由。
实际使用过就知道,MacBook 的刘海屏,感知是最弱的,比 iPhone 的刘海屏都弱。
但屏幕的实际可用空间是实打实的提升了。俺后来选 MacBookAir ,刘海屏甚至是俺考虑的优势之一。
反倒 touch bar ,那东西是真没啥用,影响我按 Fn 键、esc 键,那位置常亮还 TM 发热。
锤子遗产,TNT go
103 天前
回复了 cuijin 创建的主题 NAS 白群晖 ds920 的 m2 缓存位改存储池稳定吗?
稳定用了 2 年多了,日常重启都没事,相当于 6 盘位正常用。
系统小版本内升级没影响。大版本升级会不识别,需要重新 ssh 内弄一下刷白名单即可。
另外,听说 7.2.2 群晖把这个白名单封了。机器一重启就报错。所以俺现在停在了 7.2.1 。
温度的话,我用的 2 块 2T 的 970ep ,日常温度 40 度。
107 天前
回复了 xtx 创建的主题 健康 发明对乙酰氨基酚的人配享太庙。
@niubee1 “长期服用”一般是咋定义的?正常应该就感冒那两天吃,难不成还有当成维生素天天吃的?
双机
一个好用的表格编辑器真那么好弄?后台配置临时攒出来的表格是啥体验你们心里真没数?说句不客气的,表格编辑比 excel 好用的,俺还真没见过。
1  2  3  4  5  6  7  8  9  10 ... 14  
关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   2689 人在线   最高记录 6679   ·     Select Language
创意工作者们的社区
World is powered by solitude
VERSION: 3.9.8.5 · 263ms · UTC 07:59 · PVG 15:59 · LAX 23:59 · JFK 03:59
Developed with CodeLauncher
♥ Do have faith in what you're doing.