V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
V2EX  ›  chengxiao  ›  全部回复第 1 页 / 共 118 页
回复总数  2360
1  2  3  4  5  6  7  8  9  10 ... 118  
@vanchKong #11 看了下占用,对运算力要求不是很高 主要是显存占用的多,4090 功耗还没到 200w ,但是显存满了,瓶颈应该在显存,内存占用 20G 左右,当然我没关其他程序。当然这是单人问答测试,实际的商用的话估计要高很多

https://i.imgur.com/m0ME8dD.png
@vanchKong #11 看模型的参数类型吧
我是用的 64G 内存+4090 24G 32B 的跑起来还可以 70B 的就非常卡了
https://i.imgur.com/pRAWM3T.png
试了一下 Llama3 8B 中文支持欠佳
https://www.meilisearch.com/
Meilisearch 项目不大的话这个不错 文档很 nice
23 小时 53 分钟前
回复了 wuhao1 创建的主题 Ubuntu 24.04 即将发布,请容许我装个 B
不知道为啥都要反 snap
我觉得用 snap 更新和装软件挺方便的啊 ,唯一一点就是样式好像不继承 Gnome
1 天前
回复了 ggp1ot2 创建的主题 问与答 该去哪里找专门修脚的地方?
老哥 没去洗过脚? 随便一个洗脚城都有修脚了 贵点的 70 块 便宜点的一二十
都有专业工具的 你这都不叫事 点个按摩加修脚 美滋滋
包你去一次想两次去两次想三次
5 年盈利 150w......嗯 你要不找个班上吧
好歹不是赌博 稳赚
你这 5 年这么高风险才 150......正经上班也差不多一半多收入了
不会是泡泡卡丁车 2 吧?
搜索 外区入库 网易加速器 这些加速器都有相对应的加速入库专区
vultr 就算了吧
几乎所有 ip 都被封禁了
6 天前
回复了 jqtmviyu 创建的主题 Python 请教下 Python 上的包管理器和虚拟环境
pip 一把梭 虽然 python 的包管理狗屎但是也比 npm 好......
另外 python 包的小心比 npm 占用要小的多的多
立党???????你是认真的么?
@xmumiffy #90 我记得挂了 dnspod 的 title,现在合并进了腾讯云的,但是刚才去看了下,这人把描述都改了
联想到了前几天中文推特圈里 一个腾讯云的负责人好像 因为技术环境里申请机器升级,发现机器里多装了几个 docker 容器就联系 HR 把人又花掉了的帖子,啧啧
12 天前
回复了 FlutterKira 创建的主题 NAS 住宿舍的大学生是否需要一台 nas ?
....纯粹是被各种 up 主洗脑了
真买了 你会发现在这上面需要花更多的钱解决更小的问题
300 快一年的网盘不香么?
12 天前
回复了 Sirius8 创建的主题 耳机 2024 TWS 耳机选择
@Sirius8 #2 我是实际 xm5 拥有者,不推荐 xm5,让我再选我会选 bose.....xm3 到 xm5,只能说 sony 这个公司已经慢慢衰落了
最近刚在各个平台换了 edge ,微软这两年还是真干了不少事情的
20 天前
回复了 rossroma 创建的主题 生活 该不该卖房?
上面还有说大水漫灌的......日本 0 利率那么多年都拉不起来
@roofdocs 你这个理论就跟 10 年前的 100M 足以一样
随着 4k 8k 的普及和更多的智能家居接入,带宽需求只会越来越大
25 天前
回复了 conanqyc 创建的主题 问与答 问下 有没有可靠的外设切换的装置
目前在用软件共享键鼠 Synergy ,好处不用频繁切换信号,双屏双系统用起来比较舒服
但是单屏的话 感觉就不怎么适用了
1  2  3  4  5  6  7  8  9  10 ... 118  
关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   我们的愿景   ·   实用小工具   ·   5239 人在线   最高记录 6543   ·     Select Language
创意工作者们的社区
World is powered by solitude
VERSION: 3.9.8.5 · 62ms · UTC 08:47 · PVG 16:47 · LAX 01:47 · JFK 04:47
Developed with CodeLauncher
♥ Do have faith in what you're doing.