ReinXD's recent timeline updates

ReinXD

V2EX member #641437, joined on 2023-08-02 03:50:33 +08:00

Today's activity rank 5523

ReinXD 提问技术话题好玩工作信息交易信息城市相关

ReinXD's recent replies

8h 3m ago

Replied to a topic by clemente › 程序员 › 大家一年的 token 费用大概预估在多少钱？以后大家能接受一年多少支出在 ai 上

400 刀左右，gpt+claude 双最高级账号，不过公司能报销无所谓了

13h 49m ago

Replied to a topic by milkleeeeee › Claude › Claude Max 20x 的周限真的能用满吗

fable5 用不完算我输

5 days ago

Replied to a topic by sentinelK › Local LLM › mac m5 ultra 上线中国官网。1.2T 显存带宽， 256GB 版本 8.6 万

@mkdirmushroom 真要买得等 512g ，能满血部署 1M dpsk v4f 是质变，不然不如买块 5090 玩，1.2T/s 对 1-4 个人来说其实是很超模的带宽水平，你对比 H200 那种 4.5T/s ，这么点人数根本吃不满带宽，楼主的估计其实还保守了点，低负载下+dspark mtp 加速，我算了下理论上至少能到 100 token/s

5 days ago

Replied to a topic by sentinelK › Local LLM › mac m5 ultra 上线中国官网。1.2T 显存带宽， 256GB 版本 8.6 万

@clemente dgx spark 显存没有 512g ，这个区别挺大的，跨越到 512g 意味着可以部署满血 1M 版本的 dpsk v4f ，而且 m5 ultra 带宽 1.2TB/s 也是吊打 dgx ，大模型计算核心耗时其实都是权重搬运，这个对实际使用提升应该是非常巨大的。总的来说，和 dgx 完全不是同级别的硬件，dgx spark 还是有点不上不下，m5 ultra 已经摸到云端服务器水平了，考虑到个人/小团队使用甚至非常超模，部署的好很有可能比用官方 api 的体验还舒服

5 days ago

Replied to a topic by LBSeven › 程序员 › 现在有必要去学高代码的智能体开发么

学得快有，现在还是能淘金的；如果你指望一碗饭吃好几年那就是没有，harness 这层最终的结局会被模型吃到只剩下基础的文字描述的工作流

5 days ago

Replied to a topic by mixuxin › 程序员 › Agent 开发时代，你们还在做 Code Rview 吗？

ai 写，ai review

5 days ago

Replied to a topic by sentinelK › Local LLM › mac m5 ultra 上线中国官网。1.2T 显存带宽， 256GB 版本 8.6 万

这个价格对比 n 卡服务器，甚至可以说性价比爆表，统一内存的架构优势在 LLM 时代凸显出来了

17 days ago

Replied to a topic by wktline › 程序员 › GLM5.3 来了，有真实订阅智谱官网的小伙伴吗，速度怎么样

@NizumaEiji 基本大厂内部编程代码 agent 都是 glm ，用户会用脚投票的