V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
V2EX  ›  inorobot  ›  全部回复第 1 页 / 共 10 页
回复总数  181
1  2  3  4  5  6  7  8  9  10  
@VersionD 之前挂了 8 块 U.2 ,待机 100 来 w
@VersionD 板 U 满载 80w ,这个是个低功耗的 EPYC ,U 满载 55w
@LanhuaMa
@unidotnet
ASRock Rack 永擎 EPYC3251D4I-2T ,8C16T ,4x DDR4 槽,双万兆电口( Intel X550 ),24 lane PCIe 3.0 ( 1x PCIe 3.0 x16 ,1x OcuLink x4 ,1x M.2 PCIe x4 ),2x SATA ,带 IPMI
由于最近的 7K62 大船,组了个双路的家用服务器,8 根 64G 内存,4+1 个二手 1300 瓦的冗余电源,双路板子 ROME2D16-2T ,机箱风扇上了 6 把 9RA ,4 张单槽涡轮的 RTX 4060Ti 16G ,1 张涡轮的 RTX 4070Ti SUPER 16G ,为了散热上了个 4U 的 8 卡 GPU 机箱,还有一些硬盘,实际花了大概 5w 。
实现了跑串流、LLM 、编译等,满载功耗 1600w ,日常待机 300-400w ,冷启动到虚拟机加载好各种服务大概 2-3 分钟。后面准备再上两张 CX6 ,把 10G 的内网升到 100G ,交换机也得再换一个,目前看上的 QNAP 新出的那款 4*100G+8*25G 。
另一台是 7003 的 NAS ,日常 200w 待机,8 块 7.68T 的 U.2 SSD ,把消费 NAS 的存储和应用分开,Host 纯跑存储,Guest 跑一些偏向应用的虚拟机( DSM 和 fnOS ),DSM 的文件同步、备份套件还是没方法替代。
组的过程一个体验就是买二手确实便宜,但是需要花时间找以及辨别矿的程度,直接梭哈全新省事也有保修省心省事,现在比较担心的是双路的机器的二手电源会不会 BOOM 。
另外就是功耗,说实话服务器的功耗确实还是太高,没啥比较好的平衡办法,什么都想集成还要求性能就得上服务器,一个 U 待机基本都能顶一台小主机方案了,而且性能其实日常过剩。
@sdd11 vllm 多卡推理 --tensor-parallel-size 配置成卡数
111 天前
回复了 turfbook 创建的主题 NAS 威联通 QNAP 的 QuMagie 自动备份照片问题
群晖的 Photos Mobile 开上后台刷新 不清掉 app 是可以自动备份的
最大容量 92%
循环计数 344
生产日期 2023 年 10 月
初次使用 2023 年 11 月
保护没啥用感觉,我每次充电还都带着散热器
我是整了 4 块 4060Ti 跑推理,64G ,如果上拆分能装 8 卡,能 128G ,基本各种模型都能跑了
219 天前
回复了 412999826 创建的主题 Apple 关于 iOS17.5 意外恢复照片的一点猜想
我感觉可能是照片流、图片库、iCloud 图库备份这几个串了,iOS 17.5 可能修改了相关索引逻辑或者缓存逻辑或者云端和本地的同步、删除逻辑,扫到了新的或者没删掉的图片。
因为新出现的照片都在最近添加里,应该是 iOS 更新之后照片 app 突然搜到了几张新照片再上传到 iCloud 图库了。
我是出现了几张 22 年已删除的老照片,没有 EXIF 信息,设备还是去年的 15 Pro Max ,新设备启用是全量备份,忘了是 iCloud 里恢复出来的还是直接旧机导入的。
验证的话也很简单,再找个新机器从 iCloud 里备份恢复,然后升级到 17.5 ,肯定还能复现,当然如果是 iCloud 假删除,那真的很顶了。
261 天前
回复了 iqoo 创建的主题 程序员 发一个拼 CPU 性能的红包
M1 Pro (10C:8 性能和 2 能效),显示 1h34m
274 天前
回复了 lstz 创建的主题 程序员 可以晒下你们的服务器配置吗
https://i.imgur.com/Enzc3gh.png
回复中怎么发图片呢
AMD EPYC 7543 32C64T + 64G DDR4 ECC 3200M *6 + Tesla T4 *2 + SN640 7.68T* 8
274 天前
回复了 lstz 创建的主题 程序员 可以晒下你们的服务器配置吗
https://imgur.com/a/FmcjGCM
7543 32C64T + Tesla T4 *2 + SN640 7.68T* 8
279 天前
回复了 s4d 创建的主题  WATCH 你们的米兰尼斯表带夹头发吗?
夹非常夹,还夹胳膊上的,后来换了白色钢链的,就不夹了
353 天前
回复了 lynan 创建的主题 分享发现 来说说你们认为信达雅的翻译吧
fork 复刻
不过题主还是牛哇,能给谈下来
保险公司是这样的,只按原车配置给你赔,自己改的升级的不会赔,而且保险现在不是按钱来算保费上涨,是按这几年的事故数量来算了
361 天前
回复了 chenqh 创建的主题 硬件 求推荐下移动固态
英睿达 X7 X8 X9Pro X10Pro ,9 和 10 的尺寸都特别小,容量可以到 4T
2023-12-26 03:18:06 +08:00
回复了 BinaryBro 创建的主题 NAS vGPU 驱动求提供下载
P4 显存太小了,没记错不支持 AV1 H265 ,我是买了两张 T4+P4 ,单卡槽价格还低,梭哈几张插满 PCIe ,host 直接直通下去
固态的读写高,都是 SLC Cache 的功劳,说是 7000M/s 跑完 PCIe 4 ,实际只要跑完模拟的 SLC Cache ,速度就低下来了,企业级的整体数据要差一点,但是都是全盘直写的速度,真不是消费级跑跑 AS SSD 什么的和能比的
1  2  3  4  5  6  7  8  9  10  
关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   3348 人在线   最高记录 6679   ·     Select Language
创意工作者们的社区
World is powered by solitude
VERSION: 3.9.8.5 · 32ms · UTC 00:05 · PVG 08:05 · LAX 16:05 · JFK 19:05
Developed with CodeLauncher
♥ Do have faith in what you're doing.