V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
V2EX  ›  lithiumii  ›  全部回复第 6 页 / 共 88 页
回复总数  1750
1 ... 2  3  4  5  6  7  8  9  10  11 ... 88  
open-webui 可以吧,拿来测过多个 ollama 本地模型,但是它支持 api
不能说没关系,毕竟很多资料都是英文的,找个沾边的硕士读呗
cron 写每分钟运行,命令先判断当前时间是否整除然后再运行,bash 的各种离谱写法应该可以实现
nuc8 我用两年就要清灰了,能用 4 年不错了
sata 上限 500m ,4 张 raid0 才到 usb3.2 的速度吧
214 天前
回复了 libasten 创建的主题 问与答 有人家长期尝试那种美式简餐生活吗?
汉堡披萨在家做也不省事啊
218 天前
回复了 mogutouer 创建的主题 Apple AI 开发时代, APPLE MAC 落后了
@YooboH 有句讲句 Windows 服务器挺多的,市场占有率可能有 20%,不过带 gpu 的 ai 服务器就不知道了
218 天前
回复了 mogutouer 创建的主题 Apple AI 开发时代, APPLE MAC 落后了
@lithiumii 软件上 mlx 当然不比 CUDA ,但是比一比莫名其妙的 rocm 不知方便到哪里去了
218 天前
回复了 mogutouer 创建的主题 Apple AI 开发时代, APPLE MAC 落后了
你要是说云端的 AI 训练和推理,那苹果妥妥落后了。但首先苹果就不做云服务的硬件,其次除了英伟达所有人都落后。

你说 AI 开发,你要不要看看 OpenAI 纪录片里大家都用的啥电脑?正经训练谁跑本地啊。

再说个人玩票性质的本地 AI 开发,如果你的需求是把大模型在本地跑起来,苹果那金贵的统一内存不仅很有性价比,而且很现实。24G 以上的 N 卡没有便宜的,24G 及以下的卡做多卡平台的体积、功耗、噪音也不是人人都能接受的。软件上
219 天前
回复了 zhouyin 创建的主题 美酒与美食 每餐吃土司
这不是传说中的白人饭嘛,省事是优点。不过包子馒头什么的也省事,麻烦的还是午饭晚饭
219 天前
回复了 bghtyu 创建的主题 旅行 分享一下我在 Booking 订酒店遇到诈骗的经历
booking 挺可疑的,之前旅游用了,然后就频繁收到登录验证邮件
ipad 充电口坏了,有时能充有时不能充,天才吧现场复现成功……但得到的建议是找个机会充满电然后帮我做最高一级以旧换新,因为这个问题售后不查
222 天前
回复了 Tuatara 创建的主题 Local LLM 现在买 3090TI 玩 AI 靠谱吗
@sleepybear1113 因为老黄的显存跟果子的统一内存都是金子价。果子 96G 内存的机器是一台可以拎走的笔记本,同等价格 96G 显存的机器是一台体积功耗噪音都惊人的服务器。个人玩特别大的模型,苹果忽然就有性价比了。
国外 56 亿人,你说的是哪些外国人?
224 天前
回复了 007yxc 创建的主题 创业组队 想开咖啡店求骂醒
可以先当咖啡师体验一下,然后说不定就能低价接盘你老板的店,省下一笔成本
笔记本 4090 显存才 16G 吧,然而一万买不到
非必要不生活的日子没过够吗
1 ... 2  3  4  5  6  7  8  9  10  11 ... 88  
关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   4416 人在线   最高记录 6679   ·     Select Language
创意工作者们的社区
World is powered by solitude
VERSION: 3.9.8.5 · 126ms · UTC 05:34 · PVG 13:34 · LAX 21:34 · JFK 00:34
Developed with CodeLauncher
♥ Do have faith in what you're doing.