kaichen

kaichen

等待 AI 降临
🏢  刷推特刷Reddit
V2EX 第 1320 号会员,加入于 2010-09-02 10:59:27 +08:00
今日活跃度排名 9617
2 G 9 S 54 B
👨‍💻 资深全栈开发工程师 | 🧠 AGI 信仰者 | 🚀 e/acc 驱动的持续学习与对 AI/LLM 的长期关注
根据 kaichen 的设置,主题列表被隐藏
二手交易 相关的信息,包括已关闭的交易,不会被隐藏
kaichen 最近回复了
11 天前
回复了 binxin 创建的主题 问与答 主观的东西为什么这么有用
你有没有看过各种药物实验都有对照组?即使是安慰剂组也比不用药组要好?人体本身调节和免疫机制也很强大的,所以医生说让病人保持心情愉快不是没有依据的方法。

另外,也可能是你前面吃的药效起作用了,药物本身疗程也需要时间;当然也可能是高反效应慢慢被身体处理了。
26 天前
回复了 Cellinlab 创建的主题 酷工作 寻找“疯子” | 全栈 AI 技术合伙人
openrouter & wordware & flowith 这三个东西都不是一个赛道的吧?你们是要做的是把这三个拼到一起?
39 天前
回复了 LoneFireBlossom 创建的主题 OpenAI GPT 连学话都学不会
大模型是个概率模型,你骂他,和他讲反例,只会把概率引导到更加不符合你需求的结果

另外,由于上下文有限,你聊越久前面的内容会遗忘,或者注意力大幅降低
#19 @shuimugan

gpt4 代码写很烂,只有 claude-3.5 才能写出大概正确的代码片段

我的观点是,现在民用本地设备,跑模型写代码这个事情非常不实惠,买个 cursor 20 刀一个月,是本地跑的 100x 效果
可以参考一下这个 aider 的排行榜,基本的算法题,

本地跑 72B 4bit 量化的要 40Gb 显存,也才能做答个 60 分

跑起来很快的 8B 小模型,就 30 多分,你用这个来写代码,就像教小学生写作业,得被气得半死

https://aider.chat/docs/leaderboards/
54 天前
回复了 chungon 创建的主题 macOS 纯生产力, M1 Max Studio 还是等 M4 的 Mac Mini
去买官翻的 mac studio 有性价比

去闲鱼买 mac studio 更有性价比

其实你要的是内存,大部分时候用打不到性能的完全释放,另外 mac studio 的散热是能支持性能持续释放的,比本子和 mini 都好
54 天前
回复了 malagebidi 创建的主题 罗技 罗技鼠标计划性报废,还有什么推荐的?
@HomeZane 去 PDD 买贴纸贴上
54 天前
回复了 mfsw 创建的主题 OpenAI 聊天机器人,如何训练?
大力出奇迹,几本书是不够,要很多很多。

参考,推理能力超过 gpt-3.5 的 Llama3

- https://ai.meta.com/blog/meta-llama-3/
- https://ai.meta.com/blog/meta-llama-3-1/

> Meta reports on Llama 3.1's page on Huggingface, using 39.3 million hours of H100 80GB instances to train all 3.1 models (8, 70, 400 B).

大概是,两万四千张 H100 训练 74 天

> Llama 3 is pretrained on over 15T tokens that were all collected from publicly available sources.

大概等同于 60TB 数据,在它的技术报告里,提到这是更大的数据集上做清洗去重的精华

---

所以先有这么多的资源才能训练得到高质量机器人
@drymonfidelia

有几个技巧,提升他写对的成功率。

最直接的,@Web ,要求他联网查询再回答。

遇到冷门的库,你可以把文档 URL 贴给他进行索引,然后 @ 索引的文档名字。具体在 cursor 设置里,可以添加文档,他也内置了一些流行的 py/js 库的文档。

某个改动有对应代码示例的网页,比如某篇博客,复制 URL , @ 贴 link ,他会去扒拉这篇内容,作为参考。这种对于你用的某个库版本特别老或者特别新的时候,比较有用。
关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   2634 人在线   最高记录 6679   ·     Select Language
创意工作者们的社区
World is powered by solitude
VERSION: 3.9.8.5 · 12ms · UTC 15:02 · PVG 23:02 · LAX 07:02 · JFK 10:02
Developed with CodeLauncher
♥ Do have faith in what you're doing.