V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
V2EX  ›  ospider  ›  全部回复第 17 页 / 共 53 页
回复总数  1059
1 ... 13  14  15  16  17  18  19  20  21  22 ... 53  
2023-10-28 13:51:06 +08:00
回复了 ikidou 创建的主题 程序员 有没有一款带 Web 管理的任务队列管理工具
你需要的是 airflow 之类的工具吧
2023-10-27 20:52:51 +08:00
回复了 lingex 创建的主题 OpenAI 几十个数字最简单的排序问题,几个 LLM 没有一个正确
第一个不对么?还是我眼花了……
2023-10-27 13:26:46 +08:00
回复了 han0101 创建的主题 阅读 求助有了娃之后如何阅读技术文章和书籍
把老人请过来带娃,别的真的很难
2023-10-26 11:28:42 +08:00
回复了 zhangfeiwudi 创建的主题 程序员 目前 2023 年,小公司 5 台内服务器用什么部署方式
简单点话,就用 ansible ,连 docker-compose 也不用。
想试验点新东西,就用 k3s ,反正也就一个二进制文件,拉起个集群来很快的。
2023-10-26 11:19:37 +08:00
回复了 Xiangliangliang 创建的主题 游戏 部落冲突公益养老服有人玩么
iOS +1
2023-10-23 10:27:17 +08:00
回复了 admin7785 创建的主题 VPS [202310]求推荐科学上网快一些的搭建方案
重点是线路,CN2 GIA 的都不错。翻墙工具主要影响的是会不会被封。
2023-10-21 09:34:40 +08:00
回复了 congfan 创建的主题 iPad 急问, mini 7 没出,决定买 6 了,容量选多大?
等 7 吧,都两年了,估计也快了
2023-10-15 23:54:26 +08:00
回复了 Inzufu 创建的主题 优惠信息 GoDaddy lol 域名 14 块 10 年
前两天不是还有 .gay 域名免费么
2023-10-15 15:45:49 +08:00
回复了 mohuani 创建的主题 程序员 UML 需求征集
除了时序图,现实世界里没有任何用
你是否在找:Apple TV?
没想到在 V 站上,这么简单的问题也能鸡同鸭讲,有人说原理,有人说具体实现,而且还互相打起来……

从原理上来说,ChatGPT 用的模型是自回归的,也就是说,确确实实模型是需要一个字(token)一个字往外吐的。

从实现上来说,可以等模型完全生成再返回给你,也就是上面有人提到的 `stream=False`。但是这样的用户体验反而不好,还不如把这个过程暴露给用户。但是考虑到网络传输,也不可能真的一个包只包含一个字符,那样传输的 overhead 和 latency 都太大了,所以你如果真的看返回的包的话,一个包里包含一段话。也就是说,其实传输上是完全缓存和完全 stream 的一个折中。

再从商业上说,所谓充值可以一下返回,无非是优先级更高,返回更快,不可能改变模型自回归的根本属性……
2023-10-10 20:27:33 +08:00
回复了 cl903254852 创建的主题 买买买 现在入手 mate 60 pro 还是等明年?
不是我说你,信脱离安卓这种鬼话的,不建议翻出来,否则容易精神分裂
2023-10-08 17:13:44 +08:00
回复了 liuyunlong 创建的主题 English 大家有没有推荐的学习英语 IOS 软件(尽量 FREE)
如果想达到看文档目的,那最好的学习路径就是去看文档
2023-10-06 21:05:41 +08:00
回复了 modX0z 创建的主题 程序员 想开个 AI 软件创业公司,武汉还是深圳?
深圳,方便润香港
1 ... 13  14  15  16  17  18  19  20  21  22 ... 53  
关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   1903 人在线   最高记录 6679   ·     Select Language
创意工作者们的社区
World is powered by solitude
VERSION: 3.9.8.5 · 40ms · UTC 16:15 · PVG 00:15 · LAX 08:15 · JFK 11:15
Developed with CodeLauncher
♥ Do have faith in what you're doing.