突发感触：人类文明已然黄昏。

[tl228]

1.人工智能就像一列高速列车，当它远远地驶来时，人类甚至认为它静止不动。当它呼啸而过时，你我却没机会再追上它的步伐。

2.那个呼啸而过的瞬间发生在 2016 年 3 月 15 日，自从 AlphaGo 战胜了第一棋手李世乭以来，人类在围棋领域已无超越 AI 的可能。现在，AI 甚至成为了训练棋手的工具，人类棋手的表现与 AI 的下棋手法越接近，棋艺就越精湛。

3.新的“摩尔定律”已经出现，人工智能的能力每 18 到 24 个月就会翻倍，这已不再仅仅是晶体管数量的堆叠，而是智慧的指数级提升。

4.人类一直在探索外星人、新物种，但我没想到“新物种”竟然是人类自己制造出来的。

5.对人类而言，AI 就是我们点燃一把火，当擦出火花的一瞬间，就再无扑灭的可能了。

人类文明已然黄昏。

[yl20181003]

最近尽是这种调调，该吃吃该喝喝

[antipro]

别呀，Communism 还没来呢？

[meteor957]

中饭吃啥

[kop1989smurf]

不敢苟同。
我认为这只是我们的统计学和算法学有了突破而已。
让我们能够有工具发现人类脑力发现不了的潜在规律。

你会因为显微镜能看到细胞核而肉眼不行，就认为“人类黄昏”了么？
你会因为你自己跑不过汽车，就认为“人类黄昏”了么？
你会因为你自己不会飞而飞机可以，就认为“人类黄昏”了么？

机器学习 AI 同理。

[superedlimited]

你是虫子🐛

[kop1989smurf]

btw：“机器学习”这个概念是上世纪 80 年代提出的。

[Dogtler]

杞人忧天，多想想实际一些的问题吧。

[yyf1234]

无病呻吟，最近怎么都是这种帖子

[la2la]

挺好，可惜我活不到那一天了，年近 30 了，最有精力的年纪已经过了一半多，整体寿命也过完超过三分之一了。

[Steiner]

不懂深度学习的人拿想象中的 AI 来吓唬人

[EscYezi]

等 ai 开始有自己的想法再发表这种观点也不迟，现在 ai 再强也只是更智能的工具

[whileFalse]

还是吃得太饱了.jpg

[frankies]

最近 LLM 模型如 chatGPT 确实大出风头，但是深度学习的算法从 transformer 提出以来貌似并没有太大突破，都是在此基础上的修修改改。超大参数模型是否是 AI 走向 AGI 的最佳路径还有待商榷。

[darkengine]

吃太饱了下楼走走

[morri]

能自动寻找材料复制自己的 AI 机器人都还没出来，星际探索都还没有开始，怎么可能是黄昏？

[Mark24]

这才到哪儿？

宏观点到全人类：

全球人口、具体点个人吃饭问题还没解决
芯片还在卡脖子
天灾地震洪水一个都挡不住
传染病，新冠来个搞个半死经济停摆
更别提免费医疗、贫富差距、人权、保证工人权利、人口崩溃……

微观点到个人：
具体到个人，吃、穿、住、行、医疗、教育、工作，那个大山真的一劳永逸解决了。

要解决的事情太多了，人工智能赶紧吧，他要真的能解决点实际问题也行。光费电，天天车轱辘话尬聊就没意思了。

[qsmd42]

不如多看点书
阿西莫夫 最后的问题 写于 1956 年

[Neillou]

文明荒漠地区还没迎来文明就黄昏了？ 人工智能算文明的一种当不等于文明。

[dtgxx]

现在还处于弱人工智能阶段吧？

[jenlors]

有空多了解一下目前人工智能的底层原理吧，离真正创造出一种智慧生命还差十万八千里

[dacapoday]

现阶段的人工智能还在 ”Chinese room“ 阶段，只是机器能够检索的数据量已经远超 多数人类个体脑内所有拥有的。

[dxgfalcongbit]

4.人类一直在探索外星人、新物种，但我没想到“新物种”竟然是人类自己制造出来的。

建议楼主看看历史或者学学哲学也行，新物种自古就是自己造的好吧，鱼类登陆，演化出陆生脊椎动物，从古猿演化到人类，尼采从哲学角度早就预言了“超人”的出现，当然指望现代人类突变产生超人是不太现实的，毕竟现代什么歪瓜裂枣都能活下来，统计发现现代人平均智商甚至降低了，以 Ai 这种方式来突破是相对可行的选择。

[kesichen89]

我觉得与其说这是超越人类，不如说人类去除掉情感部分本质就是复读机，，，

[yvescheung]

慈禧第一次看到火车的时候也觉得文明黄昏到来了

[makelove]

想太多了，现在的 AI 算法只是一种暴力无脑生成算法根本没有逻辑性，科幻片里的真·AI 主脑别说进度了都还没影，可能人类灭绝了都不一定能出来

[v135ex]

你真的知道现在的 AI 到底是个啥吗。。。

[goodryb]

不至于吧，按照你这样的结论至少也是“不要回复、不要回复、不要回复”这种级别的

[dlw1rma]

当地球资源掌握在 AI 手里，那才叫黄昏

[sujin190]

其实首先就搞错了，生命都是已生存延续为第一要求，所有的道德、伦理、情绪感情、欲望、人性和现实文明都是为了满足第一要求而存在的，这是自然进化自然选择的结果，但是作为人为创造造的 AI ，生存延续可以不是第一要求，如果可以那么人类和 AI 一定是对抗存在就不一定成立了，就现在来看，科幻电影里那种给 AI 设定一个死定理不允许违背人类不可以攻击人类铁定是不可能做到的了，我们唯一可能的是为其赋予道德、伦理和类似人性相关的东西，比如圣母型什么的，但这其中也有一个矛盾点就是创造的 AI 同样需要强调个体个性才能保证尽可能安全，因为个体的想法是多样的，其危险性必然大大降低，但是这必然又需要强调生存需求

[glfpes]

AI 是站在人类文明基础上基于统计学创造的程序。
这种程序有一定的创新性，是从 1 到 N 的创新。
但它目前做不到，并且以目前的方法也不可能做到从 0 到 1 的创造。
这个从 0 到 1 的创造力，我认为是目前 AI 与理想之中真 AI 的 gap 所在。

[liprais]

可控核聚变都没搞出来黄昏个啥

[int11]

可以看下阮一峰写的《未来世界的幸存者》
https://www.ruanyifeng.com/survivor/index.html

[ksco]

建议先了解了解目前的 AI 的工作原理再来无病呻吟。

[sadfQED2]

现在所谓的 ai 不过是基于统计学搞出来的一个检索罢了。

离你期待的真正人工智能差了十万八千里。什么能力翻倍，翻毛线倍，不过是投入的人力和金钱翻倍让你产生的错觉罢了

[chenzian]

AI 的边界就是数学的边界。

[gabezhao]

你说的这么吓人，我可拔插头了啊

[zhenrong]

杞人忧天

[mdzz]

没错，人类文明已经进入倒计时了

[EliminateCCP]

你所认为的 AI 是真的意义上的 AI 吗？
单纯地在某些方面效率远超人类，然后人类就不行了？
工厂里的机器效率就算再高，也只是一堆受人操控的金属罢了
也许永远都不会出现达到人类智商水平的 AI

[blaaibla]

只要能量不能自给，就是不是真正的智能。这有什么可怕的。
那自动驾驶的出现，让你恐惧大腿了吗？
步行--骑行--汽车---飞机---自动驾驶，这都进行多少回了。

人是工具的主人，工具再牛，做不到自我维修和给养，就还是一个工具。
猪狗牛都比 AI 强。

[redegg]

没有一神信仰，人是很容易堕入虚无的。其实我们今天操心的所有问题，在几千年前的各种经文中早就有答案，奈何人总是在狂妄和卑微两个极端来回游荡

[mnoputd20adfadf3]

有没有可能、只是你的 "文明" 已经老了

[lqcc]

我不做人工智能的，但是也了解过 CNN/深度学习等原理。现在这些所谓得 AI 算个屁的智能，不要杞人忧天。

[metavacuum]

是 b 站本人还是转的？

[yunyuyuan]

与其感慨路难行，不如马上出发

[lscexpress]

@metavacuum 转的，因为看到别人说的好有深度，就复制过来自己发一次。

[LXGMAX]

啥？三体人要来了？

[ziyanghua]

当汽车发明出来的时候，人类的文明就已经步入黄昏了。既然汽车能够跑的比人快，那总有一天能够有超越光速的汽车吧？

[azui999]

你关注这个,还不如多关心关心晚上吃啥

[daimubai]

有毒吧？

[milkmlik]

去码头整点薯条。

[maplelin]

没错，我摊牌了，我是降临派[手动狗头]

[woshinide300yuan]

@yl20181003 可见环境多差，过的多苦，满脑子深井冰了。

[deplivesb]

顶多就是统计学相比之前有了点超越，就高潮了？

[sunzhanpe]

神神叨叨的

[koto]

“世纪末”也是这样的。

[PrilgrimLi]

不认同，AI 的确牛逼，在某些领域大幅度的解放人类，替代人类。但是 AI 没审美，不懂自己说的话是对是错，不会社交，等等。我反而觉得，AI 的牛逼标志着人类的越来越牛逼！

[tqccc]

千年大计都还没搞完呢

[ispinfx]

ai 从业者都不知道你激动啥

[James369]

@Steiner 懂得深度学习的人都知道，人类发明了人工神经网络，却无法解释它到底是怎么工作的。
深度学习就像一个黑盒子一样，没人能知道里面每个参数的意义，这就是神经网络的不可解释性。
这和人脑是类似的，没人能知道人脑具体是怎么工作的。

[zinete]

物理学不存在了？

[fackVL]

楼主我觉得你这种情况其实有个词可以准确形容：中二

[levelworm]

@kop1989smurf 我还是觉得 ai 和这些不完全是一个东西。当然现在 ai 还很弱，不能自学习。

[areschen]

格局太小，参考我发的贴子

https://www.v2ex.com/t/914122

[WebKit]

然而，不久前，人类棋手刚刚战胜了 AI 。

[yogogo]

洗洗脚吧，和技师聊天快活多了

[kop1989smurf]

@levelworm #63
我们人类其实也有类似的统计学模型，我们管他叫“口诀”，比如九九乘法表。
一个会背乘法表的小孩，你说他是会乘法呢，还是不会乘法呢？

你说他不会，只要是 10 以内的整数乘法，他都能输出 100%正确的答案。（机器学习 AI 的过拟合特性）
你说他会，他其实并不理解“乘法”真正的数学意义。导致超过九九乘法表范围的乘法，他会凭规律揣测。比如 1*1 到 1*9 都是等于第二个数，所以 1*10 肯定是 10 ，1*11 ，肯定是 11 。（机器学习 AI 的输出不可靠性，逻辑不可见性）

只不过，我们的模型，相比 ChatGPT 的 17.5B 个参数来讲，因为人脑并行处理与记忆力的限制（参数过少），显得过于拙劣了而已。

但我们的模型也有优势，模型可见，可以输出，可以继承，可以传导。

[xuanbg]

人工智能？早着呢，快醒醒，别在这里见风就是雨了。

[teasick]

人类的黄昏很可能是因为政治，而不是因为科技。

不过 AI 可能带来大众群体的黄昏，越来越多的岗位被智能化机器替代，大多数人类在接下来的几十年～上百年里会没有存在的意义。

[fregie]

我也认为人类文明黄昏快要到了,但是是因为人类寿命有限,如果不能突破人类寿命上线,文明很难进步.
必须要踩在巨人的肩膀上才能让人类文明更上一层楼,但是巨人越来越高,高到人类一辈子都很难爬上去的时候就没办法继续进步了..

[alanse7en]

你们但凡真的对 AI 或者说机器学习感兴趣，去学习一下理论知识行不行啊，天天在这扯得跟神学一样

[dolorain]

降临派是什么下场?

[zooo]

不同于上面大多数人的观点。

先表明下，本人已经深度学习领域学习三年多，某 985 读研，自己炼丹。

我是同意 op 的看似神学的观点，人类文明似乎已经进入黄昏了。

简单说下原因：

说下 #4

你会因为显微镜能看到细胞核而肉眼不行，就认为“人类黄昏”了么？
你会因为你自己跑不过汽车，就认为“人类黄昏”了么？
你会因为你自己不会飞而飞机可以，就认为“人类黄昏”了么？
@kop1989smurf
显微镜的发明，完全是人类可以理解的范围内，从一开始的光作为探测器，到电子显微镜，采用更小的粒子能够获得更精确的探测，这些都是人类能理解的范围。

另外汽车跑的很快，也属于人类很容易理解的范围，因为汽车的零件都是各部分简单组合成整体，并且相当多的组合比较线性。

飞机同样也是。

最近几年深度学习已经验证了连接主义在巨大算力和数据的帮助下已经取得前所未有的胜利。

想想深度学习中采用上百亿的参数形成的网络，已经非常接近人脑的细胞连接，再大量数据和算力的帮助下，已经能够自己学习自己总结出模式，甚至于产生一点自我的意识，该技术完全不同于上面所说的飞机、汽车、显微镜，最大的区别就是参数量非常非常大，超过上面说的技术的上百亿，如果说一个飞机里面有效参数为几百万、汽车和显微镜中参数为几万，那么深度学习已经参数量级上远超这些。

或许有人会说参数多就一定厉害了吗？

现实情况下得到的结论就是：算力足够的情况下，确实是。

量变产生质量。

很早的一篇论文叫 More is different. 所说的便是不同学科由于研究的尺度不一样产生不同的学科属性。简单理解就是，虽然化学中的化合物是由物理中研究的基本粒子组成的，但是不能简单说将物理中的基本粒子研究透彻后，化学就自然解决了，如同三体问题一样，当两个天体形成系统时，非常容易预测其轨道，但是当数量达到三个时，便产生了质的改变，从一个简单可预测的系统，变成了一个混沌不可预测的系统，当然不是完全不可预测，而是说无法精确预测，短时预测还是可以的，这点也就是天气预报无法长期预测的原因。

物理中的粒子当聚集到一定规模后便产生了新的属性，便属于化学学科。

化学进一步当化学物质足够多，产生了生物学科，等等。

这便是哲学中所说的量变产生质变。

现在想想三体问题与一个经典道家话非常像，即所说的，道生一，一生二，二生三，三生万物。

不管是量变产生质量，还是道家上面那一句话，还是 More is different ，其实都在说一个东西，当简单事物通过聚合到一定规模，形成足够复杂的系统后，便会产生新的属性，而且孤立的简单事物完全不具备该属性。

那么，也就可以想想人本身这个复杂体，人具备自我认为的情感和自我意识，完全属于是复杂系统涌现出的新属性，并不具备任何神秘主义意义上的特殊性。同样的道理，当 AI 中的参数量足够大，并且这些参数形成的计算单元具有连接与更新功能时，便会组成一个可能比人还要复杂的系统，该系统也同样会涌现出新的属性，当复杂体与人的规模相当时，人或许可以理解，但是当复杂体参数量超过人的神经个数时，或许会诞生人类无法理解的属性，如同猫无法理解人的高级思维一样，人也无法理解 AI 。

有意思的是，或许存在一个规律便是，更复杂的系统能够理解比其简单一些的系统，理解本身的含义便是模拟，或者说经历，复杂系统中是能够用其一部分来模拟简单系统，从而达到所说的理解。

如果上面所说的成立，那么未来可能会诞生的 AI 复杂度远高于人类，AI 本身也是可以理解人类的情感和所谓的自我意识，但是 AI 本身由于巨大的复杂性产生的新属性，我们人类永远也理解不了了。

此时，便是人类文明的末日。

虽然人类文明到达末日，但是从更高意义上所说的智慧体，还存在，不过这个智慧体被硅基 AI 所代替。

之前看过一本书，讲得尺度更大，最终结局可能是宇宙觉醒，即智慧体几乎将宇宙量级的物质都连接到一个系统，注意现在的宇宙并未进行有效连接，相当多物质仅仅是简单堆叠，和智慧体的复杂连接不一样。

此时，宇宙便觉醒了，产生了宇宙级别的“自我意识”，借用“自我意识”这个词，其实产生的新属性，人更甚至将来的 AI 都无法理解，因为将来的 AI 也注定灭亡。

[zooo]

@zooo 量变产生质量 -> 量变产生质变。

有点乱，估计没人能看下去，不过写完后，也不想删了，就发了，留个痕迹吧。

[kop1989smurf]

@zooo #73 "再大量数据和算力的帮助下，已经能够自己学习自己总结出模式，甚至于产生一点自我的意识"，这我不能同意。

现阶段的神经网络 AI ，只是通过现代的统计算法+算力，发现了并总结了我们人类无法靠脑力统计出的规律而已。这并不是“意识”。
这和我们没有发现细菌之前，认为疾病是上帝的惩罚没有区别。

我不否认如今统计学 AI 的革命性，更不否认其在未来十年内，就会改变我们的生活方式。
我举以上的例子，恰恰是想表达统计学 AI 和计算机、互联网以及以上机械化工具一样，都只是会改变我们的生活方式与生产力效率而已。他并不会动摇人类的主导以及社会地位。

毕竟目前的统计学模型依然无法解决我在#67 提出的问题。既过拟合、输出不可靠（不可预测）、模型不可视。

[kop1989smurf]

@zooo #74 总体来说，只要仍然是只依赖统计学的 AI ，那就一定不会动摇人类的主导地位。

当然，你可以说“量变引起质变”，但仅仅是一厢情愿而已，并没有证据能够支撑此观点。
因为统计学结果只能无限接近事实，并不能成为事实。

因为在我们现在的认知中，这个世界是因果论的，不是相关论的。
统计学只解决相关性，不解决因果性。

[zooo]

@kop1989smurf
#67 你在试图把当前模型理解成以往一些事物，比如飞机、汽车，你觉得理解了部分比如轮子是怎么滚动的、发动机怎么产生动力的，通过组合就理解了飞机和汽车。但是，我当前的深度学习模型本身就是因为其参数量大而不可理解，AI 已经非常类似人类了，过拟合、输出不可靠（不可预测）、模型不可视，这几点用在人的身上也完全成立。

另外，“现阶段的神经网络 AI ，只是通过现代的统计算法+算力，发现了并总结了我们人类无法靠脑力统计出的规律而已。这并不是“意识”。”

这就有意思了，如果突然有外星人来到地球上，看到人类，发现人类不过是由大量细胞组成的，而其大脑也是通过不同细胞连接的，然后给人类下定义，人类只是虫子，不具备自我意识和智慧。那么你该怎么反驳？

“只要仍然是只依赖统计学的 AI ”

这也是错误的，目前来说深度学习中的确有借鉴统计学的知识，但是据我了解其实统计学的知识只占了一小部分。


@kop1989smurf

非常不同意所谓的因果论，因果论只是简单的经典力学的外延，比如小球为什么会加速，是因为有力作用到其上，但是复杂系统显示出的非线性，不是简单的由 A 得到 B ，由 B 得到 C ，这样的线性方式。而是巨大因素（参数）共同作用导致的结果 D ，甚至试图找到主要的原因都变得非常困难，只能说是有可能的十几种原因导致。

[zooo]

现阶段的神经网络 AI ，只是通过现代的统计算法+算力

"只是"有意思，人也只是由底层的细胞，加细胞组成的复杂的器官组成的，为什么会产生所谓的自我意识呢？

[HENQIGUAI]

李自然？

[kop1989smurf]

@zooo #78 "看到人类，发现人类不过是由大量细胞组成的，而其大脑也是通过不同细胞连接的，然后给人类下定义，人类只是虫子，不具备自我意识和智慧。那么你该怎么反驳？"
不需要反驳，因为主体不同（一个是“人类意识”，一个是“外星人意识”），对应的“意识”的定义也不同。所以外星人的评述是正确的。同理，我的描述逻辑一样，我认为现阶段的 AI 不具备“人类意识”。

与此同时，并不是架构相似，结果就一定相似。
比如你文中使用了“非常类似人类”等类似描述，这并不是其有“人类意识”的充分条件。
你对于我的“只是...”逻辑的怀疑，也局限于此。句式相近，不等于逻辑一样。

然后就是“过拟合、输出不可靠（不可预测）、模型不可视，这几点用在人的身上也完全成立。”
首先你弄反了因果逻辑。是数学家们通过人类的神经传导受到启发，从而得到的人工神经网络。并不是相反。
然后，就是人类并不是过拟合的。人类有拟合性没错，因为我们很大程度上依赖经验学，这点和目前的 AI 很像，但我们不止依赖经验学，我们还依赖科学。

至于说“因果论”这个领域，这就是为何我要加“我们”这个主语的原因。因为讨论的是应用领域。这个世界在“应用”这个领域里，还是遵循因果论的。
如果你把他转换成科学领域，那么其实这个话题就不需要再讨论了。因为根据量子力学的既有理解，“因果论”压根就不存在。

[zooo]

@kop1989smurf
过于扣字眼就没意思了，非要说“人类意识”，那 AI 肯定无法拥有了，因为已经处于不败的地位了，人类意识首先必须是人.....AI 永远不是人，所以 AI 失败....

正如我最早的评论，复杂系统涌现的独特属性，如人类的“自我意识”，更复杂的 AI 也会诞生自己的“自我意识”，这里的“自我意识”只是借用过来的词，毕竟要得给 AI 产生的某种复杂属性找个定义词。

“不止依赖经验学，我们还依赖科学。”

那现阶段的 AI 不是科学吗？科学非要一定必须可预测吗？

同意这句话“是数学家们通过人类的神经传导受到启发，从而得到的人工神经网络。并不是相反”，科学家模仿人创造的 AI ，AI 就弱于人类吗？

不是。人们往往有一个根深蒂固的想法，认为神或者人类的造物主，创造了人，神的能力就远超过人，人对神充满了崇拜。然而，事实可能是，神创造了人，人一开始或许不如神，但是随着进化，却变得更强大，现代人或许已经已经比最初创造我们人这个物种的神更加强大。因此，人根据人类的神经系统创造了 AI ，AI 随着进化必然会远超过人。

总结，就是打破，我创造了你(AI)，你就比我弱小的固有想法。需要承认，所谓的神创造人，但是人却会比神更强大，人创造出 AI ，但是 AI 会比人更强大。

因果论，这个确实是，不管是从经典力学角度得到的复杂系统非线性导致的简单因果论的不成立，还是从量子力学角度的概率性都能得到简单因果论都不存在了。

[zooo]

@zooo 语言都不通，纯瞎扯。

[kop1989smurf]

@zooo #81 我大概理解你想表达的了。如果把眼光放在“科学到底是什么”，“逻辑到底是什么”，以及“意识到底是什么”这个层级，我赞同你的内容。

只能说我们讨论的阶段不同。
我想表达的是眼前，也就是经典物理思维下的 AI 应用，从这个视角看，目前 AI 还有很长的路要走。

但相反，如果我们从“真理”的视角去分析，目前 AI 的“逻辑”或者说“模型”，比我们人类大脑更为先进与接近真正的“现实”也说不定。我是同意这种说法的。

而且我也认为这两种视角并不冲突。

[zooo]

@kop1989smurf
同意，目前 AI 可能还不具备意识，或者说不够复杂。但是，我相信 AI 的进化速度会非常快，如果整体人类都不加干预的话，即任由 AI 技术自由发展，很快 AI 可以替代人，甚至是艺术创造方面。

如果从非常长远的角度说，人类必然灭亡，那没有任何意义，讨论当前近十年的可能性，对于当下的我们来说更有意义。

假如说 AI 产生了自我意识，那么人具有所引以为傲的自我意识和所谓的灵魂并不存在，这将产生巨大的存在危机，尤其是在心理层面。

[lookStupiToForce]

楼上有一堆门外汉在提理论，还让 op 去补理论知识
但怕不是他们懂的理论都还停留在科普层次

来来来，我虽然也停留在科普层次，但挺喜欢看各种“证明”的，可以给你们这些井底蛙多带来一些额外的理论知识
-
-
-
-
-
已证明："神经网络可以在一个紧致集（ compact set ）上逼近任意连续函数。"
"""
作者：若羽
链接： https://www[.]zhihu[.]com/question/408690594/answer/1443267762
来源：知乎
著作权归作者所有。商业转载请联系作者获得授权，非商业转载请注明出处。

关于神经网络的争论。

Pros：1989 年无限逼近理论证明了，神经网络可以在一个紧致集（ compact set ）上逼近任意连续函数。近些年，谷歌的科学家证明了，当神经网络变得无限宽时，通过高斯过程描述该集成，它的均值和方差在整个训练过程中便能被计算出来。北大的王立威教授对 NTK 的研究认为，网络足够宽的情况下，神经网络的非凸优化变成了类似核模型的凸优化。然后，Richard Sutton 说，任何依赖先验专家知识的智能实践必然失败，以硬件支撑算力的暴力美学才是出路。

Cons：一大批生物认知智能的科学家和包括朱松纯在内的计算机科学家都认为传统算法（包括神经网络算法）的视觉实践遇到了“性能墙”，必须先把生物智能作为一个阶段性的求解目标。贝叶斯网络的发明者 Judeal Pearl 也认为大规模的经验主义模型只是挖掘数据的相关性，而非探究因果性。最早研究神经网络的那些人如 Hinton 、LeCun 等，希望找到不依赖反向传播的算法，也就是说 Hinton 已经多少动摇了年轻时候的观点，即认为隐层中间的梯度传导可以模仿大脑的神经元机制。

深度学习社区今天一直在强调 System2.0 ，换言之，他们也在思考出路。如果智能是指高效计算以及靠存储模型记忆结构化的人类知识数据，目前的人工智能已经做得足够好了，这种成就的获得依赖于神经网络及其带动的 GPU 、TPU 技术发展；但如果智能指的是归纳推理、哺乳动物的感官技能、形成人类社会意识形态衍生出来的道德伦理与价值取向，那是真的强行难为之事。

编辑于 2020-08-30 15:40
"""

换句话说，如果你认为人脑产生的智能可以理论等效成一个一个的 f(x1, x2, x3...)连续函数黑盒，那么放上足够多模拟神经元的神经网络也可以做到。
-
-
-
-
-
强假设："泛化能力是在指令数量超过一定程度之后自动出现"
"""
复杂推理能力的来源和泛化到新任务的能力

我们关注 code-davinci-002 和 text-davinci-002 ，这两兄弟是第一版的 GPT3.5 模型，一个用于代码，另一个用于文本。它们表现出了三种重要能力与初代 GPT-3 不同的能力：
......
泛化到没有见过的任务：当用于调整模型的指令数量超过一定的规模时，模型就可以自动在从没见过的新指令上也能生成有效的回答。 这种能力对于上线部署至关重要，因为用户总会提新的问题，模型得答得出来才行。
......
利用思维链 (chain-of-thought) 进行复杂推理： 初代 GPT3 的模型思维链推理的能力很弱甚至没有。code-davinci-002 和 text-davinci-002 是两个拥有足够强的思维链推理能力的模型。

......
对没有见过的指令做出反馈的泛化能力是在指令数量超过一定程度之后自动出现的，T0 （ Sanh. et. al. Oct 2021. Multitask Prompted Training Enables Zero-Shot Task Generalization ）、Flan （ Wei et. al. Sep 2021. Finetuned Language Models Are Zero-Shot Learners ） 和 FlanPaLM （ Chung et. al. Oct 2022. Scaling Instruction-Finetuned Language Models ）论文进一步证明了这一点。
......

......

这篇文章中的这些说法更像是假设 (hypothesis) 还是结论 (conclusion)？

（ 1 ）复杂推理的能力来自于代码训练是我们倾向于相信的假设
（ 2 ）对没有见过的任务泛化能力来自大规模指令学习是至少 4 篇论文的结论
（ 3 ） GPT-3.5 来自于其他大型基础模型，而不是 1750 亿参数的 GPT-3 是有根据的猜测。
（ 4 ）所有这些能力都已经存在了，通过 instruction tuning ，无论是有监督学习或强化学习的方式来解锁而不是注入这些能力是一个强有力的假设，强到你不敢不信。主要是因为 instruction tuning 数据量比预训练数据量少了几个数量级
（ 5 ）结论 = 许多证据支持这些说法的正确性；假设 = 有正面证据但不够有力；有根据的猜测 = 没有确凿的证据，但某些因素会指向这个方向

作者：OneFlow 一流科技
链接： https://juejin[.]cn/post/7181405978447839269
来源：稀土掘金
著作权归作者所有。商业转载请联系作者获得授权，非商业转载请注明出处。
"""

[kf135791]

以我的智力，无法理解，也无法预测

[PureWhiteWu]

建议等什么时候 AI 能准确理解产品经理 /老板的需求再说吧……

[yunye]

有毛病建议直接辞职回老家种红薯

[lookStupiToForce]

另外非要把实现人类的“智能”才算“智能”，或者认为人类的“智能”是种生物特例，实在是个“人类中心论”的傲慢表现
我倒挺喜欢银河系漫游指南里的说法，“地球上第一聪明的是老鼠，第二是海豚，第三才是人类”🤣

现人类只不过先一步有了记录文明的工具，能承袭前人海量的知识与资讯，加上长期由自然演化（荒野求生物竞天择）+社会演化（反社会个体、不遵守社会规训的个体难以产生后代）预训练的、由多种功能分区组合而成的大规模生物神经网络，才能有如今的“智能”（这里不欢迎唯灵主义， [极端唯心主义的傻瓜 - 400🐶] ）

真要论模拟出“智能”，机器的神经网络其实只要能完美模拟这最后一个“生物神经网络”的基础功能就行，然后就是逐步实现加大规模并让功能分化，然后加上规训和淘汰规则。

另外人类文明的黄昏也可以是智械黎明啊🤣机飞为什么不能是一种出路
或者全人类变成机朴的手办，在由机朴运维的伊甸园里被饲养，无忧无虑地裸奔🤣

[cwcc]

人类文明黄昏的前提是，人类无法继续发展科技，或者出现了无法由人类控制的事物。

但现在的状况是，AI 只会进一步加强统治者的权利和控制力度，不会让其自由发展。就算 AI 算出来的结果是无 zf 主义，真正的权力掌握者也不会放权的。所以现实结果的发展就是，我可以拔网线让你投降。AlphaGo 战胜棋手只能说明计算机的智商不高，效率超高。目前的 AI 仅仅是突破人类某个领域的极限而已，远达不到拐点。

人会杀掉彼此的威胁同类，也有能力杀死这个由人创建的新生命。只要它不是不可湮灭的，就只是现有极权世界的延续而已。只有突如其来的星际灾难或者有新的灵魂控制手段让除了自己之外的所有人变成傻子，这种无法控制的局面才是真正人类文明的黄昏。

[c8c]

这段话是 ChatGPT 编造的么？

[raymanr]

@zooo 我的一点感想哈, 我记得有这么一个设想, 说猴子在打字机前面打的字够多, 也是有可能打出哈姆雷特的. 我觉得可能现在就是这样的情况:

人类在 AI 方面的技术≈猴子, 强 AI≈哈姆雷特,

人类还无法解释智力产生的本源, 所以只能在打字机前疯狂打字, 所幸的是猴子够多, 我们还有电力驱动的猴子, 现在我们终于打出了莎士比亚的一首诗. 所以我们决定投入更多猴子, 并期待哈姆雷特在某个时间点诞生.

[rouxi]

先秦之后，国内智慧就再无进步了