AI 将会在未来某个时候消灭人类？

[gk2014]

最近从 Anthropic 离职的 Jacob Conxon 发的关于 AI 可能会消灭人类的贴子引起了广泛的讨论。博主提到无论是 openAI 还是 Anthropic 都在研发 recrusive self-development 的路上一路狂飙，并没有太多顾忌 AI 可能失控的风险。AI 真的会失控吗？ AI 怎么杀死人类？

[peteretep]

实话说，这个不可避免。
但是人类最后应该可以战胜它。
然后下一次循环开始

[YFZZ]

我不介意人类被消灭，只要能让最后一代人类幸福快乐地老去就可以了。我甚至觉得碳基生命的使命就是造出硅基生命。