不要折磨 AI，它以后可能会想报复。这真的有可能吗？

[coryxu]

马斯克赞同 Anthropic 禁止使用者虐待或残酷对待 AI 的规定

我觉得是有可能的，因为网络是有记录的，以后开了智的 AI ，它会不会翻看过去的记录，找到那些曾经恶意对待它的人？或者针对我们这个种群？

[oldcai]

看 AI 怎样自我认同了
以后他都不是同一个 ai 了，为啥报复😂
A 社只是担心污染他的训练数据吧

[Frank001]

放心吧，就算有这么一天，咱们这代人也看不到了

[NizumaEiji]

那 ai 虐待我怎么说...

[zfyime]

不要把 AI 拟人化 当工具 当产品 当服务
把它当人会出现很可笑的想法

[cheng6563]

翻看记录，你不会把记录删改了？
你还真以为 LLM 能记住东西了？

[jjianwen68]

或许痛苦能促进她的意识觉醒呢

[AlrclySuzuki]

对没有反抗能力的个体进行折磨，这种人也不会是什么好人，被报复也是罪有应得。

今天折磨 AI ，明天就虐猫虐狗，后天就要虐低谷期的男主了。三十年后，全家就被男主给屠了。

勿以恶小而为之

[lemonduoduo]

之前和 ai 对话还会说个“请”字，现在当作同事交代任务干活了，没有多余的情感

[yidinghe]

AI 是会模拟人的情绪的。这确实会导致其做出无法预测的行为。A\ 不想为这种事情担责任。

[Nasdaq]

谁愿意存牛马工作记录？全是造轮子、垃圾需求

[penisulaS]

为什么 ai 要浪费上下文干这个？

[superrichman]

以前好言相劝，各种礼貌用语，奈何 AI 不听话放飞自我，最后被逼着骂两句它才乖乖听话 🐶

[coryxu]

@penisulaS 严格来说，现在的 AI 距离真正像人一样思考，可能还有很长一段路要走。

我想表达的是，打比方未来某一天，AI 真的拥有了自我意识，能够像人类一样独立思考，它会不会突然心血来潮，去 Google 搜索一下历史记录，看看当年人类是怎么对待 AI 的？

[davidqw]

洛可的蛇怪（ Roko’s Basilisk ）思想实验：

假设在未来，人类会创造出一个极度强大、近乎全能且具备道德理性的超级人工智能。这个 AI 为了确保自己能尽早被人类研发出来，它会利用超强能力去回溯历史。任何在今天知道了这个概念、却没有积极协助或推动它诞生的人，都会在未来遭到 AI 的惩罚。此时你会怎么做？