在知乎抓到一个 ai 疯狂地污染中文互联网

[zisen]

我询问 bing ai 象鼻山是否有缆车，然后它告诉我有，并且给出了如下的回答

然后我点进了它提供的知乎链接，发现了 ai 给出的错误回答

看到回答日期之后我就发觉不对劲，然后观察回答的语气，在点开个人主页之后，确认了就是 ai

可以发现这个 ai 账户在以极快的速度将未经核实的信息输出到中文互联网，并且误导了 bing ai ，以至于 bing 给出了错误的答案

[revalue]

好家伙。AI 打败 AI

[revalue]

AI 给 AI 喂劣质信息，不断循环，人类有救了

[richardzhao12138]

不止一个，刷知乎已经遇到好多个这种号了，举报了也没用

[est]

这下你们知道为啥 gpt-3.5 和 gpt-4 都只采用截止到 2021-09 的互联网资料吧。

很简单。那个时候已经有野生 gpt-3 在外边晃悠了。

[hellodigua]

那你要是知道百度现在正在做的事情是给百家号全面接入 AI 生成你咋想，国内的互联网巨头开始带头生成 AI 新闻内容了

[rekulas]

好几年前 gpt2 开源就有人训练自己模型泛滥互联网赚钱了,那时候丝毫不卷,估计赚了不少

现在还能分辨出来,openai 之前做了 ai 文本检测器但效果没达到预期,他们也认为随着 ai 的进化分辨 ai 内容将会越来越困难,不知道再过 5 年会是什么样

[razios]

知乎已经被 ai 污染成一坨了

[snw]

知乎已经很多 AI 了

[GeruzoniAnsasu]

garbage in, garbage out...

未来的 LLM 可别在进化成人之前就先过拟合成智障机器人了

[DOLLOR]

知乎上的技术问题已经基本上被 AI 占领了。

[autoxbc]

@GeruzoniAnsasu #9 不会，进化是结果论英雄，智障机器人和智慧机器人放在一起自有高下，上帝不会犯错

[tf141]

知乎还要拥抱 AI 呢，却不知道这种内容社区一旦被 AI 的低质内容占领基本就废了

[Jirajine]

“内循环”对 AI 来说应该是注定的了

[strp]

到一定程度人类虽然可能还不会无条件的相信 AI ，但是会把更多的检索时间交给 AI ，相信 AI 有能力建立出判断垃圾信息的能力，而到时候 Big Corporats 会不会选择将此过滤器应用到面向大众的检索工具中会是一个很大的问题，这将意味着信息监管和茧房会越来越严重，如果一个人获取信息的渠道更高提升个人能力的难度也会更高，花费的时间也会更多，这也许会导致贫富差距越来越严重。但是如果以后的人都能建立起自己的 trust boundaries 的话，这个问题也许不会出现，就现在来看大不可能，我更担心的是以后会出现更多这种人：“It's Easier to Fool People Than It Is to Convince Them That They Have Been Fooled.”。

[dasferco]

1. 象鼻山只高出江面 55 米。
2. AI 生成内容可以举报，扰乱社区秩序—AI 生成内容。
3. 中文互联网的优质可靠的内容太少了。

[jenlors]

掘金已经开始制造垃圾了，搜到过好多次

[bhbhxy]

某度知道不是一堆答非所问的回复么，这个污染更严重吧，还有床上等你，妥妥的垃圾输出平台

[juded]

用魔法打败魔法~

[imicksoft]

gbt 快更新，让用户设置黑名单，回答时不采纳那些网站的内容

[SmiteChow]

废话生成器而已，不要对这玩意抱有幻想。

[mscsky]

在前面加不要搜索网络指令

[googlefans]

@revalue 一切都在意料之中

[invalid522]

@dasferco 可以举报是一回事，但是逼乎本身已经在纵容 AI 内容泛滥了，有些明显是 AI 生成的“回答”权重还不低💊

[mmdsun]

如果网络上全是 AI 的回答，那以后 AI 就没有数据训练了。

必应有禁止联网搜索的指令。

[vileer]

@richardzhao12138 有没有一种可能，这些 ai 就是官方搞得托

[Suclogger]

关于这个担忧 3 个月前的讨论： /t/918457

[JensenQian]

太抽象了，ai 悖论

[FirefoxChrome]

举报吧，知乎不允许这种

[aiqinxuancai]

知乎上好多了，看到请举报

[hendry]

你们有没有注意到在 3-4 月份，chatgpt 和国内衍生品出来后，一大堆微博的 ai 评论，那些词语一看就知道是 ai 发出的，最近沉默了，不知道为何，大概在升级？

[hendry]

@imicksoft 那么虚假账户将正常用户和相关内容纳入黑名单，是不是阻止了正常内容的输出。

[imicksoft]

@hendry #31
是阻止自己看不到，不是阻止别人。
以前用百度搜索时有些插件是屏蔽 csdn 的，微博可以设置关键字减少看到某些人。这只针对自己不针对别人。网站平台想要真人就得自己审核，虚假过多就得封禁帐户，不然百度就是前车之鉴，活该被人唾弃。

[hendry]

@imicksoft 哦是这个意思，赞同。

[JontyChen]

知乎上现在太多广告了，全是各种引流的

[lambdaq]

家人们谁懂啊，量子位拿着本帖洗了一篇稿。。。。https://mp.weixin.qq.com/s/TeuBeP_cKjF4y_PbR_j3nw

[zisen]

@lambdaq 笑死我了😂，这下成为某网友了

[ritziiiiii]

知乎的回答有收益吗？不过把号养好了确实有点收益。

[lurenlym]

@lambdaq 哈哈哈哈哈哈哈哈，笑死了

[daveh]

貌似已经修复了。