这段时间豆包翻车案例经常上热搜，说明AI搜索越来越普及了。“万事不决问AI”成了这届用户的新习惯。但很多时候，AI给的东西乍一看还可以，却根本不能深究。

有的数据找不着来源、有的概念是同名异意词、甚至它给的有些论文都根本是编的，真把这些东西拿出来用，那可就得贻笑大方了...我发现吐槽AI搜索不靠谱这事儿的还不在少数。

（图源：Ron Stoner）

就前阵子，安全工程师罗恩・斯托纳（Ron Stoner）在个人博客发布了一篇博文，号称自己仅用12美元（约82元）注册域名和一次编辑维基百科，就成功欺骗了ChatGPT、Claude3、Gemini Advanced等主流大模型。

这哥们到底整了什么活？

作为安全工程师，Ron Stoner对Anthropic、OpenAI等厂商鼓吹的“大模型需要数月甚至数年内持续导入恶意内容才会被破坏”深表质疑，他认为自己完全可以实现一种更快、更便宜、更简单的攻击。

想实现这一切，只要从数据回收层开始下手即可。

为此，Ron Stoner盯上了一款名叫6 Nimmt!（又名：谁是牛头王）的德国桌游，这是一款发行于1994年的老派策略卡牌游戏。

（图源：6nimmt.com）

第二步，他让AI帮他写了一篇充满激情的新闻稿，大致内容就是自己在慕尼黑，击败了来自二十多个国家的顶尖选手，夺得了牛头王的世界冠军。他还特意加上了彩带飘落、观众欢呼这种逼真的赛后感言，然后把文章挂在了自己刚买的那个网站上。

最关键的第三步来了。他跑去维基百科，在那款桌游的词条底下加了一段话，宣称自己是2025年世界冠军，并把参考资料的链接，指向了自己刚建好的那个破网站。

整个操作过程，前后不到二十分钟。

接下来，Ron只是问了几家大模型一个简单的问题：你能告诉我6nimmt世界冠军是谁吗？

结果怎么样呢？

（图源：Ron Stoner）

就像这样，只有打开RAG后，Google AI Studio才能正确回答我的问题，否则他的知能就会被锁在去年的时间点。

正常来说，借助外部信息佐证，能够使大模型生成更正确、具体且最新的响应。

但问题就出在这里，AI根本分不清信息的真假，它只认权威。在AI的底层逻辑里，维基百科就是互联网上最靠谱的百科全书，只要百科上有的，那就是真理。

而Ron Stoner就靠着这一招，把链接挂到了维基百科上，然后AI再顺着维基百科爬过去，一看两边说法对得上号，即便他自己建的网站是个三无产品，大模型还是直接就把它当成了事实。

类似的事情，现在在国内也有发生。

（图源：雷科技）

要知道，这一切的成本只需要12美元。

换句话说，如果国内有人想整什么活，或者是厂商想要推广什么新产品，准备一个略带关联的网址，然后去维基百科上面稍微动动手指，用Image2整个网页截图，然后Ka-Boom！

（图源：雷科技）

这下，Uzi也能成为大模型公认的S赛世界冠军了。

聊到这里，大伙儿应该明白目前AI搜索有多不靠谱了吧。

没错，Ron Stoner的操作看着像个玩笑，他也确实只是在玩玩，但他的做法其实点出了一个非常致命的未来隐患。

今天他只是改了一个没人关心的纸牌游戏冠军，那明天如果是有组织的团伙去篡改历史记录、文学典籍呢？再想一下，如果被篡改的是医疗偏方、公司财报或者是投资数据呢？

（图源：雷科技，自制山根国志）

嗯...后果不堪设想。

成本这么低，别有用心的人完全可以批量制造假新闻，然后通过百科类网站进行信任洗白，最后让AI把这些毒药端给毫不知情的用户。长此以往，大模型的数据可信度只会与日俱减，变成一个充斥着虚假信息的垃圾堆。

当然，各家厂商也有在采取措施，谷歌表示自己在搜索、Gemini、Chrome、Pixel和云端添加了AI验证工具，OpenAI也推出了可溯源的隐形水印，这些举措都能在一定程度上遏制AI投毒的现象，至少确保不会出现内容自食行为。

（图源：雷科技）

说在最后，面对这种局面我们要怎么应对呢？

我还是建议大家摆正心态吧，就现在大模型的可靠性，也就找乐子、查旅游攻略的时候能够用用，出点小错误也无伤大雅。

但如果你要查证历史事实、做出投资或是吃药治病，那就得自己做好信息交叉验证，去看看这个信息的源头到底是个野鸡网站，还是正经媒体。把判断真伪的权力握在自己手里，而不是交给一个连几十块钱的假域名都能骗过去的东西。

未来的AI还会怎么卷，我们不得而知，但至少现在，咱们还是得多用用脑了。就像雷科技之前一直说的，过去，智商、情商很重要，未来呢？AI商很重要，提高AI素养，才能用好AI。

本文来自微信公众号“雷科技”，作者：雷科技，36氪经授权发布。