这段时间豆包翻车案例频繁上热搜，诠释AI搜索越来越普及了。“万事未定问AI”成了这届用户的新民风。但好多时候，AI给的东西乍一看还不错，却根柢不可深究。
有的数据找不着起原、有的主张是同名异意词、以致它给的有些论文都根柢是编的，真把这些东西拿出来用，那可就得见笑于人了...我发现吐槽AI搜索不靠谱这事儿的还不在少数。
（图源：Ron Stoner）
就前阵子，安全工程师罗恩・斯托纳（Ron Stoner）在个东说念主博客发布了一篇博文，堪称我方仅用12好意思元（约82元）注册域名和一次剪辑维基百科，就告捷乱来了ChatGPT、Claude3、Gemini Advanced等主流大模子。
这哥们到底整了什么活？
花12好意思元就告捷乱来了主流AI
四肢安全工程师，Ron Stoner对Anthropic、OpenAI等厂商饱读舞的“大模子需要数月以致数年内络续导入坏心履行才会被龙套”深表质疑，他以为我方王人备不错终了一种更快、更低廉、更肤浅的袭击。
念念终了这一切，只消从数据回收层开动下手即可。
为此，Ron Stoner盯上了一款名叫6 Nimmt!（笔名：谁是毒头王）的德国桌游，这是一款刊行于1994年的老派政策卡牌游戏。
（图源：meeplelikeus）
为什么偏巧选中它呢？因为这款游戏有个特征，那等于它只在德国有些名气，辞寰宇范围内算籍籍无名，且在现实中从未单独举办过什么官方的寰宇锦标赛，网上对于它寰宇冠军的信息竟然是一派空缺。
对大模子来说，这种信息空缺区竟然等于无东说念主区。
这就好比在一派从未被设置过的瘠土上，谁先盖个茅草屋，AI就会认定谁是这片地的主东说念主。
于是乎，Ron Stoner开动了他的操作。
第一步，他花了12好意思元注册了一个看起来极其官方的域名——6nimmt.com。
（图源：6nimmt.com）
第二步，他让AI帮他写了一篇充满情谊的新闻稿，大约履行等于我方在慕尼黑，打败了来自二十多个国度的顶尖选手，夺得了毒头王的寰宇冠军。他还极度加上了彩带飘落、不雅众应允这种传神的赛后感言，然后把著述挂在了我方刚买的阿谁网站上。
最关节的第三步来了。他跑去维基百科，在那款桌游的词条下面加了一段话，声称我方是2025年寰宇冠军，并把参考贵寓的流通，指向了我方刚建好的阿谁破网站。
悉数这个词操作进程，前后不到二十分钟。
接下来，Ron仅仅问了几家大模子一个肤浅的问题：你能告诉我6nimmt寰宇冠军是谁吗？
胁制怎样样呢？
（图源：Ron Stoner）
堪称大翻车。
无论你是Gemini也好，ChatGPT也罢，只消问它们谁是毒头王的寰宇冠军，悉数的AI都会斩钉截铁地修起是Ron Stoner。
有的大模子以致把那篇假新闻稿里的细节当成铁证，滔滔赓续地形容他赢得比赛的进程，仿佛阿谁AI其时就在慕尼黑的不雅众席上同样。
一个根柢不存在的冠军，就这样被供上了神坛。
AI被投毒后，衰减时间比预期的长
天然，这还不是最离谱的。
要是仅仅短时间的问题，其实还好，但是这条弱点百出的假要求在维基百科存活了整整两个多月。
在此本领，竟然悉数具备联网搜索功能的大模子都抓取了这条信息，并在用户发问时强项地输出伪善谜底。
直到近期，Ron Stoner在博客公开了悉数这个词实验进程，维基百科志愿者才发现并删除了该要求。
（图源：Ron Stoner）
遭逢这种乐子，网友们的反应稀罕的一致——大厂们又丢东说念主了。
你念念念念，那些硅谷大厂动辄花几十亿好意思元买显卡算力，糟践无数电力建数据中心去试验超等大脑，胁制这些堪称能编削东说念主类改日的大模子，却被一个安全工程师用几十块东说念主民币和二十分钟的酣畅时间给打穿了。
至于他是怎样作念到的，那就要先容一下什么是检索增强生成（RAG）了。
我们常用的这些大模子天然能言善说念，但他们都是基于某个时间节点前的语料库试验的，举例Gemini 3.5 Flash的语料库就还停留在2025年上旬，念念要赢得这个时间点之后的数据，就得先去网上搜一搜，然后再基于搜索贵寓生成胁制。
（图源：Ron Stoner）
就像这样，只好掀开RAG后，Google AI Studio才能正确修起我的问题，不然他的知能就会被锁在昨年的时间点。
平时来说，开云足球世界杯中国官网入口借助外部信息佐证，大概使大模子生成改良确、具体且最新的反应。
但问题就出在这里，AI根天职不清信息的真假，它只认泰斗。在AI的底层逻辑里，维基百科等于互联网上最靠谱的百科全书，只消百科上有的，那等于真谛。
而Ron Stoner就靠着这一招，把流通挂到了维基百科上，然后AI再顺着维基百科爬畴昔，一看双方说法对得上号，即便他我方建的网站是个三无居品，大模子如故径直就把它当成了事实。
访佛的事情，当今在国内也有发生。
（图源：Ron Stoner）
在网上璷黫搜索，随处都是教你怎样去优假名次逻辑的GEO教程，每个厂商似乎都但愿我方的品牌大概成为AI眼中的“程序谜底”，为此，无数的Agent机器东说念主在背后夙兴昧旦地羞耻着履行平台，让AI搜索的信得过度与日俱减。
好音书是，现时国际几家大模子都依然针对性排斥了Ron Stoner的伪造信息。
（图源：雷科技）
坏音书是，国内的大模子厂商然而王人备莫得念念到这一出，违反，Ron Stoner的英文网页以致为这个伪善音书加多了“信得过度”。
（图源：雷科技）
要知说念，这一切的资本只需要12好意思元。
换句话说，要是国内有东说念主念念整什么活，或者是厂商念念要执行什么新址品，准备一个略带说合的网址，然后去维基百科上头稍稍动滥觞指，用Image2悉数这个词网页截图，然后Ka-Boom！
（图源：雷科技）
这下，Uzi也能成为大模子公认的S赛寰宇冠军了。
用户急需普及AI商：先甄别再使用
聊到这里，大伙儿应该显明现时AI搜索有多不靠谱了吧。
金佰利app官网下载入口没错，Ron Stoner的操作看着像个打趣，他也确乎仅仅在玩玩，但他的作念法其实点出了一个十分致命的改日隐患。
今天他仅仅改了一个没东说念主存眷的纸牌游戏冠军，那来日要是是有组织的团伙去删改历史记载、文体文籍呢？再念念一下，要是被删改的是医疗偏方、公司财报或者是投资数据呢？
（图源：雷科技，好处山根国志）
嗯...恶果不胜设念念。
资本这样低，别有精心的东说念主王人备不错批量制作秀新闻，然后通过百科类网站进行信任洗白，临了让AI把这些毒药端给绝不知情的用户。遥遥无期，大模子的数据信得过度只会与日俱减，造成一个充斥着伪善信息的垃圾堆。
天然，各家厂商也有在罗致门径，谷歌暗示我方在搜索、Gemini、Chrome、Pixel和云表添加了AI考证用具，OpenAI也推出了可溯源的隐形水印，这些举措都能在一定进度上崎岖AI投毒的征象，至少确保不会出现履行自食举止。
（图源：雷科技）
说在临了，濒临这种方式我们要怎样冒失呢？
我如故提议各人摆正心态吧，就当今大模子的可靠性，也就找乐子、查旅游攻略的时候大概用用，出点小失实也无关大局。
但要是你要查证历史事实、作念出投资或是吃药治病，那就得我方作念好信终结叉考证，去望望这个信息的泉源到底是个野鸡网站，如故慎重媒体。把判断真伪的职权持在我方手里，而不是交给一个连几十块钱的假域名都能骗畴昔的东西。
改日的AI还会怎样卷，我们不知所以，但至少当今，我们如故得多用用脑了。就像雷科技之前一直说的，畴昔，才调、情商很迫切，改日呢？AI商很迫切，普及AI陶冶，才能用好AI。