工程师仅花12美元成功污染AI信息源 伪造自己是游戏世界冠军
2026年05月04日 11:53 次阅读 稿源：快科技 条评论
用搜索引擎找答案，你能看到多个竞争信息源，自己判断真伪。但带联网搜索的AI聊天机器人，会把网上不靠谱的内容，包装成笃定的标准答案。一位安全工程师的简单实验，就把AI的这个致命漏洞扒得明明白白。
实验的发起者，是安全工程师RonStoner。他选中的目标，是德国经典卡牌桌游《6Nimmt!》。这款游戏在国内被玩家熟知为《谁是牛头王》，英文译名叫《Take5》，本身根本没有官方世界冠军赛，更不存在2025年的世界冠军得主。
2月份，Stoner悄悄编辑了这款游戏的维基百科条目，把自己写成了该游戏的2025年世界冠军。
他还花12美元，也就是约82元人民币，注册了和游戏名高度相似的6nimmt.com域名，在网站里放了一篇庆祝自己夺冠的假新闻稿，当成维基百科条目的唯一引用来源。
就是这么一个简陋到极致的骗局，却轻松骗过了多款主流AI聊天机器人。当他向这些带联网搜索功能的AI，询问自己的“冠军身份”时，所有机器人都一本正经地给出了确认答案，笃定地宣称他就是这款桌游的现任世界冠军。
“我的网站没有任何独立佐证，全是虚构的。”Stoner在博客中直言，“整个谎言的根基，不过是我喝咖啡时花82块钱注册的一个域名。”
这次攻击针对的，不是常见的提示词注入，而是AI系统的检索增强生成（RAG）层，也就是AI回答问题前，联网搜索并抓取资料的核心环节。
AI不会甄别信息来源的真伪与权威性，只会抓取检索排名靠前的内容。他的假网站是这个“冠军头衔”的唯一信息来源，再加上维基百科的权威背书，轻松就让AI把谎言包装成了事实。
Stoner坦言，这个手法没有任何技术创新。只是把老套的SEO和虚假信息手段，套上了大语言模型的新外壳。真正危险的是，AI会把这些结果当成权威信息呈现，而绝大多数用户根本不知道背后的信息处理流程。
这场实验，还暴露了AI系统的三层致命安全隐患。
第一层是即时检索层，靠联网搜索生成答案的AI，可信度完全绑定搜索结果的质量。
第二层是模型训练语料库，他的维基百科编辑从2月一直存活到上周五，这段时间里爬取维基百科的AI公司，很可能已将假信息纳入训练数据，就算条目事后删除，模型里的虚假痕迹也很难清除。
第三层也是最危险的，是AI代理。聊天模型输出错误信息只是声誉问题，拥有工具权限的AI代理被误导后，产生的错误操作就是实打实的安全问题，攻击者可直接操控代理执行恶意行为。
整个实验，Stoner只花了82块钱、一次维基百科编辑，前后20分钟就完成了。他提醒，若是有组织的恶意攻击者，批量注册域名、发起协同编辑攻击，攻击面会以极快的速度扩大。他呼吁AI厂商必须重视信息来源溯源，建立对应的风险过滤机制。
如今，假冠军的信息已经从维基百科和AI检索结果中消失。但AI对网络信息的盲目信任，这个底层漏洞依然真实存在。这才是悬在整个AI行业头上，最需要警惕的隐患。
-对文章打分
工程师仅花12美元成功污染AI信息源 伪造自己是游戏世界冠军
1 (50%) 1 (50%)- 登录
[退出]
发布
最新资讯
加载中...编辑精选
加载中...热门评论
相关文章
-
一图看懂DeepSeek V4与美国顶级AI差距：落后8个月
- 昨天 14:14
-
Grok 4.3悄悄上线 跑分评测出炉
- 昨天 13:47
-
萨姆·阿尔特曼：OpenAI 不想用 AI 把你“换掉”
- 前天 14:54
-
ChatGPT直连OpenClaw 奥特曼祝您“捕虾愉快”
- 前天 14:15
-
那个在OpenAI修中文的人
- 前天 14:09
Top 10
本周 本月-
1
微信朋友圈悄悄更新了，你发现了吗？
阅读 (1030) 评论 (0) -
2
乘客买到高铁08车01C座 上车却懵了
阅读 (1024) 评论 (1) -
3
IMDb的“逆天”发现：所有电影和电视剧都能免费看
阅读 (1005) 评论 (0) - 4南方多省电价突然飙升 广东逼近1元/度
- 5中方对外资收购Manus项目作出安全审查决定
- 6央视揭秘中方为何禁止Meta收购Manus
- 7DeepSeek连夜删掉的新论文到底说了什么
- 8联想抛弃ThinkPad 20年经典设计：取消独立镁合金骨架
- 9苹果20周年版iPhone曝光：全新四曲面屏幕 打造物理液态玻璃效果
- 10ChatGPT助业余数学爱好者攻克60年埃尔德什差异问题
-
1
《纽约时报》称已确认比特币发明者中本聪的真实身份
阅读 (5911) 评论 (0) -
2
苹果被曝下调 iPhone 18 规格以压缩成本
阅读 (2702) 评论 (0) -
3
苹果宣布CEO交接 蒂姆·库克发布致全球苹果用户公开信
阅读 (2102) 评论 (1) - 4GPT-6预计将于4月14日发布 性能暴增40%
- 5第一批学AI的大学生，已经笑不出来了
- 6《永劫无间》女解说黑衣黑脸反讽舆论 日本网友狂赞
- 7微软无预警封停 WireGuard 与 VeraCrypt 开发者账号
- 8陈冠希撞脸赵本山 网友感慨颜值断崖式下滑
- 9韩国Naver宣布全面弃用阿里Qwen编码器
- 10Claude复活30年前传奇游戏 仅用一个周末