AI 答题引擎集体污染:Gemini 3 正确答案中 56% 无来源支持

鏈新聞abmedia

根据 The Inference 于 2026 年 4 月 21 日刊出、作者 Pedro Dias 的深度分析文,AI 模型崩溃(model collapse)并非业界担心的“未来威胁”——它正以另一种形式即时发生:AI 答题引擎在查询当下即时报引其他 AI 生成的网页内容作为权威来源,整个污染循环无需经过模型重训练。这个论点以“咬住自己尾巴的蛇(Ouroboros)学会了引用自己”作为核心比喻。

Model Collapse 与 Retrieval Contamination 的关键差异

传统对 AI 模型退化的担忧围绕 model collapse:合成内容逐步污染训练数据、未来世代模型品质下滑。这是慢性、需要多轮重训练才显现的风险。

Pedro Dias 提出的警讯是另一个层面:retrieval contamination(检索污染)。Perplexity、Google AI Overviews、ChatGPT、Grok 等以 RAG(retrieval-augmented generation)为基础的答题引擎,在使用者提问的当下即时抓取网页内容作为答案依据。如果抓到的网页本身就是 AI 生成的错误内容,引擎就把它当成事实呈现给读者——而且这个污染不需要任何重训练即可即时生效。

三个真实案例:AI 引擎被自己生成的假讯息欺骗

作者列出三个具体事件:

一、Lily Ray 事件:Perplexity 曾引用一个名为“September 2025 Perspective Core Algorithm Update”的所谓 Google 演算法更新作为权威资讯——这个更新根本不存在,来源是 AI 生成的 SEO 部落格假文。

二、Thomas Germain 实测:记者 Thomas Germain 发了一篇测试性部落格“吃热狗最强的科技记者”,24 小时内就被 Google AI Overviews 与 ChatGPT 排在第一位并引用,还虚构出一个不存在的“南达科他州锦标赛”加以佐证。

三、Grokipedia:Musk 旗下 xAI 的百科计划已生成或改写 885,279 篇文章,包含错误事实(例如加拿大歌手 Feist 的父亲逝世日期写错)与无据引用。Grokipedia 2026 年 2 月中已在 Google 失去大部分能见度。

Oumi 研究:Gemini 3 正确率高,但 56% 没来源

NYT 委托 Oumi 进行的评估:Gemini 2 在 SimpleQA 基准测试正确率 85%、Gemini 3 提升到 91%。但同一个测试显示,Gemini 3 的正确答案中有 56% 是“ungrounded”——模型回答对了但没有可验证的支持来源;Gemini 2 的此比例为 37%。

这意味着新世代模型在答案“形式上更精确”,却同时在“答案来源可追溯性”上退步。对于媒体、研究、事实查核等场景,这个退步比纯粹错误率更致命,因为读者无法回溯到原始权威文件自行验证。

产业规模:Google AI Overviews 覆盖 20 亿用户

这个污染问题的产业规模:Google AI Overviews 月活用户超过 20 亿、Google 年搜索量超过 5 兆次、ChatGPT 週活接近 9 亿(5,000 万付费)。也就是绝大多数网路使用者取得事实资讯的管道,都已经走过“可能被 AI 生成内容污染”的答题引擎层。

Ahrefs 另外的研究显示,ChatGPT 引用的来源中有 44% 是“best X”类榜单文——这类文章正是 SEO 业为对抗答题引擎流失流量而大量产出的 AI 内容,恰好构成答题引擎的主要污染来源。

结构性结论:引用层已与可靠作者身份脱钩

作者的最终论断:AI 答题引擎的引用层已经与可靠作者身份脱钩。SEO 业产出 AI 内容 → 答题引擎抓来当事实 → 读者相信 → SEO 业获得激励继续产出更多 AI 内容,形成自我强化的污染循环。目前整个产业没有明确的问责机制让 AI 引擎对自己引用的来源品质负责。

对使用者而言,这意味着现阶段不能把 Perplexity、AI Overviews、ChatGPT 的回答当作事实查核的终点,仍需要人工回溯到官方一手来源才能确保准确。

这篇文章 AI 答题引擎集体污染:Gemini 3 正确答案中 56% 无来源支持 最早出现在 鏈新聞 ABMedia。

免责声明:本页面信息可能来自第三方,不代表 Gate 的观点或意见。页面显示的内容仅供参考,不构成任何财务、投资或法律建议。Gate 对信息的准确性、完整性不作保证,对因使用本信息而产生的任何损失不承担责任。虚拟资产投资属高风险行为,价格波动剧烈,您可能损失全部投资本金。请充分了解相关风险,并根据自身财务状况和风险承受能力谨慎决策。具体内容详见声明

相关文章

法官驳回埃隆·马斯克在其 OpenAI 诉讼中的欺诈指控;案件进入审判,仍剩两项指控

Gate News 消息,4月24日——一名联邦法官驳回了埃隆·马斯克针对 OpenAI 提起的诉讼中的欺诈指控(被告包括 OpenAI、山姆·奥特曼、格雷格·布罗克曼和微软),从而为案件就两项仍然存续的指控进入审判铺平道路:违反慈善信托和不当得利。美国

GateNews1小时前

OpenAI首席执行官萨姆·奥特曼就未向警方报告校园枪手的被禁账户道歉

通告新闻,4月25日——OpenAI首席执行官萨姆·奥特曼(Sam Altman)因公司未能就与杰西·范·罗特塞拉尔(Jesse Van Rootselaar)相关的被禁账户通知警方,向加拿大的坦博琳(Tamborine)社区道歉。该账户相关人员在2月份于一所学校杀害了8人,随后自杀。OpenAI

GateNews1小时前

阿联酋宣布在未来两年内转向 AI 政府模式

谢赫·穆罕默德·本·拉希德·阿勒马克图姆殿下表示,目标是让50%的政府部门通过自治的代理式AI运作。转型还将包括培训联邦雇员以“精通AI”,并将由谢赫·曼苏尔·本·扎耶德监督。 要点:

Coinpedia1小时前

AI 交易平台 Fere AI 融资 130 万美元,融资由 Ethereal Ventures 牵头

Gate News 消息,4 月 25 日——据 Globenewswire 报道,由 Ethereal Ventures 牵头、Galaxy Vision Hill 和 Kosmos Ventures 参与的 130 万美元融资轮已完成,Fere AI(一个由人工智能驱动的数字资产交易平台)宣布了该消息。 该平台支持跨链

GateNews2小时前

Google 加码 400 亿美元投资 Anthropic:先付 100 亿、再依业绩释放 300 亿,配 5GW TPU 算力

Alphabet 向 Anthropic 追加 400 亿美元,分两阶段:首笔 100 亿美元现金注入、估值 3,800 亿美元;剩余 300 亿美元在业绩达标后分阶段释放。Google Cloud 在五年内提供 5 GW TPU 计算资源;同期 Amazon 也宣布最高 250 亿美元投资,显示 Anthropic 的算力与资本支持同步增强。

鏈新聞abmedia3小时前

SpaceX、OpenAI 和 Anthropic 的 IPO 可能吸引超 $240 Billion 的资金,或将影响加密市场流动性

Gate News 消息,4 月 25 日——根据市场报道,SpaceX 预计将于 6 月上市,融资目标将超过沙特阿美创下的纪录 $29 billion IPO;与此同时,OpenAI 和 Anthropic 计划在 2026 年下半年上市。这三家公司预计将

GateNews4小时前
评论
0/400
暂无评论