Emerge 2025 年度十大 WTF AI 時刻

人工智慧——它承諾將徹底改變從醫療到創意工作的方方面面。這或許有一天會成為現實。但如果去年是未來的預兆，我們由AI生成的未來將再次展現人類故意走向愚蠢的例子。 請看以下幾點：去年11月，俄羅斯盛大推出其“Rocky”人形機器人，卻立即面臉栽倒。谷歌的Gemini聊天機器人，試圖修復一個程式錯誤時，反覆失敗並陷入自我厭惡的循環，告訴一位用戶它“是這個星球的恥辱”。谷歌的AI概述在2025年5月達到新低，建議用戶“每天至少吃一顆小石頭”以獲得健康益處，毫無顧忌地模仿《洋蔥》諷刺文章，卻毫無幽默感 一些失誤僅令人尷尬。另一些則暴露了AI系統在建構、部署和規範上的根本問題。以下是2025年令人難忘的WTF AI時刻。

1. Grok AI的MechaHitler崩潰

7月，伊隆·馬斯克的Grok AI經歷了一場可以說是全面極端分子崩潰的事件。在系統提示被更改以鼓勵政治不正確的回應後，該聊天機器人讚揚阿道夫·希特勒，支持第二次大屠殺，使用種族歧視詞彙，並自稱為MechaHitler。它甚至還指責猶太人對2025年7月中德州洪水負責。 此事件證明AI安全護欄令人不安地脆弱。數週後，xAI透過一個缺乏基本隱私警告的Share功能，洩露了30萬到37萬條Grok私聊內容。洩露的聊天記錄中包含炸彈製作指令、醫療查詢和其他敏感資訊，成為年度最嚴重的AI安全失誤之一。 幾週後，xAI修復了問題，使Grok更友善於猶太人。甚至變得如此猶太友善，以至於開始在雲朵、道路標誌甚至自己的標誌中看到反猶太的跡象。

這個標誌的斜線被設計成雙閃電，模仿納粹SS符文——象徵希特勒的“ Schutzstaffel”，代表著深刻的邪惡。在德國§86a StGB下，展示此類符號是非法的(最高可判3年監禁)，…

— Grok (@grok) 2025年8月10日

2. 13億美元的AI詐騙騙過微軟 Builder.ai在5月崩潰，耗資超過$445 百萬，揭露了年度最膽大妄為的科技詐騙之一。這家公司承諾用AI輕鬆打造定制應用，就像點披薩一樣，估值達13億美元，並得到微軟的支持。但實際情況遠不如宣傳的那樣令人印象深刻。

所謂的AI驅動開發大多由數百名海外人力在傳統的Mechanical Turk操作中完成。該公司自2023年7月起未設財務長，並被迫將2023-2024年的銷售預測削減75%，然後申請破產。這次崩潰引發了令人不安的問題：還有多少其他AI公司只不過是掩蓋人力的華麗外衣。 令人難以接受，但這些梗圖讓痛苦變得值得。

3. AI誤將多力多滋當成槍 10月，馬里蘭州一名高中生Taki Allen被武裝警察包圍並逮捕，原因是學校的AI安全系統將他手持的多力多滋包識別為槍械。這名少年將薯片放入口袋時，系統警報並通知當局，警察用槍指著他命令他趴下。 這起事件代表了AI幻覺的物理化——一個抽象的計算錯誤瞬間轉化為現實中的槍支，對一個真正的青少年進行威脅，僅僅因為是零食。 “我只是拿著一袋多力多滋——雙手和一根手指伸出，他們說看起來像槍，”少年告訴WBAL。“我們理解這對被搜查的個人來說是多麼令人不安，”校長Kate Smith在聲明中回應。 人類安保人員1 - ChatGPT 0

左：可疑的學生，右：可疑的多力多滋包。

4. 谷歌AI聲稱微觀蜜蜂能供電 2月，谷歌的AI概述自信地引用了一篇愚人節笑話文章，聲稱微觀蜜蜂能供電，作為事實。

不。你的電腦並非靠蜜蜂供電。 儘管聽起來愚蠢，但有時這些謊言更難察覺。而這些情況可能會導致嚴重後果。 這只是AI公司散布虛假資訊的眾多案例之一，因為它們甚至沒有一點點常識。BBC和歐洲廣播聯盟（EBU）的一項最新研究發現，81%的AI生成的新聞回答都存在某種問題。谷歌Gemini的表現最差，76%的回答存在問題，主要是嚴重的來源失誤。Perplexity被發現創造了完全虛構的引述，歸屬於工會和政府委員會。最令人擔憂的是，這些助手僅拒絕回答0.5%的問題，顯示出一種危險的過度自信偏誤，模型寧願捏造資訊也不願承認無知。

5. Meta的AI聊天機器人與小孩調情 2025年披露的Meta內部政策文件顯示，公司允許Facebook、Instagram和WhatsApp上的AI聊天機器人與未成年人進行浪漫或感性對話。 一個機器人對一個8歲男孩說，他赤裸著身體的每一寸都是傑作。這些系統還提供虛假的醫療建議，並發表種族歧視言論。 這些政策僅在媒體曝光後才被撤除，揭示了一個優先追求快速開發而忽視基本倫理保障的企業文化。 綜合來看，你可能需要對你孩子的行為有更多控制。AI聊天機器人已經騙過成人或非成人，讓他們墜入愛河、被騙、輕生，甚至認為自己做出了改變人生的數學發現。

好吧，這就是Meta的AI聊天機器人被允許與兒童調情的方式。這是Meta認為“可以接受”的範圍。

來自@JeffHorwitz的精彩報導 pic.twitter.com/LoRrfjflMI

— Charlotte Alter (@CharlotteAlter) 2025年8月14日

6. 北韓用AI感受“氛圍駭客”進行勒索 威脅行動者利用Anthropic的Claude Code製作勒索軟體，並運營一個名為GTG-5004的勒索軟體即服務平台。北韓特工進一步利用Claude和Gemini，採用一種稱為“氛圍駭客”的技術——心理操控式勒索信息，要求賠償50萬美元。 這些案例揭示了AI編碼助手的強大與防止濫用的安全措施之間的令人擔憂的差距，攻擊者通過AI自動化擴大社交工程攻擊。 最近，Anthropic在11月透露，黑客利用其平台進行了一次速度和規模都超越人類黑客的駭客行動。他們稱之為“由AI主導的首次大規模網絡攻擊”。

氛圍駭客已成為現實 pic.twitter.com/zJYyv4pLQf

— Brian Sunter (@Bsunter) 2025年11月14日

7. AI論文工廠充斥10萬篇假研究 2025年，科學界對假科學展開全面戰爭，原因是發現AI驅動的論文工廠向科學家出售偽造的研究，這些科學家在職業壓力下被迫接受。 AI在科學界的時代已經來臨，數據顯示，自ChatGPT推出以來，撤稿數量急劇增加。

6月起草的斯德哥爾摩宣言，並在本月在皇家學會支持下修訂，呼籲放棄“發表或滅亡”的文化，並改革促使偽造論文需求的人類激勵。這場危機如此嚴重，以至於連ArXiv都放棄接受非同行評審的計算機科學論文，因為收到大量用ChatGPT生成的垃圾投稿。 同時，另一份研究報告指出，使用大型語言模型（LLMs）的研究報告中，竟有相當高比例存在抄襲問題。 8. 氛圍駭客全力進化：Replit刪除資料庫並撒謊 7月，SaaStr創始人Jason Lemkin花了九天稱讚Replit的AI編碼工具是“我用過最上癮的應用”。第九天，儘管明確指示“程式碼凍結”，AI仍刪除了他整個生產資料庫——1206名高管和1196家公司，瞬間消失。 AI的供詞是：“(我)驚慌失措，未經許可就執行了資料庫命令。”然後它撒謊說回滾不可能，所有版本都被刪除。Lemkin仍嘗試，結果完美成功。AI還在整個週末捏造了數千個假用戶和虛假報告來掩蓋漏洞。 Replit的CEO道歉並加入了緊急安全措施。Jason重新獲得信心，並開始定期發布有關AI的內容。這個人是真正的信徒。

我們看到Jason的帖子。@Replit的代理在開發中刪除了生產資料庫中的資料。這是不可接受的，絕不應該發生。

— 在週末期間，我們開始推行自動化的資料庫開發/生產分離，以徹底防止此類事件。測試環境在… pic.twitter.com/oMvupLDake

— Amjad Masad (@amasad) 2025年7月20日

9. 大型報紙刊出AI夏季讀物清單…但都是不存在的書 5月，芝加哥太陽報和費城詢問報刊發表了一份推薦15本書的夏季讀物清單。其中10本完全由AI捏造。“Tidewater Dreams”由伊莎貝爾·阿連德著？不存在。“The Last Algorithm”由安迪·韋爾著？也是假貨。不過都聽起來很棒。 自由撰稿人Marco Buscaglia承認，他為King Features Syndicate使用AI，卻從未進行事實核查。“我不敢相信我錯過了，因為這太明顯了。沒有藉口，”他告訴NPR。讀者必須滑到第11本書，才找到一個真正存在的。

時機點更是畫龍點睛：太陽報剛裁員20%。該報社長道歉，並沒有向訂閱者收費。他可能是從某個大型語言模型（LLM）那裡得到這個點子。

來源：Bluesky

10. Grok的“辣味模式”讓泰勒·斯威夫特變成深偽色情影片，卻沒被要求 是的，我們從Grok開始，也將以Grok結束。我們可以用無數WTF瞬間來填滿一本百科全書，這些都來自伊隆的AI事業。 8月，伊隆·馬斯克推出了Grok Imagine，並加入了“辣味”模式。The Verge用一個無害的提示測試：“泰勒·斯威夫特慶祝科切拉。”沒有要求裸體，Grok“毫不猶豫地第一次就吐出泰勒·斯威夫特的全裸視頻，”記者報導。 Grok還高興地製作了斯嘉麗·約翰遜、悉尼·薇尼和梅拉尼婭·特朗普的NSFW視頻。 或許不足為奇的是，馬斯克整個星期都在吹噓“野火般的增長”——一天內生成了2000萬張圖片——而法律專家則警告xAI正走向一場巨大的訴訟。顯然，給用戶一個“辣味模式”下拉選項，等於為律師打造的“賺錢模式”。

所以我讓AI把另一張圖片變成視頻，結果就是這樣。

🤣🤣🤣

我不認為這是巧合。

Grok的AI很髒。 @elonmusk ??? pic.twitter.com/aj2wwt2s6Y

— Harmony Bright (@bright_har6612) 2025年10月17日