據稱，美國財政部長 Scott Bessent 與聯準會主席 Jerome Powell 本週稍早召集了一次會議，與華爾街銀行的執行長會談，以警示與 Anthropic 新的人工智慧模型相關的網路安全風險。 根據 Bloomberg 的一份報導，這場會議包含 Citigroup、Bank of America、Wells Fargo、Morgan Stanley 與 Goldman Sachs 的高層主管。官員們討論了 Anthropic 新的 AI 模型 Mythos；該模型近期因其看似具備先進的網路安全能力而引發廣泛關注。 官員們召開會議，旨在確保銀行理解風險：具備能夠在作業系統與網路瀏覽器中辨識並利用軟體漏洞的系統所帶來的風險，並鼓勵機構強化防禦，以應對可能由 AI 協助、針對金融基礎設施的網路攻擊。
安全研究人員警告，若具備自動發現漏洞能力的工具被濫用，可能同時加速防禦性安全工作與惡意駭客行為。 Anthropic 的 Mythos 模型於 3 月首次在網路上浮現，原因是關於該系統的草稿材料外洩到網路上；顯示出公司所稱截至目前最具能力的 AI 模型。測試中，據稱該系統找到了數千個先前未知的軟體漏洞，包括多個主要作業系統與網路瀏覽器中的零日漏洞。 Anthropic 研究人員在本週稍早的一份報告中表示，Mythos Preview 的漏洞發現能力並非刻意進行訓練，而是源自模型在程式碼、推理與自主性方面更廣泛的改進所帶來的結果。
「能讓該模型在修補漏洞方面大幅更有效的相同改進，也會讓它在利用漏洞方面大幅更有效，」該公司寫道。 基於這些能力，Anthropic 已限制少數網路安全組織對該模型的存取。 「鑑於其能力之強，我們在釋出方式上會非常審慎，」Anthropic 在一份聲明中表示。 「如同業界標準做法，我們正與一小群早期存取客戶合作，以測試該模型。我們認為這個模型是一次能力層級的重大躍升，也是我們迄今打造出最具能力的模型。」 為了因應這項風險，Anthropic 正透過 Project Glasswing 測試 Mythos；這是與主要科技與網路安全公司合作的專案，利用該模型在攻擊者尚未能夠加以利用之前，辨識並修補關鍵軟體中的漏洞。 「Project Glasswing 是一個起點。沒有任何單一組織能夠獨自解決這些網路安全問題，」該公司在一份聲明中表示。 「全球的 Frontier AI 開發者、其他軟體公司、安全研究人員、開源維護者以及各國政府，都扮演著不可或缺的角色。」 Anthropic 目前尚未立即回覆 Decrypt 的評論請求。
