Anthropic 推出 $100M 網絡安全推動，搭配受限的人工智慧模型 Claude Mythos

Anthropic 於週二宣布 Project Glasswing，這是一項資安計畫，承諾為 Claude Mythos Preview 提供最高 1 億美元的使用額度。該計畫鎖定一個尚未釋出的前沿模型，公司表示該模型能夠自主尋找並利用軟體漏洞，其能力已超越除最熟練的人類資安研究人員以外的所有人。

Anthropic 並未採用公開發布的方式，而是將 Claude Mythos Preview 限制在 12 家啟動夥伴手中——其中包括 Amazon $AMZN +0.46% Web Services、Apple $AAPL -2.07%、Broadcom $AVGO +6.21%、Cisco $CSCO +0.30%、CrowdStrike $CRWD +6.18%、Google $GOOGL +1.82%、JPMorganChase、Linux Foundation、Microsoft $MSFT -0.16%、Nvidia $NVDA +0.26%，以及 Palo Alto Networks $PANW +4.89%——這些夥伴將僅將其用於防禦性資安目的。另有超過 40 家建置或維護關鍵軟體基礎設施的其他組織也將獲得存取權。

相關內容

Alibaba 使用自家晶片推出 10,000 顆晶片的 AI 集群

WomenofGenAI 創辦人 Aakriti Srikanth 談在科技產業演進中脫穎而出

在過去數週，Anthropic 使用 Mythos Preview 來辨識出跨越所有主要作業系統與網頁瀏覽器的數千項零日漏洞，該公司表示。具體發現包括：在 OpenBSD 追溯長達 27 年的瑕疵，以及影像處理程式庫 FFmpeg 中的一項獨立漏洞——該漏洞在自動化測試工具進行的 500 萬次測試中未被偵測到，儘管其大約已有 16 年。該模型還將多個 Linux 核心漏洞串接起來，從一般使用者帳戶實現對一台機器的完全控制。

Anthropic 指出，在打造 Mythos Preview 時並未進行專門的資安訓練——該模型探測軟體弱點的能力，是其在其他領域所展現之、同樣定義其能力的一般性編碼與推理進展的副產品；也就是說，協助它修補漏洞的特性，與那些可能被用來加以利用的特性是不可分割的。

Anthropic 將在使用額度之外，提供 400 萬美元的直接捐贈：其中包含 250 萬美元給 Alpha-Omega 與 Open Source Security Foundation，透過 Linux Foundation 支援，以及 150 萬美元給 Apache Software Foundation。用盡使用額度池的夥伴，將支付每 100 萬輸入代幣 25 美元，以及每 100 萬輸出代幣 125 美元。該模型可透過 Claude API、Amazon Bedrock、Google Cloud Vertex AI，以及 Microsoft Foundry 存取。

「弄錯所帶來的危險是顯而易見的，但如果我們做對了，就有真正的機會打造一個比過去、在 AI 驅動的資安能力出現之前更為本質安全的網路與世界，」CEO Dario Amodei 在一篇於 X $TWTR 0.00% 上發布的貼文中表示，據 CNBC 報導。

在 Anthropic 公告同時釋出的書面聲明中，CrowdStrike 首席技術官 Elia Zaitsev 提出明確警告：該模型「展示了目前在規模化防禦者方面所能做到的事情，而對手必然會尋求利用同樣的能力」，並指出：那些曾需要數月工時的任務「如今在 AI 的協助下，會在幾分鐘內完成」，據《紐約時報》報導。

Anthropic 表示，該公司正與美國政府官員（包括 Cybersecurity and Infrastructure Security Agency）就該模型的能力進行持續討論。在 90 天內，該公司表示計劃發布一份針對所找到並已修補漏洞的公開報告，以及安全實務應如何演進的建議。

該模型的存在早已在內部草稿材料於 Anthropic 伺服器的未受保護位置被發現後，於公開層面浮出水面；該公司將外洩追溯到第三方內容管理工具中的錯誤設定。這些文件中對該模型的稱呼為代號「Capybara」。

📬 訂閱 每日快訊

我們提供免費、快速且有趣的全球經濟簡報，每逢週一至週五的早晨送達。

報名訂閱