Anthropic Mythosモデル、サイバーセキュリティ上の懸念を背景に連邦での本格展開を進める
Bloombergの木曜報道によると、米政府は、AnthropicのMythosモデルへの連邦機関のアクセスを付与する準備を進めている。ホワイトハウスの行政管理予算局（OMB）で連邦最高情報責任者を務めるGregory Barbacciaは、火曜日に各省庁の閣僚級担当者へ送った電子メールで、OMBが同モデルの利用を可能にするための保護措置を整備していると述べた。Mythosモデルは特定のグループに限られ、防御的なサイバー業務を目的としており、広範な商用利用は想定されていない。
Mythosアクセスに関するホワイトハウスのセーフガード
「Mythos Model Access」という件名のOMBメールの中で、Barbacciaは次のように書いた。「私たちは、モデル提供者やその他の業界パートナー、そして情報コミュニティと緊密に連携し、潜在的に改良版のモデルを機関へリリースする前に、適切なガードレールとセーフガードが整っていることを確認するようにしています。」
展開計画は、そのツールが厳格に統制されない場合のサイバーセキュリティ上のリスクについて、当局者らが懸念を表明していることにタイミングが重なる。Anthropicは、Mythosの能力は急速に広がり、安全な手に留まらない可能性があると述べており、「経済・公共の安全・国家安全保障への影響が『深刻』になり得る」ため、そのような能力が安全な運用を約束する行為主体の範囲を超えて拡散した場合の警告を出している。
国際的な規制上の懸念
連邦レベルでの展開計画は、AIのサイバーセキュリティ上のリスクに関する国際的な関心の高まりと足並みをそろえている。財務相、中央銀行総裁、規制当局者は、IMFおよび世界銀行の春季会合のためワシントンに集まり、米国のIT企業による先進的なAIが、貸し手のサイバー防御の脆弱性を露呈させ、より広い銀行システムに圧力をかける可能性があると、上級の金融当局者が警告した。
イングランド銀行の総裁で金融安定理事会（Financial Stability Board）の議長であるAndrew Baileyは、「私たち全員にとって、非常に重大な課題です。AIの世界がいかに速く動くかを思い起こさせてくれます」と述べた。Baileyは、世界中の規制当局が、AnthropicのClaude Mythos Previewが金融システムに及ぼし得るサイバーリスクを迅速に評価する必要があると語った。
IMFの副トップであるDan Katzは、「デジタル技術の進化が、サイバーセキュリティの観点から甚大なリスクをもたらしている。これは、今後数カ月の国際的な議題において、本当に不可欠なものになるはずです」と述べた。
欧州中央銀行（ECB）総裁のChristine Lagardeは、デュアルユースの懸念を強調した。「AnthropicとMythosで私たちが見てきた開発は、責任ある企業が突然、『あ、これは本当に良いかもしれない』と考え始める良い例です。しかし、間違った手に渡れば、それは本当に悪いことにもなり得る。」Lagardeは記者団に対し、当局者はガバナンスの枠組みを望んでいるが、現時点では正式な仕組みは整っていないと説明した。「皆が、その枠組みの中で運用できることを熱心に望んでいます。そうした事柄に目を配ることを実際に意図したガバナンスの枠組みがあるとは思いません。私たちはそれに取り組む必要があります。」
Anthropicの脆弱性の発見とセーフガード
Anthropicは今月初め、Mythosが「数千もの高い重大度の脆弱性を見つけた。その中には、あらゆる主要なオペレーティングシステムやウェブブラウザの一部も含まれる」と発表した。同社は、このような能力は急速に広がり、安全な手に留まらない可能性があると警告し、「このような能力が、これらを安全に展開することにコミットしていない行為主体の範囲を超えてまで拡散するまで、そう長くはかからないでしょう」と述べた。
英国、アイルランド、北欧担当のAnthropic責任者であるPip Whiteは、モデルに関するニュースの後、幹部からの関心が急速に高まったと語った。インタビューでWhiteは、「私たちは、この製品の周りに自分たち自身のセーフガードと自分たち自身の制約を設けています。私たちは、この製品がどれほど強力になり得るかを知っているからです」と述べた。
Opus 4.7のリリース
木曜日、Anthropicはソフトウェアエンジニアリングのタスク向けに設計された新モデル「Opus 4.7」をリリースした。同社によると、Opus 4.7は、これまでよりも密に監督する必要があったコーディング作業を扱えるようになり、古いモデルより指示への追従が良くなり、密集したチャートや複雑な画像の中にある詳細を特定するために、より高解像度の画像を検査できるという。
Anthropicは、Opus 4.7がMythosより能力が低いとしており、サイバーのユースケースも含めてそうだという。トレーニングの中で同社は、モデルのサイバー能力を「差分的に低減する」ための手法をテストした。
