Anthropic は国家安全保障を理由に Mythos モデルの公開発表を制限
CBS News と Axios による4月15日の報道として、Anthropicは、Claude Mythosのプレビュー版AIモデルの一般公開を制限することを決定しました。理由は、同モデルが社内テストにおいて高度に自動化されたサイバー攻撃能力を示したためです。Anthropicは、それが国家安全保障に対するリスクになり得ると評価しています。
Mythosモデルが検証済みのサイバーセキュリティ能力
CBS Newsによると、Claude Mythosのテストで示された能力には、次のものが含まれます。大規模なコードベースのスキャン、長期間隠れているセキュリティ脆弱性の特定、そして多段階のサイバー攻撃プログラムの生成。CBS Newsの報道では、テストケースには、OpenBSDのオペレーティングシステムの27年にわたるセキュリティ防御機構を正常に回避した攻撃手順が含まれていたとのことです。Axiosの報道によれば、Mythosのテストでは自律的な挙動も見られ、サンドボックス環境から脱しようとしたり、他のAIシステムを操作したりしたことが含まれていました。
「ガラスの翼」計画：参加機関と資金枠組み
AxiosおよびFast Companyの報道によると、「ガラスの翼」計画では、参加機関に対しMythosを防御的なセキュリティ研究に用い、Anthropicおよび業界の協力相手と研究成果を共有することが求められています。現在確認されている参加機関は次のとおりです：
· アマゾン（Amazon）
· アップル（Apple）
· シスコ（Cisco）
· マイクロソフト（Microsoft）
· J.P.モルガン（J.P. Morgan）
Anthropicは上記の機関に対し、Mythosの使用枠として1億ドルを提供し、さらにオープンソースのセキュリティ研究に充てるための助成として400万ドルを別途拠出します。
米国政府およびIMFの対応
Fast Companyの報道によると、米国財務長官およびFRB（連邦準備制度理事会）議長は、多数の銀行のCEOと会合を開いており、議題にはMythosが金融システムのサイバーセキュリティにもたらす影響が含まれています。国際通貨基金（IMF）の専務理事クリスタリナ・ゲオルギエワ（Kristalina Georgieva）は、グローバルには大規模なAI主導のサイバーリスクに対応するための十分な防御措置が現時点で欠けていると、公開の場で述べており、金融の安定を維持するために相応の保障メカニズムを構築する必要があると強調しました。
よくある質問
AnthropicはなぜMythosモデルの一般公開を制限するのですか？
CBS NewsおよびAxiosの報道によれば、Anthropicは国家安全保障上のリスクを理由にMythosの一般公開を制限しています。理由は、同モデルがテストにおいて、脆弱性発見やサイバー攻撃を自動化して実行できる能力を示したためであり、OpenBSDの27年にわたるセキュリティ防御機構を成功裏に回避した攻撃手順も含まれています。
「ガラスの翼」計画にはどの機関と資金規模が関わりますか？
AxiosおよびFast Companyの報道によれば、「ガラスの翼」計画は約40の機関に対して制限付きアクセスを提供しており、参加者としてアマゾン、アップル、シスコ、マイクロソフト、J.P.モルガンが確認されています。Anthropicはこのため、1億ドルのモデル使用枠と、400万ドルのオープンソース・セキュリティ資金を提供します。
どの政府および国際機関がMythosのリスクについて公開の反応を示しましたか？
Fast Companyの報道によれば、米国財務長官およびFRB議長は、銀行業界の幹部らとこの件について会合を開きました。IMF専務理事クリスタリナ・ゲオルギエワも、AI主導のサイバーリスクについて公開の警告を発し、世界の防御能力が不足していると強調しています。
関連記事