AnthropicとOpenAI、AI競争加速の背景で安全規則の表現を調整

オデイリー星球日報によると、Anthropicは責任ある拡張方針から重要な安全保障の約束を削除し、リスク緩和策が完全に整うまで訓練を停止することを約束しなくなった。Anthropicの最高科学責任者Jared KaplanはTIMEに対し、AIの急速な発展を背景に、競合他社が継続的に推進している場合、一方的に訓練停止を約束することには実質的な意味がないと述べた。

OpenAIも使命声明を修正し、2024年のIRS書類から「safely」という語を削除した。以前は「安全に人類に利益をもたらす」汎用AIの構築を表明していたが、現在は「汎用AIが全人類に利益をもたらすことを確実にする」と変更された。

RANDコーポレーションの上級政策研究員Edward Geistは、初期のAI安全推進者が想定した高度なAIと現在の大規模言語モデルには本質的な違いがあり、用語の変化も、企業が安全性の懸念により経済競争で後退しないことを投資家や政策立案者に伝えたい意図を反映していると述べた。

Anthropicは最近、300億ドルの資金調達を完了し、評価額は約3800億ドルに達した。一方、OpenAIはAmazon、Microsoft、Nvidiaの支援を受けて、最大1000億ドルの資金調達ラウンドを進めている。同時に、Anthropicは五角大楼へのClaudeの全面的なアクセス拒否により、米国国防長官Pete Hegsethとの公開の意見の相違が生じ、国防契約に不確実性が生じている。（Decrypt）