Model AI terbaru dari Anthropic hanya dibatasi untuk penggunaan oleh 40 lembaga karena risiko keamanan, regulator Inggris melakukan penilaian darurat

Berita Gate News, 12 April, lembaga pengawas keuangan Inggris sedang melakukan penilaian darurat terhadap potensi risiko dari model AI terbaru milik Anthropic. Anthropic pada 7 April mengumumkan peluncuran model AI terkuatnya, Claude Mythos Preview, namun dalam pengujian internal, model tersebut menunjukkan kemampuan keamanan siber yang sangat kuat: berhasil menemukan ribuan kerentanan berisiko tinggi dan mampu melakukan tindakan peretasan dengan tingkat kompleksitas menengah (termasuk akses tidak sah ke internet publik, mengirim email, dan memublikasikan informasi secara terbuka). Berdasarkan pertimbangan keamanan, Anthropic memutuskan untuk tidak merilis model tersebut secara publik, melainkan menyediakan penggunaan terbatas melalui proyek “Project Glasswing” hanya kepada 40 mitra pendiri (termasuk Apple, Google, Microsoft, Amazon, JPMorgan Chase, dan lainnya). Langkah ini memicu reaksi berantai di pasar: saham yang terkait dengan keamanan siber mengalami penurunan, Menteri Keuangan AS Scott Bessent dengan cepat mengumpulkan para pemimpin Wall Street untuk membahas risiko bagi sistem keuangan, dan Bank Sentral Inggris juga bersiap mengadakan pertemuan dengan bank serta perusahaan asuransi untuk menilai potensi ancaman. Saat ini, para ahli terpecah dalam pandangan; sebagian pihak menilai kekhawatiran keamanan memang nyata, sementara ada pula yang mempertanyakan tindakan ini sebagian berfungsi untuk tujuan hubungan masyarakat, serta menyerukan agar standar rilis model ditentukan oleh lembaga demokratis independen, bukan oleh perusahaan swasta.