Kemajuan Model Mythos dari Anthropic dalam Peluncuran Federal di Tengah Kekhawatiran Keamanan Siber

Pemerintah AS bersiap untuk memberi lembaga-lembaga federal akses ke model Mythos milik Anthropic, menurut laporan Bloomberg pada hari Kamis. Gregory Barbaccia, chief information officer federal di Kantor Manajemen dan Anggaran Gedung Putih, mengirim email pada hari Selasa kepada pejabat kementerian Kabinet yang menyatakan bahwa OMB sedang menyiapkan perlindungan untuk memungkinkan penggunaan model tersebut oleh lembaga. Model Mythos dibatasi untuk kelompok tertentu dan ditujukan untuk pekerjaan siber defensif, bukan untuk penggunaan komersial yang luas.

Perlindungan Gedung Putih untuk Akses Mythos

Dalam email OMB dengan subjek “Mythos Model Access,” Barbaccia menulis: “Kami bekerja secara erat dengan penyedia model, mitra industri lainnya, dan komunitas intelijen untuk memastikan adanya pagar pembatas dan perlindungan yang sesuai sebelum berpotensi merilis versi modifikasi dari model tersebut kepada lembaga.”

Rencana peluncuran muncul saat para pejabat mengungkapkan kekhawatiran tentang risiko keamanan siber jika alat tersebut tidak dikendalikan secara ketat. Anthropic telah menyatakan bahwa kemampuan Mythos dapat menyebar dengan cepat dan tidak tetap berada di tangan yang aman, memperingatkan bahwa “dampak bagi perekonomian, keselamatan publik, dan keamanan nasional bisa menjadi sangat serius” jika kemampuan seperti itu menyebar di luar aktor yang berkomitmen untuk penerapan yang aman.

Kekhawatiran Regulasi Internasional

Rencana peluncuran di tingkat federal bertepatan dengan meningkatnya perhatian internasional terhadap risiko keamanan siber AI. Para menteri keuangan, bank sentral, dan regulator berkumpul di Washington untuk pertemuan musim semi IMF dan Bank Dunia, di mana pejabat keuangan senior memperingatkan bahwa AI canggih dari perusahaan teknologi AS dapat mengekspos kerentanan dalam pertahanan siber para pemberi pinjaman dan memberi tekanan pada sistem perbankan yang lebih luas.

Andrew Bailey, gubernur Bank of England dan ketua Financial Stability Board, menyatakan: “Ini adalah tantangan yang sangat serius bagi semuanya. Ini mengingatkan kita betapa cepat dunia AI bergerak.” Bailey mengatakan regulator di seluruh dunia perlu menilai dengan cepat risiko siber yang dapat ditimbulkan oleh Anthropic’s Claude Mythos Preview terhadap sistem keuangan.

Dan Katz, wakil kepala IMF, mengatakan: “Evolusi teknologi digital menghadirkan risiko yang sangat besar dari perspektif keamanan siber. Ini benar-benar akan menjadi hal yang benar-benar penting dalam agenda internasional untuk beberapa bulan ke depan.”

Christine Lagarde, presiden European Central Bank, menyoroti kekhawatiran penggunaan ganda: “Pengembangan yang kami lihat dengan Anthropic dan Mythos adalah contoh bagus dari perusahaan yang bertanggung jawab yang tiba-tiba berpikir, ‘ah, itu bisa benar-benar baik,’ tetapi jika jatuh ke tangan yang salah, itu bisa menjadi sangat buruk.” Lagarde mengatakan kepada para pemberita bahwa para pejabat menginginkan kerangka kerja untuk tata kelola, tetapi tidak ada sistem formal yang saat ini ada: “Semua orang sangat ingin memiliki kerangka kerja di mana kita dapat beroperasi. Saya tidak berpikir ada kerangka kerja tata kelola yang sebenarnya dimaksudkan untuk mengurus hal-hal itu. Kita perlu mengerjakannya.”

Temuan Kerentanan dan Perlindungan Anthropic

Anthropic mengumumkan lebih awal bulan ini bahwa Mythos telah menemukan “ribuan kerentanan dengan tingkat keparahan tinggi, termasuk beberapa pada setiap sistem operasi besar dan peramban web.” Perusahaan memperingatkan bahwa kemampuan seperti ini dapat menyebar dengan cepat dan tidak tetap berada di tangan yang aman, dengan menyatakan: “Tidak akan lama sebelum kemampuan seperti itu menyebar, berpotensi melampaui aktor yang berkomitmen untuk menerapkannya dengan aman.”

Pip White, kepala Anthropic untuk Inggris, Irlandia, dan Eropa utara, mengatakan minat dari para eksekutif meningkat dengan cepat setelah kabar tentang model tersebut. Dalam sebuah wawancara, White menyatakan: “Kami menempatkan perlindungan kami sendiri dan batasan kami sendiri di sekitar produk ini karena kami tahu seberapa kuat produk ini.”

Rilis Opus 4.7

Pada hari Kamis, Anthropic merilis Opus 4.7, model baru yang dirancang untuk tugas rekayasa perangkat lunak. Menurut perusahaan, Opus 4.7 dapat menangani pekerjaan pengkodean yang sebelumnya memerlukan pengawasan yang lebih dekat, mengikuti instruksi lebih baik daripada model-model yang lebih lama, dan memeriksa gambar resolusi lebih tinggi untuk mengidentifikasi detail dalam bagan yang padat dan gambar yang kompleks.

Anthropic mencatat bahwa Opus 4.7 kurang mampu dibandingkan Mythos, termasuk dalam kasus penggunaan siber. Selama pelatihan, perusahaan menguji metode untuk “secara diferensial mengurangi” kemampuan siber model tersebut.