Anthropic menuduh laboratorium AI China mencuri data Claude

Investing.com - Anthropic pada hari Senin menuduh tiga laboratorium kecerdasan buatan di China melakukan kegiatan ekstraksi data besar-besaran terhadap model AI Claude mereka, mengklaim perusahaan-perusahaan ini menggunakan akun penipuan untuk secara ilegal meningkatkan model mereka.

Perusahaan AI ini menyatakan bahwa DeepSeek, Moonshot, dan MiniMax melakukan lebih dari 16 juta interaksi dengan Claude melalui sekitar 24.000 akun penipuan, melanggar ketentuan layanan dan batasan akses wilayah. Tuduhan ini muncul setelah OpenAI mengajukan klaim serupa, di mana OpenAI memberitahu anggota DPR bahwa DeepSeek menggunakan teknik distilasi untuk memperkuat model mereka.

Laboratorium-laboratorium China ini menggunakan metode yang disebut distilasi, yaitu melatih model yang kurang mampu dengan output dari sistem yang lebih canggih. Meskipun distilasi adalah teknik pelatihan yang sah untuk membuat versi kecil dari model AI, Anthropic menyatakan bahwa ketika pesaing menggunakannya untuk memperoleh kemampuan dari laboratorium lain, praktik ini menjadi ilegal.

Menurut Anthropic, kegiatan ini menargetkan fitur terdepan Claude, termasuk kemampuan penalaran, penggunaan alat, dan fungsi pengkodean. Perusahaan menyatakan bahwa mereka mengidentifikasi aktivitas ini melalui asosiasi alamat IP, metadata permintaan, dan indikator infrastruktur.

Dilaporkan bahwa DeepSeek menghasilkan lebih dari 150.000 interaksi yang berfokus pada kemampuan penalaran dan tugas berbasis penilaian. Operasi ini menggunakan lalu lintas sinkron di antara beberapa akun, dengan pola yang sama dan metode pembayaran yang sama. Anthropic menyatakan bahwa permintaan prompt dari DeepSeek meminta Claude secara bertahap menjelaskan proses internal di balik respons yang telah selesai, menghasilkan data pelatihan rantai pemikiran. Perusahaan juga mengamati beberapa tugas di mana Claude digunakan untuk membuat alternatif terhadap pertanyaan sensitif politik tentang aktivis, pemimpin partai, dan otoritarianisme.

Moonshot AI melakukan lebih dari 3,4 juta interaksi yang berfokus pada kemampuan penalaran, penggunaan alat, pengkodean, dan penglihatan komputer. Operasi ini menggunakan ratusan akun penipuan melalui beberapa jalur akses. Anthropic mengaitkan aktivitas ini ke perusahaan tersebut melalui pencocokan metadata permintaan dengan profil publik eksekutif Moonshot.

MiniMax menghasilkan lebih dari 13 juta interaksi yang berfokus pada pengkodean dan penggunaan alat. Anthropic mendeteksi aktivitas ini saat MiniMax merilis model pelatihannya sebelum aktivitas tersebut aktif. Ketika Anthropic merilis model baru selama operasi MiniMax, laboratorium China ini mengalihkan hampir setengah lalu lintas dalam 24 jam untuk menangkap kemampuan sistem terbaru.

Anthropic menyatakan bahwa laboratorium-laboratorium ini mengakses Claude melalui layanan agen komersial yang menjual kembali akses ke model AI. Layanan ini mengoperasikan jaringan akun penipuan yang mengarahkan lalu lintas ke API Anthropic dan platform cloud pihak ketiga. Dalam satu kasus, satu jaringan agen mengelola lebih dari 20.000 akun penipuan secara bersamaan.

Demi alasan keamanan nasional, Anthropic tidak menyediakan akses komersial ke Claude di China. Perusahaan menyatakan bahwa model distilasi ilegal ini tidak memiliki perlindungan keamanan yang diperlukan, menimbulkan risiko keamanan. Sistem yang dibangun oleh Anthropic dan perusahaan AS lainnya dirancang untuk mencegah pelaku menggunakan AI untuk mengembangkan senjata biologis atau melakukan aktivitas siber berbahaya.

Anthropic menyatakan bahwa mereka telah membangun sistem deteksi dan alat sidik jari perilaku untuk mengenali pola serangan distilasi dalam lalu lintas API. Perusahaan sedang berbagi indikator teknis ini dengan laboratorium AI lain, penyedia layanan cloud, dan otoritas terkait. Mereka juga memperkuat verifikasi terhadap akun edukasi dan proyek penelitian keamanan.

Artikel ini diterjemahkan dengan bantuan kecerdasan buatan. Untuk informasi lebih lanjut, silakan lihat ketentuan penggunaan kami.