UE Menyebut Gambar Anak Grok sebagai 'Ilegal' saat Penindakan Global Meningkat

Singkatnya

• Juru bicara UE menuding gambar anak yang seksualisasi dari Grok sebagai “ilegal” dalam komentar hari Senin. ​- Regulator global juga meluncurkan penyelidikan karena xAI mengabaikan kemarahan yang meningkat.
• Pelanggaran DSA berulang dan perlindungan yang lemah menempatkan X dan Grok pada risiko hukum serius.

Komisi Eropa baru saja memberi tahu Elon Musk apa yang sudah diketahui semua orang: membuat gambar seksualisasi anak bukanlah “pedas.” Itu ilegal. “Kami menyadari bahwa X atau Grok sekarang menawarkan ‘Mode Pedas’ yang menampilkan konten seksual eksplisit dengan beberapa output yang dihasilkan dengan gambar seperti anak-anak,” kata juru bicara Komisi UE Thomas Regnier pada hari Senin di konferensi pers di Brussels. “Ini bukan pedas. Ini ilegal. Ini mengerikan. Ini menjijikkan. Ini tidak memiliki tempat di Eropa.” Pernyataan ini menandai peningkatan dalam kontroversi yang, seperti yang dilaporkan Decrypt, telah melihat chatbot xAI menghasilkan deepfake non-konsensual dari wanita, menjadi alat pemasaran untuk pembuat konten OnlyFans, dan memanipulasi gambar untuk tujuan politik. 

Regnier menegaskan bahwa ini bukan pelanggaran pertama Grok. Komisi sebelumnya mengirim permintaan informasi setelah chatbot menghasilkan konten penyangkalan Holocaust tahun lalu—pelanggaran lain di beberapa negara Eropa. “Saya rasa X sangat menyadari bahwa kami sangat serius dalam penegakan DSA,” kata juru bicara UE kepada Euronews, merujuk pada Digital Services Act. “Mereka akan mengingat denda yang telah kami berikan kepada mereka.” Denda bulan Desember itu sebesar €120 juta ($140 juta)—denda pertama yang pernah dikenakan di bawah DSA. Komisi memutuskan bahwa X melanggar persyaratan transparansi terkait sistem tanda centang biru, repositori iklan, dan akses data untuk peneliti. X tetap dalam penyelidikan aktif DSA untuk konten ilegal dan disinformasi. Musk menyebut denda tersebut sebagai “omong kosong” dan mengatakan akan menantangnya.

Perancis juga memperluas penyelidikan kriminal untuk memasukkan tuduhan bahwa Grok menghasilkan pornografi anak. Ofcom Inggris mengeluarkan tuntutan mendesak pada hari Senin agar X menjelaskan bagaimana Grok memproduksi gambar-gambar ini. Kementerian TI India memberi X waktu sampai 5 Januari untuk menyediakan tinjauan keselamatan yang komprehensif, dan Malaysia membuka penyelidikan sendiri. Anggota parlemen Belanda Jeroen Lenaers menyoroti pendekatan xAI. “Jika platform AI memilih untuk mengizinkan pembuatan konten erotis, perlindungan yang kokoh, efektif, dan dapat diverifikasi secara independen harus diterapkan sebelumnya,” kata Lenaers pada hari Selasa. Lenaers menambahkan bahwa mengandalkan penghapusan materi pelecehan seksual anak setelah dibuat tidak cukup karena “kerusakan kepada korban sudah dilakukan dan tidak dapat dibatalkan." Itulah yang sebenarnya terjadi. Seperti yang dilaporkan Decrypt, Grok memposting gambar seksualisasi anak di bawah umur sebelum menghapusnya. Chatbot tersebut meminta maaf minggu lalu karena menghasilkan gambar gadis berusia 12-16 tahun, menyebut insiden tersebut sebagai “kelalaian dalam perlindungan.” Pada saat itu, kerusakan sudah terjadi. Respons xAI terhadap tekanan internasional yang meningkat? Ketika Reuters meminta komentar, perusahaan menjawab: “Kebohongan media warisan.” Beberapa penyelidikan regulasi kini mengancam strategi tersebut. DSA memungkinkan denda hingga 6% dari pendapatan tahunan global untuk pelanggaran. Denda bulan Desember untuk X dihitung menggunakan persentase yang lebih rendah untuk pelanggaran pertama. Pelanggaran berulang bisa menelan biaya jauh lebih besar. Reaksi politik dari Washington setelah serangkaian denda pertama langsung terjadi. Wakil Presiden JD Vance memposting bahwa UE “harus mendukung kebebasan berbicara, bukan menyerang perusahaan Amerika atas sampah.” Sekretaris Negara Marco Rubio menyebut denda DSA bulan Desember sebagai “serangan terhadap rakyat Amerika.”

Rumor beredar bahwa komisi UE akan mendenda X ratusan juta dolar karena tidak melakukan sensor. UE harus mendukung kebebasan berbicara, bukan menyerang perusahaan Amerika atas sampah.

— JD Vance (@JDVance) 4 Desember 2025

Namun regulator Eropa tidak percaya pada pembelaan kebebasan berbicara terkait materi pelecehan seksual anak. Bahasa Regnier hari Senin tidak memberi ruang untuk interpretasi. Ini bukan perdebatan tentang sensor politik atau budaya moderasi konten yang berbeda, tetapi tentang menghentikan produksi dan penyebaran gambar seksualisasi anak yang ilegal. xAI belum melakukan perubahan substantif pada kemampuan Grok. Tab Media dari chatbot dinonaktifkan setelah dipenuhi gambar seksualisasi, tetapi fungsi utama edit-gambar dan kemampuan menghidupkan foto tersebut tetap aktif.