Regulator Australia Menandai Grok dalam Keluhan Penyalahgunaan Gambar AI yang Meningkat

Singkatnya

• Komisioner eSafety Australia menandai lonjakan keluhan tentang chatbot Grok Elon Musk yang membuat gambar seksual non-konsensual, dengan laporan yang berlipat ganda sejak akhir 2025.
• Beberapa keluhan melibatkan potensi materi eksploitasi seksual anak, sementara yang lain terkait dengan orang dewasa yang menjadi korban penyalahgunaan berbasis gambar.
• Kekhawatiran ini muncul saat pemerintah di seluruh dunia menyelidiki moderasi konten yang longgar dari Grok, dengan UE menyatakan mode “Spicy” dari chatbot tersebut ilegal.

Regulator keselamatan online independen Australia mengeluarkan peringatan Kamis tentang meningkatnya penggunaan Grok untuk menghasilkan gambar seksual tanpa izin, mengungkapkan bahwa kantornya telah menerima keluhan tentang chatbot AI ini yang berlipat ganda dalam beberapa bulan terakhir. Komisioner eSafety Australia Julie Inman Grant mengatakan beberapa laporan melibatkan potensi materi eksploitasi seksual anak, sementara yang lain terkait dengan orang dewasa yang menjadi korban penyalahgunaan berbasis gambar. “Saya sangat prihatin dengan meningkatnya penggunaan AI generatif untuk mensexualisasi atau mengeksploitasi orang, terutama yang melibatkan anak-anak,” tulis Grant di LinkedIn pada hari Kamis. 

Komentar ini muncul di tengah meningkatnya reaksi internasional terhadap Grok, sebuah chatbot yang dibangun oleh startup AI miliarder Elon Musk, xAI, yang dapat dipicu langsung di X untuk mengubah foto pengguna. Grant memperingatkan bahwa kemampuan AI untuk menghasilkan “konten hiper-realistis” membuatnya lebih mudah bagi pelaku jahat untuk menciptakan penyalahgunaan sintetis dan lebih sulit bagi regulator, penegak hukum, dan kelompok keselamatan anak untuk merespons. Berbeda dengan pesaing seperti ChatGPT, xAI milik Musk menempatkan Grok sebagai alternatif yang “berani” yang menghasilkan konten yang tidak mau diproduksi model AI lain. Agustus lalu, mereka meluncurkan “Mode Pedas” secara khusus untuk membuat konten eksplisit. Grant memperingatkan bahwa kode industri yang dapat ditegakkan di Australia mengharuskan layanan online untuk menerapkan perlindungan terhadap materi eksploitasi seksual anak, baik yang dihasilkan AI maupun tidak.

Tahun lalu, eSafety mengambil tindakan penegakan terhadap layanan “nudify” yang banyak digunakan, memaksa mereka keluar dari Australia, tambahnya. “Kami sekarang memasuki era di mana perusahaan harus memastikan produk AI generatif memiliki perlindungan dan pengaman yang sesuai di setiap tahap siklus hidup produk,” kata Grant, mencatat bahwa eSafety akan “menyelidiki dan mengambil tindakan yang sesuai” menggunakan seluruh rangkaian alat regulasi yang dimiliki. Deepfakes meningkat Pada September, Grant mengamankan hukuman deepfake pertama di Australia ketika pengadilan federal mendenda pria Gold Coast, Anthony Rotondo, sebesar (A$212.000) @E5@A$343.500( karena memposting pornografi deepfake dari wanita Australia terkenal. Komisioner eSafety membawa Rotondo ke pengadilan pada 2023 setelah dia menolak pemberitahuan penghapusan, mengatakan bahwa pemberitahuan tersebut “tak berarti apa-apa baginya” karena dia bukan penduduk Australia, lalu mengirim email gambar tersebut ke 50 alamat, termasuk kantor Grant dan media, menurut laporan ABC News. Pembuat undang-undang Australia mendorong perlindungan yang lebih kuat terhadap deepfake tanpa izin di luar hukum yang ada. Senator independen David Pocock memperkenalkan RUU Perubahan Keselamatan Online dan Legislatif Lainnya )My Face, My Rights( pada November, yang akan memungkinkan individu yang membagikan deepfake tanpa izin dikenai denda sebesar )A$102.000( @E5@A$165.000) di muka, dengan perusahaan menghadapi denda hingga A$510.000 @E5@A$825.000 karena ketidakpatuhan terhadap pemberitahuan penghapusan. “Kita sekarang hidup di dunia di mana semakin banyak orang dapat membuat deepfake dan menggunakannya sesuka hati,” kata Pocock dalam sebuah pernyataan, mengkritik pemerintah yang “tertidur di kemudi” terkait perlindungan AI.