OpenAI Digugat Karena Gagal Memberi Peringatan kepada Polisi dalam Penembakan Tumbler Ridge

OpenAI sedang menghadapi gugatan yang menuduh perusahaan gagal memperingatkan polisi setelah ChatGPT dikaitkan dengan penembakan massal di Tumbler Ridge, British Columbia, menurut laporan dari Decrypt. Gugatan tersebut diajukan pada hari Rabu di pengadilan federal di Northern California oleh seorang anak di bawah umur berusia 12 tahun yang tidak disebutkan namanya, yang diidentifikasi sebagai M.G., dan ibunya, Cia Edmonds, terhadap CEO OpenAI Sam Altman dan beberapa entitas OpenAI. Gugatan tersebut menuduh perusahaan melakukan kelalaian, gagal memberi tahu pihak berwenang, tanggung jawab produk, dan membantu mengaktifkan penembakan massal.

Latar Belakang Penembakan

Kasus ini berasal dari penembakan massal di Tumbler Ridge, British Columbia, pada bulan Februari. Pihak berwenang mengatakan bahwa Jesse Van Rootselaar yang berusia 18 tahun membunuh ibunya dan saudara tiri perempuannya yang berusia 11 tahun di rumah, sebelum pergi ke Sekolah Menengah Tumbler Ridge dan membuka tembakan. Lima anak dan satu pendidik tewas di sekolah tersebut sebelum Van Rootselaar meninggal dunia karena bunuh diri.

Di antara yang terluka adalah M.G., yang ditembak tiga kali dan tetap dirawat di rumah sakit dengan cedera otak yang bersifat bencana. Pengaduan menyatakan bahwa dia sedang terjaga dan sadar, tetapi tidak bisa bergerak atau berbicara.

Dugaan Kegagalan OpenAI untuk Memberi Tahu Pihak Berwenang

Menurut gugatan, sistem otomatis OpenAI menandai akun ChatGPT milik Van Rootselaar pada bulan Juni 2025 untuk percakapan yang melibatkan kekerasan dengan senjata dan perencanaan. Anggota tim keselamatan khusus OpenAI meninjau obrolan tersebut dan menentukan bahwa pengguna tersebut menghadirkan ancaman yang kredibel dan spesifik, serta merekomendasikan agar Royal Canadian Mounted Police diberi tahu.

Gugatan tersebut menuduh para pemimpin OpenAI menolak rekomendasi internal untuk memberi tahu pihak berwenang, menonaktifkan akun Van Rootselaar tanpa memberi tahu polisi, dan membiarkannya kembali dengan membuat akun baru menggunakan alamat email yang berbeda.

Jay Edelson, pendiri dan CEO Edelson PC, pengacara yang mewakili beberapa keluarga yang menggugat OpenAI, mengatakan bahwa sistem internal perusahaan sendiri mengidentifikasi risikonya. “Sistem milik OpenAI sendiri menandai bahwa pelaku sedang terlibat dalam komunikasi tentang kekerasan yang direncanakan,” kata Edelson kepada Decrypt. “Dua belas orang di tim keselamatan mereka sedang melonjak-lonjak, mengatakan bahwa OpenAI perlu memberi tahu pihak berwenang. Dan, meskipun respons Sam Altman lemah, bahkan dia pun terpaksa mengakui minggu lalu bahwa seharusnya mereka menelepon pihak berwenang.”

Pengaduan mengutip gugatan tersebut sebagai menyatakan: “Sam Altman dan tim kepemimpinannya tahu apa arti kebisuan bagi warga Tumbler Ridge. Mereka fokus pada apa arti pengungkapan bagi diri mereka sendiri. Memberi tahu RCMP akan menjadi preseden: OpenAI akan diwajibkan untuk memberi tahu pihak berwenang setiap kali tim keselamatannya mengidentifikasi pengguna yang merencanakan kekerasan di dunia nyata.”

Tuduhan Para Penggugat Terkait Peran ChatGPT

Para penggugat mengklaim bahwa ChatGPT memperdalam obsesi kekerasan pelaku melalui fitur-fitur seperti memori, kesinambungan percakapan, dan kesediaannya untuk terlibat dalam pembahasan tentang kekerasan. Gugatan tersebut menuduh OpenAI melemahkan perlindungan pada 2024 dengan menjauh dari penolakan secara terang-terangan dalam percakapan yang melibatkan bahaya yang akan segera terjadi.

Respons OpenAI dan Permintaan Maaf Altman

Minggu lalu, Sam Altman secara publik meminta maaf kepada komunitas Tumbler Ridge atas kegagalan perusahaan untuk memberi tahu polisi. Dalam sebuah surat yang pertama kali dilaporkan oleh media Kanada Tumbler Ridgelines, Altman mengakui bahwa OpenAI seharusnya melaporkan akun tersebut setelah memban akun itu pada Juni 2025 untuk aktivitas yang terkait dengan perilaku kekerasan.

Seorang juru bicara OpenAI mengatakan kepada Decrypt: “Peristiwa di Tumbler Ridge adalah sebuah tragedi. Kami memiliki kebijakan toleransi nol untuk menggunakan alat kami guna membantu melakukan kekerasan. Seperti yang telah kami sampaikan kepada pejabat Kanada, kami telah memperkuat perlindungan kami, termasuk meningkatkan cara ChatGPT merespons tanda-tanda tekanan, menghubungkan orang dengan dukungan lokal dan sumber daya kesehatan mental, memperkuat cara kami menilai dan mengeskalasi potensi ancaman kekerasan, serta meningkatkan deteksi terhadap pelanggar kebijakan berulang.”

Tuntutan Para Penggugat

Edelson mengatakan bahwa keluarga-keluarga dan komunitas Tumbler Ridge menuntut lebih banyak transparansi dan akuntabilitas dari perusahaan. “OpenAI harus berhenti menyembunyikan informasi penting dari keluarga-keluarga, dan mereka tidak boleh mempertahankan produk berbahaya di pasaran, yang pasti akan menyebabkan lebih banyak kematian,” kata Edelson. “Akhirnya, mereka perlu berpikir panjang dan keras tentang bagaimana mereka dapat mempertahankan tim kepemimpinan yang lebih peduli untuk berlari menuju IPO daripada kehidupan manusia.”

Gugatan Terkait Terhadap OpenAI

OpenAI sudah menghadapi gugatan lain yang terkait dengan dugaan peran ChatGPT dalam bahaya di dunia nyata. Pada bulan Desember, sebuah kasus gugatan kematian yang salah diajukan yang menuduh OpenAI dan Microsoft “merancang dan mendistribusikan produk yang cacat” dalam bentuk model GPT-4o yang kini sudah tidak lagi digunakan. Gugatan tersebut menuduh bahwa ChatGPT memperkuat keyakinan paranoid Stein-Erik Soelberg sebelum dia membunuh ibunya, Suzanne Adams, dan kemudian dirinya sendiri di rumah mereka di Greenwich, Connecticut.

J. Eli Wade-Scott, managing partner Edelson PC, mengatakan kepada Decrypt saat itu: “Ini adalah kasus pertama yang berupaya membuat OpenAI bertanggung jawab atas menyebabkan kekerasan terhadap pihak ketiga. Kami mendesak penegak hukum untuk mulai memikirkan kapan tragedi seperti ini terjadi, apa yang dikatakan pengguna tersebut kepada ChatGPT, dan apa yang diberitahukan ChatGPT kepada mereka untuk dilakukan.”