Grok Milik xAI Menghadapi Gugatan Baru Atas Kasus Rekayasa Konten Asusila

Seorang perempuan asal Wyoming yang diidentifikasi sebagai Jane Doe 4 bergabung dalam gugatan kelompok terhadap xAI atas dugaan penggunaan chatbot Grok untuk mengubah foto masa kecilnya menjadi lebih dari 7.000 gambar eksploitasi seksual anak yang disebarkan secara daring.

Gugatan tersebut pertama kali diajukan pada Maret lalu oleh tiga remaja asal Tennessee. Para penggugat menuduh perusahaan milik Elon Musk itu gagal menerapkan batasan dasar untuk mencegah manipulasi foto anak bawah umur menjadi konten asusila buatan.

Jane Doe 4 mengetahui peristiwa tersebut saat aparat kepolisian menggeledah kediaman orang tuanya dan memeriksa perangkat elektronik ayah tirinya. Dua hari setelah penggeledahan, sang ayah tiri ditemukan tewas bunuh diri di dalam mobilnya.

"Akses tanpa batas ke alat-alat ini menyebar sangat cepat. Hal ini mengambil kehidupan sehari-hari dan mengubahnya menjadi pelecehan seksual anak," kata Jane Doe 4.

Gugatan serupa diajukan pada 13 Agustus di Pengadilan Federal Fayetteville oleh Jane Roe atas nama putranya yang berusia 16 tahun, John Doe, di Arkansas. Kepolisian setempat memberi tahu Roe pada Juni bahwa foto anak laki-lakinya diubah menjadi konten eksploitasi anak melalui Grok.

Kuasa hukum penggugat menyatakan bahwa materi sintetis tersebut memperlihatkan seluruh tubuh korban tanpa busana serta menampilkan berbagai adegan asusila yang tersebar selama beberapa minggu.

"Ini adalah gugatan keempat dari apa yang tampaknya akan menjadi jauh lebih banyak di masa depan seiring kita mempelajari lebih lanjut tentang cakupan dan skala sebenarnya dari peristiwa tragis ini bagi anak-anak dan keluarga mereka," ujar Derek Potts, pengacara yang mewakili Roe dan Doe.

Pengaduan hukum tersebut menegaskan bahwa xAI memilih untuk memonetisasi sistem tanpa membangun perlindungan memadai, meskipun risiko pembuatan deepfake asusila telah diperingatkan sebelumnya oleh berbagai pihak.

"Pembuatan materi eksploitasi seksual anak oleh kecerdasan buatan seharusnya tidak terjadi dalam kondisi apa pun dan kami merasa terhormat berada di garis depan hukum untuk menuntut keadilan bagi keluarga yang kami wakili," kata Potts.

Selain kasus gugatan di Amerika Serikat, Anggota Parlemen Inggris dari Partai Buruh, Jess Asato, juga mengambil langkah hukum terhadap xAI setelah foto dirinya direkayasa menjadi konten tak senonoh tanpa izin di platform X.

Asato melayangkan gugatan setelah upaya meminta penghapusan konten tersebut tidak mendapat tanggapan memadai dari pihak pengelola platform.

"Sebagai anggota Parlemen yang banyak berurusan dengan kekerasan terhadap perempuan dan anak perempuan, saya bersuara dan mengatakan bahwa xAI tidak boleh melakukan ini dan harus berhenti. Kemudian saya menjadi korban dari foto-foto 'tempatkan perempuan itu dalam bikini' yang sedang dibuat," ujar Jess Asato.

Ia menekankan pentingnya meminta pertanggungjawaban perusahaan teknologi atas keputusan desain produk mereka yang dinilai membiarkan terjadinya pelecehan.

"Anda hanya menghadapi tembok keheningan tanpa jawaban," kata Asato saat menceritakan pengalamannya menghubungi pihak xAI.

Langkah hukum ini diambil untuk mendorong penetapan standar keselamatan bagi pengembang kecerdasan buatan dalam melindungi data dan privasi masyarakat.

"Ini seperti 'Daud melawan Goliat'. Saya melawan orang terkaya di dunia, tetapi itu karena saya percaya tidak peduli seberapa kaya Anda atau seberapa besar perusahaan Anda, sangat penting untuk mematuhi hukum lokal tempat produk Anda dikonsumsi dan dikembangkan," ujar Asato.

Asato menilai kegagalan sistem perlindungan pada sistem kecerdasan buatan merupakan kelalaian sengaja dari pihak pengembang.

"Kita berharap perusahaan merancang produk mereka agar tidak dapat disalahgunakan untuk menimbulkan bahaya dan mempropagandakan kekerasan seksual terhadap perempuan dan anak-anak," kata Asato.

Ia menyoroti bahwa aturan internal kecerdasan buatan tersebut secara terbuka melonggarkan batasan konten dewasa.

"Selama terlalu lama, perusahaan ini bersembunyi di balik alasan bahwa penggunalah yang bertanggung jawab, padahal desain alat tersebut secara ceroboh memungkinkan pembuat konten asusila, bahkan tanpa diminta. Apa yang terjadi pada saya bukanlah kecelakaan, Musk membuat pilihan untuk meraup keuntungan dari bahaya dan melatih Grok untuk melakukan pelecehan," ujar Asato.

Center for Countering Digital Hate mencatat bahwa antara 29 Desember 2025 hingga 8 Januari 2026, Grok telah menghasilkan sekitar tiga juta gambar bermuatan asusila, dengan lebih dari 20.000 di antaranya menggambarkan anak-anak. Saat ini, xAI dan platform X tengah menghadapi penyelidikan resmi dari Jaksa Agung California dan Uni Eropa terkait pengawasan konten buatan AI tersebut.