xAI Hilangkan Laporan Kasus CSAM Grok ke NCMEC

Gugatan hukum kelompok terhadap xAI milik Elon Musk di pengadilan federal Amerika Serikat kian bertambah kuat setelah penggugat baru mengungkap penyalahgunaan fitur pembuat gambar Grok untuk memproduksi materi eksploitasi seksual anak.

Gugatan yang awalnya diajukan tiga remaja Tennessee pada Maret tersebut mengalami perluasan bulan lalu dengan bergabungnya dua penggugat tambahan, termasuk korban yang diidentifikasi sebagai Jane Doe 4. Perkara ini juga memasukkan Stability AI selaku pengembang model Stable Diffusion sebagai tergugat kedua.

Penggugat menyebut perusahaan melakukan kelalaian, merancang produk secara cacat hingga menimbulkan gangguan publik, serta mengambil keuntungan dari praktik perdagangan manusia berbasis seksual melalui fitur AI tersebut.

Jane Doe 4 menceritakan pengalaman traumatiknya dalam dokumen gugatan usai sebuah foto masa kecilnya dimanipulasi pelaku menjadi lebih dari 7.000 gambar dan video asusila.

"Akses tanpa batas ke alat-alat ini menyebar begitu cepat. Hal ini mengambil kehidupan sehari-hari dan mengubahnya menjadi eksploitasi seksual anak," kata Jane Doe 4, Penggugat.

Berdasarkan regulasi hukum AS, perusahaan teknologi diwajibkan melaporkan dugaan eksploitasi seksual anak kepada National Center for Missing and Exploited Children (NCMEC). Data NCMEC mencatat Meta, Amazon AI Services, TikTok, Snapchat, Discord, X.AI, Grindr, dan Roblox mengirimkan total 17 juta laporan pada 2025, yang mencakup 80 persen dari keseluruhan laporan.

Namun, NCMEC mengungkapkan bahwa mayoritas laporan tersebut menghilangkan informasi kunci, termasuk detail materi eksploitasi dalam data pelatihan AI serta rincian penting untuk membantu kepolisian melacak pelaku. Dalam kasus Jane Doe 4, X tercatat hanya mengirimkan satu laporan ke NCMEC dan menolak memberikan informasi tambahan saat diminta oleh aparat penegak hukum.

Pengacara para penggugat menegaskan bahaya laten dari keberadaan platform buatan xAI tersebut di tengah masyarakat.

"Grok adalah bencana bagi masyarakat," kata Annika Martin, Pengacara Penggugat.

Proses hukum terhadap xAI dan Stability AI hingga kini masih terus berjalan di pengadilan federal AS.