xAI Menghadapi Gugatan Kasus Dugaan Pelatihan AI Berbasis CSAM

Perusahaan kecerdasan buatan xAI menghadapi gugatan hukum dari seorang korban pelecehan seksual anak berinisial Jane Doe atas dugaan penggunaan materi pelecehan seksual terhadap anak (CSAM) dalam melatih model AI Grok, sebagaimana dilansir dari Detik iNET.

Gugatan tersebut dipicu setelah Canadian Centre for Child Protection (CCCP) memberi tahu korban mengenai ditemukannya konten CSAM buatan AI yang menampilkan dirinya di platform milik xAI. Gambar asli milik penggugat sebelumnya telah diberi penanda digital oleh National Center for Missing and Exploited Children (NCMEC).

Penggugat menilai bahwa xAI diduga menyimpan serta memproses gambar buatan AI tersebut untuk menyempurnakan kemampuan pembuatan konten visual pada model Grok. Materi tersebut diduga kuat masuk ke dalam kumpulan data pelatihan xAI karena terdaftar dalam Daftar Hash CSAM NCMEC.

Penggugat memaparkan mekanisme pengumpulan data pelatihan yang diterapkan oleh perusahaan teknologi tersebut dalam berkas gugatannya.

"Karena ketentuan layanan Grok memperlakukan postingan publik di X dan hasil keluaran Grok sendiri sebagai data pelatihan secara default, mengunggah gambar ke publik tidak hanya membuatnya dapat dilihat oleh pengguna lain, tetapi juga memasukkannya secara langsung ke dalam alur kerja yang digunakan xAI untuk melatih dan menyempurnakan modelnya, serta menghasilkan gambar-gambar baru," demikian bunyi gugatan Doe.

Gugatan itu juga menegaskan bahwa kebijakan penyaringan konten kekerasan xAI tidak menyebutkan secara eksplisit terkait penanganan materi CSAM atau konten intim tanpa persetujuan.

"Dikarenakan penghapusan total pengaruh suatu contoh data pelatihan dari model yang sudah terlatih merupakan hal yang sulit secara teknis -- dan bukan sesuatu yang pernah diklaim secara publik telah dilakukan oleh xAI -- maka materi CSAM apa pun yang masuk ke dalam proses pelatihan sebelum penghapusan konten kemungkinan besar tetap memengaruhi hasil keluaran model, bahkan setelah gambar aslinya tidak lagi dapat dilihat oleh publik," ungkap gugatan Doe.

Kasus ini menjadi gugatan hukum pertama yang secara resmi menuduh xAI memanfaatkan materi CSAM dalam proses pengembangan dan pelatihan model kecerdasan buatan mereka.