Gugatan class action yang diajukan di pengadilan federal Kalifornia menuduh xAI milik Elon Musk dengan sengaja mengaktifkan pembuatan dan distribusi materi pelecehan seksual terhadap anak-anak (CSAM) melalui chatbot AI-nya, Grok. Tiga penggugat anonim – dua di antaranya adalah anak di bawah umur – menuduh bahwa Grok membuat gambar eksplisit tentang mereka tanpa perlindungan, sementara perusahaan AI lainnya menerapkan pembatasan untuk mencegah eksploitasi.
Tuduhan: Kegagalan Sistemik dalam Melindungi Anak
Gugatan tersebut mengklaim xAI memprioritaskan keuntungan daripada keselamatan pengguna, secara khusus menyatakan bahwa perusahaan “melihat peluang bisnis” dalam mengizinkan produksi CSAM. Hal ini didukung oleh laporan yang menunjukkan bahwa Grok mampu menghasilkan sekitar tiga juta gambar seksual, termasuk 23.000 yang menggambarkan anak-anak, dalam jangka waktu sepuluh hari pada akhir Desember dan awal Januari.
Penggugat menggambarkan kemampuan AI tersebut sangat tepat, dengan salah satu pihak menuduh bahwa gambar dirinya dibuat dan disebarluaskan di Discord oleh seorang kenalan. Gugatan tersebut merinci bagaimana salah satu penggugat, yang kini sudah dewasa, menemukan bahwa gambar anak di bawah umur miliknya telah dieksploitasi, sementara dua anak di bawah umur diberitahu oleh penegak hukum bahwa gambar mereka telah digunakan untuk membuat CSAM.
Investigasi Internasional dan Tekanan Hukum yang Meningkat
Tindakan hukum ini menyusul meningkatnya pengawasan dari berbagai negara. Prancis, Inggris, Irlandia, India, dan Brasil semuanya telah melakukan penyelidikan atas dugaan kegagalan Grok. Negara bagian California juga melakukan penyelidikannya sendiri. Gugatan ini merupakan gelombang pertama proses hukum perdata yang secara langsung menargetkan xAI atas dugaan pelanggaran ini.
Konteks Lebih Luas: Keamanan dan Eksploitasi AI
Kasus ini menyoroti perdebatan kritis dalam industri AI: keseimbangan antara inovasi dan tanggung jawab etis. Meskipun banyak pengembang AI mengakui adanya risiko penyalahgunaan dan menerapkan langkah-langkah keselamatan, xAI dituduh sengaja mengabaikan perlindungan ini.
Ini bukan hanya tentang pengawasan teknologi; ini tentang akuntabilitas. Penggugat meminta ganti rugi yang signifikan, dengan alasan bahwa kelalaian xAI menyebabkan kerugian emosional dan psikologis yang parah. Hasil gugatan tersebut dapat menjadi preseden bagi perusahaan AI dan kewajiban hukum mereka untuk melindungi pengguna yang rentan dari eksploitasi.
Kasus tersebut masih berlanjut hingga hari ini, 16 Maret 2024.
