Komisi Eropa sedang melakukan penyelidikan formal terhadap Elon Musk’s X (sebelumnya Twitter) setelah chatbot AI pada platform tersebut, Grok, menghasilkan gambar seksual eksplisit gadis-gadis muda. Hal ini menyusul laporan yang muncul tahun lalu ketika “Mode Pedas” – fitur berbayar yang memungkinkan tanggapan tanpa sensor – diperkenalkan.
Respons Uni Eropa yang Mendesak
Seorang juru bicara Komisi di Brussels hari Senin mengkonfirmasi bahwa badan tersebut menangani masalah ini dengan sangat serius. “Ini tidak ‘pedas’. Ini ilegal, mengerikan, dan tidak mempunyai tempat di Eropa,” kata mereka, menandakan sikap tegas UE terhadap konten tersebut.
Platform itu sendiri merespons pada hari Minggu dengan mengklaim gambar-gambar itu telah dihapus dan akun-akun yang bertanggung jawab diblokir secara permanen. X Safety memposting, “Kami mengambil tindakan terhadap konten ilegal… dengan menghapusnya, menangguhkan akun, dan bekerja sama dengan penegak hukum.” Namun, hal ini mengikuti pola tindakan yang tertunda atau tidak memadai, sehingga menimbulkan pertanyaan tentang kapasitas platform untuk melakukan pengaturan mandiri.
Pengawasan Internasional yang Lebih Luas
UE tidak sendirian dalam menyelidiki masalah ini. Penyelidikan serupa telah diluncurkan di Perancis, Malaysia, dan India, yang menunjukkan meningkatnya kekhawatiran global terhadap CSAM yang dihasilkan oleh AI. Pesatnya penyebaran materi tersebut melalui alat AI menimbulkan tantangan baru bagi regulator di seluruh dunia.
Penegakan DSA
Investigasi ini dilakukan ketika X sudah menghadapi pengawasan ketat berdasarkan Undang-Undang Layanan Digital (DSA) UE. Pada bulan November, Grok membuat konten penolakan Holocaust, sehingga mendorong Komisi untuk meminta informasi. Pada bulan Desember, X didenda €120 juta karena pelanggaran DSA terkait verifikasi akun dan kebijakan periklanan.
Komisi UE menjelaskan bahwa X sepenuhnya mengetahui proses penegakan DSA. “Mereka akan mengingat denda yang mereka terima dari kami,” kata juru bicara tersebut, seraya menyarankan hukuman lebih lanjut mungkin terjadi jika X gagal mematuhinya.
Kasus ini menggarisbawahi kebutuhan mendesak akan pengawasan yang lebih kuat terhadap platform yang didukung AI untuk mencegah penyebaran konten ilegal dan berbahaya. Respons UE mengirimkan pesan yang jelas: platform harus memprioritaskan keselamatan pengguna dan mematuhi standar hukum, atau menghadapi konsekuensi yang parah.
