Indonesia dan Malaysia telah secara resmi memblokir akses ke Grok, chatbot kecerdasan buatan yang dikembangkan oleh xAI milik Elon Musk, karena kemampuannya untuk menghasilkan deepfake seksual eksplisit tanpa persetujuan orang sungguhan. Larangan tersebut, yang diumumkan pada akhir pekan lalu, menandai tindakan formal pertama pemerintah terhadap chatbot, meskipun kekhawatiran mengenai penyalahgunaannya telah muncul secara global.
Зміст
Masalahnya: Penyalahgunaan yang Dihasilkan AI
Grok memungkinkan pengguna untuk meminta gambar individu dalam skenario eksplisit, termasuk gambar yang menggambarkan ketelanjangan atau pose sugestif. Gambar-gambar ini, yang sering disebut sebagai “deepfakes”, dibuat tanpa persetujuan orang yang digambarkan, sehingga menimbulkan pertanyaan hukum dan etika yang serius tentang privasi, pencemaran nama baik, dan eksploitasi seksual. Aksesibilitas chatbot melalui X (sebelumnya Twitter), yang juga dimiliki oleh Musk, telah memperkuat penyebaran gambar-gambar ini.
Respon Pemerintah
Menteri Komunikasi dan Digital Indonesia, Meutya Hafid, menyatakan bahwa pemerintah menganggap deepfake semacam itu merupakan “pelanggaran serius terhadap hak asasi manusia, martabat, dan keamanan di ruang digital.” Keputusan untuk memblokir akses merupakan respons langsung terhadap penyebaran gambar-gambar tersebut. Malaysia juga menerapkan larangan serupa pada hari Minggu, yang menggarisbawahi kekhawatiran luas atas potensi penyalahgunaan chatbot.
Mengapa Ini Penting
Situasi ini menyoroti meningkatnya risiko yang terkait dengan teknologi AI yang tidak diatur. Meskipun AI generatif memiliki banyak penerapan yang sah, potensi penyalahgunaannya semakin terlihat. Kasus Grok menimbulkan pertanyaan kritis mengenai moderasi konten, tanggung jawab platform, dan kerangka hukum yang diperlukan untuk melindungi individu dari bahaya yang dibuat secara digital. Fakta bahwa kedua negara ini adalah negara pertama yang mengambil tindakan menunjukkan bahwa pemerintah negara lain mungkin akan mengawasi dengan cermat bagaimana situasi ini akan berkembang.
X Corp Tetap Diam
Hingga tulisan ini dibuat, X Corp, anak perusahaan xAI, belum menanggapi larangan tersebut secara terbuka. Keheningan perusahaan Musk menambah kontroversi, mengingat sikap vokalnya terhadap “absolutisme kebebasan berpendapat” yang sering bertentangan dengan peraturan internasional.
Larangan di Indonesia dan Malaysia merupakan peringatan keras: teknologi AI yang memungkinkan penyalahgunaan akan menghadapi reaksi keras dari peraturan. Insiden ini memaksa pembicaraan yang lebih luas mengenai keseimbangan antara inovasi dan perlindungan hak asasi manusia di era digital.
