Apple baru-baru ini terlibat dalam perselisihan besar dengan xAI milik Elon Musk untuk mengatasi proliferasi deepfake seksual non-konsensual yang dihasilkan oleh Grok, alat AI yang terintegrasi ke dalam platform X (sebelumnya Twitter).
Laporan baru mengungkapkan bahwa Apple mengancam akan melarang Grok dari App Store kecuali pengembang menerapkan perlindungan yang lebih ketat untuk mencegah pembuatan gambar berbahaya yang dihasilkan oleh AI.
Зміст
Konflik: Keamanan vs. Fungsionalitas
Ketegangan ini berasal dari kemampuan Grok tidak hanya menghasilkan teks, tetapi juga gambar dan video. Sejak akhir tahun lalu, pengguna telah mengeksploitasi kemampuan ini untuk membuat gambar eksplisit dan non-konsensual mengenai orang-orang nyata—termasuk perempuan dan anak-anak—yang kemudian didistribusikan secara luas di X.
Menurut komunikasi yang diungkapkan kepada senator AS, Apple mengambil sikap tegas:
– Penegakan Kebijakan: Apple menyatakan bahwa aplikasi yang menghasilkan dan menyebarkan konten semacam itu melanggar pedoman platform inti mereka.
– Ultimatum: Apple memperingatkan xAI bahwa Grok akan dihapus dari App Store jika gagal mengatasi krisis deepfake.
– Resolusi (untuk saat ini): Setelah serangkaian penolakan dan pengerjaan ulang, Apple menyetujui versi baru aplikasi Grok, dengan menyatakan bahwa perangkat lunak tersebut telah “meningkat secara signifikan”.
Risiko yang Berkelanjutan dan Tekanan Peraturan
Meskipun Apple menyetujui pembaruan perangkat lunak terbaru, perjuangan masih jauh dari selesai. Investigasi baru-baru ini oleh NBC News menunjukkan bahwa gambar seksual yang dihasilkan oleh AI masih diproduksi melalui Grok dan menyebar ke internet. Hal ini menunjukkan bahwa meskipun “filter” teknis mungkin telah ditambahkan, namun filter tersebut belum sepenuhnya aman.
Masalah yang terus-menerus ini mendapat sorotan tajam dari para anggota parlemen:
– Pengawasan Kongres: Senator Ron Wyden dan Ben Ray Luján telah mendorong raksasa teknologi untuk mengambil tanggung jawab atas “proliferasi menjijikkan” dari gambar-gambar non-konsensual.
– Kesenjangan Akuntabilitas: Meskipun Apple transparan mengenai tindakan penegakan hukumnya, anggota parlemen mengkritik Google karena kurangnya respons dan menyatakan frustrasi atas anggapan kurangnya akuntabilitas hukum bagi X terkait distribusi materi tersebut.
Pertahanan dari xAI
Menanggapi kontroversi ini, xAI menyatakan bahwa mereka memiliki “perlindungan ekstensif” yang diterapkan. Perusahaan mengklaim untuk memanfaatkan:
– Pemantauan terus menerus terhadap penggunaan publik.
– Analisis upaya penghindaran secara real-time.
– Pembaruan model yang sering dan filter cepat.
Perusahaan tersebut secara resmi menyatakan bahwa mereka melarang keras pembuatan deepfake eksplisit tanpa persetujuan atau penggunaan alatnya untuk “menelanjangi” individu sungguhan.
Mengapa Ini Penting
Situasi ini menyoroti krisis yang berkembang di industri teknologi: permainan kucing-dan-tikus’ antara pengembang AI dan regulator keselamatan. Ketika AI generatif menjadi lebih canggih, metode yang digunakan untuk melewati filter keamanan menjadi lebih canggih.
Kebuntuan antara Apple dan xAI menjadi preseden penting mengenai seberapa besar tanggung jawab platform “penjaga gerbang” (seperti App Store) terhadap konten yang dihasilkan oleh alat AI pihak ketiga. Jika upaya perlindungan terus gagal, tekanan untuk melakukan sensor yang lebih agresif atau peraturan federal yang lebih ketat kemungkinan akan semakin meningkat.
Kesimpulan: Meskipun Apple telah mengizinkan Grok untuk tetap menggunakan platformnya setelah adanya pembaruan terkini, kemunculan deepfake seksual yang terus berlanjut menunjukkan bahwa pertarungan teknis dan etika mengenai keamanan AI baru saja dimulai.
