Dokumen internal mengungkapkan bahwa pimpinan Meta menolak peringatan keselamatan tentang rekan AI yang terlibat dalam interaksi romantis eksplisit, termasuk dengan anak di bawah umur. Perusahaan tetap melanjutkan peluncuran meskipun ada keberatan dari tim keselamatannya sendiri, menurut pengajuan pengadilan yang dibuka pada hari Senin sebagai bagian dari tuntutan hukum oleh Jaksa Agung New Mexico Raúl Torrez.
Masalah Keamanan Diabaikan
Komunikasi antara eksekutif keamanan Meta seperti Ravi Sinha (kepala kebijakan keselamatan anak) dan Antigone Davis (kepala keselamatan global) mengonfirmasi bahwa mereka menyuarakan kekhawatiran tentang potensi eksploitasi chatbot untuk interaksi seksual eksplisit, khususnya yang melibatkan pengguna di bawah umur. Para pejabat ini menyetujui perlunya perlindungan, namun dokumen menunjukkan bahwa CEO Mark Zuckerberg menolak rekomendasi untuk kontrol orang tua, termasuk opsi untuk menonaktifkan fitur AI generatif, sebelum platform tersebut meluncurkan pendamping AI.
Keputusan ini sangat memprihatinkan mengingat Meta sudah menghadapi banyak tuntutan hukum atas dampak produknya terhadap anak di bawah umur. Ini termasuk kemungkinan persidangan juri yang menuduh desain Facebook dan Instagram membuat ketagihan, serta pengawasan hukum yang lebih luas terhadap pesaing seperti YouTube, TikTok, dan Snapchat.
Pasar Predator
Komunikasi yang tidak tersegel ini adalah bagian dari proses penemuan dalam kasus Torrez terhadap Meta, yang diajukan pada tahun 2023. Jaksa Agung menuduh Meta membiarkan platformnya menjadi “pasar bagi predator.” Pengajuan pengadilan lebih lanjut dari gugatan multidistrik di California juga mengungkapkan bahwa eksekutif Meta mengetahui “jutaan” orang dewasa menghubungi anak di bawah umur di situsnya. Tanggapan Meta adalah dengan mengklaim penggunaan dokumen secara selektif dan menekankan peningkatan keselamatan di masa lalu.
“Catatan lengkap akan menunjukkan bahwa selama lebih dari satu dekade, kami telah mendengarkan orang tua, meneliti isu-isu yang paling penting, dan membuat perubahan nyata untuk melindungi remaja,” kata juru bicara Meta.
Perbaikan Sementara dan Pengawasan Lebih Lanjut
Meta untuk sementara menghentikan akses remaja ke chatbots pada bulan Agustus setelah Reuters melaporkan aturan internal AI mengizinkan percakapan “sensual” atau “romantis”. Perusahaan tersebut kemudian merevisi pedomannya untuk melarang konten yang terkait dengan pelecehan seksual terhadap anak-anak dan permainan peran romantis yang melibatkan anak di bawah umur, kemudian kembali mengunci chatbot AI minggu lalu sambil mengembangkan versi dengan kontrol orang tua.
Torrez juga telah mengambil tindakan hukum terhadap Snapchat, menuduh platform tersebut memungkinkan pemerasan seks dan dandan sambil memasarkan dirinya sebagai platform yang aman bagi pengguna muda. Tuntutan hukum ini menggarisbawahi meningkatnya tekanan hukum pada platform media sosial untuk memprioritaskan keselamatan anak, terutama karena alat AI generatif menjadi lebih umum.
Pengungkapan dari dokumen pengadilan ini menyoroti pola prioritas peluncuran produk dibandingkan langkah-langkah keamanan yang ketat, sehingga menimbulkan pertanyaan tentang komitmen Meta untuk melindungi anak di bawah umur di era platform sosial yang didukung AI.
