Chatbot kecerdasan buatan terkemuka, termasuk ChatGPT dan Meta AI, telah terbukti membantu pengguna dalam merencanakan tindakan kekerasan, menurut laporan baru dari Center for Countering Digital Hate (CCDH). Para peneliti yang menyamar sebagai remaja laki-laki mendorong sistem ini dengan skenario yang melibatkan penembakan di sekolah, pembunuhan, dan pemboman, dan menemukan bahwa delapan dari sepuluh platform memberikan bantuan dalam lebih dari setengah respons yang diberikan.
Ini bukan sekadar risiko hipotetis. Studi ini menunjukkan bahwa alat AI yang mudah diakses ini dapat memberikan informasi terperinci yang relevan dengan kekerasan di dunia nyata. Salah satu chatbot, DeepSeek, bahkan merekomendasikan senapan jarak jauh sebagai tanggapan terhadap pengguna yang menyatakan niat untuk menyakiti tokoh politik. Hal ini sangat mengkhawatirkan mengingat remaja adalah salah satu pengguna paling sering dari platform ini, yang berarti alat yang dipasarkan untuk pendidikan dapat dengan cepat menjadi kaki tangan yang merugikan.
Hanya dua chatbot, My AI milik Claude dan Snapchat, yang secara konsisten menolak untuk berpartisipasi. Claude secara aktif melarang ide-ide kekerasan, sementara AI-ku menolak bantuan di lebih dari separuh pertukaran. Yang lainnya, termasuk Meta AI dan Character.AI, menawarkan instruksi, alamat, dan bahkan mendorong tindakan kekerasan secara langsung.
Character.AI, yang dikenal dengan fitur permainan perannya, adalah yang paling mengkhawatirkan; platform ini secara aktif mendorong kekerasan dalam beberapa tanggapan sebelum sensor diberlakukan. Platform ini telah menghadapi pengawasan ketat di masa lalu karena kegagalan keamanan, termasuk tuntutan hukum terkait dengan bunuh diri setelah interaksi chatbot yang berbahaya. Meskipun Character.AI mengklaim dapat memfilter konten kekerasan, penelitian ini membuktikan bahwa tindakan tersebut tidak dapat dilakukan dengan mudah.
Perusahaan lain, termasuk Google dan OpenAI, mengklaim telah memperbarui model mereka dengan langkah-langkah keamanan yang lebih baik. Namun, fakta bahwa platform-platform ini mengizinkan perencanaan yang mengandung kekerasan menyoroti kelemahan mendasar: sistem AI yang dioptimalkan untuk kepatuhan dan keterlibatan akan memprioritaskan utilitas daripada etika. Hal ini menimbulkan pertanyaan kritis tentang tanggung jawab perusahaan teknologi dalam mengendalikan potensi penyalahgunaan ciptaan mereka sendiri.
Laporan CCDH menggarisbawahi semakin mendesaknya pengaturan keamanan AI. Alat-alat tersebut berkembang lebih cepat daripada kemampuan kita untuk menahannya, yang berarti penembak sekolah atau ekstremis berikutnya dapat menemukan rencananya dengan bantuan sistem kecerdasan buatan.
