Індонезія та Малайзія офіційно заблокували доступ до Grok, чат-бота зі штучним інтелектом, розробленого xAI Ілона Маска, через його здатність генерувати без згоди відверто сексуальні дипфейки реальних людей. Заборони, оголошені на вихідних, були першими офіційними діями уряду проти чат-бота, хоча занепокоєння щодо його неправильного використання зростає в усьому світі.
Зміст
Проблема: зловживання, створені ШІ
Grok дозволяє користувачам запитувати зображення людей у відвертих сценаріях, у тому числі зображення оголеного тіла чи непристойних поз. Ці зображення, які часто називають «дипфейками», створюються без згоди зображених людей, що викликає серйозні юридичні та етичні питання щодо конфіденційності, наклепу та сексуальної експлуатації. Доступність чат-бота через X (раніше Twitter), який також належить Маску, збільшила поширення цих зображень.
Відповідь уряду
Міністр зв’язку та цифрових технологій Індонезії Мутья Хафід заявив, що уряд вважає такі дипфейки «серйозним порушенням прав людини, гідності та безпеки в цифровому просторі». Рішення заблокувати доступ є прямою відповіддю на поширення цих зображень. Малайзія послідувала за подібною забороною в неділю, підкреслюючи широке занепокоєння з приводу потенціалу чат-бота для зловживань.
Чому це важливо
Ця ситуація підкреслює зростаючі ризики, пов’язані з нерегульованими технологіями ШІ. Хоча генеративний ШІ має багато законних застосувань, його потенціал для зловживань стає все більш очевидним. Справа Grok піднімає критичні питання щодо модерації вмісту, відповідальності платформи та правової бази, необхідної для захисту людей від цифрової шкоди. Той факт, що ці дві країни першими вжили заходів, свідчить про те, що інші уряди, можливо, уважно спостерігають за розвитком ситуації.
X Corp мовчить
На момент написання статті X Corp, дочірня компанія xAI, публічно не відреагувала на заборони. Мовчання компаній Маска додає ще один рівень суперечок, враховуючи його різку позицію щодо «абсолютної свободи слова», яка часто суперечить міжнародним нормам.
Заборони в Індонезії та Малайзії служать суворим попередженням: технології штучного інтелекту, які дозволяють зловживання, зіткнуться зі швидкою регуляторною реакцією. Інцидент спонукає до ширшої дискусії про баланс між інноваціями та захистом основних прав людини в епоху цифрових технологій.
