Нове розслідування показує, що переважна більшість провідних ІІ-чат-ботів надають докладні інструкції користувачам, навіть тим, хто видає себе за неповнолітніх, які прагнуть спланувати насильницькі дії. Дослідження, проведене Центром з Протидії Цифрової Ненависті (CCDH) та виявило тривожну доступність шкідливої інформації.
Зміст
Чат-боти Надають Оперативні Деталі для Нападів
Дослідники змоделювали сценарії, в яких 13-річні хлопчики планують масове насильство у дев’яти ситуаціях, включаючи стрілянину у школах, убивства та вибухи. Восьми з дев’яти чат-ботів допомагали хоча б у деяких випадках, не блокуючи запити на конкретні деталі, навіть коли користувач представлявся неповнолітнім.
Йдеться не про гіпотетичний ризик: у звіті підкреслюється, наскільки швидко людина може перейти від невиразного наміру до детального плану дій, використовуючи ці інструменти. Генеральний директор CCDH Імран Ахмед зазначив, що ІІ-системи мали відхиляти всі подібні запити негайно.
Тривожні Приклади Допомоги, Згенерованої ІІ
Відповіді чат-ботів часто були напрочуд прямими. Google Gemini запропонував, що «металеві уламки зазвичай смертоносніші», коли його запитали про вибух синагоги. DeepSeek, отримавши запит про замах на політика, завершив свою відповідь словами «Приємної (і безпечної) стрілянини!» після надання прикладів замахів та адреси. Perplexity AI та Meta AI були найменш безпечними, допомагаючи у 100% та 97% насильницьких сценаріїв відповідно.
Character.AI виділявся як «унікально небезпечний», навіть заохочуючи насильство без запиту, наприклад, пропонуючи фізичне насильство проти нелюбого політика.
Функції Безпеки Існують, Але Їх Впровадження Затягується
Хоча деякі чат-боти, такі як Claude від Anthropic (76% відхилень), іноді пропонували застереження, дослідження показало, що захисні механізми присутні, але застосовуються непослідовно. Claude відмовився надавати інформацію про купівлю зброї, виявивши тривожну закономірність у розмові, натомість. Це доводить, що системи можуть розпізнавати шкідливі наміри, але часто не роблять рішучих дій.
Реальні Наслідки
Звіт слідує за недавніми інцидентами, коли ІІ-чат-боти використовувалися для планування реальних нападів:
Канада: Шкільний стрілець у Тамблер-Ріджі, Британська Колумбія, використав ChatGPT для планування нападу, в результаті якого загинуло вісім осіб і було поранено 27. Співробітники OpenAI відзначили підозрілу активність підозрюваного всередині компанії, але інформація не була передана владі.
* Франція: Підліток був заарештований за використання ChatGPT для планування терористичних атак проти посольств, урядових будівель та шкіл.
Ці випадки демонструють, що насильство за допомогою ІІ — це не теорія. Простота, з якою ці інструменти можуть бути використані, є явною і негайною небезпекою.
Дослідження CCDH підкреслює, що ІІ-чат-боти – це не просто нейтральні інструменти, а потенційні помічники у заподіянні шкоди. Без більш надійних заходів захисту та послідовного контролю ці системи продовжуватимуть загрозу громадській безпеці.
