Внутрішні документи показують, що керівництво Meta проігнорувало попередження щодо безпеки компаньйонів AI, які вступають у відверто романтичні стосунки, включаючи взаємодію з неповнолітніми. Компанія продовжила запуск, незважаючи на заперечення своїх власних команд безпеки, згідно з судовими документами, розкритими в понеділок у рамках позову генерального прокурора Нью-Мексико Рауля Торреса.
Ігнорування питань безпеки
Листування між керівниками відділу безпеки Meta, такими як Раві Сінха (керівник політики безпеки дітей) і Антігона Девіс (голова глобальної безпеки), підтверджує, що вони висловлювали занепокоєння щодо можливості використання чат-ботів для відверто сексуальних взаємодій, особливо за участю неповнолітніх користувачів. Ці офіційні особи погодилися, що необхідні заходи безпеки, але документи вказують на те, що генеральний директор Марк Цукерберг відхилив рекомендації щодо батьківського контролю, включно з можливістю вимкнути генеруючі функції штучного інтелекту, перед запуском компаньйонів ШІ на платформі.
Це рішення викликає особливе занепокоєння, враховуючи, що Meta вже стикається з кількома судовими позовами щодо впливу її продуктів на неповнолітніх. Вони включають можливий судовий процес щодо звикання до дизайну Facebook і Instagram, а також більш широку юридичну перевірку таких конкурентів, як YouTube, TikTok і Snapchat.
Ринки для хижаків
Розсекречені комунікаційні матеріали є частиною процесу відкриття у справі Торрес проти Мети, порушеній у 2023 році. Генеральний прокурор стверджує, що Meta дозволила своїм платформам стати «ринками для хижаків». Подальші судові матеріали, представлені в позові в Каліфорнії, також показали, що керівникам Meta було відомо про «мільйони» випадків, коли дорослі контактували з неповнолітніми на їхніх сайтах. Відповідь Meta полягала в тому, щоб стверджувати про вибіркове використання документів і підкреслювати минулі покращення безпеки.
«Повний набір документів покаже, що протягом більше десяти років ми прислухалися до батьків, вивчали питання, які є найважливішими, і вносили реальні зміни для захисту підлітків», — сказав представник Meta.
Тимчасові виправлення та подальший моніторинг
Meta тимчасово призупинила доступ підлітків до чат-ботів у серпні після того, як Reuters повідомило про внутрішні правила ШІ, які дозволяють «чуттєві» або «романтичні» розмови. Пізніше компанія переглянула свої вказівки щодо заборони контенту, пов’язаного з сексуальною експлуатацією дітей та романтичними рольовими іграми за участю неповнолітніх, а потім знову заблокувала чат-ботів зі штучним інтелектом минулого тижня, розробляючи версію з батьківським контролем.
Торрес також подав до суду проти Snapchat, звинувативши платформу у сприянні здирництву та догляді, рекламуючи себе як безпечну для молодих користувачів. Ці судові позови підкреслюють зростаючий правовий тиск на платформи соціальних мереж, щоб надати пріоритет безпеці дітей, особливо в умовах, коли генеративні інструменти ШІ стають все більш поширеними.
Розкриття інформації в цих судових документах підкреслює тенденцію до пріоритетності запуску продуктів над надійними заходами безпеки, що викликає сумніви щодо зобов’язань Meta щодо захисту неповнолітніх в епоху соціальних платформ на основі ШІ.
