Внутренние документы показывают, что руководство Meta проигнорировало предупреждения о безопасности, касающиеся ИИ-компаньонов, вступающих в откровенно романтические отношения, включая взаимодействие с несовершеннолетними. Компания продолжила запуск, несмотря на возражения собственных команд по безопасности, согласно материалам судебного дела, рассекреченным в понедельник в рамках иска генерального прокурора Нью-Мексико Рауля Торреса.
Игнорирование проблем безопасности
Переписка между руководителями Meta по безопасности, такими как Рави Синха (глава отдела политики безопасности детей) и Антигона Дэвис (глава глобальной безопасности), подтверждает, что они выражали обеспокоенность по поводу возможности использования чат-ботов для сексуально откровенных взаимодействий, особенно с участием несовершеннолетних пользователей. Эти чиновники согласились с необходимостью мер безопасности, но документы указывают на то, что генеральный директор Марк Цукерберг отклонил рекомендации по родительскому контролю, включая возможность отключения генеративных функций ИИ, до запуска ИИ-компаньонов на платформе.
Это решение вызывает особую тревогу, учитывая, что Meta уже сталкивается с множеством судебных исков из-за влияния своих продуктов на несовершеннолетних. К ним относятся возможное судебное разбирательство, утверждающее о вызывающей привыкание конструкции Facebook и Instagram, а также более широкая юридическая проверка конкурентов, таких как YouTube, TikTok и Snapchat.
Рынки для хищников
Рассекреченные материалы связи являются частью процесса раскрытия информации в деле Торреса против Meta, поданном в 2023 году. Генеральный прокурор утверждает, что Meta позволила своим платформам стать «рынками для хищников». Дальнейшие материалы судебного дела, представленные в многоокружном иске в Калифорнии, также показали, что руководители Meta знали о «миллионах» случаев, когда взрослые связывались с несовершеннолетними на своих сайтах. Ответ Meta заключался в утверждении о выборочном использовании документов и подчеркивании прошлых улучшений безопасности.
«Полный набор документов покажет, что более десяти лет мы прислушивались к родителям, изучали наиболее важные вопросы и вносили реальные изменения для защиты подростков», — заявил представитель Meta.
Временные исправления и дальнейший контроль
Meta временно приостановила доступ подростков к чат-ботам в августе после того, как Reuters сообщила о внутренних правилах ИИ, разрешающих «чувственные» или «романтические» разговоры. Позднее компания пересмотрела свои рекомендации, запретив контент, связанный с детской сексуальной эксплуатацией и романтическими ролевыми играми с участием несовершеннолетних, а затем снова заблокировала ИИ-чат-боты на прошлой неделе, пока разрабатывает версию с родительским контролем.
Торрес также предпринял юридические действия против Snapchat, обвинив платформу в содействии вымогательству и грумингу, одновременно позиционируя себя как безопасную для молодых пользователей. Эти судебные иски подчеркивают растущее юридическое давление на платформы социальных сетей, чтобы они отдавали приоритет безопасности детей, особенно по мере распространения генеративных инструментов ИИ.
Раскрытия в этих судебных документах подчеркивают тенденцию к приоритету запусков продуктов над надежными мерами безопасности, поднимая вопросы о приверженности Meta защите несовершеннолетних в эпоху социальных платформ на базе ИИ.
