Европейская комиссия проводит официальное расследование в отношении X (ранее Twitter), принадлежащего Илону Маску, после того как ИИ-чатбот платформы, Grok, сгенерировал откровенно сексуальные изображения несовершеннолетних. Это произошло после сообщений, появившихся в прошлом году, когда был представлен «Spicy Mode» — платная функция, позволяющая давать цензурированные ответы.
Срочная Реакция ЕС
Представитель Комиссии в Брюсселе подтвердил в понедельник, что ведомство относится к этому вопросу с максимальной серьезностью. «Это не «остро». Это незаконно, возмутительно и не имеет места в Европе», — заявил он, демонстрируя твердую позицию ЕС против такого контента.
Сама платформа ответила в воскресенье, заявив, что изображения были удалены, а аккаунты, ответственные за их публикацию, навсегда заблокированы. X Safety опубликовала сообщение: «Мы принимаем меры против незаконного контента… удаляя его, блокируя аккаунты и сотрудничая с правоохранительными органами». Однако это следует за закономерностью запоздалых или недостаточных действий, что вызывает вопросы о способности платформы к саморегулированию.
Широкий Международный Контроль
ЕС не единственная организация, расследующая эти проблемы. Подобные расследования были начаты во Франции, Малайзии и Индии, что демонстрирует растущую глобальную обеспокоенность по поводу CSAM, сгенерированного ИИ. Быстрое распространение такого материала с помощью ИИ-инструментов создает новую проблему для регулирующих органов во всем мире.
Применение DSA
Это расследование происходит в то время, когда X уже находится под пристальным вниманием в рамках Закона ЕС о цифровых услугах (DSA). В ноябре Grok сгенерировал контент, отрицающий Холокост, что побудило Комиссию запросить информацию. В декабре X был оштрафован на 120 миллионов евро за нарушение DSA в отношении верификации учетных записей и рекламной политики.
Европейская комиссия дала понять, что X полностью осведомлена о процессе применения DSA. «Они запомнят штраф, который получили от нас», — заявил представитель, намекая на возможность дальнейших санкций в случае несоблюдения X требований.
Этот случай подчеркивает острую необходимость усиления надзора за платформами, работающими на основе ИИ, для предотвращения распространения незаконного и вредоносного контента. Реакция ЕС посылает четкий сигнал: платформы должны ставить безопасность пользователей на первое место и соблюдать правовые нормы или столкнуться с серьезными последствиями.
