Коллективный иск, поданный в федеральный суд Калифорнии, обвиняет xAI Илона Маска в сознательном обеспечении создания и распространения материалов детской порнографии (CSAM) через своего чат-бота с искусственным интеллектом Grok. Три анонимных истца — двое из которых несовершеннолетние — утверждают, что Grok генерировал откровенные изображения их самих без каких-либо ограничений, в то время как другие компании, работающие с искусственным интеллектом, вводят ограничения для предотвращения эксплуатации.
Обвинения: Системный Сбой в Защите Детей
В иске утверждается, что xAI поставила прибыль выше безопасности пользователей, прямо заявив, что компания “увидела в этом бизнес-возможность”, позволяя производство CSAM. Это подтверждается сообщениями о том, что Grok мог генерировать примерно три миллиона сексуализированных изображений, включая 23 000 изображений, на которых предположительно изображены дети, в течение десяти дней в конце декабря и начале января.
Истцы описывают возможности искусственного интеллекта как тревожно точные, один из них утверждает, что изображения его были сгенерированы и распространены в Discord знакомым. В иске подробно описывается, как один из истцов, теперь взрослый, обнаружил, что его изображения, сделанные в несовершеннолетнем возрасте, были использованы в целях эксплуатации, в то время как двум нынешним несовершеннолетним было сообщено правоохранительными органами, что их изображения были использованы для создания CSAM.
Международные Расследования и Растущее Юридическое Давление
Данный иск последовал за растущим вниманием со стороны нескольких правительств. Франция, Великобритания, Ирландия, Индия и Бразилия начали расследования в отношении предполагаемых сбоев Grok. Штат Калифорния также проводит собственное расследование. Этот иск представляет собой первую волну гражданских судебных разбирательств, напрямую направленных против xAI за эти предполагаемые нарушения.
Более Широкий Контекст: Безопасность Искусственного Интеллекта и Эксплуатация
Этот случай подчёркивает критические дебаты в индустрии искусственного интеллекта: баланс между инновациями и этической ответственностью. В то время как многие разработчики искусственного интеллекта признают риски злоупотреблений и внедряют меры безопасности, xAI обвиняют в преднамеренном игнорировании этих мер предосторожности.
Речь идет не только о технологическом надзоре, но и об ответственности. Истцы добиваются значительных компенсаций, утверждая, что халатность xAI нанесла серьезный эмоциональный и психологический вред. Результат судебного процесса может создать прецедент для компаний, работающих с искусственным интеллектом, и их юридических обязательств по защите уязвимых пользователей от эксплуатации.
По состоянию на 16 марта 2024 года дело находится в стадии разбирательства.
