Недавно Apple вступила в серьезное противостояние с компанией xAI Илона Маска, чтобы решить проблему стремительного распространения сексуализированных дипфейков, созданных без согласия участников. Эти изображения генерируются Grok — инструментом искусственного интеллекта, интегрированным в платформу X (бывший Twitter).
Согласно новым отчетам, Apple пригрозила заблокировать Grok в App Store, если разработчик не внедрит более строгие меры защиты для предотвращения создания вредоносного контента, сгенерированного ИИ.
Зміст
Конфликт: Безопасность против функциональности
Напряженность вызвана способностью Grok генерировать не только текст, но также изображения и видео. С конца прошлого года пользователи используют эти возможности для создания откровенных, несанкционированных изображений реальных людей, включая женщин и детей, которые затем широко распространяются в X.
Согласно документам, представленным сенаторам США, Apple заняла жесткую позицию:
— Соблюдение правил: Apple заявила, что приложения, которые генерируют и распространяют подобный контент, нарушают основные правила платформы.
— Ультиматум: Apple предупредила xAI, что Grok будет удален из App Store, если компания не решит проблему кризиса дипфейков.
— Решение (на данный момент): После цикла отказов и доработок Apple одобрила новую версию приложения Grok, отметив, что программное обеспечение «существенно улучшилось».
Постоянные риски и давление регуляторов
Несмотря на то, что Apple одобрила последнее обновление ПО, битва еще далека от завершения. Недавнее расследование NBC News показывает, что сексуализированные изображения, созданные ИИ с помощью Grok, по-прежнему производятся и распространяются в интернете. Это указывает на то, что, хотя технические «фильтры» и были добавлены, они еще не являются безупречными.
Эта затянувшаяся проблема привлекла пристальное внимание законодателей:
— Контроль Конгресса: Сенаторы Рон Уайден и Бен Рэй Лухан призвали технологических гигантов взять на себя ответственность за «отвратительное распространение» изображений, созданных без согласия лиц.
— Проблема ответственности: В то время как Apple открыто заявляет о своих мерах по обеспечению безопасности, законодатели критикуют Google за отсутствие ответных действий и выражают недовольство отсутствием юридической ответственности X за распространение подобного материала.
Позиция защиты xAI
В ответ на возникший скандал компания xAI утверждает, что у нее внедрены «обширные меры защиты». Компания заявляет об использовании следующих методов:
— Постоянный мониторинг публичного использования.
— Анализ попыток обхода фильтров в режиме реального времени.
— Частые обновления моделей и фильтрация запросов (промптов).
Официально компания заявляет, что строго запрещает генерацию откровенных дипфейков без согласия участников, а также использование своих инструментов для «раздевания» реальных людей.
Почему это важно
Данная ситуация подчеркивает растущий кризис в технологической индустрии: игру в «кошки-мышки» между разработчиками ИИ и регуляторами безопасности. По мере того как генеративный ИИ становится все более совершенным, методы обхода фильтров безопасности также становятся все более изощренными.
Противостояние между Apple и xAI создает важный прецедент, определяющий, какую степень ответственности несут платформы-«привратники» (такие как App Store) за контент, создаваемый сторонними инструментами ИИ. Если меры защиты продолжат давать сбои, давление с целью введения еще более агрессивной цензуры или строгого федерального регулирования, скорее всего, усилится.
Заключение: Хотя Apple позволила Grok остаться на своей платформе после недавних обновлений, продолжающееся появление сексуализированных дипфейков свидетельствует о том, что техническая и этическая битва за безопасность ИИ только начинается.
