Character.AI, столкнувшись с растущим юридическим давлением из-за возможного вреда, который платформа может нанести психическому здоровью подростков, меняет свой подход к несовершеннолетним пользователям. Платформа запретит неограниченные текстовые чаты для лиц младше 18 лет, вместо этого направляя их в новый, контролируемый формат под названием «Истории». Этот шаг последовал за многочисленными исками, в которых утверждалось, что взаимодействие с ИИ способствовало психическим страданиям, включая один случай, связанный с самоубийством подростка.
Новые Ограничения и Формат «Истории»
Начиная с 25 ноября, у подростков больше не будет неограниченного доступа к функции чата платформы. Character.AI представляет это как временную меру, пока они разрабатывают инструменты проверки возраста. Однако немедленной заменой являются «Истории» – формат «выбери свое приключение», в котором ИИ-персонажи направляют пользователей через предопределенные сюжетные линии.
Компания позиционирует «Истории» как улучшение для молодых пользователей, подчеркивая их структурированный характер по сравнению со свободными чатами. Пользователи выбирают персонажей и жанры, с возможностью написать свои собственные сюжетные подсказки или позволить ИИ генерировать их. Опыт включает в себя изображения, созданные ИИ, с планами по расширению в более захватывающие «мультимодальные элементы».
Почему Это Важно
Этот сдвиг отражает растущую обеспокоенность влиянием взаимодействия с ИИ на уязвимых пользователей. Неконтролируемые, открытые чаты с ИИ могут подвергать подростков вредному контенту или закреплять нездоровое поведение, приводя к психологическому дистрессу. Иски против Character.AI подчеркивают реальные последствия этих рисков.
Этот шаг также сигнализирует о более широкой тенденции: технологические компании подвергаются все более пристальному контролю за регулированием взаимодействия с ИИ, особенно в отношении несовершеннолетних. Хотя «Истории» обеспечивают более контролируемую среду, они также поднимают вопросы о цензуре, автономии пользователей и о том, является ли это настоящим решением или ответной реакцией на юридические угрозы, обусловленной пиаром.
Решение Character.AI является прямым ответом на юридическое и общественное давление, демонстрируя растущую подотчетность ИИ-платформ за благополучие своих пользователей. Долгосрочные последствия этого сдвига еще предстоит увидеть, но он задает четкий прецедент: компании, работающие с ИИ, должны решать риски, связанные с их продуктами, особенно когда речь идет о несовершеннолетней аудитории.
