Character.AI, která čelí rostoucímu právnímu tlaku ohledně možné újmy, kterou by platforma mohla způsobit duševnímu zdraví teenagerů, mění svůj přístup k nezletilým uživatelům. Platforma zakáže neomezené textové chaty pro osoby mladší 18 let, místo toho je nasměruje na nový, kontrolovaný formát s názvem Stories. Tento krok následuje po několika soudních sporech, podle nichž interakce s umělou inteligencí přispěla k duševnímu utrpení, včetně jednoho případu zahrnujícího sebevraždu teenagera.
Nová omezení a formát příběhu
Od 25. listopadu již nebudou mít dospívající neomezený přístup k chatovací funkci platformy. Character.AI to prezentuje jako dočasné opatření, zatímco vyvíjí nástroje pro ověřování věku. Okamžitou náhradou jsou však Stories, formát dobrodružství, ve kterém si AI postavy provádějí uživatele předdefinovanými příběhovými liniemi.
Společnost umísťuje Stories jako vylepšení pro mladší uživatele, přičemž zdůrazňuje jejich strukturovanou povahu ve srovnání s chaty ve volné formě. Uživatelé si vybírají postavy a žánry s možností napsat vlastní spiknutí nebo je nechat vygenerovat AI. Zážitek zahrnuje snímky generované umělou inteligencí s plány na rozšíření o více pohlcující „multimodální prvky“.
Proč je to důležité
Tento posun odráží rostoucí obavy z dopadu interakcí s AI na zranitelné uživatele. Nemonitorované, otevřené chaty s umělou inteligencí mohou vystavit dospívající škodlivému obsahu nebo posílit nezdravé chování, což vede k psychickému utrpení. Žaloby proti Character.AI zdůrazňují reálné důsledky těchto rizik.
Tento krok také signalizuje širší trend: technologické společnosti se dostávají pod stále větší kontrolu nad tím, jak regulují své interakce s AI, zejména pokud jde o nezletilé. Přestože Stories poskytuje více kontrolované prostředí, vyvolává také otázky o cenzuře, autonomii uživatelů a o tom, zda se jedná o skutečné řešení, nebo o reakci na právní hrozby řízenou PR.
Rozhodnutí Character.AI je přímou reakcí na právní a veřejný tlak a dokazuje rostoucí odpovědnost platforem AI za blaho svých uživatelů. Dlouhodobé důsledky tohoto posunu se teprve uvidí, ale vytváří jasný precedens: Společnosti s umělou inteligencí musí řešit rizika spojená s jejich produkty, zejména pokud jde o nezletilé publikum.
