Character.AI, w obliczu rosnącej presji prawnej w związku z możliwymi szkodami, jakie platforma może wyrządzić zdrowiu psychicznemu nastolatków, zmienia swoje podejście do nieletnich użytkowników. Platforma zablokuje nieograniczoną liczbę czatów tekstowych dla osób poniżej 18 roku życia, zamiast tego przekieruje je do nowego, kontrolowanego formatu o nazwie Stories. Posunięcie to jest następstwem wielu procesów sądowych, w których zarzuca się, że interakcje ze sztuczną inteligencją przyczyniły się do zaburzeń psychicznych, w tym w jednym przypadku dotyczącym samobójstwa nastolatka.
Nowe ograniczenia i format historii
Od 25 listopada nastolatki nie będą już miały nieograniczonego dostępu do funkcji czatu na platformie. Character.AI przedstawia to jako rozwiązanie tymczasowe do czasu opracowania narzędzi do weryfikacji wieku. Jednak natychmiastowym zamiennikiem są Stories, format przygód, w którym postacie AI prowadzą użytkowników przez z góry zdefiniowane historie.
Firma pozycjonuje Stories jako ulepszenie dla młodszych użytkowników, podkreślając jego ustrukturyzowany charakter w porównaniu do czatów swobodnych. Użytkownicy wybierają postacie i gatunki, z możliwością napisania własnych podpowiedzi fabularnych lub umożliwienia ich wygenerowania przez sztuczną inteligencję. Doświadczenie obejmuje obrazy generowane przez sztuczną inteligencję, z planami rozszerzenia na bardziej wciągające „elementy multimodalne”.
Dlaczego to jest ważne
Zmiana ta odzwierciedla rosnące obawy dotyczące wpływu interakcji ze sztuczną inteligencją na bezbronnych użytkowników. Niemonitorowane, otwarte czaty oparte na sztucznej inteligencji mogą narażać nastolatków na szkodliwe treści lub wzmacniać niezdrowe zachowania, prowadząc do stresu psychicznego. Pozwy przeciwko Character.AI podkreślają rzeczywiste konsekwencje tych zagrożeń.
Posunięcie to sygnalizuje również szerszy trend: firmy technologiczne są poddawane coraz większej kontroli pod kątem sposobu, w jaki regulują swoje interakcje ze sztuczną inteligencją, szczególnie jeśli chodzi o nieletnich. Chociaż Stories zapewniają bardziej kontrolowane środowisko, rodzą się również pytania o cenzurę, autonomię użytkowników i to, czy jest to realne rozwiązanie, czy też reakcja na zagrożenia prawne wynikająca z PR.
Decyzja Character.AI jest bezpośrednią odpowiedzią na naciski prawne i społeczne, pokazując rosnącą odpowiedzialność platform AI za dobro ich użytkowników. Długoterminowe konsekwencje tej zmiany dopiero się okaże, ale ustanawia ona wyraźny precedens: Firmy zajmujące się sztuczną inteligencją muszą zająć się ryzykiem związanym ze swoimi produktami, zwłaszcza jeśli chodzi o nieletnich odbiorców.
