Pozew zbiorowy złożony w sądzie federalnym w Kalifornii oskarża xAI Elona Muska o świadome ułatwianie tworzenia i dystrybucji materiałów z pornografią dziecięcą (CSAM) za pośrednictwem chatbota Grok opartego na sztucznej inteligencji. Trzej anonimowi powodowie – w tym dwóch nieletnich – twierdzą, że Grok generował bez ograniczeń wulgarne obrazy siebie, podczas gdy inne firmy zajmujące się sztuczną inteligencją nakładają ograniczenia, aby zapobiec wykorzystywaniu.
Zarzuty: Systemowe niepowodzenia w ochronie dzieci
W pozwie zarzuca się, że xAI przedkłada zyski nad bezpieczeństwo użytkowników, wyraźnie stwierdzając, że firma „dostrzegła szansę biznesową” zezwalając na produkcję CSAM. Potwierdzają to doniesienia, że Grok mógł wygenerować około trzech milionów obrazów o charakterze seksualnym, w tym 23 000 obrazów rzekomo przedstawiających dzieci, w ciągu dziesięciu dni na przełomie grudnia i stycznia.
Powodowie opisują możliwości sztucznej inteligencji jako niepokojąco dokładne, a jeden z nich twierdzi, że jej obrazy zostały wygenerowane i udostępnione na Discordzie przez znajomego. W pozwie szczegółowo opisano, jak jeden z powodów, obecnie dorosły, odkrył, że zdjęcia przedstawiające go jako nieletniego były wykorzystywane do celów wyzysku, podczas gdy organy ścigania poinformowały dwóch obecnych nieletnich, że ich zdjęcia były wykorzystywane do tworzenia CSAM.
Międzynarodowe dochodzenia i rosnąca presja prawna
Pozew jest następstwem rosnącej kontroli ze strony kilku rządów. Francja, Wielka Brytania, Irlandia, Indie i Brazylia wszczęły dochodzenia w sprawie rzekomych awarii Groka. Stan Kalifornia również prowadzi własne dochodzenie. Ten pozew stanowi pierwszą falę postępowań cywilnych bezpośrednio skierowanych przeciwko xAI w związku z tymi rzekomymi naruszeniami.
Szerszy kontekst: bezpieczeństwo i wykorzystanie sztucznej inteligencji
Ten przypadek podkreśla krytyczną debatę w branży sztucznej inteligencji: równowagę między innowacjami a odpowiedzialnością etyczną. Choć wielu twórców sztucznej inteligencji zdaje sobie sprawę z ryzyka nadużyć i wdraża środki bezpieczeństwa, xAI zostało oskarżone o celowe ignorowanie tych środków ostrożności.
Tu nie chodzi tylko o nadzór nad technologią, ale także o odpowiedzialność. Powodowie domagają się znacznych odszkodowań, utrzymując, że zaniedbanie xAI spowodowało poważne szkody emocjonalne i psychiczne. Wynik pozwu może stanowić precedens dla firm zajmujących się sztuczną inteligencją i ich zobowiązań prawnych w zakresie ochrony bezbronnych użytkowników przed wyzyskiem.
Od 16 marca 2024 r. sprawa jest w toku.
