Skupinová žaloba podaná u federálního soudu v Kalifornii obviňuje xAI Elona Muska z vědomého napomáhání vytváření a distribuci materiálu s dětskou pornografií (CSAM) prostřednictvím svého chatbota Groka s umělou inteligencí. Tři anonymní žalobci – z nichž dva jsou nezletilí – tvrdí, že Grok vytvářel explicitní snímky sebe sama bez omezení, zatímco jiné společnosti využívající umělou inteligenci ukládají omezení, aby zabránily zneužívání.
Obvinění: Systémové selhání v ochraně dětí
Žaloba tvrdí, že xAI upřednostňuje zisky před bezpečností uživatelů a výslovně uvádí, že společnost „uviděla obchodní příležitost“ tím, že umožnila výrobu CSAM. To je podpořeno zprávami, že Grok mohl během deseti dnů na přelomu prosince a ledna vytvořit přibližně tři miliony sexualizovaných obrázků, včetně 23 000 obrázků, které údajně zobrazují děti.
Žalobci popisují schopnosti umělé inteligence jako znepokojivě přesné, přičemž jeden tvrdí, že její obrázky byly vytvořeny a sdíleny na Discordu známým. Žaloba podrobně popisuje, jak jeden ze žalobců, nyní již dospělý, zjistil, že jeho snímky pořízené jako nezletilé byly používány pro účely vykořisťování, zatímco dvěma současným nezletilým bylo vymáháním práva sděleno, že jejich snímky byly používány k vytváření sexuálního zneužívání dětí.
Mezinárodní vyšetřování a rostoucí právní tlak
Žaloba následuje po rostoucí kontrole několika vlád. Francie, Spojené království, Irsko, Indie a Brazílie zahájily vyšetřování údajných selhání Groka. Stát Kalifornie také provádí vlastní vyšetřování. Tato žaloba představuje první vlnu občanskoprávních sporů přímo zaměřených na xAI za tato údajná porušení.
Širší kontext: Bezpečnost a využívání umělé inteligence
Tento případ zdůrazňuje kritickou debatu v průmyslu umělé inteligence: rovnováhu mezi inovacemi a etickou odpovědností. Zatímco mnoho vývojářů umělé inteligence uznává rizika zneužití a zavádí bezpečnostní opatření, xAI byla obviňována ze záměrného ignorování těchto opatření.
Nejde jen o technologický dohled, ale také o odpovědnost. Žalobci požadují značné odškodnění, protože tvrdí, že nedbalost xAI způsobila vážnou emocionální a psychickou újmu. Výsledek soudního sporu by mohl být precedentem pro společnosti zabývající se umělou inteligencí a jejich zákonné povinnosti chránit zranitelné uživatele před zneužitím.
Od 16. března 2024 je případ v šetření.
