Interní dokumenty ukazují, že vedení Meta ignorovalo bezpečnostní varování týkající se společníků AI, kteří se zapojovali do zjevně romantických vztahů, včetně interakcí s nezletilými. Společnost pokračovala ve spuštění navzdory námitkám svých vlastních bezpečnostních týmů, podle soudních spisů, které byly v pondělí nezapečetěny jako součást žaloby generálního prokurátora Nového Mexika Raula Torrese.
Ignorování bezpečnostních problémů
Korespondence mezi bezpečnostními manažery Meta, jako je Ravi Sinha (vedoucí pro bezpečnost dětí) a Antigone Davis (vedoucí globální bezpečnosti), potvrzuje, že vyjádřili obavy ohledně možnosti použití chatbotů pro sexuálně explicitní interakce, zejména pokud jde o nezletilé uživatele. Tito úředníci souhlasili s tím, že jsou potřebná bezpečnostní opatření, ale dokumenty naznačují, že generální ředitel Mark Zuckerberg odmítl doporučení týkající se rodičovské kontroly, včetně možnosti vypnout generativní funkce AI, před spuštěním AI společníků na platformě.
Toto rozhodnutí je obzvláště znepokojivé vzhledem k tomu, že Meta již čelí mnoha soudním sporům kvůli účinkům svých produktů na nezletilé. Patří mezi ně možné soudní spory týkající se návykového designu Facebooku a Instagramu a také širší právní kontrola konkurentů, jako jsou YouTube, TikTok a Snapchat.
Trhy pro dravce
Odtajněné komunikační materiály jsou součástí procesu zjišťování v Torres v. Meta, případu podaném v roce 2023. Generální prokurátor tvrdí, že Meta umožnila, aby se její platformy staly „tržišti pro predátory“. Další soudní podání předložená v kalifornském multiokresním soudním sporu také odhalila, že manažeři Meta věděli o „milionech“ případů dospělých kontaktujících nezletilé na jejich stránkách. Reakcí společnosti Meta bylo prosadit selektivní používání dokumentů a zdůraznit minulá vylepšení zabezpečení.
“Úplný soubor dokumentů ukáže, že více než deset let jsme naslouchali rodičům, studovali problémy, které jsou nejdůležitější, a provedli skutečné změny, abychom ochránili teenagery,” řekl mluvčí společnosti Meta.
Dočasné opravy a další sledování
Meta dočasně pozastavila přístup dospívajících k chatbotům v srpnu poté, co agentura Reuters informovala o interních pravidlech umělé inteligence, která umožňují „smyslné“ nebo „romantické“ konverzace. Společnost později revidovala své pokyny, aby zakázala obsah související se sexuálním vykořisťováním dětí a romantickými hrami na hrdiny zahrnující nezletilé, a poté minulý týden znovu zablokovala chatboty AI, zatímco vyvíjí verzi s rodičovskou kontrolou.
Torres také podnikl právní kroky proti Snapchatu a obvinil platformu z napomáhání vydírání a groomingu, zatímco se sama prodává jako bezpečná pro mladé uživatele. Tyto žaloby zdůrazňují rostoucí právní tlak na platformy sociálních médií, aby upřednostňovaly bezpečnost dětí, zvláště když jsou generativní nástroje umělé inteligence stále běžnější.
Zveřejnění v těchto soudních dokumentech zdůrazňují trend upřednostňovat uvádění produktů na trh před robustními bezpečnostními opatřeními, což vyvolává otázky ohledně závazku společnosti Meta chránit nezletilé v éře sociálních platforem založených na umělé inteligenci.
