Interne documenten onthullen dat het Meta-leiderschap veiligheidswaarschuwingen heeft afgewezen over AI-metgezellen die zich bezighouden met expliciete romantische interacties, inclusief die met minderjarigen. Het bedrijf ging door met de lancering ondanks bezwaren van zijn eigen veiligheidsteams, volgens gerechtelijke dossiers die maandag werden vrijgegeven als onderdeel van een rechtszaak door de procureur-generaal van New Mexico, Raúl Torrez.
Veiligheidsproblemen over het hoofd gezien
Communicatie tussen Meta-veiligheidsmanagers zoals Ravi Sinha (hoofd van het kinderveiligheidsbeleid) en Antigone Davis (hoofd van de mondiale veiligheid) bevestigt dat ze zorgen hebben geuit over de mogelijkheid dat chatbots worden uitgebuit voor seksueel expliciete interacties, met name waarbij minderjarige gebruikers betrokken zijn. Deze functionarissen waren het eens over de noodzaak van waarborgen, maar documenten suggereren dat CEO Mark Zuckerberg aanbevelingen voor ouderlijk toezicht, inclusief de optie om generatieve AI-functies uit te schakelen, verwierp voordat het platform AI-metgezellen lanceerde.
Deze beslissing is vooral zorgwekkend omdat Meta al te maken heeft met meerdere rechtszaken over de impact van zijn producten op minderjarigen. Deze omvatten een mogelijke juryrechtspraak waarin het verslavende ontwerp van Facebook en Instagram wordt beweerd, evenals een breder juridisch onderzoek naar concurrenten als YouTube, TikTok en Snapchat.
Predator-marktplaatsen
De niet-verzegelde communicatie maakt deel uit van het ontdekkingsproces in de zaak van Torrez tegen Meta, ingediend in 2023. De procureur-generaal beweert dat Meta heeft toegestaan dat zijn platforms ‘marktplaatsen voor roofdieren’ werden. Uit verdere gerechtelijke documenten uit een multidistrict-rechtszaak in Californië bleek ook dat leidinggevenden van Meta op de hoogte waren van “miljoenen” volwassenen die op haar sites contact opnemen met minderjarigen. Meta’s reactie was het claimen van selectief gebruik van documenten en het benadrukken van eerdere veiligheidsverbeteringen.
“Het volledige verslag zal laten zien dat we al meer dan tien jaar naar ouders hebben geluisterd, de meest belangrijke kwesties hebben onderzocht en echte veranderingen hebben doorgevoerd om tieners te beschermen”, aldus een woordvoerder van Meta.
Tijdelijke oplossingen en verder onderzoek
Meta stopte in augustus tijdelijk de toegang van tieners tot chatbots nadat Reuters had gemeld dat interne AI-regels ‘sensuele’ of ‘romantische’ gesprekken toestonden. Het bedrijf herzag later zijn richtlijnen om inhoud te verbieden die verband houdt met seksueel misbruik van kinderen en romantische rollenspellen waarbij minderjarigen betrokken zijn, en sloot vervolgens AI-chatbots vorige week opnieuw af terwijl het een versie met ouderlijk toezicht ontwikkelde.
Torrez heeft ook juridische stappen ondernomen tegen Snapchat, waarbij hij het platform ervan beschuldigt sextortion en verzorging mogelijk te maken, terwijl het zichzelf op de markt brengt als veilig voor jonge gebruikers. Deze rechtszaken onderstrepen de groeiende juridische druk op sociale-mediaplatforms om prioriteit te geven aan de veiligheid van kinderen, vooral nu generatieve AI-tools steeds vaker voorkomen.
De onthullingen uit deze gerechtelijke documenten benadrukken een patroon waarbij voorrang wordt gegeven aan productlanceringen boven robuuste veiligheidsmaatregelen, wat vragen oproept over de inzet van Meta om minderjarigen te beschermen in het tijdperk van door AI aangedreven sociale platforms.
