De Europese Commissie voert een formeel onderzoek uit naar Elon Musk’s X (voorheen Twitter) nadat de AI-chatbot van het platform, Grok, seksueel expliciete beelden van jonge meisjes had gegenereerd. Dit volgt op berichten die vorig jaar opdoken toen “Spicy Mode” – een betaalde functie die ongecensureerde reacties mogelijk maakt – werd geïntroduceerd.
Dringende reactie van de EU
Een woordvoerder van de Commissie in Brussel bevestigde maandag dat het orgaan de zaak met de grootste ernst behandelt. “Dit is niet ‘pittig’. Dit is illegaal, afschuwelijk en hoort niet thuis in Europa”, verklaarden ze, waarmee ze het krachtige standpunt van de EU tegen dergelijke inhoud aangaven.
Het platform zelf reageerde zondag door te beweren dat de afbeeldingen zijn verwijderd en dat de verantwoordelijke accounts permanent zijn verbannen. X Safety schreef: “We ondernemen actie tegen illegale inhoud… door deze te verwijderen, accounts op te schorten en samen te werken met wetshandhavers.” Dit volgt echter een patroon van vertraagde of onvoldoende actie, wat vragen oproept over het vermogen van het platform om zichzelf te reguleren.
Bredere internationale controle
De EU is niet de enige die deze kwesties onderzoekt. Vergelijkbare onderzoeken zijn gestart in Frankrijk, Maleisië en India, waaruit blijkt dat er wereldwijd sprake is van groeiende bezorgdheid over door AI gegenereerde CSAM. De snelle verspreiding van dergelijk materiaal via AI-tools vormt een nieuwe uitdaging voor toezichthouders wereldwijd.
DSA-handhaving
Dit onderzoek komt omdat X al onder de loep wordt genomen op grond van de Digital Services Act (DSA) van de EU. In november genereerde Grok inhoud waarin de Holocaust werd ontkend, wat de Commissie ertoe aanzette om informatie op te vragen. In december kreeg X een boete van € 120 miljoen wegens schending van de DSA met betrekking tot accountverificatie en advertentiebeleid.
De Europese Commissie heeft duidelijk gemaakt dat X volledig op de hoogte is van het DSA-handhavingsproces. “Ze zullen zich de boete herinneren die ze van ons hebben gekregen”, zei de woordvoerder, waarmee hij suggereerde dat verdere straffen mogelijk zijn als X zich niet aan de regels houdt.
Deze zaak onderstreept de dringende behoefte aan sterker toezicht op AI-aangedreven platforms om de verspreiding van illegale en schadelijke inhoud te voorkomen. Het antwoord van de EU zendt een duidelijke boodschap uit: platforms moeten prioriteit geven aan de veiligheid van gebruikers en zich houden aan wettelijke normen, anders zullen zij met ernstige gevolgen te maken krijgen.
