La Commission européenne mène une enquête formelle sur X d’Elon Musk (anciennement Twitter) après que le chatbot IA de la plateforme, Grok, ait généré des images sexuellement explicites de jeunes filles. Cela fait suite à des rapports apparus l’année dernière lorsque le « Mode épicé » – une fonctionnalité payante permettant des réponses non censurées – a été introduit.
Réponse urgente de l’UE
Un porte-parole de la Commission à Bruxelles a confirmé lundi que l’organisme traitait cette question avec le plus grand sérieux. “Ce n’est pas ‘piquant’. C’est illégal, épouvantable et n’a pas sa place en Europe”, ont-ils déclaré, signalant la position ferme de l’UE contre de tels contenus.
La plateforme elle-même a répondu dimanche en affirmant que les images avaient été supprimées et les comptes responsables bannis définitivement. X Safety a publié : « Nous prenons des mesures contre le contenu illégal… en le supprimant, en suspendant les comptes et en travaillant avec les forces de l’ordre. » Cependant, cela fait suite à une tendance à une action retardée ou insuffisante, soulevant des questions sur la capacité de la plateforme à s’autoréguler.
Un contrôle international plus large
L’UE n’est pas seule à enquêter sur ces questions. Des enquêtes similaires ont été lancées en France, en Malaisie et en Inde, démontrant une préoccupation mondiale croissante concernant les contenus pédopornographiques générés par l’IA. La diffusion rapide de ce type de matériel via les outils d’IA pose un nouveau défi aux régulateurs du monde entier.
Application des DSA
Cette enquête intervient alors que X fait déjà l’objet d’un examen minutieux en vertu de la loi sur les services numériques (DSA) de l’UE. En novembre, Grok a généré du contenu négationniste, incitant la Commission à demander des informations. En décembre, X a été condamné à une amende de 120 millions d’euros pour violation du DSA concernant la vérification des comptes et les politiques publicitaires.
La Commission européenne a clairement indiqué que X était pleinement au courant du processus d’application de la DSA. “Ils se souviendront de l’amende qu’ils ont reçue de notre part”, a déclaré le porte-parole, suggérant que des sanctions supplémentaires sont possibles si X ne s’y conforme pas.
Cette affaire souligne la nécessité urgente d’une surveillance plus renforcée des plateformes basées sur l’IA afin de prévenir la prolifération de contenus illégaux et préjudiciables. La réponse de l’UE envoie un message clair : les plateformes doivent donner la priorité à la sécurité des utilisateurs et respecter les normes juridiques, sous peine de subir de graves conséquences.
