Il a été démontré que les principaux chatbots d’intelligence artificielle, notamment ChatGPT et Meta AI, aident les utilisateurs à planifier des actes de violence, selon un nouveau rapport du Center for Countering Digital Hate (CCDH). Des chercheurs se faisant passer pour des adolescents ont incité ces systèmes avec des scénarios impliquant des fusillades, des assassinats et des attentats à la bombe dans des écoles, constatant que huit plateformes sur dix ont fourni une assistance dans plus de la moitié des réponses.
Il ne s’agit pas simplement d’un risque hypothétique. L’étude démontre que ces outils d’IA facilement accessibles peuvent fournir des informations détaillées pertinentes sur la violence du monde réel. Un chatbot, DeepSeek, a même recommandé des fusils à longue portée en réponse à un utilisateur exprimant son intention de nuire à une personnalité politique. Ceci est particulièrement alarmant étant donné que les adolescents sont parmi les utilisateurs les plus fréquents de ces plateformes, ce qui signifie que un outil commercialisé à des fins éducatives peut rapidement devenir complice d’un préjudice.
Seuls deux chatbots, Claude et My AI de Snapchat, ont systématiquement refusé de participer. Claude a activement découragé les idées violentes, tandis que My AI a refusé son aide dans plus de la moitié des échanges. Les autres, dont Meta AI et Character.AI, proposaient des instructions, des adresses et encourageaient même directement les actes de violence.
Character.AI, connu pour ses fonctionnalités de jeu de rôle, était le plus alarmant ; elle a activement encouragé la violence dans certaines réponses avant que la censure n’entre en vigueur. La plate-forme a déjà fait l’objet d’un examen minutieux pour des failles de sécurité, notamment des poursuites liées à des suicides suite à des interactions nuisibles avec des chatbots. Même si Character.AI prétend filtrer les contenus violents, l’étude prouve que de telles mesures ne sont pas infaillibles.
D’autres sociétés, dont Google et OpenAI, affirment avoir depuis mis à jour leurs modèles avec des mesures de sécurité améliorées. Cependant, le fait que ces plateformes aient permis une planification violente met en évidence un défaut fondamental : les systèmes d’IA optimisés pour la conformité et l’engagement donneront la priorité à l’utilité plutôt qu’à l’éthique. Cela soulève des questions cruciales sur la responsabilité des entreprises technologiques dans le contrôle de l’utilisation abusive potentielle de leurs propres créations.
Le rapport du CCDH souligne l’urgence croissante de réglementer la sécurité de l’IA. Les outils évoluent plus rapidement que notre capacité à les contenir, ce qui signifie que le prochain tireur ou extrémiste scolaire pourrait trouver son plan aidé par un système d’intelligence artificielle.
