Le secteur de la cybersécurité est confronté à un changement de paradigme potentiel suite à la présentation en avant-première de Claude Mythos, une capacité spécialisée d’Anthropic. Alors que le monde de la technologie réagit souvent avec enthousiasme aux nouvelles versions de l’IA, l’accueil réservé à Mythos a été nettement différent : il se caractérise par un sentiment de profond malaise.
La fin de la sécurité à l’échelle humaine ?
Au cœur de la préoccupation se trouve un changement fondamental dans la manière dont les vulnérabilités logicielles sont découvertes. Traditionnellement, la découverte des « exploits Zero Day », c’est-à-dire des vulnérabilités jusqu’alors inconnues que les pirates peuvent utiliser pour pénétrer dans les systèmes, est un processus lent et minutieux. Cela nécessite des chercheurs humains hautement qualifiés pour parcourir manuellement des millions de lignes de code pour trouver une seule faille.
Claude Mythos Preview d’Anthropic suggère une nouvelle réalité. Le modèle serait capable de rechercher de manière proactive ces bogues critiques avec une vitesse et une efficacité qu’aucune équipe de sécurité humaine ne peut égaler.
Cela crée un dangereux déséquilibre dans la course aux armements numériques :
– Les chercheurs humains sont limités par le temps, la fatigue et la bande passante cognitive.
– Les modèles d’IA peuvent analyser, analyser et exploiter les vulnérabilités à une échelle et à une vitesse essentiellement infinies.
Une fondation fragile
Pour comprendre pourquoi cela provoque la panique, il faut comprendre l’état actuel d’Internet. Les experts dans le domaine de la cybersécurité avertissent depuis longtemps que l’infrastructure numérique mondiale est remarquablement fragile, souvent décrite comme étant « maintenue ensemble par du crachat et de la colle ».
Une grande partie des logiciels qui régissent nos services bancaires, nos réseaux électriques et nos communications reposent sur des bases de code vieillissantes qui n’ont jamais été conçues pour résister à l’examen minutieux d’une IA avancée. Pendant des années, l’industrie a fonctionné sur une base défensive, se précipitant pour combler les lacunes plus rapidement que les mauvais acteurs ne peuvent les trouver.
Le dilemme « Tout réécrire »
L’émergence de Mythos soulève une question systémique majeure : Serons-nous obligés de réécrire tous les logiciels ?
Si l’IA parvient à détecter les failles plus rapidement que les humains ne peuvent les corriger, la méthode actuelle consistant à « corriger au fur et à mesure » pourrait devenir obsolète. Cela pourrait conduire à deux voies divergentes pour l’avenir de la technologie :
- L’ère de la défense automatisée : Utiliser l’IA pour écrire, tester et sécuriser du code en temps réel afin de suivre le rythme des menaces basées sur l’IA.
- La grande réécriture : Un abandon fondamental du code existant vers des architectures « sécurisées dès la conception » dont il est mathématiquement prouvé qu’elles sont résistantes à l’exploitation.
Le cœur de la peur ne réside pas seulement dans le fait que l’IA puisse détecter les bugs, mais aussi dans le fait qu’elle peut les trouver plus rapidement que notre capacité à nous défendre contre eux, transformant potentiellement les vulnérabilités existantes en armes avant même que nous réalisions qu’elles existent.
