De cyberbeveiligingsindustrie wordt geconfronteerd met een mogelijke paradigmaverschuiving na de preview van Claude Mythos, een gespecialiseerde capaciteit van Anthropic. Terwijl de technische wereld vaak opgewonden reageert op nieuwe AI-releases, is de ontvangst van Mythos duidelijk anders: het wordt gekenmerkt door een gevoel van diep onbehagen.
Het einde van beveiliging op menselijke schaal?
De kern van de zorg is een fundamentele verandering in de manier waarop softwarekwetsbaarheden worden ontdekt. Traditioneel is het vinden van ‘zero-day exploits’ – voorheen onbekende kwetsbaarheden die hackers kunnen gebruiken om systemen binnen te dringen – een langzaam en moeizaam proces. Er zijn hoogopgeleide menselijke onderzoekers nodig die handmatig miljoenen regels code moeten doorzoeken om één enkele fout te vinden.
Claude Mythos Preview van Anthropic suggereert een nieuwe realiteit. Het model is naar verluidt in staat om proactief op deze kritieke bugs te jagen met een snelheid en efficiëntie die geen enkel menselijk beveiligingsteam kan evenaren.
Dit creëert een gevaarlijke onevenwichtigheid in de digitale wapenwedloop:
– Menselijke onderzoekers worden beperkt door tijd, vermoeidheid en cognitieve bandbreedte.
– AI-modellen kunnen kwetsbaarheden scannen, analyseren en exploiteren op een schaal en snelheid die in wezen oneindig is.
Een kwetsbare basis
Om te begrijpen waarom dit paniek veroorzaakt, moet je de huidige staat van internet begrijpen. Deskundigen op het gebied van cyberbeveiliging waarschuwen al lang dat de mondiale digitale infrastructuur opmerkelijk kwetsbaar is – vaak omschreven als ‘bij elkaar gehouden met spuug en lijm’.
Een groot deel van de software die ons bankwezen, onze elektriciteitsnetwerken en onze communicatie regelt, is afhankelijk van verouderde codebases die nooit zijn ontworpen om de kritiek van een geavanceerde AI te doorstaan. Jarenlang heeft de industrie op een defensieve basis gefunctioneerd en haastte zij zich om gaten sneller te dichten dan slechte actoren ze kunnen vinden.
Het dilemma ‘Alles herschrijven’
De opkomst van Mythos roept een enorme, systemische vraag op: Zullen we gedwongen worden alle software te herschrijven?
Als AI sneller fouten kan opsporen dan mensen ze kunnen repareren, kan de huidige methode van ‘patchen terwijl we werken’ verouderd raken. Dit zou kunnen leiden tot twee uiteenlopende paden voor de toekomst van de technologie:
- Het tijdperk van geautomatiseerde verdediging: AI gebruiken om code in realtime te schrijven, testen en beveiligen om gelijke tred te houden met AI-gestuurde bedreigingen.
- The Great Rewrite: Een fundamentele stap weg van verouderde code naar ‘secure-by-design’-architecturen waarvan wiskundig is bewezen dat ze bestand zijn tegen uitbuiting.
De kern van de angst is niet alleen dat AI bugs kan vinden, maar dat het ze sneller kan vinden dan ons vermogen om ons ertegen te verdedigen, waardoor bestaande kwetsbaarheden mogelijk in wapens kunnen worden omgezet voordat we zelfs maar beseffen dat ze bestaan.
