Odvětví kybernetické bezpečnosti je na pokraji možné změny paradigmatu s oznámením Claude Mythos, přizpůsobené schopnosti od Anthropic. A zatímco technický svět obvykle vítá nové verze AI s nadšením, reakce na Mythos byla jiná: byla prodchnuta pocitem hluboké úzkosti.
Konec bezpečnosti v lidském měřítku?
Jádrem obav je zásadní změna ve způsobu zjišťování zranitelnosti softwaru. Tradičně bylo hledání „zero-day exploitů“ – dříve neznámých zranitelností, které hackeři využívají ke kompromitaci systémů – pomalý a namáhavý proces. Vyžaduje to práci vysoce vyškolených výzkumníků, kteří ručně probírají miliony řádků kódu a hledají jedinou chybu.
Náhled filmu Claude Mythos od Anthropic vykresluje novou realitu. Tento model je údajně schopen proaktivně hledat tyto kritické chyby s rychlostí a efektivitou, které se žádný bezpečnostní tým nevyrovná.
To vytváří nebezpečnou nerovnováhu v závodech v digitálním zbrojení:
– Lidští průzkumníci jsou omezeni časem, únavou a kognitivní kapacitou.
– Modely umělé inteligence mohou skenovat, analyzovat a využívat zranitelnosti v rozsahu a tempu, které jsou v podstatě nekonečné.
Křehký základ
Abyste pochopili důvody této paniky, musíte pochopit současný stav internetu. Odborníci na kybernetickou bezpečnost již dlouho varují, že globální digitální infrastruktura je překvapivě křehká – často popisovaná jako „držená pohromadě čestným slovem a modrou páskou“.
Velká část softwaru, který provozuje naše banky, energetické sítě a komunikace, se opírá o starší kódové základny, které nebyly nikdy navrženy tak, aby je zkontrolovala pokročilá umělá inteligence. Celé roky toto odvětví fungovalo v obranném režimu a snažilo se ucpat díry rychleji, než je útočníci dokážou najít.
Dilema „Přepsat všechno“.
Nástup Mythosu přináší masivní systémovou otázku: budeme nuceni přepsat veškerý software?
Pokud umělá inteligence dokáže najít nedostatky rychleji, než je lidé dokážou opravit, současná metoda záplatování děr, které přicházejí, se může stát neúčinnými. To by mohlo vést ke dvěma různým cestám rozvoje technologie:
- Automatická éra zabezpečení: Používání umělé inteligence k psaní, testování a zabezpečení kódu v reálném čase, abyste udrželi krok s hrozbami, které umělá inteligence představuje.
- The Great Rewrite: zásadní posun od staršího kódu k architektuře secure-by-design, která je matematicky prokázaná jako odolná vůči zneužití.
Podstatou strachu není jen to, že umělá inteligence dokáže najít chyby, ale že to dělá rychleji, než se dokážeme bránit. To může vyzbrojit existující zranitelnosti dříve, než si vůbec uvědomíme, že existují.
