Anthropic, přední vývojář umělé inteligence, oznámil paradoxní průlom: jejich nejnovější model umělé inteligence, Claude Mythos, je tak účinný při identifikaci a využívání zranitelností softwaru, že jej společnost považuje za příliš nebezpečný pro zveřejnění.
Místo tradičního uvádění spotřebitelských produktů se Anthropic posouvá k obranné strategii a zpřístupňuje tento nástroj výhradně největším poskytovatelům infrastruktury, aby jim pomohl zaplnit ty mezery, které AI najde.
Зміст
Claude Mythos – „dvojsečný meč“
Příchod Claude Mythos znamená významný posun v závodech ve zbrojení AI. Podle Anthropic model dosáhl úrovně propracovanosti kódování, která mu umožňuje překonat téměř všechny lidské experty v hledání bezpečnostních děr.
Důsledky toho jsou velmi vážné:
– Bezprecedentní objevy: Během předběžného testování identifikoval Mythos tisíce kritických zranitelností ve všech hlavních operačních systémech a webových prohlížečích.
– Měřítko a hloubka: Na rozdíl od tradičních bezpečnostních systémů je Mythos schopen analýzy rychlostí a hloubkou, které se lidské týmy a starší software prostě nemohou rovnat.
– Riziko demokratizace: Zatímco výzkum zranitelnosti umělé inteligence není nic nového, samotná síla tohoto konkrétního modelu je znepokojivá. Pokud se stane veřejně dostupným, může se stát „hlavním klíčem“ pro útočníky k celé globální digitální infrastruktuře.
Projekt Glasswing: Obranná koalice
Aby se minimalizovala rizika spojená s Mythos, společnost Anthropic spustila Projekt Glasswing. Cílem iniciativy je proměnit potenciální zbraně v ochranné štíty tím, že poskytne přístup k masivnímu konsorciu technologických gigantů a lídrů v bezpečnostním průmyslu.
Koalice zahrnuje takové průmyslové těžké váhy jako:
– Cloudové technologie a infrastruktura: Amazon Web Services (AWS), Microsoft, Google a Nvidia.
– Hardware a sítě: Sítě Cisco, Broadcom a Palo Alto.
– Bezpečnost a finance: CrowdStrike, JPMorgan Chase a Linux Foundation.
Anthropic podporuje tuto iniciativu značnými zdroji, poskytuje 100 milionů dolarů v kreditech za použití modelu Mythos a 4 miliony dolarů v darech organizacím zabývajícím se bezpečností s otevřeným zdrojovým kódem. Cílem je umožnit společnostem používat AI k „tvrdnutí“ obrany dříve, než hackeři mohou použít podobné technologie k útoku.
Reakce průmyslu a politiků
Technologický sektor reagoval na zprávy s opatrnou asertivitou. Manažeři AWS a Cisco tento model označili za „kvantový skok“ v logickém uvažování s tím, že již nachází způsoby, jak posílit i ty nejpečlivěji testované systémy.
Odborníci však upozorňují, že jde o součást zrychlujícího se trendu. Michal Salat, ředitel zpravodajství o hrozbách ve společnosti Norton, poznamenává, že zatímco výzkum zranitelnosti umělé inteligence existoval v kontrolovaných prostředích (jako jsou soutěže DARPA), vznik vysoce schopných specializovaných modelů přináší tuto hrozbu do reálného světa v bezprecedentním měřítku.
Akce vzbudila pozornost i zákonodárců. Americký senátor Mark Warner ocenil proaktivní přístup a poznamenal, že jak AI urychluje odhalování narušení, průmysl musí jednat stejně rychle, upřednostňovat opravy chyb a chránit kritickou infrastrukturu.
“Nebezpečí, že to uděláme špatně, je zřejmé, ale pokud to uděláme správně, máme skutečnou příležitost vytvořit zásadně bezpečnější internet… než ten, který existoval před příchodem kybernetických schopností poháněných umělou inteligencí.” — Dario Amodei, CEO společnosti Anthropic
Závěr
Rozhodnutí Anthropic nezveřejnit Claude Mythos zdůrazňuje kritický bod obratu ve vývoji AI: bod, kdy se schopnosti modelu stávají systémovým bezpečnostním rizikem. S Project Glasswing se společnost snaží vytvořit precedens pro „defenzivní AI“ tím, že upřednostňuje posílení globální digitální infrastruktury před okamžitým komerčním ziskem.
