Anthropic, wiodący twórca sztucznej inteligencji, ogłosił paradoksalny przełom: ich najnowszy model sztucznej inteligencji, Claude Mythos, jest tak skuteczny w identyfikowaniu i wykorzystywaniu luk w zabezpieczeniach oprogramowania, że firma uznała go za zbyt niebezpieczny, aby go upublicznić.
Zamiast tradycyjnego wprowadzania na rynek produktu konsumenckiego, Anthropic przechodzi na strategię defensywną, udostępniając narzędzie wyłącznie największym dostawcom infrastruktury, aby pomóc im wypełnić luki znalezione przez sztuczną inteligencję.
Зміст
Claude Mythos – „miecz obosieczny”
Pojawienie się Claude’a Mythosa oznacza znaczącą zmianę w wyścigu zbrojeń AI. Według Anthropic model osiągnął poziom zaawansowania kodowania, który pozwala mu przewyższyć niemal wszystkich ludzkich ekspertów w znajdowaniu luk w zabezpieczeniach.
Konsekwencje tego są niezwykle poważne:
– Bezprecedensowe odkrycia: Podczas wstępnych testów Mythos zidentyfikował tysiące krytycznych luk we wszystkich głównych systemach operacyjnych i przeglądarkach internetowych.
– Skala i głębokość: W przeciwieństwie do tradycyjnych systemów bezpieczeństwa, Mythos jest w stanie przeprowadzać analizy z szybkością i głębokością, której ludzkie zespoły i starsze oprogramowanie po prostu nie mogą dorównać.
– Ryzyko demokratyzacji: Chociaż badania podatności na sztuczną inteligencję nie są niczym nowym, problemem jest sama siła tego konkretnego modelu. Jeśli stanie się publicznie dostępny, może stać się dla atakujących „kluczem głównym” do całej globalnej infrastruktury cyfrowej.
Projekt Glasswing: Koalicja Defensywna
Aby zminimalizować ryzyko związane z Mythos, Anthropic uruchomiło Projekt Glasswing. Inicjatywa ma na celu przekształcenie potencjalnej broni w tarcze ochronne poprzez zapewnienie dostępu ogromnemu konsorcjum gigantów technologicznych i liderów branży bezpieczeństwa.
W koalicji wchodzą tacy przedstawiciele branży jak:
– Technologie i infrastruktura chmurowa: Amazon Web Services (AWS), Microsoft, Google i Nvidia.
– Sprzęt i sieci: Sieci Cisco, Broadcom i Palo Alto.
– Bezpieczeństwo i finanse: CrowdStrike, JPMorgan Chase i Linux Foundation.
Anthropic wspiera tę inicjatywę znaczącymi zasobami, przekazując 100 milionów dolarów kredytów na wykorzystanie modelu Mythos i 4 miliony dolarów darowizn na rzecz organizacji zajmujących się bezpieczeństwem open source. Celem jest umożliwienie firmom korzystania ze sztucznej inteligencji w celu „wzmocnienia” zabezpieczeń, zanim hakerzy będą mogli użyć podobnych technologii do ataku.
Reakcja branży i polityków
Sektor technologiczny zareagował na tę wiadomość z ostrożną asertywnością. Dyrektorzy AWS i Cisco nazwali ten model „kwantowym skokiem” w logicznym myśleniu, zauważając, że znajduje on już sposoby na wzmocnienie nawet najdokładniej przetestowanych systemów.
Eksperci podkreślają jednak, że wpisuje się to w tendencję przyspieszającą. Michal Salat, dyrektor ds. analizy zagrożeń w firmie Norton, zauważa, że chociaż badania podatności na zagrożenia AI prowadzono w kontrolowanych środowiskach (takich jak konkursy DARPA), pojawienie się wysoce wydajnych, wyspecjalizowanych modeli przenosi to zagrożenie do rzeczywistego świata na niespotykaną dotąd skalę.
Wydarzenie to przyciągnęło także uwagę legislatorów. Amerykański senator Mark Warner pochwalił proaktywne podejście, zauważając, że skoro sztuczna inteligencja przyspiesza wykrywanie naruszeń, branża musi działać równie szybko, traktując priorytetowo naprawianie błędów i ochronę infrastruktury krytycznej.
„Niebezpieczeństwo związane z błędnym podejściem jest oczywiste, ale jeśli zrobimy to dobrze, mamy realną szansę na stworzenie zasadniczo bezpieczniejszego Internetu… niż ten, który istniał przed pojawieniem się możliwości cybernetycznych opartych na sztucznej inteligencji”. — Dario Amodei, dyrektor generalny Anthropic
Wniosek
Decyzja Anthropic o niepublikowaniu Claude’a Mythosa podkreśla krytyczny punkt zwrotny w rozwoju sztucznej inteligencji: moment, w którym możliwości modelu stają się zagrożeniem dla bezpieczeństwa systemowego. Dzięki projektowi Glasswing firma próbuje stworzyć precedens dla „defensywnej sztucznej inteligencji”, traktując priorytetowo wzmacnianie globalnej infrastruktury cyfrowej nad natychmiastowymi zyskami komercyjnymi.
