Компания Anthropic, ведущий разработчик в области искусственного интеллекта, объявила о парадоксальном прорыве: их новейшая модель ИИ, Claude Mythos, настолько эффективно выявляет и эксплуатирует программные уязвимости, что компания сочла её слишком опасной для публичного релиза.
Вместо традиционного запуска потребительского продукта Anthropic переходит к оборонительной стратегии, предоставляя доступ к инструменту исключительно крупнейшим поставщикам инфраструктуры, чтобы помочь им устранять те самые бреши, которые обнаруживает ИИ.
Зміст
Claude Mythos — «обоюдоострый меч»
Появление Claude Mythos знаменует собой значительный сдвиг в гонке вооружений в сфере ИИ. По заявлениям Anthropic, модель достигла такого уровня совершенства в написании кода, который позволяет ей превосходить почти всех экспертов-людей в поиске пробелов в безопасности.
Последствия этого крайне серьезны:
— Беспрецедентные открытия: В ходе предварительного тестирования Mythos выявила тысячи критических уязвимостей во всех основных операционных системах и веб-браузерах.
— Масштаб и глубина: В отличие от традиционных систем безопасности, Mythos способна проводить анализ со скоростью и глубиной, с которыми просто не могут сравниться ни человеческие команды, ни устаревшее программное обеспечение.
— Риск демократизации: Хотя исследования уязвимостей с помощью ИИ не являются чем-то новым, опасения вызывает колоссальная мощь именно этой конкретной модели. В случае попадания в открытый доступ она может стать для злоумышленников «мастер-ключом» ко всей мировой цифровой инфраструктуре.
Project Glasswing: Оборонительная коалиция
Чтобы минимизировать риски, связанные с Mythos, Anthropic запустила Project Glasswing. Эта инициатива призвана превратить потенциальное оружие в защитный щит путем предоставления доступа к огромному консорциуму технологических гигантов и лидеров индустрии безопасности.
В коалицию входят такие тяжеловесы отрасли, как:
— Облачные технологии и инфраструктура: Amazon Web Services (AWS), Microsoft, Google и Nvidia.
— Аппаратное обеспечение и сети: Cisco, Broadcom и Palo Alto Networks.
— Безопасность и финансы: CrowdStrike, JPMorgan Chase и Linux Foundation.
Anthropic поддерживает эту инициативу значительными ресурсами, выделяя 100 миллионов долларов в виде кредитов на использование модели Mythos и 4 миллиона долларов в качестве пожертвований организациям, занимающимся безопасностью с открытым исходным кодом. Цель состоит в том, чтобы дать компаниям возможность использовать ИИ для «укрепления» обороны до того, как хакеры смогут использовать подобные технологии для атак.
Реакция индустрии и политиков
Технологический сектор отреагировал на новость с осторожной настойчивостью. Руководители AWS и Cisco назвали модель «качественным скачком» в области логического мышления, отметив, что она уже находит способы усилить даже самые тщательно проверенные системы.
Однако эксперты указывают на то, что это часть ускоряющегося тренда. Михал Салат, директор по анализу угроз в Norton, отмечает: хотя исследования уязвимостей с помощью ИИ существовали в контролируемых средах (например, в рамках конкурсов DARPA), появление высокоэффективных специализированных моделей переносит эту угрозу в реальный мир в беспрецедентных масштабах.
Это событие также привлекло внимание законодателей. Сенатор США Марк Уорнер похвалил проактивный подход, отметив, что поскольку ИИ ускоряет обнаружение брешей, индустрия должна действовать столь же быстро, отдавая приоритет исправлению ошибок и защите критически важной инфраструктуры.
«Опасности ошибки очевидны, но если мы все сделаем правильно, у нас появится реальная возможность создать фундаментально более безопасный интернет… чем тот, что существовал до появления кибервозможностей на базе ИИ». — Дарио Амодеи, генеральный директор Anthropic
Заключение
Решение Anthropic не выпускать Claude Mythos в широкий доступ подчеркивает критический поворотный момент в развитии ИИ: момент, когда возможности модели становятся системным риском для безопасности. С помощью Project Glasswing компания пытается создать прецедент «оборонительного ИИ», ставя укрепление глобальной цифровой инфраструктуры выше немедленной коммерческой выгоды.
