Компанія Anthropic, провідний розробник у галузі штучного інтелекту, оголосила про парадоксальний прорив: їх нова модель ІІ, Claude Mythos, настільки ефективно виявляє та експлуатує програмні вразливості, що компанія вважала її надто небезпечною для публічного релізу.
Замість традиційного запуску споживчого продукту Anthropic переходить до оборонної стратегії, надаючи доступ до інструменту виключно найбільшим постачальникам інфраструктури, щоб допомогти їм усувати ті проломи, які виявляє ІІ.
Зміст
Claude Mythos — «обоюдогострий меч»
Поява Claude Mythos знаменує собою значне зрушення у гонці озброєнь у сфері ІІ. За заявами Anthropic, модель досягла такого рівня досконалості в написанні коду, який дозволяє їй перевершувати майже всіх експертів-людей у пошуку прогалин у безпеці.
Наслідки цього дуже серйозні:
– Безпрецедентні відкриття: Під час попереднього тестування Mythos виявила тисячі критичних уразливостей у всіх основних операційних системах та веб-браузерах.
– Масштаб та глибина: На відміну від традиційних систем безпеки, Mythos здатна проводити аналіз зі швидкістю та глибиною, з якими просто не можуть зрівнятися ні людські команди, ні застаріле програмне забезпечення.
– Ризик демократизації: Хоча дослідження вразливостей за допомогою ІІ не є чимось новим, побоювання викликає колосальна міць саме цієї конкретної моделі. У разі потрапляння у відкритий доступ, вона може стати для зловмисників «майстер-ключом» до всієї світової цифрової інфраструктури.
Project Glasswing: Оборонна коаліція
Щоб мінімізувати ризики, пов’язані з Mythos, Anthropic запустила Project Glasswing. Ця ініціатива покликана перетворити потенційну зброю на захисний щит шляхом надання доступу до величезного консорціуму технологічних гігантів та лідерів індустрії безпеки.
У коаліцію входять такі важкоатлети галузі, як:
– Хмарні технології та інфраструктура: Amazon Web Services (AWS), Microsoft, Google та Nvidia.
– Апаратне забезпечення та мережі: Cisco, Broadcom та Palo Alto Networks.
– Безпека та фінанси: CrowdStrike, JPMorgan Chase та Linux Foundation.
Anthropic підтримує цю ініціативу значними ресурсами, виділяючи 100 мільйонів доларів у вигляді кредитів на використання моделі Mythos та 4 мільйони доларів як пожертвування організаціям, що займаються безпекою з відкритим вихідним кодом. Ціль полягає в тому, щоб дати компаніям можливість використовувати ІІ для «зміцнення» оборони до того, як хакери зможуть використовувати подібні технології для атак.
Реакція індустрії та політиків
Технологічний сектор відреагував на новину з обережною наполегливістю. Керівники AWS і Cisco назвали модель «якісним стрибком» у галузі логічного мислення, зазначивши, що вона вже знаходить способи посилити навіть найретельніше перевірені системи.
Однак експерти вказують на те, що це частина тренду, що прискорюється. Міхал Салат, директор з аналізу загроз у Norton, зазначає: хоча дослідження вразливостей за допомогою ІІ існували у контрольованих середовищах (наприклад, у рамках конкурсів DARPA), поява високоефективних спеціалізованих моделей переносить цю загрозу у реальний світ у безпрецедентних масштабах.
Ця подія також привернула увагу законодавців. Сенатор США Марк Уорнер похвалив проактивний підхід, зазначивши, що оскільки ІІ прискорює виявлення проломів, індустрія має діяти так само швидко, віддаючи пріоритет виправленню помилок та захисту критично важливої інфраструктури.
«Небезпеки помилки очевидні, але якщо ми все зробимо правильно, у нас з’явиться реальна можливість створити фундаментально безпечніший інтернет… ніж той, що існував до появи кіберможливостей на базі ІІ». – Даріо Амодеї, генеральний директор Anthropic
Висновок
Рішення Anthropic не випускати Claude Mythos у широкий доступ підкреслює критичний поворотний момент у розвитку ІІ: момент, коли можливості моделі стають системним ризиком безпеки. За допомогою Project Glasswing компанія намагається створити прецедент «оборонного ІІ», ставлячи зміцнення глобальної цифрової інфраструктури вище за негайну комерційну вигоду.
