ШІ Mythos зламав АНБ за кілька годин
ШІ Mythos від Anthropic зламав секретні системи АНБ за кілька годин
Сенатор США Марк Ворнер заявив, що передова модель штучного інтелекту Mythos від компанії Anthropic змогла проникнути майже в усі секретні системи Агентства національної безпеки (АНБ) під час навчань "червоної команди". За його словами, на це знадобилося лише кілька годин.
Наскільки небезпечною є модель Mythos
Як повідомляє The Economist, заступник голови комітету Сенату з розвідки Марк Ворнер отримав цю інформацію безпосередньо від керівника АНБ та Кіберкомандування США генерала Джошуа Радда. Навчання "червоної команди" були санкціоновані, проте результати виявилися шокуючими.
Заява прозвучала 11 червня – за день до того, як адміністрація президента США Дональда Трампа запровадила обмеження на доступ до моделей Fable 5 та Mythos 5. Хоча формально обмеження стосувалися лише громадян США, через неможливість масового контролю громадянства компанія Anthropic змушена була заборонити використання цих моделей для всіх партнерів та дослідників. Це перший випадок, коли уряд США застосував експортний контроль до моделі штучного інтелекту.
Офіційного підтвердження заяви Марка Ворнера від урядових відомств США досі немає. Деталі інциденту залишаються засекреченими. Anthropic ще під час релізу Mythos попереджала, що модель надзвичайно ефективна у виявленні вразливостей кібербезпеки та не може бути випущена у відкритий доступ.
Конфлікт уряду США з Anthropic: що стоїть за обмеженнями
Замість відкритого доступу Anthropic запустила проєкт Project Glasswing, надавши доступ до Mythos близько 200 партнерам, серед яких Amazon, Apple, Google, Microsoft, Nvidia, JPMorgan та Linux Foundation. За короткий час Mythos виявив тисячі вразливостей, зокрема 27-річну помилку в OpenBSD та 271 дефект у браузері Firefox.
Модель Fable 5, випущена 9 червня, базується на тій самій архітектурі Mythos, але має додаткові класифікатори безпеки. Вони блокують потенційно небезпечні запити та перенаправляють їх до менш потужної моделі.
У Anthropic стверджують, що такі обмеження зробили Fable 5 безпечнішою для загального використання. Однак генерал Джошуа Радд зазначив, що різниця між моделями незначна, а класифікатори не гарантують надійного захисту від зловживань.
Офіційною причиною заборони Fable 5 став її злам. Уряд США повідомив представників Anthropic про наявність лазівки, яка дозволяє обійти класифікатори безпеки та отримати доступ до критичних функцій у сфері кібербезпеки. У компанії заявили, що отримали лише усне попередження.
Про злам моделі Міністерство торгівлі США повідомили представники Amazon – одного з ключових інвесторів Anthropic. Водночас дослідник під ніком "Pliny the Liberator" опублікував у X та GitHub дані, які, за його словами, надають повний системний доступ до Fable 5.
Anthropic заперечує звинувачення, стверджуючи, що злам був вузькоспеціалізованим і не обходить захист Fable 5. Компанія також зазначила, що подібні вразливості існують і в інших ШІ-моделях, зокрема в GPT-5.5 від OpenAI.
На захист Anthropic виступив колишній керівник служби безпеки Facebook Алекс Стамос. Однак радник Трампа Девід Сакс зауважив: "Важко зрозуміти, як злам системи, що може становити загрозу кібербезпеці, можна вважати несерйозним".
2 червня адміністрація Трампа видала наказ, який зобов'язує компанії у сфері ШІ добровільно надавати уряду попередній доступ до експериментальних моделей за місяць до офіційного релізу. Fable 5 вийшла через тиждень, проігнорувавши цю вимогу. Тому заборона може розглядатися як спосіб примусити компанію до співпраці.
Не лише Mythos: які ще ШІ-моделі становлять загрозу
Обмеження на доступ до Mythos та Fable 5 торкнулися також партнерів Anthropic в Австралії, Великій Британії, Канаді та Новій Зеландії. Розвідки цих країн виступили зі спільною заявою, попередивши, що передові моделі ШІ вже за кілька місяців можуть дестабілізувати роботу урядів та бізнесу.
Експерти з кібербезпеки CyberScoop зазначили, що загрози, про які повідомила Amazon, вже можна реалізувати за допомогою моделей Claude Opus, Claude Sonnet та китайських ШІ-моделей з відкритим вихідним кодом.
Наразі Mythos та Fable 5 залишаються недоступними для більшості користувачів. Водночас Anthropic продовжує співпрацю з АНБ у рамках програми Project Glasswing. За даними компанії, близько шести її інженерів працюють в АНБ як провідні співробітники, адаптуючи Mythos під конкретні завдання. Співпраця може включати проникнення в мережі, контрольовані Китаєм та Іраном.
Чому модель Mythos не буде випущена у відкритий доступ? Anthropic занепокоєна її потенціалом, який може становити серйозну загрозу кібербезпеці.
