Anthropic‑івська модель Claude Mythos потребувала лише кілька годин, щоб виявити недоліки безпеки у високочутливих комп’ютерних системах уряду США під час засекреченого розвідувального тесту, повідомив чиновник.
Основні моменти:
- ШІ‑модель Mythos від Anthropic, за словами чиновника, виявила вразливості в засекречених урядових системах США протягом кількох годин під час тесту.
- Виявити слабке місце — не те саме, що його експлуатувати, застеріг чиновник.
- Понад 100 експертів із кібербезпеки закликають уряд скасувати експортні обмеження, через які Mythos і Fable 5 вимкнули.
Тест Mythos виявив недоліки в засекречених урядових системах
Представник США, який говорив анонімно через чутливість робіт, розповів, що спецслужби провели це навчання спільно з компанією в межах програми під назвою Project Glasswing. Ініціатива об’єднала техногігантів та інші фірми, щоб укріпити критично важливе програмне забезпечення ще до того, як вразливості можуть завдати серйозної шкоди громадській безпеці та економіці. Anthropic утримався від публічного запуску Mythos, надавши ранній доступ обмеженому колу компаній, щоб вони змогли знайти й виправити критичні вади до того, як це зроблять зловмисники.
Демократичний сенатор від Вірджинії Марк Ворнер уперше згадав про тести 11 червня під час слухань у Банківському комітеті Сенату з питань житла та міських справ. Він заявив, що інструмент зламав майже всі засекречені урядові системи за години, а не тижні, посилаючись на Джошуа Радда, керівника Агентства національної безпеки та Кіберкомандування США.
Виявлення слабкого місця, застеріг чиновник, — це не те саме, що його використання.
Читати також: Чи є розпродаж Anthropic Perp попередженням для до‑IPO криптоставок?
Експерти з кібербезпеки виступають проти експортних обмежень
Понад 100 лідерів кібербезпеки, включно з представниками Adobe та Nvidia, закликали уряд скасувати експортні обмеження і запровадити прозору процедуру оцінювання ризиків ШІ. Вони назвали Mythos здатною до виявлення та потенційного «озброєння» вразливостей у ПЗ, але не унікальною в цьому, оскільки багато фахівців використовують для подібної роботи конкуруючі та відкриті моделі. На їхню думку, китайські системи відстають від найкращих американських лише на кілька місяців, що робить поточний момент особливо ризикованим.
Цей спротив посилився після експортної директиви від 12 червня, яка заборонила доступ іноземним громадянам до Mythos 5 і Fable 5, ширшого релізу рівня Mythos. Щоб виконати вимоги, Anthropic вимкнула обидві моделі для всіх клієнтів, водночас заявивши, що не бачить підстав безпеки для цього кроку уряду.
Директива пішла слідом за указом президента Дональда Трампа, який запровадив федеральну перевірку найдосконаліших систем ШІ строком до місяця перед їхнім випуском. Указ передбачав добровільну участь розробників, хоча напруга у відносинах із орієнтованою на безпеку компанією вже була високою.
Кіберісторія Mythos розгорнулася ще до нинішнього конфлікту
Модель з’явилася цієї весни з задокументованою здатністю знаходити програмні вразливості, які пропускають навіть досвідчені дослідники‑люди. Інститут безпеки ШІ Великої Британії раніше схвалив Mythos за виконання експертних capture‑the‑flag‑завдань, які жодна система раніше не розв’язувала: модель подолала 73% із них. Окремо Mozilla приписала ранній версії Mythos виявлення 271 вразливості у Firefox, які було усунуто в 150‑му релізі браузера.
Читайте далі: Mane City Mobile виходить на iOS та Android у 100+ країнах