Claude Mythos від Anthropic знадобилося лише кілька годин, щоб виявити недоліки в системі захисту надчутливих урядових комп’ютерних систем США під час закритих розвідувальних випробувань, повідомив посадовець.
Ключові моменти:
- Модель Mythos від Anthropic виявила вразливості в засекречених урядових системах США за кілька годин під час розвідувального тесту, сказав посадовець.
- Виявлення слабкого місця не те саме, що його експлуатація, застеріг посадовець.
- Понад 100 фахівців із кібербезпеки хочуть, щоб уряд скасував експортні обмеження, які вивели Mythos та Fable 5 з доступу.
Тест Mythos виявив недоліки в засекречених урядових системах
Посадовець США, який говорив анонімно через чутливий характер роботи, повідомив, що спецслужби провели це навчання разом із компанією в межах програми під назвою Project Glasswing. Ініціатива об’єднала техногігантів та інші фірми, щоб посилити захист критичного програмного забезпечення до того, як його недоліки завдадуть серйозної шкоди громадській безпеці та економіці. Anthropic утримувалася від публічного релізу Mythos, натомість надавши ранній доступ вибраній групі компаній, аби вони змогли знайти й усунути критичні вади до того, як це зроблять зловмисники.
Демократичний сенатор від Вірджинії Марк Ворнер уперше згадав про ці тести 11 червня, на слуханнях Комітету Сенату з питань банківської справи, житлового будівництва та міських справ. Він заявив, що інструмент «зламався» майже в усі засекречені урядові системи за години, а не тижні, пославшись на слова Джошуа Радда, який очолює Агентство національної безпеки та Кіберкомандування США.
Виявлення слабкого місця, застеріг посадовець, не дорівнює його практичній експлуатації.
Також читайте: Чи є розпродаж Anthropic Perp попередженням для криптоінвестицій до IPO?
Експерти з кібербезпеки оскаржують експортні обмеження
Понад 100 лідерів у сфері кібербезпеки, зокрема представники Adobe та Nvidia, закликали уряд скасувати експортні обмеження та зобов’язатися до прозорої процедури оцінки ризиків ШІ. Вони назвали Mythos спроможним виявляти та перетворювати на зброю програмні вразливості, але не унікальним у цьому, адже багато хто покладається на конкуруючі та відкриті моделі для аналогічної роботи. Системи Китаю відстають від найкращих американських моделей лише на кілька місяців, наголосили вони, що робить нинішній момент особливо ризикованим.
Цей спротив послідував за експортною директивою від 12 червня, яка заборонила іноземцям доступ до Mythos 5 та Fable 5, ширшого релізу рівня Mythos. Anthropic вимкнула обидві моделі для всіх клієнтів, щоб виконати вимоги, попри те, що компанія не бачить жодних підстав із точки зору безпеки для такого кроку уряду.
Директива послідувала за указом президента Дональда Трампа, який запровадив федеральну перевірку найбільш передових систем ШІ терміном до місяця перед їхнім релізом. Указ передбачає, що участь розробників буде добровільною, хоча напруга у відносинах із орієнтованою на безпеку компанією вже тривалий час залишається високою.
Кіберісторія Mythos передує нинішньому протистоянню
Модель з’явилася цієї весни, уже маючи задокументовану здатність виявляти програмні вади, які не помічають навіть досвідчені дослідники-люди. Інститут безпеки ШІ Великої Британії раніше підтвердив експертний рівень Mythos у змаганнях «capture-the-flag», які раніше не вдавалося розв’язати жодній системі: модель успішно пройшла 73% завдань. Окремо Mozilla відзначила ранню версію моделі за виявлення 271 вразливості у Firefox, які були усунені в 150-му релізі браузера.
Читайте далі: Mane City Mobile вийшла на iOS та Android більш ніж у 100 країнах