Фахівці з безпеки заперечують тривожні заяви, що Anthropic's unreleased Mythos AI model спричинить хвилю хакінгу, називаючи таку реакцію перебільшеною через місяць після запуску.
Практики зменшують паніку навколо Mythos
Ризики хакінгу, пов’язані з Mythos, виглядають меншими, ніж уряди спочатку побоювалися, у середу повідомило Reuters reported. Під час запуску в квітні Anthropic заявила, що модель виявила тисячі програмних вразливостей у всіх основних операційних системах і браузерах.
Посадовці в кількох країнах зустрічалися з банками, щоб оцінити рівень ризику, а Білий дім уже на початку травня розглядав правила щодо того, як лабораторії мають випускати нові моделі після перевірок безпеки.
Усередині спільноти фахівців з кібербезпеки реакція була спокійнішою. «Я думаю, що існує дуже велика прогалина в комунікації між практиками та політиками», — сказав Ісаак Еванс, засновник і генеральний директор компанії з програмної безпеки Semgrep, в інтерв’ю Reuters told. Модель є «справжнім технічним проривом», додав він, хоча суспільна реакція «не підтверджується тим, що ми насправді знаємо».
Також читайте: Claude Mythos AI Built Working Exploits Across 50 Cloudflare Repos, Then Refused To Demo
Експерти оцінюють ризики як помірні
Більшою проблемою є не пошук багів, а їх пріоритизація. Один дослідник вразливостей з раннім доступом said, що ШІ виявив більше вад, ніж команди можуть опрацювати за кілька місяців, а справжнім вузьким місцем є перевірка й виправлення.
Mythos знижує поріг входу, оскільки видає результати за слабкішими підказками, ніж вимагали попередні моделі.
Ентоні Ґрієко, старший віцепрезидент і директор з безпеки та довіри в Cisco, pointed на швидше сканування коду та менше хибних спрацювань, що допомагає захисникам зосередитися на найнагальніших ризиках. Mythos також має менше обмежень, ніж попередні релізи.
Сінтія Кайзер, колишня високопосадовиця з кібербезпеки у FBI, яка зараз працює в компанії Halcyon, зазначила, що більшість атак досі не залежать від ШІ. «Наші противники стали дуже вправними і без ШІ», — сказала вона, зазначивши, що угруповання, які займаються програмами-вимагачами, тепер вражають жертв менш ніж за годину.
Передумови Project Glasswing
Anthropic launched Project Glasswing on Apr. 7, надавши вибраним організаціям доступ до Claude Mythos Preview для оборонних завдань у кібербезпеці, із партнерами, включно з Apple, Microsoft, Google, AWS та CrowdStrike. Пентагон у березні назвав Anthropic ризиком для ланцюга постачання, навіть попри те, що, за повідомленнями, АНБ продовжувало використовувати Mythos Preview. Наприкінці квітня Білий дім відхилив план розширити список партнерів із приблизно 50 до близько 120 компаній.
Читайте далі: BitMine Buys 71,672 ETH As Tom Lee Calls $2,200 Dip A Bargain