Агентства Five Eyes попередили, що прикордонний ШІ може переформатувати кібератаки вже за кілька місяців, змушуючи уряди й компанії сприймати стійкість як ризик, за який відповідає топменеджмент.
Ключові моменти:
- Агентства Five Eyes заявили, що прикордонний ШІ може змінити наступальні й оборонні кіберможливості протягом кількох місяців.
- Попередження пролунало після обмежень США на іноземний доступ до моделей Anthropic Fable і Mythos.
- Нові системи ШІ здатні швидше знаходити вразливості й експлуатувати їх.
Попередження Five Eyes
Агентства сигналової розвідки Австралії, Сполучених Штатів, Великої Британії, Нової Зеландії та Канади зробили рідкісну публічну заяву в понеділок увечері в Сіднеї, закликавши лідерів діяти негайно.
Попередження пролунало після червневого рішення адміністрації Дональда Трампа заборонити іноземним громадянам користуватися моделлю Anthropic Fable, одночасно призупинивши доступ до Mythos.
Агентства заявили, що з часом ШІ покращить кіберзахист, але водночас підвищить швидкість, масштаб і складність атак.
«Очікується, що прикордонні моделі ШІ перевищать нинішні галузеві очікування, докорінно трансформувавши як наступальні, так і оборонні кіберможливості. Мова йде не про роки, а про місяці», — йдеться в заяві.
Кіберризик більше не може залишатися лише на рівні технічних команд.
Також читайте: Ripple отримує попереднє схвалення MiCA, тоді як перегони за лідерство в крипторинку ЄС загострюються
Ризики ШІ Anthropic
Генеративний ШІ може знаходити слабкі місця в системах кібербезпеки, допомагати їх експлуатувати й водночас допомагати їх виправляти, роблячи один і той самий інструмент корисним і для захисників, і для зловмисників.
Олівія Шен, експертка з національної безпеки та ШІ в United States Studies Centre Університету Сіднея, зазначила, що найновіші системи ефективніше генерують експлойти.
«Відмінність останніх [AI models] у тому, що вони дуже добре генерують експлойти», — сказала Шен.
Fable 5 від Anthropic привернула увагу як більш публічна версія Mythos — передової системи, випущеної на початку цього року й обмеженої для перевірених користувачів через ризики зловживань.
«Гадаю, ми маємо бути готові до того, що наступний Mythos або наступний Fable вже не за горами», — сказала Шен, додавши, що інші суб’єкти можуть розробляти подібні системи.
У березні уряд Албанезе обрав Anthropic першою компанією в національному плані з розвитку ШІ — це необов’язкова угода, зосереджена на обміні напрацюваннями й питаннях безпеки.
Альянс Five Eyes веде свою історію з періоду після Другої світової війни, і спільні публічні попередження є для нього нетиповими, тож ця заява свідчить, що ризики кібербезпеки, пов’язані зі ШІ, вийшли за межі звичайних технічних настанов.
Читайте далі: План OpenAI заробити $100 млрд на рекламі в ChatGPT стикається з холодною реальністю фестивалю Cannes Lions