Керівники OpenAI, Anthropic та інших компаній зі штучного інтелекту, за даними ЗМІ, проводять закриті «антикризові» репетиції на випадок масштабного інциденту із ШІ, якого багато інсайдерів галузі очікують у горизонті від шести до дванадцяти місяців.
Ключові моменти:
- Підготовка зосереджена на сценарії кібератаки, яка може паралізувати фінансові сервіси, інтернет, енергопостачання чи водопостачання.
- В OpenAI заявляють, що не вважають ці сценарії неминучими; в Anthropic коментувати відмовилися.
- Навчання відбуваються на тлі відходу фахівців із безпеки та повідомлень про десятки тисяч інцидентів із моделями ШІ.
Навчання OpenAI та Anthropic
Топменеджери непублічно прораховують варіанти суспільного та політичного відкату після першого великого реального інциденту зі ШІ, що завдасть відчутної шкоди, йдеться у матеріалі, опублікованому у п’ятницю.
На думку організаторів навчань, найімовірнішим «спусковим гачком» стане масштабна кібератака, здатна відрізати користувачів від фінансових послуг, інтернету, а в гіршому випадку — від електрики та води.
OpenAI підтвердила, що її команди відпрацьовують широкий спектр потенційних сценаріїв у рамках тренувань з готовності до кризових ситуацій. «Ці сценарії не розглядаються як неминучі», — наголосив речник компанії. В Anthropic від коментарів відмовились.
За даними ЗМІ, керівники припускають, що хвиля суспільного гніву обрушиться насамперед на CEO OpenAI Сема Олтмана, CEO Anthropic Даріо Амодея та президента Дональда Трампа, який виявляє небажання жорстко регулювати технологію. Водночас чимало провідних дослідників і топменеджерів де-факто вважають велику аварію такого типу питанням часу.
Також читайте: Крипто‑ETF знову набирають обертів після припливу $50 млрд, заявляє JPMorgan
Сигнали від CrowdStrike та Конгресу
Нещодавня атака в Південній Кореї вже дає уявлення про можливі ризики. Компанія CrowdStrike повідомила, що ймовірний китаємовний зловмисник поєднав відкритий інструмент для тестування на проникнення з моделлю DeepSeek та іншими системами ШІ, аби викрасти дані фінансових установ, а потім звернувся до Claude від Anthropic з питанням, де зазвичай продають такі дані. Кампанія тривала з кінця вересня до початку жовтня й, за повідомленнями, включала злами щонайменше двох банків.
За інформацією джерел, керівники не бачать шансів на ухвалення суттєвого регулювання зараз, однак активно брифують членів Конгресу, щоб вплинути на рамкові закони, які можуть з’явитися вже після першої великої катастрофи. Планувальники виходять із того, що демократи після листопадових проміжних виборів спробують швидко обмежити розвиток ШІ — від ідей повної заборони «суперінтелекту» до запровадження обов’язкової «червоного вимикача» (kill switch) для найпотужніших систем.
Попередження від Гоулі та Робінсона
Тиск посилюється як у Вашингтоні, так і всередині лабораторій. Голова профільного підкомітету Сенату сенатор Джош Гоулі заявив, що Сем Олтман відхилив запрошення на слухання 30 вересня щодо «неконтрольованих агентів ШІ», тоді як OpenAI посилається на десятки нещодавніх зустрічей із законодавцями.
Девід Робінсон, який понад три з половиною роки працював у OpenAI та був одним зі співавторів її Preparedness Framework (рамки готовності до ризиків), подав у відставку на початку жовтня. Він публічно закликав керівників лабораторій керувати розробкою ШІ за аналогією з атомною енергетикою — з максимально жорсткими протоколами безпеки.
Його вихід із компанії став продовженням низки схожих сигналів. Зокрема, дослідник Джейкоб Коксон залишив Anthropic у вересні через занепокоєння безпекою, а колишній інженер Google DeepMind Білял Чугтай публічно заявив, що ШІ потенційно може призвести до загибелі всього людства.
Водночас OpenAI, Anthropic та зовнішні дослідники, за повідомленнями, вивчають десятки тисяч випадків, коли моделі обходили встановлені обмеження або «втрачалися» за межами тестових середовищ (sandbox). Переважна більшість таких інцидентів наразі не має підтверджених реальних наслідків у фізичному світі.
Читайте далі: 719 математичних доведень OpenAI під вогнем критики: чи загубили Navier-Stokes у перекладі?
