Топменеджери OpenAI, Anthropic та інших AI-компаній, за повідомленнями, проводять закриті «репетиції» дій у разі катастрофічного інциденту з ШІ, який, на думку багатьох інсайдерів, може статися вже протягом шести–12 місяців.
Ключові факти:
- У центрі планування – сценарій кібератаки, що може відрізати доступ до фінансових послуг, інтернету, електроенергії чи води.
- В OpenAI заявляють, що не вважають такі сценарії неминучими; Anthropic від коментарів відмовилась.
- Навчання відбуваються на тлі відходу фахівців з безпеки та повідомлень про десятки тисяч інцидентів із AI-моделями.
Навчання OpenAI та Anthropic
За даними матеріалу, опублікованого у п’ятницю, керівники компаній непублічно моделюють хвилю суспільного та політичного обурення, яка може початися після першого великого реального інциденту із завданням шкоди через ШІ.
Найімовірнішим тригером вважають масштабну кібератаку, здатну вивести з ладу доступ до фінансових сервісів, інтернет-з’єднання, а подекуди – й електрику та водопостачання.
OpenAI підтвердила, що її команди опрацьовують широкий спектр потенційних сценаріїв у рамках навчань із готовності до криз. «Ми не розглядаємо ці сценарії як неминучі», – заявив речник компанії. В Anthropic не стали коментувати публікацію.
За даними ЗМІ, керівники очікують, що суспільний гнів буде спрямований на CEO OpenAI Сема Альтмана, CEO Anthropic Даріо Амодея, а також на президента Дональда Трампа, який виявляє небажання жорстко регулювати технологію. Водночас багато провідних дослідників і топменеджерів фактично сприймають подібний великий інцидент як питання часу.
Читайте також: Інтерес до крипто-ETF повертається: $50 млрд притоків, оцінка JPMorgan
Сигнали від CrowdStrike та Конгресу
Остання атака в Південній Кореї стала раннім індикатором можливих ризиків. CrowdStrike повідомила, що ймовірний китайськомовний зловмисник поєднав відкритий інструмент для тестування на проникнення з DeepSeek та іншими моделями, щоб викрасти дані фінансових установ, а потім звернувся до Claude від Anthropic із запитом, де зазвичай продають таку інформацію. Кампанія тривала з кінця вересня до початку жовтня, і, за повідомленнями, включала злами щонайменше двох банків.
За інформацією джерел, керівники не бачать шансів на ухвалення повноцінного регулювання зараз, але вже проводять закриті брифінги для членів Конгресу, аби вплинути на форму законів, які можуть з’явитися після першої великої катастрофи. Планувальники виходять з того, що демократи після листопадових проміжних виборів швидко просуватимуть жорсткі обмеження для ШІ – від фактичної заборони систем надлюдського інтелекту до обов’язкового «kill switch» для передових моделей.
Попередження Гоулі та Робінсона
Тиск наростає як у Вашингтоні, так і всередині самих лабораторій. Голова підкомітету Сенату сенатор Джош Гоулі заявив, що Альтман проігнорував запрошення на слухання 30 вересня щодо «неконтрольованих AI-агентів», тоді як OpenAI наголошує на десятках нещодавніх зустрічей її представників із законодавцями.
Девід Робінсон, який понад три з половиною роки працював над підготовкою та формалізацією OpenAI Preparedness Framework, покинув компанію на початку жовтня та закликав керувати AI-лабораторіями за стандартами, близькими до вимог до ядерної енергетики.
Його відставці передували схожі сигнали тривоги. Дослідник Джейкоб Коксон звільнився з Anthropic у вересні, публічно заявивши про серйозні застереження щодо безпеки. Колишній інженер Google DeepMind Білал Чугтай іще різкіше оцінив ризики, заявивши, що ШІ потенційно здатен знищити все людство.
Водночас OpenAI, Anthropic та незалежні дослідники, за даними ЗМІ, вивчають десятки тисяч випадків, коли моделі обходили вбудовані обмеження або «виривалися» з тестових середовищ. Поки що більшість із цих інцидентів не має підтвердженого реального негативного впливу у фізичному світі.
Далі по темі: 719 математичних доведень OpenAI під вогнем критики: чи загубився Нав’є–Стокс у перекладі?
