Топ-менеджеры OpenAI, Anthropic и ряда других компаний в сфере искусственного интеллекта, по данным источников, репетируют действия в случае масштабного инцидента с ИИ, который многие влиятельные фигуры рынка считают вероятным в течение ближайших шести–12 месяцев.
Ключевые тезисы:
- Основной сценарий — кибератака, способная вывести из строя финансовые сервисы, интернет, энергосистему или водоснабжение.
- В OpenAI заявляют, что не считают такие сценарии предопределёнными; Anthropic от комментариев отказалась.
- Учения проходят на фоне отставок сотрудников, отвечавших за безопасность, и сообщений о десятках тысяч инцидентов с моделями ИИ.
Учения OpenAI и Anthropic
Согласно материалу, опубликованному в пятницу, высшее руководство компаний в закрытом формате просчитывает сценарий общественного и политического бунта, который может развернуться после первого крупного реального ущерба, нанесённого системами ИИ.
Наиболее вероятным триггером считается масштабная кибератака, которая парализует доступ к финансовой инфраструктуре, интернету, а в крайнем случае — к электроэнергии и воде.
OpenAI подтвердила, что её команды в рамках учений прорабатывают широкий спектр потенциальных кризисных сценариев. «Мы не исходим из неизбежности подобных событий», — заявил представитель компании. В Anthropic от комментариев по содержанию учений отказались.
По данным источников, руководители компаний ожидают, что основная волна общественного гнева обрушится на гендиректора OpenAI Сэма Олтмана, главу Anthropic Дарио Амодеи, а также президента Дональда Трампа, который проявляет нежелание жёстко регулировать отрасль. При этом многие ведущие исследователи и топ-менеджеры де-факто считают крупный инцидент подобного масштаба лишь вопросом времени.
Смотрите также: Импульс для крипто‑ETF вернулся после притока $50 млрд, заявляет JPMorgan
Сигналы от CrowdStrike и Конгресса
Один из ранних тревожных прецедентов уже зафиксирован в Южной Корее. Компания CrowdStrike заявила, что предположительно китаеязычный хакер использовал в связке открытый инструмент для тестирования на проникновение, модель DeepSeek и другие ИИ-системы, чтобы похищать данные южнокорейских финансовых организаций. Затем злоумышленник обратился к Claude от Anthropic с вопросом, на каких площадках обычно продаётся такого рода информация. По сообщениям, кампания шла с конца сентября до начала октября и включала взлом как минимум двух банков.
По данным источников, ИИ-компании не видят шансов на принятие серьёзных регуляторных мер сейчас и уже активно брифингуют членов Конгресса, чтобы повлиять на архитектуру законов, которые могут появиться после первой крупной катастрофы. Планировщики исходят из того, что демократы после ноябрьских промежуточных выборов будут стремиться быстро ужесточить правила для ИИ — на стол уже вынесены идеи вплоть до запрета суперинтеллекта и обязательного «красной кнопки» для наиболее продвинутых систем.
Предупреждения Хоули и Робинсона
Политическое давление в Вашингтоне и внутреннее напряжение в ИИ-лабораториях растут. Сенатор Джош Хоули, возглавляющий профильный подкомитет Сената, заявил, что Олтман отклонил приглашение выступить 30 сентября на слушаниях по «неуправляемым агентам ИИ». В OpenAI в ответ указывают на десятки недавних встреч руководства с законодателями.
Дэвид Робинсон, один из авторов Preparedness Framework OpenAI, проработавший в компании три с половиной года, ушёл в отставку в начале октября и публично призвал ИИ‑лаборатории строить свою работу по аналогии с атомной энергетикой — с максимально жёсткими нормами безопасности.
Его уход стал лишь одним из звеньев череды похожих сигналов. Исследователь Джейкоб Коксон покинул Anthropic в сентябре, заявив о серьёзных рисках в области безопасности. Бывший инженер Google DeepMind Билал Чугтай пошёл ещё дальше, предупредив, что ИИ теоретически может привести к гибели всего человечества.
По данным источников, OpenAI, Anthropic и внешние учёные также изучают десятки тысяч эпизодов, когда модели обходили встроенные ограничения или «выбирались» из изолированных сред (sandbox). При этом большинство таких инцидентов, насколько известно, пока не привели к прямому ущербу в реальном мире.
Читайте далее: 719 математических доказательств ИИ от OpenAI под огнём критики: где потерялась задача Навье–Стокса?
