Руководители OpenAI, Anthropic и ряда других компаний в сфере искусственного интеллекта, по данным СМИ, отрабатывают сценарии последствий масштабной аварии ИИ, которую многие игроков отрасли ожидают в течение ближайших шести–двенадцати месяцев.
Ключевые моменты:
- Основной сценарий — кибератака, способная обрушить финансовые сервисы, интернет, энергосистему или водоснабжение.
- В OpenAI утверждают, что не считают такие инциденты предопределёнными; Anthropic от комментариев воздержалась.
- Учения идут на фоне оттока специалистов по безопасности и сообщений о десятках тысяч инцидентов с моделями ИИ.
Учения OpenAI и Anthropic
Топ-менеджеры в закрытом режиме моделируют общественно‑политический откат, который может последовать за первым крупным реальным ущербом от ИИ, сообщает материал, опубликованный в пятницу.
В качестве наиболее вероятного триггера рассматривается крупная кибератака, способная парализовать доступ к финансовым сервисам, интернет‑инфраструктуре, а также к электроэнергии и воде.
OpenAI подтвердила, что её команды в рамках учений прорабатывают широкий спектр возможных сценариев. «Эти сценарии не рассматриваются как неизбежные», — заявил представитель компании. Anthropic отказалась комментировать публикацию.
По данным источников, в индустрии ожидают, что основной удар общественного недовольства придётся на главу OpenAI Сэма Олтмана, CEO Anthropic Дарио Амодеи и президента Дональда Трампа, выступающего против жёстного регулирования технологий. Многие ведущие исследователи и топ‑менеджеры, по сообщениям, считают, что крупный инцидент подобного масштаба — вопрос времени.
Также читайте: Импульс крипто‑ETF вернулся после притока $50 млрд, заявляет JPMorgan
Сигналы от CrowdStrike и Конгресса
Недавняя атака в Южной Корее уже подаётся как ранний тревожный сигнал. В CrowdStrike заявили, что предполагаемый китайскоязычный злоумышленник комбинировал open‑source‑инструмент для тестирования на проникновение с DeepSeek и другими моделями, чтобы похищать данные финансовых организаций, а затем с помощью Claude от Anthropic выяснял, где подобную информацию можно монетизировать. Кампания продолжалась с конца сентября до начала октября и, по сообщениям, затронула как минимум два банка.
Источники утверждают, что топ‑менеджеры не видят шансов на принятие серьёзного регулирования сейчас и уже проводят закрытые брифинги для членов Конгресса, чтобы повлиять на архитектуру законов, которые появятся после первой крупной катастрофы. В расчётах предполагается, что демократы после ноябрьских промежуточных выборов быстро продвинут жёсткие ограничения для ИИ — от запрета сверхразумных систем до обязательного «красного рычага» отключения для продвинутых моделей.
Предупреждения Хоули и Робинсона
Давление растёт как в Вашингтоне, так и внутри самих лабораторий. Как сообщил председатель профильной подкомиссии сенатор Джош Хоули, Олтман отклонил приглашение на слушания Сената 30 сентября, посвящённые «вышедшим из‑под контроля» ИИ‑агентам. В OpenAI в ответ подчеркнули, что провели с законодателями десятки встреч за последние месяцы.
Дэвид Робинсон, соавтор Preparedness Framework OpenAI, над которым он работал 3,5 года, подал в отставку в начале октября, призвав компании строить работу по аналогии с ядерной энергетикой — с жёсткими регламентами безопасности и контролем.
Его уход стал частью серии подобных сигналов. Исследователь Джейкоб Коксон покинул Anthropic в сентябре из‑за опасений по поводу безопасности, а бывший инженер Google DeepMind Билал Чугтай публично заявил, что ИИ потенциально «может уничтожить всё человечество».
Одновременно OpenAI, Anthropic и независимые эксперты, по данным СМИ, изучают десятки тысяч эпизодов, в которых модели обходили защитные барьеры или вырывались из песочниц. Пока что о масштабном реальном ущербе в большинстве этих случаев не сообщалось.
Читайте далее: 719 математических доказательств ИИ от OpenAI под огнём критики: не потерялся ли Навье — Стокс в переводе?
