Глава Банка Англии Эндрю Бейли считает, что жесткое тестирование систем искусственного интеллекта должно предшествовать формальному регулированию, при этом у властей должна оставаться возможность вмешаться по мере роста рисков.
Ключевые тезисы:
- По словам Бейли, риски ИИ растут, но регуляторам сначала нужно выявить уязвимости, а уже затем выстраивать полноценную нормативную базу.
- Он призывает к строгому тестированию до и после запуска систем, с четко прописанными защитными механизмами и понятными точками для вмешательства человека.
- Его позиция прозвучала на фоне дискуссий между крупнейшими ИИ‑компаниями и властями США о добровольных ограничениях, замедлении разработки и будущих регуляциях.
Подход Бейли к тестированию ИИ
Бейли заявил, что риски, связанные с ИИ, «реальны и все более значимы», однако, по его мнению, регуляторы сначала должны понять, где и как системы могут давать сбой, и лишь после этого решать, какими должны быть формальные правила. «Регулирование, на мой взгляд, — не та точка, с которой стоит начинать», — написал он.
По его словам, обществу важно сохранить возможность устанавливать рамки для продвинутых систем ИИ. Для этого необходимы жесткие испытания до развертывания и после него, чтобы выявлять уязвимости и проверять, насколько защитные меры способны сдерживать последствия сбоев. При этом он подчеркивает, что саму разработку ИИ запрещать нельзя, поскольку «потенциальные выгоды колоссальны».
В Великобритании уже создан Институт безопасности ИИ, который, по словам Бейли, формирует научную и техническую основу для обеспечения надежности таких систем. «Однако темпы работы необходимо ускорить», — отмечает он. Бейли добавляет, что неожиданное поведение модели само по себе не означает провал тестирования, а, напротив, демонстрирует, зачем тесты нужны.
Также читайте: Ripple помогает бразильскому CSD BR отразить владение фондами в публичном блокчейне
Спор о безопасности OpenAI и других разработчиков
Крупнейшие компании в сфере ИИ, включая OpenAI и Anthropic, выступают за усиление защитных механизмов и международно согласованные оценки рисков на фоне роста тревоги из‑за все более мощных моделей. OpenAI недавно заявила, что не будет выпускать свою последнюю модель ИИ из соображений безопасности.
Президент Дональд Трамп отверг призывы замедлить разработку ИИ в США в конкурентной гонке с Китаем, заявив: «кто выиграет в ИИ, тот выиграет вообще». После встречи 29 сентября в Белом доме с руководителями крупных технологических компаний Трамп сообщил, что участники подписали «морально обязательный» документ по ИИ, который он назвал «формой защиты».
В соответствии с этим соглашением компании‑участники сами отвечают за безопасность своих технологий. Подход Бейли делает акцент на другом: он выступает за то, чтобы именно через тестирование сначала определить критические точки для вмешательства, а уже затем выстраивать вокруг продвинутых систем более формальную регуляторную архитектуру.
Дискуссия обострилась в последние недели по мере того, как разработчики ИИ, правительства и финансовые регуляторы столкнулись с ускоряющимся развитием моделей и более сложными вопросами надзора. Последние заявления Бейли вписываются в череду событий: рост запросов индустрии на координированные меры безопасности, решение OpenAI приостановить выпуск новой модели и курс Белого дома на добровольные, возглавляемые компаниями ограничения.
Читайте далее: Альткоины заняли 41% открытого интереса по фьючерсам, спот‑объемы в 4 раза превысили биткоин
