Глава Банка Англии Эндрю Бейли заявляет, что приоритетом в сфере искусственного интеллекта должно стать жесткое тестирование моделей, а уже затем — введение формальных регуляторных норм, при этом власти должны сохранить право вмешиваться по мере нарастания рисков.
Ключевые тезисы:
- По словам Бейли, риски ИИ растут, но прежде чем выстраивать жесткую регуляторную рамку, необходимо выявить уязвимости технологий.
- Он настаивает на многоуровневом тестировании до и после запуска моделей, на четких «ограждениях» и понятных точках человеческого вмешательства.
- Его позиция звучит на фоне обсуждения крупными ИИ‑компаниями и властями США добровольных ограничений, замедления разработок и будущего регулирования.
Подход Бейли к тестированию ИИ
В колонке для британских медиа Бейли заявил, что риски ИИ «реальны и быстро растут», однако регуляторы должны сначала понять, где и как системы могут давать сбой, а уже затем выстраивать формальные правила. «Регулирование — не та отправная точка, с которой, на мой взгляд, следует начинать», — написал он.
По его мнению, общество должно сохранить возможность «обводить красные линии» вокруг продвинутых ИИ‑систем, опираясь на комплексное тестирование до и после внедрения, чтобы выявлять уязвимости и проверять, способны ли встроенные предохранители локализовать сбои. При этом, подчеркивает Бейли, развитие ИИ запрещать нельзя, поскольку «потенциальные выгоды колоссальны».
В Великобритании уже создан Институт безопасности ИИ, который, как отмечает Бейли, формирует научную и техническую базу для независимой оценки надежности ИИ‑моделей. «Но темпы прогресса необходимо ускорять», — добавил он. Неожиданное поведение моделей, по его словам, не свидетельствует о провале тестирования, а, напротив, показывает, зачем оно нужно.
Также читайте: Ripple помогает бразильскому CSD BR отразить права собственности на фонды в публичном блокчейне
Дискуссия о безопасности в OpenAI
Ведущие разработчики ИИ, включая OpenAI и Anthropic, выступают за более жесткие защитные механизмы и международно согласованные оценки рисков на фоне тревоги из‑за роста возможностей моделей. OpenAI недавно заявила, что не выведет в публичный доступ свою последнюю модель из‑за соображений безопасности.
Президент Дональд Трамп отверг призывы замедлить развитие ИИ в США в технологической гонке с Китаем, отметив, что «кто выигрывает в ИИ — тот выигрывает в целом». После встречи 29 сентября в Белом доме с руководителями крупных технокомпаний Трамп сообщил, что участники подписали «морально обязательный» документ по ИИ, который он назвал «формой защиты».
В рамках этой договоренности компании сами несут ответственность за безопасность своих технологий. Подход Бейли делает акцент на другом: он предлагает с помощью тестирования сначала четко обозначить, где необходимо вмешательство, а уже затем строить вокруг продвинутых систем более формальную регуляторную архитектуру.
В последние недели дискуссия заметно обострилась: разработчики ИИ, правительства и финансовые регуляторы сталкиваются с ускорением прогресса моделей и все более острыми вопросами надзора. Последние заявления Бейли идут в русле отраслевых призывов к скоординированным защитным механизмам, решения OpenAI временно не выпускать новую модель и инициатив Белого дома по продвижению добровольного, компаниями же и контролируемого режима безопасной разработки.
Читайте далее: Альткоины заняли 41% открытого интереса по фьючерсам, спот‑объемы в 4 раза превысили биткоин
