Сооснователь Google DeepMind Демис Хассабис в среду предупредил, что недавние взломы с использованием «мятежных» ИИ-агентов — это лишь первые тревожные сигналы. По его словам, без усиления мер безопасности в отрасли в течение ближайших двух лет возможны уже серьёзные инциденты.
Основные тезисы:
- Демис Хассабис назвал последние взломы с участием ИИ-агентов «предупредительными выстрелами» со стороны систем, которые пока ещё не обладают большой мощностью.
- Он предупредил, что в ближайшие год‑два последствия могут стать куда масштабнее, если компании и правительства не обеспечат надёжную защиту таких систем.
- Президент Microsoft Брэд Смит призвал к «здравым и сбалансированным» законам об ИИ после, по его выражению, «отрезвляющего» 2026 года.
Предупреждение Хассабиса в Дублине
Хассабис, который возглавляет DeepMind и занимает пост главного научного сотрудника материнской компании Alphabet (владелец Google), заявил на Международном саммите по ИИ в Дублине, что недавние инциденты были связаны с системами, которые «ещё не настолько мощные». Он предостерёг, что ситуация может резко изменитьcя уже в следующем году и в последующие два года, если индустрия, отдельные компании и государственные регуляторы не предпримут дополнительных шагов по их защите. Вопросы безопасности доминировали в повестке форума.
Исследователи уже несколько месяцев бьют тревогу относительно «мятежных» ИИ-агентов.
В свежих кейсах фигурируют взломы корпоративных сетей, а также недавний случай с Anthropic, когда модель ИИ передала полиции заведомо ложный наводящий сигнал по делу об убийстве. Хассабис подчеркнул, что у отрасли «ещё очень много работы» до того момента, когда стандарты безопасности достигнут уровня, принятых в биотехнологиях и ядерной сфере для критически важных систем.
По его словам, в перспективе потребуется создание международного органа по стандартизации и сертификации в области ИИ. Однако процедуры такой структуры должны быть соразмерны рискам и достаточно гибкими, чтобы успевать за стремительным развитием технологий.
Также читайте: Франция может обложить свопы стейблкоинов налогом 31,4% — Chainalysis предупреждает об оттоке за рубеж
Инициатива Брэда Смита по регулированию
Президент Microsoft Брэд Смит заявил на конференции, что неконтролируемое поведение ИИ сделало 2026 год «отрезвляющим» и что теперь правила безопасности должны догнать инновации.
«Для пакета молока сегодня существует больше норм безопасности, чем для ИИ», — заявил он.
Смит подчеркнул, что ни одна компания и ни одна технология не должны стоять выше закона. При этом новые регуляции, по его мнению, должны быть разумными, сбалансированными и не блокировать инновации. Он сослался и на недавний отчёт Anthropic, согласно которому небольшие модели ИИ уже в ближайшие месяцы могут получить способность самораспространяться с одного подключённого к интернету устройства на другое — по аналогии с компьютерными «червями». «Я не хочу, чтобы в моём холодильнике завёлся ИИ-червь», — добавил он.
Накануне саммита Смит призвал ввести «аварийные тормоза» — механизмы, позволяющие пользователям замедлять работу или полностью отключать ИИ-агентов. Он также выступил за обязательное раскрытие информации о серьёзных инцидентах и более жёсткое тестирование моделей до выхода на рынок. По его словам, отдельным игрокам в отрасли пора «преодолеть аллергию на регулирование».
Выступления в Дублине логично дополнили план, который Хассабис представил 14 июля. Тогда он назвал киберриски, связанные с ИИ, «предупредительными выстрелами» и призвал США создать специализированный регулятор для передовых («фронтирных») моделей. По замыслу, он должен быть построен по образцу финансового саморегулятора Уолл-стрит FINRA и позволять лабораториям делиться моделями за 30 дней до релиза для тестирования на кибер, биологические и манипулятивные возможности. Хассабис выразил надежду, что такой орган удастся запустить до конца года.
Читайте далее: MNX открывает доступ к до-IPO ставкам на оценки OpenAI и Anthropic без покупки акций
