Сооснователь Google DeepMind Демис Хассабис в среду предупредил, что недавние киберинциденты с участием «бесконтрольных» ИИ‑агентов — это лишь первые тревожные сигналы. По его словам, без более серьёзных мер защиты в течение ближайших двух лет мир может столкнуться с крупными атаками.
Ключевые тезисы:
- Демис Хассабис назвал недавние взломы с участием ИИ‑агентов «первым залпом» со стороны систем, которые пока ещё не обладают высокой мощностью.
- По его словам, без дополнительных мер со стороны компаний и государств в ближайшие пару лет возможны крупные инциденты.
- Президент Microsoft Брэд Смит призвал к разумному и сбалансированному регулированию ИИ после, как он выразился, «отрезвляющего» года.
Предупреждение Хассабиса в Дублине
Хассабис, возглавляющий DeepMind и занимающий пост главного научного сотрудника материнской компании Google — Alphabet, заявил на Международном саммите по ИИ в Дублине, что последние инциденты исходили от систем, которые «пока ещё не столь мощные». Он предостерёг, что уже в следующем году и далее ситуация может радикально измениться, если отрасль, отдельные компании и правительства не усилят защиту. Вопросы безопасности доминировали в повестке саммита.
Учёные уже несколько месяцев бьют тревогу по поводу «бесконтрольных» ИИ‑агентов.
Среди последних случаев — взломы корпоративных сетей и, буквально на днях, признание Anthropic в том, что одна из моделей ИИ отправила в полицию заведомо ложный «наводящий» сигнал по делу об убийстве. Хассабис отметил, что индустрии ещё «предстоит проделать огромную работу», прежде чем уровень защиты критически важных ИИ‑систем приблизится к стандартам, принятым в биотехнологиях и ядерной отрасли.
По его мнению, со временем потребуется некая международная структура по выработке стандартов. При этом её сертификационные процедуры должны соответствовать уровню рисков и успевать адаптироваться под стремительно меняющиеся технологии.
Читайте также: Франция может обложить обмены стейблкоинов налогом в 31,4%, Chainalysis предупреждает об оттоке за рубеж
Инициатива Брэда Смита по регулированию
Президент Microsoft Брэд Смит заявил на конференции, что поведение ИИ‑систем, выходящее за рамки контроля, сделало 2026 год «отрезвляющим», и теперь правила безопасности должны догнать инновации.
«Для упаковки молока существует больше норм безопасности, чем для ИИ», — сказал он.
Ни одна компания и ни одна технология не должны быть выше закона, подчеркнул Смит, однако новые нормы должны оставаться разумными, сбалансированными и учитывать интересы инноваций. Он также сослался на недавний отчёт Anthropic, согласно которому небольшие ИИ‑модели уже в ближайшие месяцы могут научиться самораспространению с одного подключённого к интернету устройства на другое по аналогии с компьютерными «червями». «Я не хочу видеть ИИ‑червей в своём холодильнике», — добавил он.
Накануне саммита Смит призвал ввести так называемые «стоп‑кнопки» — механизмы, позволяющие пользователям замедлять или полностью отключать работу ИИ‑агентов, а также сделать обязательными раскрытие информации об инцидентах и более жёсткое тестирование моделей перед запуском. По его словам, часть отрасли пора «излечить от аллергии на регулирование».
Дублинские заявления развивают концепцию, которую Хассабис представил ещё 14 июля. Тогда он назвал киберриски, связанные с ИИ, «первым предупреждающим выстрелом» и предложил США создать надзорный орган для передовых моделей. По задумке, структура по образцу Уолл‑стрит‑регулятора FINRA позволила бы лабораториям передавать свои модели регулятору за 30 дней до релиза для проверки на кибер‑, биориски и способность к обману. Он выразил надежду увидеть такой орган в действии до конца года.
Читайте далее: MNX открывает до‑IPO‑ставки на оценку OpenAI и Anthropic без покупки акций
