Агентства «Пяти глаз» предупредили, что передовой ИИ может в течение нескольких месяцев изменить характер кибератак, вынуждая правительства и компании рассматривать устойчивость как риск на уровне руководства.
Ключевые моменты:
- Агентства «Пяти глаз» заявили, что передовой ИИ может в течение месяцев изменить наступательные и оборонительные кибервозможности.
- Предупреждение последовало за решением США ограничить иностранный доступ к моделям Anthropic Fable и Mythos.
- Новые системы ИИ могут быстрее находить и использовать уязвимости.
Предупреждение «Пяти глаз»
Сигнальные разведывательные агентства Австралии, США, Великобритании, Новой Зеландии и Канады опубликовали редкое публичное заявление поздно вечером в понедельник в Сиднее, призывая лидеров действовать уже сейчас.
Предупреждение последовало за июньским решением администрации Дональда Трампа заблокировать иностранным гражданам использование модели Anthropic Fable, а также приостановить доступ к Mythos.
По словам ведомств, со временем ИИ улучшит киберзащиту, но одновременно увеличит скорость, масштаб и изощренность атак.
«Ожидается, что передовые модели ИИ превзойдут текущие отраслевые ожидания, радикально преобразовав как наступательные, так и оборонительные кибервозможности. Счёт идет не на годы, а на месяцы», — говорится в заявлении.
Киберриск больше не может оставаться только в зоне ответственности технических команд.
Также читайте: Ripple получает предварительное одобрение MiCA на фоне ужесточения криптогонки в ЕС
Риски ИИ от Anthropic
Генеративный ИИ может находить слабые места в системах кибербезопасности, помогать их эксплуатировать и помогать их устранять, делая один и тот же инструмент полезным и для защитников, и для нападающих.
Оливия Шен, эксперт по нацбезопасности и ИИ в Центре изучения США Университета Сиднея, заявила, что новейшие системы эффективнее генерируют эксплойты.
«Отличие последних [моделей ИИ] в том, что они очень хорошо генерируют эксплойты», — сказала Шен.
Fable 5 от Anthropic привлек внимание как более открытая для широкой публики версия Mythos — продвинутой системы, выпущенной ранее в этом году и доступной только проверенным пользователям из‑за опасений злоупотреблений.
«Думаю, нам нужно исходить из того, что следующий Mythos или следующий Fable уже не за горами», — сказала Шен, добавив, что другие игроки могут разрабатывать схожие системы.
В марте правительство Альбанезе выбрало Anthropic первой компанией в своей национальной стратегии по ИИ — это необязывающее соглашение, сосредоточенное на обмене достижениями и безопасности.
Альянс «Пяти глаз» берет начало в послевоенный период, и его совместные публичные предупреждения редки, что делает это заявление признаком того, что риск кибератак с применением ИИ вышел за рамки рутинных технических рекомендаций.
Читайте далее: План OpenAI по рекламе ChatGPT на $100 млрд сталкивается с холодным приемом на Cannes Lions