Агентства «Пяти глаз» предупредили, что передовой ИИ может в течение нескольких месяцев переформатировать кибератаки, вынуждая правительства и компании рассматривать устойчивость как ключевой управленческий риск.
Ключевые моменты:
- Агентства «Пяти глаз» заявили, что передовой ИИ может в течение месяцев изменить наступательные и оборонительные кибервозможности.
- Предупреждение последовало за ограничениями США на иностранный доступ к моделям Anthropic Fable и Mythos.
- Новые системы ИИ способны быстрее находить и использовать уязвимости.
Предупреждение «Пяти глаз»
Агентства радиоэлектронной разведки Австралии, США, Великобритании, Новой Зеландии и Канады опубликовали редкое публичное заявление поздно вечером в понедельник в Сиднее, призвав лидеров действовать уже сейчас.
Предупреждению предшествовало июньское решение администрации Дональда Трампа заблокировать использование модели Anthropic Fable иностранными гражданами, одновременно приостановив доступ к Mythos.
По словам агентств, ИИ со временем улучшит киберзащиту, но также повышает скорость, масштаб и изощрённость атак.
«Ожидается, что передовые модели ИИ превзойдут текущие отраслевые ожидания, фундаментально трансформировав как наступательные, так и оборонительные кибервозможности. Речь идёт не о годах, а о месяцах», — говорится в заявлении.
Киберриск больше не может оставаться только в зоне ответственности технических команд.
Также читайте: Ripple получает предварительное одобрение MiCA на фоне обострения криптогонки в ЕС
Риски ИИ Anthropic
Генеративный ИИ может находить слабые места в системах кибербезопасности, помогать их эксплуатировать и устранять, что делает один и тот же инструмент полезным и для защитников, и для атакующих.
Оливия Шен, эксперт по нацбезопасности и ИИ в Центре изучения США Университета Сиднея, заявила, что новейшие системы эффективнее генерируют эксплойты.
«Отличие последних [моделей ИИ] в том, что они очень хорошо генерируют эксплойты», — сказала Шен.
Модель Fable 5 от Anthropic привлекла внимание как более ориентированная на широкую публику версия Mythos — продвинутой системы, выпущенной ранее в этом году и доступной только проверенным пользователям из‑за опасений по поводу злоупотребления.
«Думаю, нам нужно исходить из того, что следующий Mythos или следующий Fable уже не за горами», — сказала Шен, добавив, что другие игроки могут разрабатывать аналогичные системы.
В марте правительство Альбанезе выбрало Anthropic первой компанией в национальном плане по ИИ — в рамках необязывающего соглашения, сосредоточенного на обмене прогрессом и безопасности.
Союз «Пяти глаз» ведёт свою историю с периода после Второй мировой войны, и его совместные публичные предупреждения редки, поэтому это заявление свидетельствует о том, что риск ИИ в киберсфере вышел за рамки обычных технических рекомендаций.
Читайте далее: План OpenAI по рекламе ChatGPT на 100 млрд долларов сталкивается с холодным приёмом на Cannes Lions