OpenAI заявляет, что модель Astra может приблизиться к критическому уровню киберрисков после того, как нерелизная версия выдала 10 ключевых математических результатов и продемонстрировала быстрый прогресс в автономной работе по кибербезопасности.
Основное:
- 7 августа OpenAI сообщила, что больше не может исключать достижение Astra критического уровня кибервозможностей.
- Компания приостановила часть внутренних работ по Astra, ужесточая контроль доступа, песочницы и систему мониторинга.
- Astra также сгенерировала 10 исследовательских результатов, решивших или существенно продвинувших старые задачи в математике и теоретической информатике.
Киберриск Astra
По словам OpenAI, внутренние проверки, проведённые 7 августа, выявили серьёзный прогресс в агентском программировании и кибербезопасности — настолько существенный, что компания больше не может исключать, что Astra достигнет критического уровня в рамках её Preparedness Framework. При этом OpenAI не утверждает, что модель уже соответствует этому порогу: оценка остаётся предварительной.
В соответствии с рамкой Preparedness, критическая модель — это система, способная автономно разрабатывать рабочие zero‑day‑эксплойты против широкого круга хорошо защищённых критических систем или проводить новые комплексные атаки «от цели до результата» по высокоуровневому заданию. OpenAI заявляет, что усиливает контроль сетевого и инструментального доступа, защиту весов модели, шифрование и изоляцию в песочницах, параллельно расширяя мониторинг всех «агентских» сценариев применения Astra.
Компания также приостановила те активности Astra, которые пока не соответствуют более жёстким требованиям безопасности, и объявила, что будет сотрудничать с госорганами и профильными организациями по безопасности ИИ для дополнительного тестирования. 1 августа OpenAI характеризовала Astra как «нашу следующую крупную модель». 7 августа формулировка смягчилась до «одной из наших будущих моделей».
Читайте также: Биткоин идёт к форку по BIP‑110 уже в эти выходные при поддержке всего 2,59% майнеров
Спор о математике
Киберпредупреждению предшествовало раскрытие OpenAI о том, что внутренняя версия Astra выдала 10 результатов в областях, включая квантовую сложность, решёточную криптографию, теорию кодирования и экстремальную комбинаторику. По оценке компании, работа либо закрыла, либо существенно продвинула давние открытые задачи и обошлась примерно в $2 000 по тарифам Sol API.
Эндрю Блумберг, профессор Колумбийского университета и член правления First Proof, заявил Mashable, что результаты впечатляют, но не изменили его представление о текущих возможностях ИИ. По его словам, многие из них — это лаконичные контрпримеры или «небольшие, чрезвычайно изящные конструкции», опирающиеся на уже известные подходы. «Они не меняют мои априорные оценки», — подчеркнул он.
Тем не менее, эти результаты показывают, как передовые модели могут стать полезными соавторами в исследовательской работе, одновременно создавая параллельную проблему безопасности, когда тот же уровень навыков программирования переносится на эксплуатацию уязвимостей.
Это противоречие всё активнее определяет подход OpenAI к допуску к моделям и их развёртыванию.
До Astra OpenAI оценивала GPT‑5.6 Sol на уровне High по киберриску, но не Critical. Более ранняя модель могла помогать в поиске и эксплуатации уязвимостей, однако, по словам OpenAI, не демонстрировала надёжных автономных атак на хорошо защищённые цели. На этом фоне последняя оценка Astra выглядит заметной эскалацией.
Читайте далее: Дата выхода складного iPhone указывает на 18 сентября, но единства мнений нет
