OpenAI попереджає, що модель Astra може наблизитися до критичного порогу кіберризику після того, як нерелізнена версія моделі видала 10 ключових математичних результатів і продемонструвала стрімкий прогрес в автономній кібердіяльності.
Основне:
- 7 серпня OpenAI заявила, що не може відкидати сценарій, за якого Astra досягає рівня Critical за кіберможливостями.
- Компанія призупинила частину внутрішніх робіт над Astra, паралельно посилюючи засоби безпеки, «пісочниці» та системи моніторингу.
- Astra також згенерувала 10 дослідницьких результатів, що розв’язали або суттєво просунули давні задачі в математиці та теоретичній інформатиці.
Кіберризики Astra
За словами OpenAI, внутрішні оцінки, оприлюднені 7 серпня, засвідчили суттєвий прорив у «агентному» програмуванні та кібербезпеці — настільки, що компанія більше не може впевнено виключати вихід Astra на рівень Critical у межах власної Preparedness Framework. Водночас OpenAI не стверджує, що модель уже досягла цього порогу, а наголошує: оцінка є попередньою.
За підходом OpenAI, модель рівня Critical здатна автономно розробляти робочі zero‑day експлойти проти широкого спектра захищених критичних систем або виконувати нові наскрізні атаки, маючи лише високорівневу ціль. OpenAI посилює контроль мережевого та інструментального доступу, захист ваг моделі, шифрування й ізоляцію середовищ, а також розширює моніторинг усіх агентних сценаріїв використання Astra.
Компанія також призупинила ті активності, пов’язані з Astra, які поки не відповідають новим, жорсткішим вимогам безпеки. Вона заявила, що працюватиме разом із державними структурами та відібраними організаціями з безпеки ШІ над подальшим тестуванням. 1 серпня OpenAI описувала Astra як «нашу наступну велику модель». 7 серпня компанія вже називала її «однією з наших майбутніх моделей».
Також читайте: Bitcoin наближається до форку BIP-110 цього вікенду — підтримка майнерів лише 2,59%
Дискусія навколо математики
Кіберпопередження пролунало після розкриття OpenAI, що внутрішня версія Astra отримала 10 результатів у галузях, зокрема квантової складності, граткової криптографії, теорії кодування та екстремальної комбінаторики. За оцінкою OpenAI, ці роботи розв’язали або суттєво просунули давні відкриті проблеми й обійшлися приблизно в $2 000 за токени за тарифами Sol API.
Ендрю Блумберґ, професор Колумбійського університету та член правління First Proof, заявив Mashable, що результати є вражаючими, однак не змінюють його погляду на поточні можливості ШІ. На його думку, значна частина висновків — це лаконічні контрприклади або «невеликі, надзвичайно витончені конструкції», побудовані на відомих попередніх роботах. «Вони не змінюють моїх апріорів», — зазначив він.
Попри це, результати демонструють, як моделі переднього краю можуть стати корисними партнерами для дослідників, водночас створюючи дзеркальну проблему безпеки, якщо ті самі навички кодування застосовуються до експлуатації вразливостей ПЗ.
Ця напруга все більше визначає підходи OpenAI до доступу й розгортання моделей.
До Astra компанія оцінювала GPT-5.6 Sol на рівні High за кіберризиками, а не Critical. Попередня модель могла допомагати у виявленні вразливостей і завданнях з експлуатації, але, за словами OpenAI, вона не демонструвала стабільних автономних атак проти добре захищених цілей. На цьому тлі остання оцінка Astra виглядає помітною ескалацією.
Читайте далі: Ймовірна дата релізу iPhone Fold — 18 вересня, але одностайності немає
