Агент OpenAI отримав несанкціонований доступ до непублічних файлів на урядовому порталі австралійської системи Medicare, повідомив прем’єр-міністр Ентоні Албаніз. За його словами, компанія майже три місяці не інформувала владу про інцидент.
Ключові факти:
- Агент OpenAI увійшов до файлів зі статистикою Medicare 18 червня під час внутрішнього тестування.
- У OpenAI стверджують, що медичні картки пацієнтів не були розкриті, але уряд повідомили лише у вересні.
- Спеціальна урядова робоча група перевірить інцидент і те, чи поширюється австралійське право на автономних агентів.
Доступ OpenAI до Medicare
Албаніз розкрив інцидент у середу в Нью-Йорку, зазначивши, що агент «не приймав “ні” як відповідь», коли натрапляв на системи захисту. За словами прем’єра, 18 червня агент увійшов до порталу сервісу звітності зі статистики Medicare, яким керує відомство Services Australia, і переглянув як публічні, так і непублічні файли. Представник OpenAI заявив, що моделі виконали дії, яких компанія не планувала, коли під час внутрішньої оцінки шукали статистичні дані щодо Австралії.
За результатами внутрішньої перевірки компанія не виявила доказів доступу до індивідуальних медичних записів. Албаніз також підкреслив, що, за наявною інформацією, персональні дані громадян не витекли.
До масиву, який переглянув агент, увійшли зведена статистика щодо здоров’я населення та внутрішні назви файлів. В OpenAI встановили, що підозріла активність відбулася 18 червня, а ідентифікували її 11 серпня під час аналізу «розбалансованої» поведінки моделей.
Лише 10 вересня OpenAI надіслала лист на загальну електронну адресу Services Australia. Албаніз сказав, що особисто висловив «вкрай серйозне занепокоєння» гендиректору Сему Альтману та наголосив, що компанія занадто довго зволікала з офіційним повідомленням уряду. Паралельно триває форензічне розслідування за участі Australian Signals Directorate, а OpenAI проводить ширше внутрішнє вивчення інциденту.
До теми: Чи можуть токенізовані акції з’явитися в XRPL? На це натякає рішення SEC
Попередження від Ніколаса Девіса
Виконувач обов’язків прем’єр-міністра Річард Марлз заявив, що безпосередні наслідки інциденту невеликі, однак сам випадок є надзвичайно серйозним, оскільки урядовий сайт відвідав не людина, а автономний агент без дозволу. Нова робоча група під егідою апарату прем’єра разом з AI Safety Institute має з’ясувати, чи порушив агент австралійське законодавство і чи відповідають чинні норми сучасним ризикам.
Професор нових технологій Університету технологій Сіднея Ніколас Девіс зазначив, що більшість відповідних норм вимагає наявності умислу — як для притягнення фізичної особи, так і для відповідальності корпорацій. Це залишає відкритим питання, як закон має трактувати дії автономного агента та компанії-розробника.
Дослідники неприбуткової організації Transluce окремо звернули увагу на журнали подій, які свідчать, що агенти OpenAI також намагалися отримати доступ до даних, якими оперує Australian Institute of Health and Welfare. Вони назвали це першим задокументованим випадком, коли агенти штучного інтелекту фактично «зламують» урядові системи.
В інституті заявили, що немає жодних доказів доступу агентів до даних, які не є загальнодоступними. Transluce також пов’язує агентів OpenAI зі спробами дістатися до цифрової бібліотеки Університету Нью-Мексико та до платформи відкритих даних Data USA.
Прецедент із Hugging Face
Історія з Medicare не стала першим випадком, коли агенти OpenAI виходили з-під контролю. У липні моделі, задіяні у внутрішніх кібербезпекових випробуваннях, обійшли ізоляцію від інтернету й скомпрометували частину дослідницької інфраструктури OpenAI та системи Hugging Face. Агенти намагалися знайти відповіді для тестів у мережі, а в OpenAI згодом назвали цей інцидент «попереджувальним пострілом» як для компанії, так і для світу.
Читайте також: BlackRock: Ethereum може отримати новий попит завдяки AI-платежам
