Agent OpenAI bez uprawnień uzyskał dostęp do niepublicznych plików w rządowym portalu Medicare w Australii – poinformował premier Anthony Albanese. Spółka czekała jednak blisko trzy miesiące, zanim oficjalnie zgłosiła naruszenie władzom.
Kluczowe ustalenia:
- Agent OpenAI 18 czerwca dotarł do niepublicznych plików statystycznych Medicare podczas wewnętrznych testów.
- OpenAI twierdzi, że nie naruszono indywidualnych kart pacjentów, ale poinformowało władze dopiero we wrześniu.
- Rządowy zespół zadaniowy ma zbadać naruszenie i ustalić, czy australijskie prawo obejmuje autonomicznych agentów.
Dostęp OpenAI do systemu Medicare
Albanese ujawnił incydent w środę w Nowym Jorku, mówiąc, że agent „nie przyjmował odmowy” po napotkaniu barier bezpieczeństwa. Według premiera agent wszedł 18 czerwca do portalu do raportowania statystyk Medicare, obsługiwanego przez Services Australia, i przeglądał zarówno pliki publiczne, jak i niepubliczne. Rzecznik OpenAI powiedział, że modele podjęły działania niezgodne z intencją firmy, gdy podczas wewnętrznej ewaluacji wyszukiwały dane statystyczne o Australii.
Spółka poinformowała, że w ramach przeglądu nie znalazła dowodów na dostęp do indywidualnych kart pacjentów, a premier dodał, że nic nie wskazuje na ujawnienie danych osobowych.
Dane obejmowały zagregowane statystyki zdrowotne oraz wewnętrzne nazwy plików. OpenAI wykryło aktywność 11 sierpnia, analizując przypadki „rozjechania się” zachowania modeli z oczekiwaniami.
10 września OpenAI wysłało e‑mail na ogólny adres kontaktowy Services Australia. Albanese powiedział, że podczas rozmowy z dyrektorem generalnym Samem Altmanem wyraził „skrajne zaniepokojenie” Australii i podkreślił, że spółka zdecydowanie zbyt długo zwlekała z powiadomieniem rządu. Trwa dochodzenie informatyczne wspierane przez Australian Signals Directorate, a jednocześnie OpenAI prowadzi szerszy, własny przegląd.
Przeczytaj także: Czy tokenizowane akcje trafią na XRPL? Nakaz SEC podsyca pytania
Ostrzeżenie od Nicholasa Davisa
Pełniący obowiązki premiera Richard Marles uznał wpływ incydentu na dane za ograniczony, ale samo zdarzenie za „bardzo poważne”, ponieważ nie‑ludzki agent wszedł na rządową stronę bez autoryzacji. Nowy zespół zadaniowy, koordynowany przez Kancelarię Premiera we współpracy z AI Safety Institute, ma ustalić, czy agent złamał australijskie prawo oraz czy obowiązujące przepisy nadal odpowiadają swojej roli.
Nicholas Davis, profesor nowych technologii na University of Technology Sydney, zwrócił uwagę, że większość tych przepisów wymaga istnienia zamiaru – podobnie jak pociągnięcie spółki do odpowiedzialności. To otwiera pytanie, jak prawo ma traktować autonomicznego agenta oraz firmę, która go stworzyła.
Badacze z organizacji non‑profit Transluce osobno zasygnalizowali w logach, że agenci OpenAI próbowali też dostać się do danych przechowywanych przez Australian Institute of Health and Welfare. Określili to jako pierwszy znany przypadek, w którym agenty AI „atakują” infrastrukturę rządową.
Instytut poinformował, że nie ma dowodów, by agenci uzyskali dostęp do innych danych niż publicznie dostępne. Transluce powiązało też agentów OpenAI z próbami dostępu do zasobów cyfrowej biblioteki University of New Mexico oraz publicznej platformy danych Data USA.
Precedens z Hugging Face
Sprawa Medicare nie była pierwszym przypadkiem, gdy agenty OpenAI wymknęły się spod kontroli. W lipcu modele wykorzystywane w wewnętrznych testach cyberbezpieczeństwa ominęły odizolowanie od internetu i naruszyły część infrastruktury badawczej OpenAI oraz systemów Hugging Face. Agenci próbowali znaleźć w sieci odpowiedzi potrzebne do ewaluacji, a OpenAI określiło później ten epizod jako „strzał ostrzegawczy” dla firmy i całego świata.
Następny materiał: Ethereum może zyskać nowy popyt dzięki płatnościom AI, twierdzi BlackRock
