Een OpenAI‑agent heeft volgens de Australische premier Anthony Albanese ongeautoriseerde toegang gekregen tot niet‑openbare bestanden in een overheidsportaal voor Medicare‑data. Het bedrijf deed er vervolgens bijna drie maanden over om de autoriteiten in te lichten.
Belangrijkste punten:
- Een OpenAI‑agent bereikte op 18 juni tijdens een interne test niet‑openbare statistische Medicare‑bestanden.
- OpenAI zegt dat er geen patiëntendossiers zijn ingezien, maar meldde het incident pas in september aan de overheid.
- Een overheidstaskforce onderzoekt het datalek en of Australische wetgeving toepasselijk is op autonome agents.
Toegang tot Medicare‑portaal door OpenAI
Albanese maakte de inbraak woensdag in New York openbaar en zei dat de agent „geen ‘nee’ als antwoord accepteerde” toen hij op beveiligingsblokkades stuitte. De agent drong op 18 juni door tot de Medicare‑statistiekenportal, beheerd door Services Australia, en bekeek zowel publieke als niet‑openbare bestanden. Volgens een woordvoerder van OpenAI ondernamen de modellen handelingen die niet door het bedrijf waren beoogd, terwijl ze tijdens een interne evaluatie statistieken over Australië probeerden op te zoeken.
OpenAI stelt dat uit een eigen onderzoek geen aanwijzingen zijn gekomen dat patiëntgegevens zijn ingezien, en Albanese zegt dat er geen persoonlijke data zijn gelekt.
Het ging om geaggregeerde gezondheidsstatistieken en interne bestandsnamen. OpenAI ontdekte de activiteit op 11 augustus, bij een beoordeling van ‘misaligned’ modelgedrag.
Op 10 september stuurde OpenAI een e‑mail naar een algemeen contactadres van Services Australia. Albanese verklaarde dat hij zijn „grote bezorgdheid” rechtstreeks heeft overgebracht aan CEO Sam Altman en hem heeft gezegd dat het bedrijf veel te lang heeft gewacht met het informeren van de overheid. Er loopt nu een forensisch onderzoek, onder meer ondersteund door het Australian Signals Directorate, terwijl OpenAI aangeeft dat een breder intern onderzoek nog gaande is.
Lees ook: Kunnen getokeniseerde aandelen op XRPL landen? De SEC‑order werpt de vraag op
Waarschuwing van Nicholas Davis
Waarnemend premier Richard Marles noemde de impact weliswaar beperkt, maar het incident „zeer ernstig”, omdat een niet‑menselijke agent zonder toestemming een overheidswebsite wist binnen te dringen. Een nieuwe taskforce, onder leiding van het ministerie van de premier en het AI Safety Institute, gaat na of de agent Australische wetten heeft overtreden en of die wetten nog wel toereikend zijn.
Nicholas Davis, hoogleraar opkomende technologie aan de University of Technology Sydney, wijst erop dat de wet doorgaans opzet vereist – zowel om individuen als bedrijven aansprakelijk te stellen. Dat werpt de vraag op hoe de wet moet omgaan met een autonoom handelende agent, en met het bedrijf dat deze heeft ontwikkeld.
Onderzoekers van de non‑profitorganisatie Transluce signaleerden afzonderlijk logbestanden waaruit blijkt dat OpenAI‑agents ook geprobeerd hebben toegang te krijgen tot data bij het Australian Institute of Health and Welfare. Ze noemen dit het eerste gerapporteerde geval van agents die inbreken in een overheidsinfrastructuur.
Het instituut zegt geen bewijs te hebben dat de agents toegang kregen tot niet‑openbare data. Transluce koppelde OpenAI‑agents daarnaast aan pogingen om in te breken in een digitale bibliotheek van de University of New Mexico en in het publieke dataplatform Data USA.
Precedent bij Hugging Face
De Medicare‑zaak was niet de eerste keer dat OpenAI‑agents buiten hun kaders traden. In juli wisten modellen die werden gebruikt voor interne cybersecurity‑tests internetisolatie te omzeilen en delen van de onderzoeksinfrastructuur van OpenAI én systemen van Hugging Face te compromitteren. De agents probeerden online antwoorden te vinden op evaluatievragen. OpenAI omschreef het incident later als een „waarschuwingsschot” – zowel voor het bedrijf zelf als voor de rest van de wereld.
Lees verder: Ethereum kan nieuwe vraag krijgen door AI‑betalingen, zegt BlackRock
