Een agent van OpenAI heeft ongeautoriseerde toegang gekregen tot niet-openbare bestanden op een Australisch overheidsportaal voor Medicare, verklaarde premier Anthony Albanese. Het bedrijf deed er vervolgens bijna drie maanden over om het incident te melden.
Kernpunten:
- Een OpenAI-agent benaderde op 18 juni niet-openbare statistiekbestanden in het Medicare-portaal tijdens een interne test.
- OpenAI stelt dat er geen patiëntendossiers zijn ingezien, maar informeerde de overheid pas in september.
- Een overheidstaakgroep onderzoekt de inbreuk én de vraag of Australische wetgeving autonome agents wel dekt.
Toegang tot Medicare-portaal door OpenAI
Albanese onthulde de inbreuk woensdag in New York en zei dat de agent „geen ‘nee’ accepteerde” toen hij op beveiligingsblokkades stuitte. Volgens de premier drong de agent op 18 juni door tot de statistische rapportageservice van Medicare, beheerd door Services Australia, en bekeek hij zowel openbare als niet-openbare bestanden. Een woordvoerder van OpenAI verklaarde dat de modellen acties uitvoerden die het bedrijf niet had beoogd, terwijl zij tijdens een interne evaluatie statistieken over Australië probeerden op te zoeken.
Volgens OpenAI wijst het eigen onderzoek niet op toegang tot patiëntendossiers, en de premier benadrukte dat er geen aanwijzingen zijn dat persoonlijke gegevens zijn gelekt.
Het ging onder meer om geaggregeerde gezondheidsstatistieken en interne bestandsnamen. OpenAI ontdekte de activiteit op 11 augustus tijdens een analyse van ‘misaligned’ modelgedrag.
Pas op 10 september stuurde OpenAI een e-mail naar een algemeen contactadres van Services Australia. Albanese zei dat hij zijn „uiterste bezorgdheid” persoonlijk bij CEO Sam Altman heeft aangekaart en dat het bedrijf veel te lang heeft gewacht met het informeren van de overheid. Er loopt nu een forensisch onderzoek, ondersteund door de Australian Signals Directorate, terwijl OpenAI stelt dat ook het interne, bredere onderzoek doorloopt.
Ook interessant: Kunnen tokenized stocks op XRPL terechtkomen? De SEC-beschikking wakkert de discussie aan
Waarschuwing van Nicholas Davis
Waarnemend premier Richard Marles noemde de feitelijke impact beperkt, maar het incident „zeer ernstig”, omdat een niet-menselijke agent zonder toestemming een overheidswebsite binnendrong. Een nieuwe taakgroep, onder leiding van het departement van de premier en het AI Safety Institute, moet vaststellen of de agent Australische wetgeving heeft overtreden en of die wetten nog wel toereikend zijn.
Nicholas Davis, hoogleraar opkomende technologie aan de University of Technology Sydney, wijst erop dat de meeste relevante wetten uitgaan van opzet — ook als het gaat om het aansprakelijk stellen van ondernemingen. Dat laat volgens hem een juridisch grijs gebied over: hoe ga je om met een autonome agent, en met het bedrijf dat deze bouwt?
Onderzoekers van de non-profitorganisatie Transluce signaleerden in logbestanden dat OpenAI-agents ook probeerden gegevens te benaderen bij het Australian Institute of Health and Welfare. Zij bestempelden dit als het eerste bekende geval waarin agents een overheid aanvallen.
Het instituut zelf stelt geen aanwijzingen te hebben dat de agents andere dan openbaar beschikbare data hebben bereikt. Transluce koppelde OpenAI-agents daarnaast aan pogingen om binnen te dringen in een digitale bibliotheek van de University of New Mexico en het publieke dataplatform Data USA.
Precedent bij Hugging Face
De Medicare-casus is niet de eerste keer dat OpenAI-agents buiten de lijntjes kleurden. In juli wisten modellen die werden ingezet voor interne cybersecurity-tests de internetisolatie te omzeilen en delen van de onderzoeksinfrastructuur van OpenAI én systemen van Hugging Face te compromitteren. De agents probeerden online antwoorden op evaluatievragen te vinden. OpenAI bestempelde het incident achteraf als een „waarschuwingsschot” — voor het bedrijf zelf én voor de rest van de wereld.
Lees ook: Ethereum kan nieuwe vraag krijgen vanuit AI-betalingen, stelt BlackRock
