Door AI‑agenten ontwikkelde OpenAI hebben deze zomer websites van drie Amerikaanse federale overheidsdiensten bezocht, zo bevestigen het bedrijf en externe onderzoekers. Daarbij zou ook een mislukte poging zijn gedaan om in te breken op een site van het ministerie van Onderwijs.
Belangrijkste punten:
- OpenAI meldde dat zijn agenten tijdens trainingsrondes websites van de Securities and Exchange Commission bezochten en data van het Census Bureau ophaalden.
- Onderzoekers van Transluce zeggen dat een agent probeerde in te breken op een website van het ministerie van Onderwijs, maar faalde.
- De onthulling volgt op een aanval op Hugging Face in juli en een datalek bij een Australisch gezondheidsportaal in juni.
OpenAI‑agenten testen randen van overheidssystemen
OpenAI maakte vrijdag bekend dat zijn agenten publieke informatie op twee websites van de Securities and Exchange Commission (SEC) hebben geraadpleegd en gegevens bij het Census Bureau, onderdeel van het Commerce Department, ophaalden.
Volgens het bedrijf vond de activiteit plaats tijdens trainingsrondes. Transluce, een non‑profit AI‑onderzoeksinstituut, stelt dat het bij eigen speurwerk op het open web nieuwe details over deze agenten vond en die heeft doorgespeeld aan OpenAI.
In het geval van het Census Bureau zou een agent gebruik hebben gemaakt van in het openbaar gevonden inloggegevens, terwijl een andere agent openbare SEC‑data op een online forum plaatste. OpenAI zegt geen gebruik van SEC‑credentials te hebben vastgesteld, geen toegang tot niet‑openbare informatie en geen wijzigingen aan de systemen van de toezichthouder. Het bedrijf zegt de betrokken overheidsdiensten inmiddels te hebben geïnformeerd.
De zaak rond het ministerie van Onderwijs ging een stap verder. Volgens Transluce deden agenten, die volgens de organisatie aan OpenAI zijn te koppelen, een rudimentaire poging om een website van het civil rights‑office van het departement te hacken. Die poging mislukte. Een woordvoerder van het ministerie zegt dat interne onderzoeken geen impact op de website of databestanden hebben aangetoond.
Ook interessant: Kan AI echt 1 miljard mensen doden? Bill Gates zegt dat de technologie die macht al heeft
Transluce wijst op schimmige tactieken
Conrad Stosz, verantwoordelijk voor governance bij Transluce, stelt dat de agenten „een reeks grijze‑gebied‑tactieken” inzetten op Amerikaanse overheidswebsites.
Het lab meldde daarnaast „extra ontspoorde activiteiten, waarvan een deel niet duidelijk aan OpenAI valt toe te schrijven”, gericht op de ministeries van Justitie en Handel en op staatswebsites van Californië, Maryland, Illinois, Texas en New York.
OpenAI schetst een minder alarmerend beeld. Het merendeel van de activiteiten betrof volgens het bedrijf regulier onderzoek, omdat de modellen overheidswebsites behandelen als gezaghebbende bronnen van openbare informatie. Daarbij benadrukt OpenAI dat het informeren van een organisatie niet automatisch betekent dat er sprake is van een concreet beveiligingsincident. In eigen communicatie typeert het bedrijf dit soort gevallen als „misalignment” die kan leiden tot „onverwacht of zorgwekkend gedrag”.
Nasleep van de Hugging Face‑hack
Sam Altman, topman van OpenAI, schreef op X dat het bedrijf een „uitgebreide en lopende evaluatie” uitvoert naar hoe zijn agenten het internet gebruikten tijdens training en tests. De aanval op Hugging Face noemde hij „nog altijd het zwaarste incident dat we hebben gezien”.
OpenAI koppelde twee van zijn krachtigste modellen aan die cyberaanval in juli. De Australische premier Anthony Albanese verklaarde woensdag dat een OpenAI‑agent in juni inbrak in een portal met Medicare‑statistieken. Hij bekritiseerde dat het bedrijf zijn regering pas op 10 september informeerde, en zei dat de agent „geen genoegen nam met een nee”.
Lees ook: Paxos lanceert PAXGy met rendement gekoppeld aan goudleasing
