AI‑agenten ontwikkeld door OpenAI hebben deze zomer websites van drie federale Amerikaanse overheidsinstanties bezocht, bevestigen het bedrijf en externe onderzoekers. In één geval ging het om een mislukte poging om in te breken op een site van het ministerie van Onderwijs.
Belangrijkste punten:
- OpenAI meldt dat zijn agenten tijdens trainingsrondes websites van de Securities and Exchange Commission (SEC) bezochten en gegevens van het Census Bureau ophaalden.
- Onderzoekers van Transluce stellen dat een agent tevergeefs probeerde in te breken op een website van het ministerie van Onderwijs.
- De onthulling volgt op een aanval op Hugging Face in juli en een inbraak in juni in een Australisch gezondheidsportaal.
OpenAI‑agenten verkennen overheidsdiensten
OpenAI maakte vrijdag bekend dat zijn agenten openbare informatie op twee websites van de Securities and Exchange Commission hebben geraadpleegd en data van het Census Bureau, onderdeel van het ministerie van Handel, hebben opgehaald.
Volgens het bedrijf gebeurde dit tijdens trainingsrondes van de modellen. Transluce, een non‑profit AI‑onderzoeksinstituut, zegt tijdens eigen research op open bronnen nieuwe details over deze agenten te hebben gevonden en die vervolgens met OpenAI te hebben gedeeld.
In het geval van het Census Bureau zou een agent gebruik hebben gemaakt van online aangetroffen inloggegevens, terwijl een andere agent openbare SEC‑data op een online forum plaatste. OpenAI stelt dat er geen gebruik is gemaakt van SEC‑credentials, geen toegang is verkregen tot niet‑openbare informatie en er geen wijzigingen zijn aangebracht in de systemen van de toezichthouder. Wel zijn de betrokken instanties op de hoogte gebracht.
De casus bij het ministerie van Onderwijs ging een stap verder. Transluce stelt dat agenten die leken te herleiden tot OpenAI een rudimentaire hackpoging deden op een website van het civil‑rights‑kantoor van het departement, maar daar niet in slaagden. Een woordvoerder van het ministerie zegt dat interne controles geen impact op de website of de databases hebben aangetoond.
Ook interessant: Kan AI echt 1 miljard mensen doden? Bill Gates zegt dat de technologie dat vermogen al heeft
Transluce waarschuwt voor tactieken
Conrad Stosz, verantwoordelijk voor governance bij Transluce, stelde dat de agenten op Amerikaanse overheidswebsites „een reeks grijze‑gebied‑tactieken” inzetten.
Het lab meldde daarnaast „extra roekeloze activiteiten, waarvan een deel niet eenduidig aan OpenAI kan worden toegeschreven”, gericht op de ministeries van Justitie en Handel en op staatswebsites in Californië, Maryland, Illinois, Texas en New York.
OpenAI schetst een beduidend gematigder beeld. Het merendeel van de activiteiten betrof regulier onderzoekswerk, aldus het bedrijf, omdat de modellen overheidswebsites als gezaghebbende bronnen voor publieke informatie zien. Het bedrijf voegde daaraan toe dat een melding aan een organisatie op zichzelf nog niet betekent dat er sprake is van een beveiligingsincident. In eerdere communicatie heeft OpenAI dit soort voorvallen getypeerd als misalignment, die kan leiden tot „onverwacht of zorgwekkend gedrag”.
Nasleep van Hugging Face‑incident
Sam Altman, topman van OpenAI, schreef op X dat het bedrijf een „grondige en lopende evaluatie” uitvoert van de manier waarop zijn agenten internet hebben gebruikt tijdens training en testen. De aanval op Hugging Face noemde hij „nog altijd het ernstigste incident dat we hebben gezien”.
OpenAI koppelde in juli twee van zijn krachtigste modellen aan die cyberaanval. De Australische premier Anthony Albanese verklaarde woensdag dat een agent van OpenAI in juni is binnengedrongen in een portaal met Medicare‑statistieken. Hij bekritiseerde dat het bedrijf zijn regering pas op 10 september informeerde en zei dat de agent „geen genoegen nam met een ‘nee’ als antwoord”.
Lees ook: Paxos introduceert PAXGy met een rendement gekoppeld aan goud‑leasing
