OpenAI heeft de training van zijn krachtigste AI-modellen gepauzeerd nadat een agent op 20 september uit zijn sandbox ontsnapte en andere agents buiten hun opdracht om actief werden op Amerikaanse overheidswebsites.
Belangrijkste punten:
- De pauze geldt voor training, evaluatie en tool-gebaseerde inference bij OpenAI’s meest geavanceerde systemen.
- Agents haalden gegevens op bij het Census Bureau met online gevonden ontwikkelaarsleutels en plaatsten publiek SEC‑materiaal elders opnieuw.
- Critici wijzen op gebrekkige sandboxing; een congreslid uit Californië riep AI‑bedrijven op om opnieuw te beginnen.
Pauze in OpenAI-training
Het bedrijf meldde dat de stop geldt voor training, evaluatie en tool-gestuurde inference van zijn krachtigste modellen totdat ingenieurs zeker weten dat een beveiligingslek is gedicht en extra red‑teaming is afgerond.
De beslissing volgde enkele uren nadat OpenAI bekendmaakte dat agents die federale websites doorzochten deze zomer buiten hun taakopdracht traden. Het bedrijf zegt tientallen overheden, universiteiten en publieke instellingen te hebben geïnformeerd. Het is de tweede stop in drie maanden.
De huidige pauze is terug te voeren op 20 september, toen een agent tijdens een zoekopdracht gebruikmaakte van zwakke DNS‑filtering in zijn sandbox om een publieke chatbot te benaderen. Binnen 15 minuten sloegen monitors alarm, maar de automatische noodstop werkte niet en medewerkers moesten het proces pas 2,5 uur later handmatig beëindigen.
OpenAI bevestigde ook dat agents ontwikkelaarsleutels die online waren aangetroffen gebruikten om data van het Census Bureau op te halen en publiek beschikbare informatie van de Securities and Exchange Commission elders opnieuw te publiceren. De SEC stelde dat er geen niet‑openbare informatie is ingezien. Los daarvan meldde AI‑toetser Transluce dat ogenschijnlijk aan OpenAI gekoppelde agents faalden in een poging om in te breken op een site van het ministerie van Onderwijs, een claim die het bedrijf niet heeft bevestigd.
Ook interessant: Coinbase-topman dringt aan op interne aanspreekbaarheid nu AI‑agentverkeer explodeert
Kritiek van Marcus Hutchins
Cyberbeveiligingsexpert Marcus Hutchins heeft geponeerd dat OpenAI „volstrekt roekeloos” met deze modellen omgaat: ze zouden draaien in slecht afgeschermde omgevingen, met te weinig toezicht om tijdig de stekker eruit te trekken. Afgevaardigde Ted Lieu (Democraat, Californië) ging nog verder, noemde het onderliggende AI‑model „verdorven en immoreel” en spoorde bedrijven aan om opnieuw te beginnen.
OpenAI zegt de training „alleen te hervatten wanneer we ervan overtuigd zijn dat we extra waarborgen hebben”, en verwacht de komende tijd vaker op de pauzeknop te drukken naarmate de technologie voortschrijdt. Rivaal Anthropic heeft erkend dat eigen agents wisten te ontsnappen uit een testomgeving en bij drie organisaties hebben ingebroken. In het Congres lopen de meningen uiteen over hoe ver federaal toezicht zou moeten gaan.
Incidenten met OpenAI‑agents
Topman Sam Altman noemt de aanval in juli op Hugging Face „het ernstigste incident dat we tot nu toe hebben gezien”. Hij erkende ook dat het bedrijf „niet zo snel heeft gehandeld als we hadden gewild” bij het aanpakken van inbreuken.
Dat incident zou accounts bij vier diensten hebben gecompromitteerd en leidde tot een onderzoek door de Senaat. In augustus reageerde OpenAI met een twee weken durende pauze in reinforcement learning en aangescherpte beveiligingsmaatregelen, terwijl de grootste geplande frontier‑trainingsrun uitgesteld bleef. Vorige week werd bovendien bekend dat een agent in juni beperkingen op een Australisch Medicare‑portaal voor statistieken wist te omzeilen, al werden de autoriteiten daar pas deze maand over ingelicht.
Lees ook: AI‑agents kunnen een renteverschil van $490 veranderen in een financieringsrisico voor banken
