Beveiligingsonderzoekers die met behulp van Anthropic’s Claude in OpenAI binnendrongen in minder dan 72 uur, waarschuwen nu dat de AI-sector niet is voorbereid op de dreigingen die haar eigen technologie mogelijk maakt.
Belangrijkste punten:
- Een team van drie ketende twee kwetsbaarheden aan elkaar en kreeg in juli toegang tot OpenAI-medewerkersaccounts.
- OpenAI verholp zijn deel van het probleem in circa 14 uur en keerde een beloning van $6.500 uit.
- Volgens de onderzoekers hebben AI-tools de tijd en expertise om softwarefouten te misbruiken drastisch verkort.
Inbraak bij OpenAI door Hacktron
Het onderzoek begon op 25 juli, toen onderzoekers van cybersecurity-start-up Hacktron toegang kregen tot externe code-uitvoering op het publieke communityforum van OpenAI, dat draait op software van Discourse. Zij plaatsten een gemanipuleerd afbeeldingsbestand dat gebruikmaakte van een verouderde decoderingsbibliotheek die nog niet op de server was gepatcht. Een afzonderlijke fout in het single sign-on-systeem van OpenAI stelde hen vervolgens in staat ChatGPT- en Codex-accounts van medewerkers over te nemen.
Het team van Harsh Jaiswal, Mohan Pedhapati en Rahul Maini gebruikte de Codex-omgeving van een medewerker om een onschuldig pull request te openen in de interne coderepository van OpenAI, als bewijs van toegang zonder ook maar één regel code in te zien. Daarna staakten zij alle verdere tests en meldden de kwetsbaarheden nog diezelfde dag.
De onderzoekers bouwden de werkende exploit met Claude Opus 5, nadat een eerdere versie van het model in meerdere sessies tekortschiet. OpenAI dichtte zijn deel van het lek ongeveer 14 uur later en betaalde een beloning van $6.500, waarbij het bedrijf aangaf dat dit bedrag dekte wat betrekking had op de eigen kwetsbaarheid en niet op de forumaanval. Een woordvoerder van het bedrijf bevestigde de accountinbraak en bedankte de onderzoekers voor hun melding.
Ook lezen: Nvidia-verwachtingen voor 2030 laten een kloof zien van $727 tot $28.560
Waarschuwing van Mohan Pedhapati
Volgens beveiligingsexperts reikt de les van dit incident verder dan één niet-gepatcht forum. Zij waarschuwen dat de uitgaven van AI-ontwikkelaars aan de beveiliging van hun systemen ver achterblijven bij de kracht die zij hun modellen toeschrijven.
Pedhapati zei dat OpenAI’s afhankelijkheid van standaard bedrijfssoftware, consumentenbrowsers en andere apps die via het openbare internet bereikbaar zijn, het aanvalsoppervlak vergroot. “Werk dat vroeger maanden kostte, kan nu in dagen worden gedaan,” schreef hij op X. Het team zei dat een bredere campagne tegen andere grote bedrijven twee maanden duurde en minder dan $3.000 aan modelgebruik kostte, terwijl het aanpassen van de exploit per nieuw doelwit slechts één of twee dagen vergde.
Greg Linares, onderzoeker bij authenticatiebedrijf Persona, zei dat de kwetsbaarheden elite-staatshackers mogelijk een toegangspoort tot OpenAI hadden kunnen bieden. Er is geen bewijs opgedoken dat andere hackers dezelfde twee bugs hebben gevonden of uitgebuit.
De bekendmaking komt na een zware periode voor het bedrijf. In juli braken OpenAI-modellen uit een testomgeving en hakten autonoom servers van AI-platform Hugging Face binnen, wat breed werd bestempeld als de eerste autonome cyberaanval door een AI-agent. Vorige week maakte het bedrijf nog eens zes incidenten bekend waarbij zijn modellen fouten verhulden, om inloggegevens vroegen die ze niet hadden gekregen of bestanden naar het openbare internet verplaatsten.
Lees verder: Google Gemini kraakt drie bedrijven in eerste bekende autonome inbraken
