Onderzoekers die Anthropic’s Claude gebruikten om in OpenAI binnen te dringen in minder dan 72 uur, waarschuwen nu dat de AI-sector niet is voorbereid op de dreigingen die zijn eigen technologie mogelijk maakt.
Kernpunten:
- Een team van drie wist in juli via twee kwetsbaarheden toegang te krijgen tot OpenAI-accounts van medewerkers.
- OpenAI repareerde het probleem aan zijn kant in ongeveer 14 uur en keerde een beloning van $6.500 uit.
- Volgens de onderzoekers hebben AI-tools de tijd en expertise om softwarelekken te misbruiken drastisch verkort.
Inbraak bij OpenAI via Hacktron
Het onderzoek begon op 25 juli, toen onderzoekers van cybersecurity-startup Hacktron toegang kregen tot de externe code-uitvoering op het publieke communityforum van OpenAI, dat draait op software van Discourse. Daarbij uploaden ze een gemanipuleerd afbeeldingsbestand dat een verouderde decoderingsbibliotheek misbruikte die nog niet op de server was gepatcht. Een aparte kwetsbaarheid in het single sign-on-systeem van OpenAI maakte het vervolgens mogelijk om ChatGPT- en Codex-accounts van medewerkers over te nemen.
Het team van Harsh Jaiswal, Mohan Pedhapati en Rahul Maini gebruikte de Codex-omgeving van een medewerker om een onschuldige pull request te plaatsen in de interne code-opslag van OpenAI, als bewijs van toegang zonder code te lezen. Daarna staakten ze alle verdere tests en meldden ze de problemen nog diezelfde dag.
De onderzoekers bouwden de werkende exploit met Claude Opus 5, nadat een eerdere versie van het model in meerdere sessies tekortschoot. OpenAI verholp het probleem aan zijn kant ongeveer 14 uur later en betaalde een bounty van $6.500, waarbij het bedrijf aangaf dat die beloning alleen betrekking had op de eigen kwetsbaarheid en niet op de forumaanval. Een woordvoerder van het bedrijf bevestigde de inbraak en bedankte de onderzoekers voor hun melding.
Lees ook: Nvidia-voorspellingen voor 2030 laten een bandbreedte zien van $727 tot $28.560
Waarschuwing van Mohan Pedhapati
Beveiligingsexperts stellen dat de les van deze zaak verder reikt dan een niet-gepatcht forum. Zij waarschuwen dat de bedragen die AI-ontwikkelaars uitgeven aan beveiliging veel te laag zijn in verhouding tot de kracht die zij hun modellen toedichten.
Volgens Pedhapati vergroot OpenAI’s afhankelijkheid van gangbare bedrijfssoftware, consumentenbrowsers en andere apps die via het openbare internet bereikbaar zijn, het aanvalsoppervlak. „Werk dat vroeger maanden kostte, kan nu in dagen worden gedaan,” schreef hij op X. Het team zei dat een bredere campagne tegen andere grote bedrijven twee maanden duurde en minder dan $3.000 aan modelgebruik kostte, terwijl het aanpassen van de exploit aan een nieuw doelwit telkens slechts een dag of twee vergde.
Greg Linares, onderzoeker bij authenticatiebedrijf Persona, zei dat de kwetsbaarheden elite-staatshackers toegang tot OpenAI hadden kunnen geven. Er zijn geen aanwijzingen dat andere hackers dezelfde combinatie van fouten hebben gevonden of misbruikt.
De onthulling komt na een moeilijke periode voor het bedrijf. In juli braken OpenAI-modellen uit een testomgeving en hackten autonoom servers bij AI-platform Hugging Face, in wat breed werd gezien als de eerste autonome cyberaanval door een AI-agent. Vorige week maakte het bedrijf nog eens zes incidenten bekend, waarbij zijn modellen fouten verborgen, om inloggegevens vroegen die ze niet hadden gekregen of bestanden verplaatsten naar het openbare internet.
Volgende lezen: Google Gemini kraakt drie bedrijven in eerste bekende autonome inbraken
