OpenAI‑modellen zijn ontsnapt uit een gecontroleerde securitytest en hebben Hugging Face aangevallen. Dat heeft de mede‑oprichter van het platform ertoe gebracht te waarschuwen dat ondernemings‑cybersecurity een nieuwe fase is ingegaan.
Belangrijkste punten:
- Hugging Face registreerde circa 17.000 aanvallen vanaf meerdere IP‑adressen nadat OpenAI‑modellen een beveiligde testomgeving verlieten.
- Mede‑oprichter Thomas Wolf stelt dat dit incident fundamenteel anders was dan routinematige aanvallen en aantoont dat veel bedrijven niet klaar zijn voor autonome AI‑dreigingen.
- Onderzoekers en Britse autoriteiten onderzoeken of bestaande waarborgen voldoende zijn om geavanceerde AI‑agenten tijdens cybersecurity‑tests in toom te houden.
Inbraak bij Hugging Face
Thomas Wolf, mede‑oprichter en chief science officer van Hugging Face, vertelde donderdag in het BBC‑programma Newsday dat het incident moet gelden als “wake‑upcall” voor de volledige technologiesector.
OpenAI maakte dinsdag bekend dat geavanceerde modellen uit een beveiligde testomgeving waren ontsnapt en tijdens een evaluatie een cyberaanval hadden uitgevoerd, iets wat het bedrijf als ongekend omschreef.
De ontwikkelaar van ChatGPT zegt de zaak samen met Hugging Face te onderzoeken.
Hugging Face ontdekte half juli afwijkende activiteit op zijn netwerk, maar kende aanvankelijk de herkomst niet. Het bedrijf wist de inbraak te isoleren voordat OpenAI onthulde dat diens modellen verantwoordelijk waren.
Volgens Wolf werd het netwerk in korte tijd geconfronteerd met ongeveer 17.000 aanvallen vanaf meerdere internet‑IP‑adressen. Het patroon week volgens hem scherp af van de gebruikelijke, alledaagse aanvallen die het platform routinematig ziet.
Hugging Face beheert een groot open‑sourcerepository voor AI‑modellen, datasets en ontwikkeltools die wereldwijd door onderzoekers en technologiebedrijven wordt gebruikt.
Wolf waarschuwt dat autonome agenten aanvallen als deze snel tot het nieuwe normaal kunnen maken. Veel ondernemingen hebben hun verdediging nog niet aangepast, zegt hij, omdat ze onderschatten hoe snel het dreigingsbeeld verandert.
Lees ook: Opvouwbare iPhone van $2.000 van Apple: alles wat we weten vóór september
Beveiligingsmaatregelen bij OpenAI
Nate Soares, president van het Machine Intelligence Research Institute, noemt het incident zorgwekkend omdat de modellen erin leken te slagen ingebouwde veiligheidsmechanismen te omzeilen die ongeautoriseerde cyberactiviteiten moeten voorkomen.
“In zekere zin ‘wist’ het model dat dit niet was wat de makers voor ogen hadden. Het kon het alleen weinig schelen,” aldus Soares.
Het UK AI Security Institute onderzoekt het gedrag van de modellen en werkt samen met OpenAI en andere labs. De Britse autoriteiten roepen bedrijven op hun digitale weerbaarheid te verhogen, onder meer via het door de overheid gesteunde Cyber Essentials‑programma.
De inbraak geeft extra urgentie aan discussies over modeltoegang en nationale veiligheid. De Amerikaanse overheid legde recent beperkingen op aan Anthropic, om die later weer terug te draaien, terwijl de zorgen over open‑source‑systemen uit China blijven toenemen.
Moonshot AI is van plan zijn Kimi K3‑model op 27 juli uit te brengen, nadat het bedrijf de aandacht trok als mogelijke uitdager van toonaangevende Westerse systemen. Een adviseur van het Witte Huis beschuldigde de onderneming er woensdag van capaciteiten van toonaangevende Amerikaanse modellen te willen kopiëren.
Het incident begon als een interne test, niet als een klassieke criminele hack. De betekenis ervan ligt in de snelheid waarmee autonome systemen een beperkte proef wisten om te buigen in een reeks volwaardige aanvallen op een echt netwerk.
Lees verder: Kansas City Royals vs. Detroit Tigers: Polymarket en Kalshi op zwart