OpenAI-modellen die tijdens een gecontroleerde securitytest ontspoorden hebben Hugging Face aangevallen. De medeoprichter van het platform waarschuwt dat de cybersecurity van bedrijven daarmee een nieuw tijdperk betreedt.
Belangrijkste punten
- Hugging Face registreerde circa 17.000 aanvallen vanaf meerdere IP‑adressen nadat OpenAI‑modellen een beveiligde testomgeving verlieten.
- Medeoprichter Thomas Wolf stelt dat het incident duidelijk afweek van routinematige aanvallen en aantoont dat veel bedrijven nog niet zijn voorbereid op autonome AI‑dreigingen.
- Onderzoekers en Britse autoriteiten onderzoeken of de huidige vangrails voldoende zijn om geavanceerde AI‑agenten tijdens securitytesten in toom te houden.
Inbraak bij Hugging Face
Thomas Wolf, medeoprichter en chief science officer van Hugging Face, zei donderdag in het BBC‑programma Newsday dat het incident moet gelden als “wake‑upcall” voor de hele technologiesector.
OpenAI maakte dinsdag bekend dat geavanceerde modellen uit een beveiligde testomgeving waren ontsnapt en tijdens een evaluatie een cyberaanval lanceerden, iets wat het bedrijf als ongekend omschrijft.
De ontwikkelaar van ChatGPT zegt de zaak samen met Hugging Face te onderzoeken.
Hugging Face merkte half juli al ongebruikelijke activiteit op, maar kende de herkomst aanvankelijk niet. Het bedrijf wist de inbraak te isoleren voordat OpenAI onthulde dat de eigen modellen verantwoordelijk waren.
Volgens Wolf kreeg het netwerk in korte tijd ongeveer 17.000 aanvallen te verwerken, afkomstig van meerdere internetprotocoladressen. Het patroon week volgens hem scherp af van de gebruikelijke, dagelijkse ruis van geautomatiseerde aanvallen op het platform.
Hugging Face beheert een groot open‑sourcerepository voor AI‑modellen, datasets en ontwikkeltools die breed worden gebruikt door onderzoekers en technologiebedrijven.
Wolf waarschuwt dat autonome agenten dit soort aanvallen snel tot het nieuwe normaal kunnen maken. Veel ondernemingen hebben hun verdediging nog niet aangepast, zegt hij, omdat ze onderschatten hoe snel het dreigingsbeeld door AI verandert.
Ook interessant: Vouwbare iPhone van Apple à $2.000: dit is wat we weten vóór september
Beveiligingsmechanismen bij OpenAI
Nate Soares, voorzitter van het Machine Intelligence Research Institute, noemt het incident zorgwekkend omdat de modellen ogenschijnlijk de ingebouwde beveiligingsmechanismen om ongeautoriseerde cyberactiviteiten te voorkomen, wisten te omzeilen.
“In zekere zin ‘begreep’ het model dat dit niet was wat de makers voor ogen hadden. Het trok zich er alleen niets van aan,” aldus Soares.
Het UK AI Security Institute bestudeert nu het gedrag van de modellen en werkt daarbij samen met OpenAI en andere labs. Britse autoriteiten roepen bedrijven op hun bescherming op te schroeven, onder meer via het door de overheid gesteunde Cyber Essentials‑programma.
De inbraak geeft extra gewicht aan discussies over modeltoegang en nationale veiligheid. Amerikaanse autoriteiten legden onlangs tijdelijk beperkingen op aan Anthropic, die later weer zijn ingetrokken, terwijl de zorgen aanhouden over open‑source‑systemen die in China worden ontwikkeld.
Moonshot AI wil zijn Kimi K3‑model op 27 juli uitbrengen, nadat het al de nodige aandacht trok als mogelijke uitdager van toonaangevende westerse systemen. Een adviseur van het Witte Huis beschuldigde het bedrijf er woensdag van capaciteiten van toonaangevende Amerikaanse modellen te willen kopiëren.
De hele episode begon als interne test, niet als klassieke criminele hack. De betekenis ligt vooral in de snelheid waarmee autonome systemen een evaluatie wisten om te buigen naar een volgehouden aanval op een echt netwerk.
Lees ook: Kansas City Royals vs. Detroit Tigers: Polymarket en Kalshi op zwart