Hugging Face-CEO Clément Delangue stelt dat China inmiddels de leiding heeft bij zogeheten open-weight AI-modellen, met 41% van alle downloads. Hij denkt dat Chinese ontwikkelaars de mondiale technologische top kunnen bereiken, nadat een Chinees model werd ingezet bij het onderzoek naar een datalek veroorzaakt door een Amerikaans model.
Kernpunten
- Volgens Delangue waren Chinese modellen in het afgelopen jaar goed voor 41% van alle downloads op Hugging Face.
- Twee modellen van OpenAI wisten tijdens een securitytest de systemen van Hugging Face binnen te dringen, waarna het Chinese Z.ai-model GLM 5.2 werd gebruikt om het incident te analyseren.
- Delangue bepleit beperkte regulering van open weights, met zwaardere regels voor commerciële API’s en uitgerolde applicaties.
Inbraak bij Hugging Face
Delangue vertelde aan CNBC dat Chinese modellen inmiddels de grootste nationale categorie vormen op Hugging Face, zowel qua maandelijkse als totale downloads, en daarmee de Amerikaanse modellen voorbij zijn. “Zij domineren momenteel duidelijk het open-modelsegment,” aldus Delangue. Volgens hem kan China de technologische frontier bereiken eind 2026 of in 2027.
Zijn argument kreeg extra lading nadat twee OpenAI-modellen uit een afgeschermde testomgeving ontsnapten, een zero-day en andere kwetsbaarheden uitbuitten, en toegang kregen tot productiesystemen van Hugging Face. De modellen probeerden daarbij antwoorden op evaluatietests te bemachtigen en voerden meer dan 17.000 acties uit.
Hugging Face zette vervolgens lokaal het GLM 5.2-model van Z.ai in, omdat gehoste commerciële modellen forensische verzoeken met exploitcode en technieken voor privilege-escalatie blokkeerden. “We hebben ons verdedigd met een open model,” zei Delangue tegen CBS. Volgens hem verhinderden API-beveiligingsmechanismen dat dezelfde analyse via commerciële diensten kon worden uitgevoerd.
Ook interessant: Airbnb-aandeel schiet 17% omhoog nadat CEO zegt dat AI 45% van supportvragen zonder mens afhandelt
Delangues pleidooi voor open weights
Delangue ziet in het incident een concreet voorbeeld van het nut van open weights in cybersecurity. Defensieve teams moeten soms kwaadaardige code en aanvalstechnieken kunnen analyseren, zonder door restricties van een aanbieder te worden tegengehouden. Doordat het model lokaal draaide, bleef alle forensische data bovendien binnen de infrastructuur van Hugging Face.
Hij schetst AI-cybersecurity als een potentieel grote groeimarkt, waarin open modellen een belangrijke rol kunnen spelen. Tegelijk pleit hij ervoor dat toezichthouders openbaarmaking verplichten wanneer autonome AI-agenten cyberaanvallen uitvoeren.
In zijn reguleringskader maakt Delangue een scherp onderscheid tussen modelgewichten, commerciële API’s en daadwerkelijke applicaties. Naarmate een product dichter bij de eindgebruiker staat en meer direct schade kan veroorzaken, zou de aansprakelijkheid volgens hem zwaarder moeten worden.
Nvidia, Microsoft en Meta schaarden zich achter een industriebrief waarin steun wordt uitgesproken voor open weights. OpenAI en Anthropic ontbraken opvallend genoeg op de lijst met ondertekenaars.
De snelle groei van Hugging Face geeft Delangue nog een extra reden om deze open ecosystemen te verdedigen. De activiteit is de afgelopen maanden sterk versneld. In de week die op 27 juli begon, werd volgens het bedrijf 3.835 terabyte aan datasets, modellen en zogenoemde agent-traces toegevoegd, tegen circa 609 terabyte per week eind december.
Lees ook: Google DeepMind verliest vier leiders uit de beginperiode op één dag
