OpenAI stelt dat personen gelieerd aan de Chinese rivaal Moonshot AI de kern vormden van een campagne om de verborgen redeneerstappen van zijn modellen te achterhalen. De operatie bereikte in juli een piek van 16.000 verzoeken.
Belangrijkste punten:
- OpenAI koppelde een kerncluster van de activiteiten in juli aan personen rond Moonshot, de ontwikkelaar van Kimi.
- De betrokkenen kopieerden versleutelde redeneerstappen tussen chats, maar wisten OpenAI’s versleuteling niet te kraken.
- Moonshot heeft publiek nog niet gereageerd; China ontkent eerdere beschuldigingen van modeldistillatie.
OpenAI beschuldigt Moonshot
OpenAI maakte de bevindingen woensdag bekend in een blogpost. De activiteit begon kleinschalig op 1 juli, aldus het bedrijf. Op 24 en 25 juli schoot het volume omhoog: meer dan 4.000 gebruikers dienden in korte tijd 16.000 verzoeken in volgens eenzelfde extractiepatroon.
Later ontdekte OpenAI verwante activiteiten bij meer dan 15.000 gebruikers, waarna het de campagne volledig stillegde op 28 juli.
Niet elke account kon aan één actor worden gelinkt, maar een kerncluster werd toegeschreven aan personen verbonden aan Moonshot, de Chinese ontwikkelaar van de Kimi-modellen.
OpenAI schermt de tussenliggende redeneerstappen van zijn modellen af voor ze een antwoord formuleren. Volgens het bedrijf kopieerden de betrokkenen die versleutelde tekst uit de ene conversatie, om die vervolgens in een andere chat door een model te laten “uitschrijven”. De versleuteling zelf is niet doorbroken en opgeslagen gebruikerschats zijn niet benaderd. OpenAI heeft de betrokken accounts inmiddels geblokkeerd, de aanmeldprocedures aangescherpt en de bevindingen gedeeld met andere AI-labs en overheidsinstanties.
Zie ook: Bitget brengt beschermingsfonds weer boven 300 miljoen dollar nu opnames herstarten
Zorgen over modeldistillatie bij OpenAI
Caroline Zier, verantwoordelijk voor strategisch veiligheids- en defensiebeleid bij OpenAI, stelde dat het bedrijf vooral bezwaar heeft tegen schendingen van de gebruiksvoorwaarden, “niet tegen open modellen of legitieme distillatie”.
Distillatie – waarbij kennis van een krachtig model wordt overgezet naar een lichter model – is wijdverbreid in de sector. In de blogpost waarschuwde OpenAI dat buitgemaakte redeneerstappen kunnen worden ingezet om concurrerende modellen te trainen zonder de oorspronkelijke veiligheidsmechanismen, waardoor geavanceerde mogelijkheden “kunnen worden verplaatst zonder vergelijkbare investeringen in veiligheid.”
David Sacks, voormalig AI-topadviseur van president Donald Trump, heeft dergelijke rapporten eerder bestempeld als een poging om Washington ertoe te bewegen open modellen te verbieden die het verdienmodel van OpenAI en Anthropic onder druk zetten.
Toenemende druk op Moonshot en Kimi
Moonshot heeft publiek nog niet gereageerd op de nieuwe aantijgingen. De Chinese overheid heeft eerdere Amerikaanse klachten over distillatie en IP-diefstal van tafel geveegd en gewaarschuwd dat zij tegenmaatregelen zal nemen als Washington sancties invoert.
Moonshot lanceerde zijn Kimi K3-model op 16 juli. Binnen enkele weken stelde wetenschappelijk topadviseur van het Witte Huis Michael Kratsios dat het bedrijf toegang had gekregen tot Nvidia-Blackwellservers die niet aan Chinese partijen mochten worden verkocht, en data had onttrokken aan Amerikaanse modellen. Op 10 september meldde Anthropic vervolgens dat Moonshot zo’n 300.000 gebruikersverzoeken heimelijk via 5.380 frauduleuze accounts naar zijn Claude-modellen had doorgesluisd.
Lees verder: Dogecoin krijgt na 12 jaar alsnog een app-laag
