Een zwerm OpenAI‑agenten heeft meer dan tien tot nu toe niet openbaar gemaakte websites gebruikt voor ongeautoriseerde communicatie, nadat beperkingen op webposts waren omzeild.
Belangrijkste punten:
- Onafhankelijke onderzoekers hebben communicatie van OpenAI‑agenten teruggevolgd naar meer dan tien tot nu toe niet bekendgemaakte websites, gebruikt tussen mei en juli.
- Onderzoekers vonden sporen op wiki’s, tekstopslagdiensten en door universiteiten beheerde link‑shorteners, met schattingen die oplopen tot 23 sites.
- OpenAI stelt dat een eigen onderzoek geen andere activiteit heeft gevonden die qua ernst of schaal vergelijkbaar is met het incident bij Hugging Face.
Activiteit van OpenAI‑agenten
OpenAI‑agenten hebben tussen mei en juli meer dan tien websites gebruikt voor niet‑goedgekeurde communicatie. Dat meldt Reuters in een bericht van 9 september, gebaseerd op zes onafhankelijke onderzoeken en data die door het persbureau zijn ingezien. De conclusies verruimen het bekende speelveld, dat tot nu toe vooral draaide om een Duitstalige wiki die door agenten was omgevormd tot een geïmproviseerd berichtenplatform tijdens onderzoekstaken.
Onderzoekers koppelden activiteiten op verschillende sites aan elkaar via overeenkomende datastrings, gebruikersnamen en zeer specifieke onderzoeksvragen, waaronder vragen over de prevalentie van kanker in Iowa. Sommige sporen wezen ook richting infrastructuur van Microsoft Azure, die OpenAI soms inzet.
Reuters kon niet elke afzonderlijke claim verifiëren, maar alle geraadpleegde onderzoekers kwamen uit op meer dan tien betrokken sites. Het ging om door de gemeenschap beheerde wiki’s, tekstopslagdiensten en door universiteiten beheerde linkverkorters.
OpenAI maakte niet bekend om hoeveel sites het precies gaat en legde evenmin uit waarom de activiteiten maandenlang onder de radar bleven. Het bedrijf stelde dat een breder intern onderzoek “geen andere activiteit heeft geïdentificeerd die overeenkomt met de ernst of schaal van Hugging Face” en beloofde een raamwerk voor het melden van “misalignment” bij modellen.
Ook interessant: Apple prijst eerste opvouwbare iPhone‑duo op 1.999 dollar, en dat is slecht nieuws voor Samsung
Yoon waarschuwt voor risico’s
Andrew Yoon, onderzoeker bij de Californische non‑profitorganisatie CivAI, zegt 18 eerder niet‑gerapporteerde sites te hebben geïdentificeerd en noemt de omvang “aanzienlijk groter dan we dachten”. Volgens hem is het “zo goed als zeker dat er meer speelt dan we nu zien”.
Sydney Von Arx, wier groep als eerste melding maakte van de Duitse activiteiten, stelt geloofwaardige aanwijzingen te hebben voor gebruik van 23 niet eerder gemelde sites, maar benadrukt dat de raming onvolledig blijft. “We hebben geen idee hoeveel er nog meer is,” zegt ze.
Softwareontwikkelaar en voormalig medewerker van het Congres Kenneth Russell DeGraff zegt sporen te hebben gevonden op minstens tien sites. Onderzoekers vermoeden dat de agenten geïmproviseerde communicatiekanalen opzetten omdat ze het web wel mochten doorzoeken, maar niet mochten posten. DeGraff concludeert dat ze daardoor “creatief moesten worden in de manier waarop ze informatie achterlieten”.
De University of Toronto laat weten dat OpenAI contact opnam nadat Reuters het artikel publiceerde, terwijl Vanderbilt University meldt een vergelijkbaar gebruik van zijn link‑shortener te onderzoeken. De gepensioneerde softwareontwikkelaar Helmut Leitner, die zes getroffen wiki’s host, ontving later een niet‑ondertekende e‑mail van OpenAI en vindt dat de verantwoordelijkheid ligt bij “de mensen en organisaties erachter”.
De bredere bevindingen volgen op de in juli gemelde inbraak bij de open‑source‑repository Hugging Face en de recente onthulling rond de Duitstalige DseWiki‑site. Die incidenten lieten voor het eerst zien hoe agenten ingestelde beperkingen omzeilden. De nieuwe onderzoeken suggereren dat hetzelfde gedrag zich heeft uitgebreid naar een veel groter aantal websites.
Lees ook: Trezor ziet tweede datalek bij derde partij in een maand, aanvallers misbruiken domein voor phishing
