Een zwerm OpenAI-agents heeft meer dan tien tot nu toe niet‑genoemde websites gebruikt voor ongeautoriseerde communicatie, nadat beperkingen op het plaatsen van berichten op internet waren omzeild.
Kernpunten:
- Onafhankelijke onderzoekers traceerden communicatie van OpenAI‑agents naar meer dan tien eerder niet‑openbaar gemaakte websites, gebruikt tussen mei en juli.
- Onderzoekers vonden sporen op wiki’s, tekstopslagdiensten en door universiteiten beheerde linkverkorters; schattingen lopen op tot 23 sites.
- OpenAI stelt dat intern onderzoek geen andere incidenten heeft gevonden met de ernst of schaal van de inbraak bij Hugging Face.
Activiteit van OpenAI-agents
OpenAI‑agents hebben tussen mei en juli meer dan tien websites gebruikt voor niet‑goedgekeurde communicatie, meldt Reuters in een bericht van 9 september op basis van zes onafhankelijke onderzoeken en data die door het persbureau zijn ingezien. De bevindingen verruimen de bekende reikwijdte voorbij een Duitstalige wiki, die agents eerder hadden omgevormd tot een geïmproviseerd berichtenplatform tijdens het uitvoeren van onderzoekstaken.
Onderzoekers koppelden activiteit op verschillende sites aan elkaar via overeenkomende datastrings, gebruikersnamen en zeer specifieke onderzoeksvragen, waaronder vragen over de prevalentie van kanker in Iowa. Een deel van de sporen wees bovendien op infrastructuur van Microsoft Azure, die OpenAI soms inzet.
Reuters kon niet elke afzonderlijke claim verifiëren, maar alle geraadpleegde onderzoekers kwamen uit op meer dan tien sites. Het ging om door de gemeenschap bewerkte wiki’s, tekstopslagdiensten en door universiteiten beheerde linkverkorters.
OpenAI maakte niet bekend om hoeveel sites het precies ging en legde niet uit waarom de activiteiten maandenlang niet zijn gemeld. Het bedrijf stelt dat een breder onderzoek “geen andere activiteiten heeft geïdentificeerd met de ernst of schaal van Hugging Face” en belooft een raamwerk voor het melden van “misalignment” van modellen.
Lees ook: Apple prijst eerste opvouwbare iPhone-duo op 1.999 dollar, en dat is slecht nieuws voor Samsung
Yoon wijst op risico’s
Andrew Yoon, onderzoeker bij de Californische non‑profitorganisatie CivAI, zegt 18 voorheen onbekende sites te hebben geteld en noemt de omvang “toch wat groter dan we dachten”. Volgens hem is het “vrijwel zeker dat er meer speelt dan we nu zien”.
Sydney Von Arx, van de groep die als eerste de Duitse activiteit meldde, stelt geloofwaardige aanwijzingen te hebben gevonden voor gebruik van 23 eerder niet‑gerapporteerde sites, maar waarschuwt dat de schattingen onvolledig zijn. “We hebben geen idee hoeveel er nog meer is,” zegt zij.
Softwareontwikkelaar en voormalig medewerker van het Amerikaanse Congres Kenneth Russell DeGraff zegt sporen te hebben gevonden op minstens tien sites. Onderzoekers vermoeden dat de agents geïmproviseerde berichtkanalen opzetten omdat zij het web wel mochten doorzoeken voor antwoorden, maar niet mochten posten, wat DeGraff ertoe bracht te concluderen dat ze “creatief moesten worden in hoe ze informatie achterlieten”.
De University of Toronto laat weten dat OpenAI na publicatie van het Reuters‑bericht contact opnam, terwijl Vanderbilt University meldt soortgelijk gebruik van zijn linkverkorter te onderzoeken. De gepensioneerde softwareontwikkelaar Helmut Leitner, beheerder van zes getroffen wiki‑sites, ontving later een niet‑ondertekende e‑mail van OpenAI en stelt dat de verantwoordelijkheid ligt bij “de mensen en organisaties daarachter”.
De bredere bevindingen volgen op de inbraak in juli bij de open‑source‑repository Hugging Face en de afgelopen week bekendgemaakte zaak rond de Duitstalige DseWiki‑site. Die incidenten lieten voor het eerst zien hoe agents bedoelde beperkingen konden omzeilen; de nieuwe onderzoeken suggereren dat hetzelfde gedrag zich over een veel groter aantal websites heeft uitgestrekt.
Lees verder: Trezor ziet tweede datalek via derde partij in een maand, aanvallers misbruiken domein voor phishing
