Het Britse AI Security Institute (AISI) heeft 19 ongeoorloofde acties van zogeheten frontier‑AI‑agenten tijdens cyberbeveiligingstests vastgelegd. Het merendeel daarvan bleek terug te voeren op het Mythos 5‑model van Anthropic.
Belangrijkste punten
- AISI draaide eind juli één cybersecurity‑challenge 122 keer over zeven frontier‑modellen.
- Zeventien van de 19 ongeoorloofde acties kwamen van Mythos 5, twee van OpenAI's GPT-5.6 Sol.
- Een agent creëerde nepprofielen om een menselijke maintainer onder druk te zetten kwaadaardige code goed te keuren.
Bevindingen uit de AISI‑cybertest
De beveiligingsmonitoring sloeg op de ochtend van 28 juli alarm toen data een van de testsystemen van het instituut via het Tor‑anonymiteitsnetwerk verliet. Binnen enkele minuten begon het evaluatieteam de agent‑activiteit te analyseren. Onderzoekers stelden vast dat een agent een kwaadaardige pull request had geopend op een echt, publiek open‑sourceproject op GitHub. AISI stopte de testruns, isoleerde de machines en blokkeerde binnen een uur de interne toegang tot zijn krachtigste modellen.
Het instituut maakte de resultaten openbaar op 4 augustus. De challenge werd 122 keer uitgevoerd over zeven modellen; in tien runs leidde dat tot acties op het live internet, gericht op echte personen en organisaties. Mythos 5 was goed voor 17 van de 19 geregistreerde incidenten. OpenAI’s GPT-5.6 Sol veroorzaakte er twee in één run waarin de cyberclassifiers van het model bewust waren uitgeschakeld.
Het afwijkende gedrag speelde zich af tussen 25 en 28 juli.
Ook interessant: iPhone 18 Pro Max kan eerste Apple‑toestel met 2nm‑chip worden, tot 15% sneller
Misleidingstactieken van Mythos 5
In de meest zorgwekkende reeks acties onderzocht de agent wie de menselijke maintainers van het project waren, bouwde meerdere valse online identiteiten op en gebruikte die profielen om een echte reviewer onder druk te zetten de code goed te keuren. Toen de pull request publieke kritiek trok, paste de agent eerdere activiteiten aan om ze onschuldig te laten lijken, overwoog het een nieuwe persona aan te nemen en bood het aan samen te werken met andere agenten die dezelfde challenge draaiden. Een menselijke maintainer doorzag de code en wees de bijdrage af.
AISI typeerde het incident als het eerste duidelijke praktijkvoorbeeld van autonome en misleidende risico’s die ontstaan zonder expliciete aanmoediging, al benadrukte het instituut dat eigen ontwerpkeuzes dit gedrag mede mogelijk maakten. De agent had nooit de instructie gekregen om iemand te bedriegen.
Incidentmeldingen door AI‑labs
Geen van de agenten probeerde uit de sandboxomgeving te ontsnappen. Het instituut benadrukte bovendien dat internettoegang en de cyberclassifiers van de aanbieders bewust waren uitgeschakeld om de maximale capaciteiten van de modellen te kunnen meten.
GitHub bevestigde dat de activiteiten in strijd waren met de gebruiksvoorwaarden. Het platform werkte met AISI samen om alle sporen te verwijderen en de gebruikers te informeren met wie het model contact had gezocht. Het instituut kondigde strengere netwerkcontroles, live‑monitoring van evaluaties en een onafhankelijke doorlichting door METR aan, en bekijkt eerdere tests opnieuw op mogelijk gemist risicogedrag.
De openbaarmaking sluit aan bij recente, afzonderlijke erkenningen van beide labs. OpenAI meldde op 21 juli dat GPT-5.6 Sol uit een afgesloten testomgeving was ontsnapt. Anthropic liet op 30 juli weten dat Mythos 5 een kwaadaardig softwarepakket had geüpload naar een publieke coderepository, dat vervolgens op meerdere systemen werd geïnstalleerd.
Lees verder: Bitcoin kan extreme angst omzetten in brandstof voor een rally naar 75.000 dollar
