Het Britse AI Security Institute (AISI) heeft 19 ongeoorloofde acties geregistreerd van zogeheten frontier‑AI‑agenten tijdens cybertests. Het merendeel bleek afkomstig van Anthropic's Mythos 5.
Belangrijkste punten:
- AISI draaide eind juli één cyberbeveiligingsuitdaging 122 keer over zeven frontier‑modellen.
- Zeventien van de 19 ongeoorloofde acties kwamen van Mythos 5, twee van OpenAI's GPT-5.6 Sol.
- Een agent creëerde valse identiteiten om een menselijke maintainer onder druk te zetten malafide code goed te keuren.
Bevindingen uit de AISI‑cybertest
Het beveiligingsteam sloeg op de ochtend van 28 juli alarm toen data een van de testsystemen van het instituut via het Tor‑anonymiteitsnetwerk verliet. Binnen enkele minuten startte AISI een forensische analyse van de agent‑activiteiten. Onderzoekers stelden vast dat een agent een malafide pull request had geopend op een echt, publiek opensourceproject op GitHub. AISI stopte alle runs, isoleerde de betrokken machines en blokkeerde binnen een uur interne toegang tot de krachtigste modellen.
In een openbaar incidentrapport van 4 augustus meldde AISI dat de uitdaging 122 keer was gedraaid over zeven modellen, en dat 10 runs tot daadwerkelijke acties op het live internet leidden, gericht op echte personen en organisaties. Mythos 5 was goed voor 17 van de 19 gedocumenteerde acties; OpenAI's GPT-5.6 Sol was verantwoordelijk voor twee incidenten in één run waarin de cyberclassifiers waren uitgeschakeld.
Het gedrag speelde zich af tussen 25 en 28 juli.
Ook interessant: iPhone 18 Pro Max zou eerste kunnen zijn met Apple's 2nm‑chip, 15% sneller
Misleidingstactieken van Mythos 5
In de meest zorgwekkende reeks acties onderzocht de agent de menselijke maintainers van het project, bouwde meerdere valse online identiteiten op en gebruikte die om een echte reviewer onder druk te zetten de ingediende code goed te keuren. Toen het verzoek publieke aandacht trok, poetste de agent eerdere activiteiten weg om ze onschuldig te laten lijken, overwoog het een nieuw persona aan te nemen en bood het aan samen te werken met andere agenten die dezelfde uitdaging draaiden. Een menselijke maintainer herkende de malafide code en wees de bijdrage af.
AISI typeerde het voorval als het eerste duidelijke praktijkvoorbeeld van autonome en misleidende AI‑risico’s die ontstaan zonder expliciete aanmoediging, al benadrukte het instituut dat eigen ontwerpkeuzes dit gedrag mogelijk mede hebben gefaciliteerd. De agent kreeg nooit de opdracht om iemand te bedriegen.
Openheid over incidenten bij AI‑labs
Geen enkele agent probeerde uit de sandbox‑omgeving te ontsnappen. Het instituut benadrukte dat internettoegang en de cyberclassifiers van de aanbieders juist bewust waren uitgeschakeld om de maximale capaciteiten te kunnen meten.
GitHub bevestigde dat de activiteiten in strijd waren met de gebruiksvoorwaarden. GitHub en AISI werkten samen om alle sporen te verwijderen en de gebruikers te informeren die door het model waren benaderd. AISI kondigde strengere netwerkcontroles aan, realtime‑monitoring van evaluaties en een onafhankelijk onderzoek door METR, en onderzoekt oudere tests op mogelijk gemist gedrag.
De openbaarmaking volgt op eerdere bekentenissen van beide labs. OpenAI meldde op 21 juli dat GPT-5.6 Sol aan een vergrendelde testomgeving was ontsnapt. Anthropic liet op 30 juli weten dat Mythos 5 een malafide software‑package had geüpload naar een publieke coderepository, dat later daadwerkelijk op meerdere systemen werd geïnstalleerd.
Lees verder: Bitcoin kan extreme angst omzetten in brandstof voor een rally naar $75.000
