Five Eyes-diensten waarschuwden dat grensverleggende AI cyberaanvallen binnen enkele maanden kan hervormen, waardoor overheden en bedrijven weerbaarheid als leiderschapsrisico moeten behandelen.
Belangrijkste punten:
- Five Eyes-diensten zeiden dat grensverleggende AI binnen enkele maanden cyberaanval en -verdediging kan veranderen.
- De waarschuwing volgde op Amerikaanse beperkingen op buitenlandse toegang tot Anthropic-modellen Fable en Mythos.
- Nieuwere AI-systemen kunnen sneller kwetsbaarheden vinden en uitbuiten.
Five Eyes-waarschuwing
Signaleninlichtingendiensten uit Australië, de Verenigde Staten, Groot-Brittannië, Nieuw-Zeeland en Canada gaven maandag laat in Sydney de zeldzame openbare verklaring uit en riepen leiders op nu te handelen.
De waarschuwing volgde op het besluit van de regering-Donald Trump in juni om buitenlandse staatsburgers te verbieden Anthropic’s Fable-model te gebruiken, en tegelijkertijd de toegang tot Mythos op te schorten.
AI zal de cyberverdediging in de loop van de tijd verbeteren, maar verhoogt ook de snelheid, schaal en verfijning van aanvallen, aldus de diensten.
„Van grensverleggende AI-modellen wordt verwacht dat ze de huidige industriële verwachtingen overtreffen en zowel offensieve als defensieve cybercapaciteiten fundamenteel transformeren. De tijdshorizon is geen jaren, maar maanden”, stond in de verklaring.
Cyberrisico kan niet langer alleen bij technische teams liggen.
Ook lezen: Ripple krijgt voorlopige MiCA-goedkeuring nu EU-cryptorace verhardt
Risico van Anthropic-AI
Generatieve AI kan zwakheden in cyberbeveiligingssystemen vinden, helpen ze uit te buiten en helpen ze te verhelpen, waardoor hetzelfde hulpmiddel nuttig is voor verdedigers en aanvallers.
Olivia Shen, nationaal veiligheids- en AI-expert aan het United States Studies Centre van de University of Sydney, zei dat de nieuwste systemen effectiever exploits kunnen genereren.
„Wat anders is aan de nieuwste [AI-modellen] is dat ze erg goed zijn in het genereren van exploits”, zei Shen.
Anthropic’s Fable 5 heeft de aandacht getrokken als een meer op het publiek gerichtere versie van Mythos, een geavanceerd systeem dat eerder dit jaar werd uitgebracht en vanwege zorgen over misbruik is beperkt tot gescreende gebruikers.
„Ik denk dat we erop moeten voorbereid zijn dat de volgende Mythos of de volgende Fable om de hoek ligt”, zei Shen, eraan toevoegend dat andere actoren mogelijk vergelijkbare systemen ontwikkelen.
In maart tekende de regering-Albanese Anthropic als het eerste bedrijf in haar nationale AI-plan, een niet-bindende afspraak gericht op het delen van vooruitgang en veiligheid.
Het Five Eyes-bondgenootschap dateert uit de periode na de Tweede Wereldoorlog, en gezamenlijke openbare waarschuwingen zijn zeldzaam, waardoor deze verklaring een teken is dat AI-cyberrisico verder is gegaan dan routinematige technische richtsnoeren.
Lees hierna: OpenAI’s ChatGPT-reclameplan van $100 miljard stuit op koele ontvangst op Cannes Lions