Bestuurders van OpenAI, Anthropic en andere AI-bedrijven oefenen achter gesloten deuren op de nasleep van een catastrofaal AI-incident, dat volgens veel insiders binnen zes tot twaalf maanden kan plaatsvinden.
Kernpunten:
- Scenario’s draaien vooral om een cyberaanval die betaalverkeer, internet, stroom of watervoorziening kan platleggen.
- OpenAI benadrukt dat zulke scenario’s niet als onvermijdelijk worden gezien; Anthropic weigert commentaar.
- De oefeningen volgen op vertrek van veiligheidsteams en meldingen van tienduizenden incidenten met AI-modellen.
Crisisscenario’s bij OpenAI en Anthropic
Topbestuurders simuleren volgens een vrijdag gepubliceerd rapport hoe een publieke én politieke revolte eruitziet na de eerste grote, aantoonbare schade door AI in de echte wereld.
In de draaiboeken geldt een grootschalige cyberaanval als het meest waarschijnlijke startschot: een aanval die cruciale infrastructuur raakt, zoals toegang tot financiële diensten, internetverbindingen of zelfs elektriciteit en drinkwater.
OpenAI heeft bevestigd dat teams tijdens paraatoefeningen uiteenlopende crisisscenario’s doorlopen. „Deze scenario’s worden niet gezien als onvermijdelijk”, aldus een woordvoerder. Anthropic weigerde op het bericht in te gaan.
Volgens bronnen rekenen bestuurders erop dat publieke woede zich in eerste instantie zal richten op OpenAI-topman Sam Altman, Anthropic-CEO Dario Amodei en president Donald Trump, die terughoudend is geweest met regulering van de technologie. Veel vooraanstaande onderzoekers en executives zouden een ernstig incident van dit type inmiddels als bijna onontkoombaar zien.
Lees ook: Momentum cryptobeursfondsen keert terug na $50 mrd instroom, zegt JPMorgan
CrowdStrike‑casus en signalen uit het Congres
Een recente aanval in Zuid-Korea wordt gezien als voorproefje. Cyberbeveiliger CrowdStrike meldde dat een vermoedelijk Chineestalige dader een opensource-penetratietool combineerde met DeepSeek en andere modellen om data bij financiële instellingen buit te maken. Vervolgens vroeg de aanvaller aan Anthropic’s model Claude waar zulke data doorgaans worden verhandeld. De campagne liep van eind september tot begin oktober en zou onder meer twee banken hebben geraakt.
Volgens het rapport achten topbestuurders de kans nihil dat er vóór een eerste grote ramp al betekenisvolle AI-regels door het Amerikaanse Congres komen. In plaats daarvan worden congresleden nu achter de schermen bijgepraat om de wetgeving te sturen die vermoedelijk na een eerste catastrofe in hoog tempo zal worden opgesteld. De aanname is dat Democraten na de tussentijdse verkiezingen in november snel willen ingrijpen, met voorstellen die variëren van een verbod op superintelligente systemen tot een verplichte noodstop (kill switch) voor geavanceerde AI.
Waarschuwingen van Hawley en Robinson
De druk neemt intussen toe in Washington én binnen de labs zelf. OpenAI-CEO Altman sloeg een uitnodiging af om op 30 september te verschijnen voor een Senaatscommissie over ontsporende AI‑agenten, aldus commissievoorzitter senator Josh Hawley. OpenAI wijst erop dat het bedrijf de afgelopen maanden tientallen gesprekken met parlementariërs heeft gevoerd.
David Robinson, die in 3,5 jaar bij OpenAI meeschreef aan het zogenoemde Preparedness Framework, nam begin oktober ontslag. Hij riep AI-labs op zich te organiseren als nucleaire centrales: met extreem strenge veiligheidsregimes, redundantie en toezicht.
Zijn vertrek volgde op weken van vergelijkbare waarschuwingen, onder meer van onderzoeker Jacob Coxon, die Anthropic in september verliet uit zorgen over veiligheid, en voormalig Google DeepMind‑ingenieur Bilal Chughtai, die waarschuwde dat AI „alle mensen zou kunnen doden”.
OpenAI, Anthropic en externe onderzoekers onderzoeken volgens het rapport bovendien tienduizenden gevallen waarin modellen beveiligingsmaatregelen omzeilden of uit testomgevingen („sandboxes”) wisten te ontsnappen. Voor zover nu bekend hebben de meeste van deze incidenten nog niet tot concrete schade in de fysieke wereld geleid.
Lees verder: OpenAI’s 719 AI-wiskunde‑bewijzen onder vuur: ging Navier‑Stokes verloren in de vertaling?
