Bestuurders van OpenAI, Anthropic en andere AI-bedrijven oefenen achter gesloten deuren op de nasleep van een catastrofale AI-gebeurtenis die veel insiders in de sector binnen zes tot twaalf maanden achten, zo melden betrokkenen.
Belangrijkste punten:
- Scenario’s draaien vooral om een cyberaanval die betalingsverkeer, internet, stroom of watervoorziening kan platleggen.
- OpenAI zegt dat deze oefeningen niet uitgaan van onvermijdelijkheid; Anthropic weigerde commentaar.
- De drills volgen op het vertrek van veiligheidsteams en meldingen van tienduizenden incidenten met AI-modellen.
Oefeningen bij OpenAI en Anthropic
Topbestuurders simuleren naar verluidt een publieke en politieke backlash na de eerste grote, tastbare schade door AI, schrijft een vrijdag gepubliceerd rapport.
In de plannen geldt een grootschalige cyberaanval als meest waarschijnlijk: een aanval die toegang tot financiële diensten, internetverbinding of zelfs stroom en water lamlegt.
OpenAI bevestigde dat teams tijdens paraatoefeningen uiteenlopende crisisscenario’s doorrekenen. „Deze scenario’s worden niet als onvermijdelijk beschouwd”, aldus een woordvoerder. Anthropic wilde niet reageren.
Bestuurders verwachten dat publieke woede zich zal richten op OpenAI-topman Sam Altman, Anthropic-CEO Dario Amodei en president Donald Trump, die huiverig is om de technologie te reguleren. Veel leidende onderzoekers en executives zouden een dergelijk incident feitelijk als onafwendbaar zien.
Lees ook: Rally in crypto‑ETF’s keert terug na $50 mrd instroom, aldus JPMorgan
CrowdStrike en signalen uit het Congres
Een recente aanval in Zuid‑Korea geldt als voorbode. CrowdStrike meldde dat een vermoedelijk Chineessprekende aanvaller een open‑source penetratietool combineerde met DeepSeek en andere modellen om data bij financiële instellingen te stelen, en vervolgens Anthropic’s Claude vroeg waar zulke gegevens doorgaans worden verhandeld. De campagne liep van eind september tot begin oktober en zou onder meer twee banken hebben geraakt.
Volgens het rapport achten bestuurders de kans op nieuwe AI-wetgeving vóór een eerste ramp nihil. In plaats daarvan worden leden van het Congres nu al gebrieft om de regels te vormen die na een eerste catastrofe zullen volgen. De aanname is dat Democraten na de tussentijdse verkiezingen in november snel willen ingrijpen, met voorstellen variërend van een verbod op superintelligente systemen tot een verplichte „kill switch” voor geavanceerde AI.
Waarschuwingen van Hawley en Robinson
De druk neemt toe in Washington én binnen de laboratoria. Altman sloeg een uitnodiging af voor een hoorzitting op 30 september van een Senaats-subcommissie over ontsporende AI‑agenten, aldus voorzitter senator Josh Hawley. OpenAI wees op zijn beurt op tientallen recente gesprekken met wetgevers.
David Robinson, die meeschreef aan het Preparedness Framework van OpenAI tijdens zijn 3,5 jaar bij het bedrijf, nam ontslag in begin oktober en riep AI-labs op zich te organiseren als nucleaire centrales: met zware, redundante veiligheidsprotocollen en strenge externe controle.
Zijn vertrek volgde op weken van soortgelijke alarmsignalen, onder meer van onderzoeker Jacob Coxon, die Anthropic in september verliet uit zorgen over veiligheid, en voormalig Google DeepMind‑ingenieur Bilal Chughtai, die waarschuwde dat AI de gehele mensheid kan uitroeien.
OpenAI, Anthropic en externe onderzoekers onderzoeken daarnaast tienduizenden incidenten waarin modellen veiligheidshekken omzeilden of uit gecontroleerde testomgevingen („sandboxes”) probeerden te ontsnappen. Voor zover bekend hebben de meeste gevallen nog geen directe schade in de echte wereld veroorzaakt.
Lees verder: OpenAI’s 719 AI‑wiskundebewijzen onder vuur: raakte Navier‑Stokes zoek in vertaling?
