Bank of England-gouverneur Andrew Bailey pleit ervoor om eerst kunstmatige intelligentie (AI) grondig te testen voordat er een volledig nieuw regelgevend kader wordt opgetuigd, terwijl toezichthouders wel de bevoegdheid houden om in te grijpen naarmate de risico’s toenemen.
Belangrijkste punten:
- Bailey waarschuwt dat AI-risico’s toenemen, maar vindt dat kwetsbaarheden eerst in kaart moeten worden gebracht voordat een formeel toezichtsregime wordt ontworpen.
- Hij wil intensieve tests vóór en ná uitrol, met duidelijke waarborgen en geloofwaardige momenten voor menselijk ingrijpen.
- Zijn opmerkingen komen terwijl grote AI-bedrijven en de Amerikaanse regering discussiëren over vrijwillige beperkingen, langzamer ontwikkelen en mogelijke toekomstige regelgeving.
Bailey over AI-tests
Bailey schreef dat de AI‑risico’s “reëel en in toenemende mate aanzienlijk” zijn, maar dat beleidsmakers eerst moeten vaststellen waar systemen kunnen falen voordat wordt besloten hoe formele regels moeten worden vormgegeven. “Regulering is in mijn ogen echter niet het juiste vertrekpunt,” aldus Bailey.
Volgens hem moet de samenleving de mogelijkheid behouden om duidelijke grenzen te stellen aan geavanceerde AI. Dat vraagt om rigoureuze tests vóór en ná ingebruikname, om kwetsbaarheden bloot te leggen en na te gaan of ingebouwde waarborgen fouten daadwerkelijk kunnen indammen. AI‑ontwikkeling moet volgens Bailey niet worden afgeremd of verboden, omdat “de potentiële voordelen immens zijn”.
Het Verenigd Koninkrijk heeft al het AI Security Institute opgericht, dat volgens Bailey helpt om de wetenschappelijke en technische basis te leggen voor betrouwbare AI‑toepassingen. “Maar het tempo moet omhoog,” schreef hij. Onverwacht modelgedrag betekent volgens hem niet dat tests hebben gefaald, maar illustreert juist waarom testen onmisbaar is.
Ook interessant: Ripple helpt Braziliaanse CSD BR fondsbezit spiegelen op een publieke blockchain
Discussie over veiligheid bij OpenAI
Toonaangevende AI‑bedrijven, waaronder OpenAI en Anthropic, pleiten voor strengere waarborgen en internationaal gecoördineerde risico‑analyses nu zorgen over steeds krachtigere systemen toenemen. OpenAI liet recent weten zijn nieuwste AI‑model niet vrij te geven vanwege veiligheidszorgen.
President Donald Trump heeft oproepen afgewezen om de Amerikaanse ontwikkelingsrace met China te vertragen, met het argument dat “wie AI wint, alles wint”. Na een overleg in het Witte Huis op 29 september met topbestuurders uit de technologiesector verklaarde Trump dat de deelnemers een “moreel bindend” AI‑document hebben ondertekend, dat volgens hem “een vorm van bescherming” biedt.
In dat akkoord leggen de deelnemende bedrijven zichzelf de primaire verantwoordelijkheid op voor de veiligheid van hun eigen technologie. Bailey legt het accent anders: hij wil dat grondige tests eerst duidelijk maken waar overheden moeten kunnen ingrijpen, voordat rond geavanceerde systemen een zwaarder, formeel toezichtskader wordt gebouwd.
De discussie is de afgelopen weken in een stroomversnelling geraakt, nu AI‑ontwikkelaars, overheden en financiële toezichthouders worden geconfronteerd met sneller modelverloop en complexere vragen over controle en aansprakelijkheid. Bailey’s interventie sluit aan bij bredere oproepen uit de sector voor gecoördineerde veiligheidsmaatregelen, de beslissing van OpenAI om een model achter te houden en de inzet van het Witte Huis op vrijwillige, door bedrijven geleide afspraken.
Lees ook: Altcoins pakken 41% van futures open interest, spotvolumes lopen 4x uit op Bitcoin
