Bank of England-president Andrew Bailey vindt dat strenge tests van AI-systemen aan formele regelgeving moeten voorafgaan, terwijl toezichthouders wel de ruimte moeten houden om in te grijpen naarmate de risico’s toenemen.
Belangrijkste punten:
- Bailey stelt dat AI-risico’s toenemen, maar dat beleidsmakers eerst kwetsbaarheden moeten blootleggen voordat ze een formeel regelkader optuigen.
- Hij pleit voor rigoureuze tests vóór én na ingebruikname, met duidelijke waarborgen en geloofwaardige momenten waarop mensen kunnen ingrijpen.
- Zijn uitspraken volgen terwijl grote AI-bedrijven en de Amerikaanse overheid discussiëren over vrijwillige beperkingen, trager ontwikkelen en toekomstige regelgeving.
Bailey over testen van AI
Bailey zei dat de risico’s van AI “reëel en steeds belangrijker” zijn, maar dat beleidsmakers eerst moeten vaststellen waar systemen kunnen falen voordat ze bepalen hoe formele regels eruit moeten zien. “Regelgeving is echter, naar mijn mening, niet het juiste vertrekpunt,” schreef hij.
Volgens Bailey moet de samenleving de mogelijkheid behouden om grenzen te stellen aan geavanceerde AI. Strenge tests, zowel vóór als na uitrol, moeten kwetsbaarheden blootleggen en aantonen of beschermingsmechanismen falend gedrag daadwerkelijk kunnen opvangen. De ontwikkeling van AI moet volgens hem niet worden verboden, omdat “de potentiële voordelen enorm zijn”.
Het Verenigd Koninkrijk heeft al het AI Security Institute opgericht, dat volgens Bailey helpt bij het ontwikkelen van de wetenschappelijke en technische basis voor het beoordelen van AI. “Maar het tempo van de vooruitgang moet omhoog,” schreef hij. Onverwacht modelgedrag is volgens Bailey geen bewijs dat testen faalt, maar juist een illustratie van het nut van testen.
Ook interessant: Ripple helpt Braziliaanse CSD BR om fondsbezit te spiegelen op een publieke blockchain
Discussie over veiligheid bij OpenAI
Grote AI-bedrijven, waaronder OpenAI en Anthropic, pleiten voor zwaardere waarborgen en internationaal gecoördineerde risicobeoordelingen nu de zorgen over steeds krachtiger systemen groeien. OpenAI meldde recent dat het zijn nieuwste AI-model niet vrijgeeft vanwege veiligheidszorgen.
President Donald Trump heeft oproepen om de Amerikaanse ontwikkeling te vertragen in de wedloop met China afgewezen en zei: “wie AI wint, wint.” Na een bijeenkomst op 29 september in het Witte Huis met grote technologiebedrijven verklaarde Trump dat de deelnemers een “moreel bindend” AI-document hadden ondertekend dat “een vorm van bescherming” zou bieden.
In die afspraak zijn de deelnemende bedrijven zelf verantwoordelijk voor de veiligheid van hun technologie. Bailey legt een ander accent: hij wil dat testen eerst duidelijk maakt waar ingrijpen noodzakelijk is, voordat beleidsmakers een formeler regelgevend raamwerk rond geavanceerde systemen bouwen.
Het debat is de afgelopen weken in een stroomversnelling geraakt nu AI-ontwikkelaars, overheden en financiële autoriteiten worden geconfronteerd met snellere modelontwikkeling en complexere toezichtsvragen. Bailey’s laatste interventie volgt op brancheoproepen voor gecoördineerde veiligheidsmechanismen, de beslissing van OpenAI om een model achter te houden en de inzet van het Witte Huis op vrijwillige, door bedrijven zelf geleide afspraken.
Lees ook: Altcoins pakken 41% van futures open interest, spotvolume stijgt tot 4x dat van Bitcoin
