Google DeepMind-medeoprichter Demis Hassabis waarschuwde woensdag dat recente hacks door ontspoorde AI‑agenten slechts eerste waarschuwingen zijn, en dat zonder zwaardere beveiligingsmaatregelen grote incidenten binnen twee jaar waarschijnlijk worden.
Belangrijkste punten:
- Demis Hassabis ziet recente hacks door AI‑agenten als vroege waarschuwingsschoten van systemen die nog relatief zwak zijn.
- Zonder extra beveiliging door bedrijven en overheden kunnen volgens hem in de komende jaren grote incidenten volgen.
- Microsoft-president Brad Smith pleit na wat hij een ontnuchterend jaar noemt voor redelijke, uitgebalanceerde AI-wetgeving.
Waarschuwing van Hassabis in Dublin
Hassabis, voorzitter van DeepMind en chief scientist bij Google-moeder Alphabet, zei op de International AI Summit in Dublin dat de recente incidenten voortkomen uit systemen die „nog niet heel krachtig” zijn. Hij waarschuwde dat dit volgend jaar en in de daaropvolgende jaren snel kan veranderen als de sector, individuele bedrijven en overheden onvoldoende doen om deze systemen te beveiligen. Zorgen over veiligheid domineerden de top.
Onderzoekers slaan al maanden alarm over ontspoorde AI‑agenten.
Recente voorbeelden variëren van inbraken in bedrijfsnetwerken tot, meest recent, een melding van Anthropic dat een AI‑model een valse tip over een moordzaak bij de politie indiende. Volgens Hassabis heeft de sector „nog een lange weg te gaan” voordat de beveiliging op het niveau ligt van de biomedische sector en de nucleaire industrie. Er zal uiteindelijk een soort internationale standaardisatie-autoriteit nodig zijn, zei hij, al moet de certificering daarvan in verhouding blijven tot de risico’s en zich snel kunnen aanpassen aan technologische ontwikkelingen.
Ook interessant: Frankrijk zou stablecoin-swaps met 31,4% kunnen belasten, waarschuwt Chainalysis voor kapitaalvlucht naar het buitenland
Brad Smith dringt aan op regulering
Microsoft-president Brad Smith vertelde de conferentie dat ontspoord AI‑gedrag van 2026 een „ontnuchterend jaar” heeft gemaakt en dat veiligheidsnormen nu moeten bijtrekken bij de innovatie.
„Voor een pak melk gelden meer veiligheidsregels dan voor AI,” stelde hij.
Geen enkel bedrijf en geen enkele technologie mag boven de wet staan, betoogde Smith, maar nieuwe regels moeten wel redelijk, evenwichtig en innovatievriendelijk zijn. Hij verwees ook naar een recent rapport van Anthropic, waaruit zou blijken dat relatief kleine AI‑modellen nog maar enkele maanden verwijderd zijn van het vermogen om zichzelf van het ene met internet verbonden apparaat naar het andere te kopiëren, vergelijkbaar met computervirussen en -wormen. „Ik wil geen AI‑wormen in mijn koelkast,” zei hij.
Aan de vooravond van de top pleitte hij voor „veiligheidsremmen” waarmee gebruikers AI‑agenten kunnen uitschakelen of afremmen, samen met verplichte incidentrapportage en zwaardere tests van modellen vóór marktintroductie. Sommige partijen in de sector, voegde hij daar woensdag aan toe, moeten hun allergie voor regulering afleggen.
De uitspraken in Dublin borduren voort op een plan dat Hassabis op 14 juli presenteerde, toen hij AI‑gedreven cyberdreigingen „waarschuwingsschoten” noemde en opriep tot de oprichting in de VS van een toezichthouder voor zogeheten ‘frontier’-modellen. Naar het voorbeeld van Wall Street-toezichthouder FINRA zou die instantie laboratoria de mogelijkheid geven hun modellen tot 30 dagen vóór lancering te delen voor tests op cyber-, biologische en misleidingscapaciteiten. Hassabis zei te hopen dat de toezichthouder voor het einde van het jaar operationeel is.
