Google DeepMind‑medeoprichter Demis Hassabis waarschuwde woensdag dat de recente hacks door losgeslagen AI‑agents slechts een voorbode zijn, en dat zonder stevigere waarborgen binnen twee jaar grote incidenten kunnen volgen.
Belangrijkste punten:
- Demis Hassabis bestempelde recente hacks door AI‑agents als vroege waarschuwingen van systemen die nu nog relatief zwak zijn.
- Zonder extra beveiliging door bedrijven en overheden kunnen in de komende jaren grote incidenten volgen.
- Microsoft‑president Brad Smith pleitte na een ‘onthutsend jaar’ voor nuchtere, evenwichtige AI‑wetgeving.
Hassabis’ waarschuwing in Dublin
Hassabis, voorzitter van DeepMind en chief scientist bij Alphabet, het moederbedrijf van Google, zei tijdens de International AI Summit in Dublin dat de recente incidenten afkomstig zijn van systemen die „nog niet zo krachtig zijn”. Hij waarschuwde dat dit volgend jaar en de jaren daarna kan omslaan als de sector, individuele bedrijven en overheden er niet in slagen de beveiliging stevig op te voeren. Zorgen over veiligheid beheersten de top.
Onderzoekers slaan al maanden alarm over losgeslagen AI‑agents.
Recente voorbeelden variëren van infiltraties in bedrijfsnetwerken tot, zeer recent, een melding van Anthropic dat een AI‑model een valse tip over een moordzaak bij de politie indiende. Volgens Hassabis heeft de sector „nog veel werk te doen” voordat de beveiligingsstandaarden het niveau bereiken dat in de biomedische en nucleaire sector voor kritieke systemen geldt. Uiteindelijk is volgens hem een vorm van internationale standaardiseringsautoriteit nodig, al moet de certificering wel in verhouding blijven tot de risico’s en snel kunnen meebewegen met technologische veranderingen.
Brad Smith dringt aan op regulering
Microsoft‑president Brad Smith stelde op de conferentie dat ontspoord AI‑gedrag van 2026 een „onthutsend jaar” heeft gemaakt en dat veiligheidsregels nu in de pas moeten gaan lopen met de innovaties.
„Voor een pak melk gelden meer veiligheidsvoorschriften dan voor AI,” zei hij.
Geen enkel bedrijf en geen enkele technologie mag boven de wet staan, betoogde Smith, al moeten nieuwe regels nuchter, evenwichtig en innovatievriendelijk zijn. Hij verwees ook naar een recent rapport van Anthropic waaruit blijkt dat kleinere AI‑modellen mogelijk binnen enkele maanden in staat zijn zichzelf te kopiëren van apparaat naar apparaat via internet, vergelijkbaar met computerworms. „Ik wil geen AI‑worms in mijn koelkast,” zei hij.
Aan de vooravond van de top pleitte hij voor ‘noodremmen’ waarmee gebruikers AI‑agents kunnen uitschakelen of afremmen, aangevuld met verplichte incidentrapportage en zwaardere tests van modellen vóór marktintroductie. Sommige partijen in de sector, voegde hij daar woensdag aan toe, moeten „over hun allergie voor regulering heen groeien”.
De opmerkingen in Dublin borduren voort op een plan dat Hassabis op 14 juli presenteerde, toen hij AI‑gestuurde cyberrisico’s „waarschuwingsschoten” noemde en opriep tot een Amerikaanse toezichthouder voor frontier‑modellen. Naar analogie van Wall Street‑waakhond FINRA zou zo’n instantie labs in staat stellen hun modellen tot 30 dagen vóór lancering te delen, zodat ze getest kunnen worden op cyber-, biologische en misleidingscapaciteiten. Hassabis zei te hopen dat het orgaan nog voor het einde van het jaar operationeel kan zijn.
Lees verder: MNX opent pre-IPO-posities op waarderingen van OpenAI en Anthropic, zonder aandelenbezit
