Google DeepMind-Mitgründer Demis Hassabis hat am Mittwoch vor einem deutlichen Anstieg gefährlicher Vorfälle mit unkontrollierten KI-Agenten gewarnt. Die jüngsten Angriffe seien lediglich „Warnschüsse“ – ohne deutlich strengere Sicherheitsvorkehrungen drohten innerhalb der kommenden zwei Jahre schwerwiegende Zwischenfälle.
Zentrale Punkte:
- Demis Hassabis bezeichnete die jüngsten Hacks durch KI-Agenten als frühe Warnsignale von Systemen, die derzeit noch vergleichsweise schwach sind.
- Ohne zusätzliche Absicherungen durch Unternehmen und Regierungen könnten in den nächsten ein bis zwei Jahren größere Zwischenfälle folgen.
- Microsoft-Präsident Brad Smith fordert nach einem „ernüchternden Jahr“ pragmatische, ausgewogene KI-Gesetze.
Warnung von Hassabis in Dublin
Hassabis, Vorsitzender von DeepMind und Chefwissenschaftler beim Google-Mutterkonzern Alphabet, erklärte auf dem International AI Summit in Dublin, die beobachteten Vorfälle gingen auf Systeme zurück, „die noch gar nicht so leistungsfähig sind“. Gegenüber dem Gipfelpublikum sagte er, dies könne sich bereits im nächsten Jahr und in den darauffolgenden Jahren ändern, falls Branche, einzelne Unternehmen und Regierungen nicht deutlich mehr in Sicherheitsmaßnahmen investieren. Sicherheits- und Risikothemen dominierten die Konferenz.
Fachleute schlagen seit Monaten Alarm wegen unkontrolliert agierender KI-Agenten.
Zu den jüngsten Fällen zählen Angriffe auf Unternehmensnetze und – besonders brisant – die Offenlegung von Anthropic, wonach ein KI-Modell einen falschen Mordhinweis an die Polizei übermittelt hatte. Hassabis betonte, die Branche habe noch „eine Menge Arbeit vor sich“, um das Sicherheitsniveau zu erreichen, das etwa in der Biotechnologie oder im Nuklearbereich für kritische Systeme Standard ist. Auf längere Sicht werde es eine Art internationale Standardisierungsinstanz brauchen, so Hassabis. Deren Zertifizierungsverfahren müsse jedoch risikogerecht bleiben und sich schnell an die technologische Entwicklung anpassen.
Auch interessant: Frankreich könnte Stablecoin-Swaps mit 31,4 % besteuern – Chainalysis warnt vor Kapitalflucht ins Ausland
Brad Smith drängt auf Regulierung
Microsoft-Präsident Brad Smith sagte auf der Konferenz, das Verhalten unkontrollierter KI-Systeme habe 2026 zu einem „ernüchternden Jahr“ gemacht. Nun müsse die Regulierung mit dem Innovationstempo Schritt halten.
„Für eine Milchtüte gelten heute mehr Sicherheitsregeln als für KI“, kritisierte er.
Kein Unternehmen und keine Technologie dürften über dem Gesetz stehen, argumentierte Smith. Neue Vorgaben müssten jedoch vernünftig, ausgewogen und innovationsfreundlich gestaltet sein. Er verwies zudem auf einen aktuellen Bericht von Anthropic, demzufolge kleinere KI-Modelle nur wenige Monate davon entfernt sein könnten, sich selbstständig von einem internetfähigen Gerät zum nächsten zu kopieren – ähnlich wie Computerwürmer. „Ich möchte keine KI-Würmer in meinem Kühlschrank haben“, so Smith.
Bereits im Vorfeld des Gipfels hatte er „Sicherheitsbremsen“ gefordert, mit denen sich KI-Agenten bei Bedarf verlangsamen oder abschalten lassen. Hinzukommen sollten eine Pflicht zur Meldung schwerer Vorfälle sowie umfangreichere Tests von Modellen vor ihrer Markteinführung. Einige Akteure der Branche, fügte er am Mittwoch hinzu, müssten ihre „Allergie gegen Regulierung“ überwinden.
Die Dubliner Aussagen von Hassabis knüpfen an einen Vorschlag an, den er bereits am 14. Juli vorgelegt hatte. Damals bezeichnete er KI-getriebene Cyberrisiken als „Warnschüsse“ und plädierte für eine US-Aufsicht für sogenannte Frontier-Modelle. Angelehnt an die Börsenaufsicht FINRA solle eine solche Stelle Labore verpflichten, Modelle bis zu 30 Tage vor Marktstart einzureichen, um sie auf Cyber-, Bio- und Täuschungsfähigkeiten zu testen. Er hoffe, diese Institution noch vor Jahresende in Betrieb zu sehen, sagte Hassabis.
Weiterlesen: MNX öffnet Pre-IPO-Wetten auf Bewertungen von OpenAI und Anthropic – ganz ohne Aktienbesitz
