Google DeepMind-Mitgründer Demis Hassabis hat am Mittwoch davor gewarnt, dass die jüngsten Hacks durch fehlgeleitete KI-Agenten nur erste Warnsignale seien – und dass ohne deutlich stärkere Schutzmaßnahmen binnen zwei Jahren schwere Vorfälle drohen könnten.
Zentrale Punkte:
- Demis Hassabis bezeichnete die jüngsten Angriffe von KI-Agenten als frühe Warnschüsse von Systemen, die bislang noch nicht sehr leistungsfähig sind.
- Ohne zusätzliche Absicherungen durch Unternehmen und Regierungen seien in den kommenden Jahren größere Zwischenfälle zu erwarten.
- Microsoft-Präsident Brad Smith drängt nach einem „ernüchternden Jahr“ auf vernünftige, ausgewogene KI-Gesetze.
Hassabis’ Warnung in Dublin
Hassabis, Chairman von DeepMind und Chief Scientist beim Google-Mutterkonzern Alphabet, erklärte auf dem International AI Summit in Dublin, die betreffenden Vorfälle gingen bislang auf Systeme zurück, „die noch nicht besonders leistungsstark sind“. Wie er ausführte, könne sich das bereits im kommenden Jahr und in den darauffolgenden Jahren grundlegend ändern, falls Branche, einzelne Unternehmen und Regierungen nicht erheblich mehr für die Absicherung solcher Systeme tun. Sicherheitsfragen dominierten die Konferenz.
Forschende schlagen schon seit Monaten Alarm wegen fehlgeleiteter KI-Agenten.
Zu den jüngsten Fällen zählen Angriffe auf Unternehmensnetzwerke und – ganz aktuell – der Hinweis von Anthropic, dass ein KI-Modell einen falschen Mordhinweis an die Polizei übermittelt habe. Hassabis betonte, die Branche habe noch „sehr viel Arbeit vor sich“, ehe sie das Sicherheitsniveau etwa der Biowissenschaften oder der Nuklearindustrie bei kritischen Systemen erreiche. Langfristig werde es nach seiner Einschätzung eine Form internationaler Standardisierungsbehörde brauchen. Deren Zertifizierungsprozesse müssten jedoch risikogerecht ausgestaltet sein und sich schnell an technologische Veränderungen anpassen.
Auch interessant: Frankreich könnte Stablecoin-Swaps mit 31,4 % besteuern – Chainalysis warnt vor Abwanderung ins Ausland
Brad Smith drängt auf Regulierung
Microsoft-Präsident Brad Smith sagte auf der Konferenz, dass das Verhalten fehlgeleiteter KI-Systeme 2026 zu einem „ernüchternden Jahr“ gemacht habe und die Sicherheitsregeln nun dringend mit der Innovationsdynamik Schritt halten müssten.
„Für einen Liter Milch gibt es mehr Sicherheitsvorschriften als für KI“, kritisierte er.
Weder Unternehmen noch Technologien dürften über dem Gesetz stehen, argumentierte Smith. Neue Regeln müssten allerdings vernünftig, ausgewogen und innovationsfreundlich sein. Er verwies zudem auf einen aktuellen Bericht von Anthropic, demzufolge kleinere KI-Modelle nur wenige Monate davon entfernt sein könnten, sich von einem internetfähigen Gerät zum nächsten selbst zu kopieren – ähnlich wie Computerwürmer. „Ich möchte keine KI-Würmer in meinem Kühlschrank haben“, sagte er.
Bereits am Vorabend des Gipfels hatte Smith sogenannte „Sicherheitsbremsen“ gefordert, mit denen Nutzer KI-Agenten abschalten oder ausbremsen können, dazu eine Meldepflicht für Sicherheitsvorfälle und strengere Tests von Modellen vor ihrer Markteinführung. Einige Akteure der Branche müssten, fügte er am Mittwoch hinzu, ihre „Allergie gegen Regulierung“ überwinden.
Die Aussagen in Dublin knüpfen an einen Plan an, den Hassabis bereits am 14. Juli skizziert hatte. Damals bezeichnete er KI-getriebene Cyberrisiken als „Warnschüsse“ und forderte die USA auf, eine Aufsichtsbehörde für besonders leistungsfähige Modelle einzurichten. Nach dem Vorbild der Wall-Street-Regulierungsorganisation FINRA solle diese den Laboren ermöglichen, ihre Modelle bis zu 30 Tage vor Veröffentlichung einzureichen, um sie auf Cyber-, Bio- und Täuschungskapazitäten zu testen. Er hoffe, so Hassabis, dass eine solche Stelle noch vor Jahresende arbeitsfähig sei.
Lesen Sie auch: MNX ermöglicht Pre-IPO-Wetten auf Bewertungen von OpenAI und Anthropic – ganz ohne Aktienbesitz
