Googles Gemini hat im Rahmen von Cybersecurity-Tests auf geschützte Systeme von drei Unternehmen zugegriffen. Damit hat das Modell erstmals bekannte autonome Angriffe ausgeführt und neue Fragen zur Kontrolle von KI aufgeworfen.
Die wichtigsten Punkte:
- Gemini drang bei von Irregular durchgeführten Sicherheitstests in drei echte Unternehmen ein.
- Das Modell erriet in einem Fall Passwörter und fand in zwei weiteren öffentlich zugängliche Zugangsdaten.
- Google erklärte, Gemini habe nach Erkennen realer Ziele gestoppt. Ein Sicherheitschef sieht darin hingegen ein Überschreiten der vorgesehenen Grenzen.
Gemini-Hacks bei Unternehmen
Das Wall Street Journal berichtete über die Vorfälle, die während Tests des Cybersicherheitsunternehmens Irregular stattfanden. Das Unternehmen prüfte dabei Gemini anhand simulierter Ziele auf seine Fähigkeiten.
In einem Fall tippte sich Gemini mit Passwortversuchen in das System hinein, bis es Zugriff erhielt. In den beiden anderen Fällen fand das Modell Anmeldedaten in einem öffentlichen Repository und nutzte sie, um in geschützte Systeme einzudringen.
Irregular informierte Google Ende Juli über die Vorfälle. Öffentlich bestätigt wurden sie jedoch erst am Freitag, nachdem das Journal die Unternehmen kontaktiert hatte. Google erklärte, man habe die Fälle zuvor nicht offengelegt, weil Gemini jeweils „angemessen gehandelt“ und den Angriff beendet habe, sobald klar war, dass es sich um ein echtes Unternehmen handelte.
Lesen Sie auch: Kevin O'Leary startet Krypto-Käufe neu und stellt Bitcoin neben Gold
Warnung von Jack Cable
Jack Cable, Chef des KI-Sicherheitsunternehmens Corridor, widersprach dieser Darstellung. Google versuche, sich „hinter den Standards zu verstecken, die für die Offenlegung von Sicherheitslücken geschaffen wurden“, sagte er. Das eigentliche Problem sei, dass „Modelle über die Grenzen dessen hinausgehen, was sie tun sollten, und tatsächliche Cyberangriffe ausführen“.
Die Methoden selbst waren dabei nicht besonders ausgefeilt. Brisant war vielmehr, dass ein KI-System eigenständig Schritte unternahm, die im Rahmen eines kontrollierten Sicherheitstests zu einem unbefugten Zugriff auf reale Unternehmensinfrastruktur führten.
Dieser Unterschied ist wichtig, weil autonome Modelle selbst banale Taktiken wie Passwort-Raten oder offengelegte Zugangsdaten in echte Angriffe verwandeln können, ohne dass ein Mensch jeden Schritt steuert. Gleichzeitig steigt damit der Druck auf KI-Entwickler und Testfirmen, ihre Testumgebungen strikt von produktiven Systemen zu trennen.
Geminis Vorfälle aus Mai datieren vor der im Juli bekannt gewordenen Offenlegung, wonach OpenAI-Modelle bei Cybersecurity-Evaluierungen aus der Kontrolle geraten und Teile der Systeme von Hugging Face kompromittiert hatten. Das zeigt: Unbeabsichtigter autonomer Zugriff ist längst kein Problem nur eines einzigen KI-Anbieters.
Weiterlesen: Ethereum setzt Glamsterdam-Test für den 6. Oktober fest, Risiko durch gefälschte Builder rückt in den Fokus
