Five-Eyes-Behörden warnten, dass Frontier-KI Cyberangriffe innerhalb von Monaten neu gestalten könnte, weshalb Regierungen und Unternehmen Resilienz als Führungsrisiko behandeln sollten.
Zentrale Punkte:
- Five-Eyes-Behörden erklärten, Frontier-KI könnte Cyberangriff und -abwehr innerhalb von Monaten verändern.
- Die Warnung folgte auf US-Beschränkungen beim ausländischen Zugang zu Anthropic-Modellen Fable und Mythos.
- Neuere KI-Systeme können Schwachstellen schneller finden und ausnutzen.
Warnung der Five Eyes
Signaldienste aus Australien, den Vereinigten Staaten, Großbritannien, Neuseeland und Kanada gaben am späten Montag in Sydney eine seltene öffentliche Erklärung ab und forderten Führungskräfte zum Handeln auf.
Die Warnung folgte auf die Entscheidung der Donald-Trump-Regierung im Juni, Ausländer von der Nutzung von Anthropics Fable-Modell auszuschließen und den Zugang zu Mythos auszusetzen.
KI werde die Cyberabwehr im Laufe der Zeit verbessern, erhöhe aber zugleich Geschwindigkeit, Umfang und Raffinesse von Angriffen, erklärten die Behörden.
„Es wird erwartet, dass Frontier-KI-Modelle die derzeitigen Branchenerwartungen übertreffen und sowohl offensive als auch defensive Cyberfähigkeiten grundlegend transformieren. Der Zeitrahmen bemisst sich nicht in Jahren, sondern in Monaten“, hieß es in der Erklärung.
Cyberrisiken können nicht länger nur bei technischen Teams verortet werden.
Auch lesenswert: Ripple erhält vorläufige MiCA-Genehmigung, während sich das EU-Krypto-Rennen verschärft
Risiko durch Anthropic-KI
Generative KI kann Schwachstellen in Cybersicherheitssystemen finden, bei deren Ausnutzung helfen und auch bei der Behebung unterstützen – damit ist dasselbe Werkzeug sowohl für Verteidiger als auch Angreifer nützlich.
Olivia Shen, Expertin für nationale Sicherheit und KI am United States Studies Centre der University of Sydney, sagte, die neuesten Systeme könnten Exploits effektiver erzeugen.
„Was an den neuesten [KI-Modellen] anders ist, ist, dass sie sehr gut darin sind, Exploits zu generieren“, sagte Shen.
Anthropics Fable 5 hat Aufmerksamkeit als stärker öffentlich ausgerichtete Version von Mythos auf sich gezogen, einem fortgeschrittenen System, das Anfang dieses Jahres veröffentlicht und wegen Missbrauchsrisiken auf geprüfte Nutzer beschränkt wurde.
„Ich denke, wir müssen davon ausgehen, dass das nächste Mythos oder das nächste Fable gleich um die Ecke ist“, sagte Shen und fügte hinzu, dass andere Akteure ähnliche Systeme entwickeln könnten.
Im März unterzeichnete die Regierung Albanese einen Vertrag mit Anthropic als erstem Unternehmen in ihrem nationalen KI-Plan, einer unverbindlichen Vereinbarung mit Fokus auf Fortschrittsberichten und Sicherheit.
Das Five-Eyes-Bündnis geht auf die Zeit nach dem Zweiten Weltkrieg zurück, und gemeinsame öffentliche Warnungen sind selten – was diese Erklärung zu einem Zeichen dafür macht, dass das KI-Cyberrisiko über routinemäßige technische Hinweise hinausgeht.
Als Nächstes lesen: OpenAIs 100-Milliarden-Dollar-ChatGPT-Werbeplan trifft auf eine kühle Realität in Cannes