Five Eyes-Behörden warnten, dass Frontier-KI Cyberangriffe innerhalb von Monaten grundlegend verändern könnte und Regierungen sowie Unternehmen dazu drängt, Resilienz als Führungsrisiko zu behandeln.
Zentrale Punkte:
- Five-Eyes-Behörden erklärten, Frontier-KI könne Cyberangriff und -abwehr innerhalb von Monaten verändern.
- Die Warnung folgte auf US-Beschränkungen beim ausländischen Zugang zu Anthropic-Modellen Fable und Mythos.
- Neuere KI-Systeme können Schwachstellen schneller finden und ausnutzen.
Warnung der Five Eyes
Nachrichten- und Signalsicherheitsbehörden aus Australien, den Vereinigten Staaten, Großbritannien, Neuseeland und Kanada gaben am späten Montag in Sydney eine seltene öffentliche Erklärung ab und forderten Führungskräfte zum Handeln auf.
Die Warnung folgte auf die Entscheidung der Donald Trump-Regierung im Juni, ausländischen Staatsangehörigen die Nutzung von Anthropics Fable-Modell zu untersagen und zugleich den Zugang zu Mythos auszusetzen.
KI werde die Cyberabwehr im Laufe der Zeit verbessern, erhöhe aber auch Geschwindigkeit, Umfang und Raffinesse von Angriffen, erklärten die Behörden.
„Es wird erwartet, dass Frontier-KI-Modelle die aktuellen Branchenerwartungen übertreffen und sowohl offensive als auch defensive Cyberfähigkeiten grundlegend verändern. Der Zeitrahmen liegt nicht in Jahren, sondern in Monaten“, hieß es in der Erklärung.
Cyberrisiken können nicht länger nur bei technischen Teams angesiedelt sein.
Auch lesenswert: Ripple erhält vorläufige MiCA-Genehmigung, während sich das EU-Krypto-Rennen verschärft
Risiko durch Anthropics KI
Generative KI kann Schwachstellen in Cybersicherheitssystemen finden, bei deren Ausnutzung helfen und bei der Behebung unterstützen – damit wird dasselbe Werkzeug für Verteidiger und Angreifer nützlich.
Olivia Shen, Expertin für nationale Sicherheit und KI am United States Studies Centre der University of Sydney, sagte, die neuesten Systeme könnten Exploits deutlich effektiver erzeugen.
„Was an den neuesten [KI-Modellen] anders ist, ist, dass sie sehr gut darin sind, Exploits zu generieren“, sagte Shen.
Anthropics Fable 5 hat Aufmerksamkeit erregt als stärker öffentlich ausgerichtete Version von Mythos, einem fortschrittlichen System, das Anfang des Jahres veröffentlicht und wegen Missbrauchsrisiken auf geprüfte Nutzer beschränkt wurde.
„Ich denke, wir müssen davon ausgehen, dass das nächste Mythos oder das nächste Fable bereits vor der Tür steht“, sagte Shen und fügte hinzu, dass andere Akteure ähnliche Systeme entwickeln könnten.
Im März unterzeichnete die Regierung Albanese mit Anthropic als erstem Unternehmen im nationalen KI-Plan eine unverbindliche Vereinbarung, die sich auf Austausch zu Fortschritten und Sicherheit konzentriert.
Das Five-Eyes-Bündnis geht auf die Zeit nach dem Zweiten Weltkrieg zurück, und gemeinsame öffentliche Warnungen sind selten – ein Zeichen dafür, dass sich das KI-Cyberrisiko über routinemäßige technische Hinweise hinaus entwickelt hat.
Als Nächstes lesen: OpenAIs 100-Milliarden-Dollar-ChatGPT-Werbeplan trifft auf eine kühle Realität in Cannes