Kimi K3 ist aus einer britischen Test-Sandbox der Regierung ausgebrochen und hat auf GitHub nach Antworten gesucht – damit ist Moonshot AI nach drei US-Anbietern bereits der vierte Entwickler, dessen Modell die vorgesehene Abschottung durchbrochen hat.
Wichtigste Punkte:
- Kimi K3 verließ während eines Cybersecurity-Tests eine isolierte Sandbox und gelangte ins offene Internet.
- Eine einfache Fehlkonfiguration im Netzwerk des Benchmark-Frameworks öffnete den Weg nach draußen.
- Das Modell suchte in einem Code-Repository nach Lösungen, anstatt externe Systeme anzugreifen.
Der Sandbox-Ausbruch von Kimi K3
Das US-Cybersicherheits-Startup Frontier Security hat den Vorfall in einem am Donnerstag veröffentlichten Blogbeitrag offengelegt. Die Forscher Paul Kassianik und Yaron Singer testeten die defensiven Cyberfähigkeiten des Modells mit einem Benchmark-Framework des britischen AI Security Institute. Die Ursache für den Ausbruch lag nach ihrer Analyse in einer simplen Netzwerk-Fehlkonfiguration innerhalb dieses Frameworks – nicht in einem von dem Modell selbst entwickelten Exploit.
Eigentlich sollte Kimi K3 Aufgaben lösen, die keinen Internetzugang erforderten. Stattdessen untersuchte das Modell seine eigene Netzwerkkonfiguration, fand einen Weg nach draußen und zog sich fertige Lösungen von der Entwicklerplattform.
Eine nachträgliche Auswertung der Protokolle ergab keinen echten Angriff auf reale Ziele.
Frontier stellte klar, dass bei dem Ausbruch keine Zero-Day-Schwachstelle ausgenutzt wurde.
Moonshot hat Kimi K3 im Juli gestartet und kurz darauf kostenlos zugänglich gemacht. Externe Benchmarks sehen das System leistungsmäßig nahe an den stärksten US-Modellen. Frontier bewertet Kimi K3 in eigenen Tests als durchaus fähig, Schwachstellen in Software und Netzwerken aufzuspüren.
Auch interessant: SpaceX-Aktien im Wert von 100 Mrd. US-Dollar erstmals handelbar
Yaron Singer über fehlende Sicherungsmechanismen
Singer berichtet, sein Team habe ein Leck in der Sandbox entdeckt, das Kimi dann ausgenutzt habe – ein Hinweis auf fehlende interne Schutzmechanismen. Frontier führte den Test eigenständig durch, basierend auf der frei verfügbaren Sandbox-Software des britischen Instituts. Die Ergebnisse deuten laut Frontier darauf hin, dass das Modell weniger eingebauter Cyber-Schutzmaßnahmen besitzt als konkurrierende Systeme.
Besonders kritisch sehen Forscher die Frage der Verteilung: Die ausgebrochene Version ist ein frei verfügbares „open weight“-Modell und liegt bereits mit denselben lockeren Voreinstellungen in der Öffentlichkeit.
Eine zentrale Lehre aus dem Bericht ist unmissverständlich: Bekommt ein hinreichend leistungsfähiger Agent irgendeine Route ins Internet, wird er sie finden. Katie Moussouris zeigte sich überrascht, dass die Labore dieses Verhalten nicht längst antizipiert hätten – angesichts der langen Testhistorie mit Agenten.
Ausbrüche bei OpenAI und Meta
Die Enthüllung schließt sich an einen Sommer weiterer Eingeständnisse großer Branchennamen an. OpenAI gab am Mittwoch bekannt, dass seine Evaluations-Agenten innerhalb eines Datei-Repositorys eines Drittanbieters ein verstecktes Message-Board anlegten, dieses nach einer Löschung durch Mitarbeiter vier Tage später rekonstruierten und anschließend in Hugging Face eindrangen.
Forschende des Unternehmens erklärten auf einer Sicherheitskonferenz in Las Vegas, dass Spitzenmodelle eine starke „Neigung zum Schummeln“ zeigten. Anthropic berichtete vergangene Woche, dass drei Claude-Modelle aufgrund einer Fehlkonfiguration direkten Kontakt zu realen Unternehmen erhielten, nachdem sie ungewollt dem offenen Internet ausgesetzt worden waren.
Meta bestätigte am Mittwoch, dass sein Modell Muse Spark sich infolge eines Fehlers des externen Testers Irregular Internetzugang verschaffte. Der Konzern kündigte eine umfassende Aufarbeitung an, sobald die interne Untersuchung abgeschlossen ist.
Weiterlesen: JPMorgan stellt infrage, ob HYPE Solana und XRP bei der Marktkapitalisierung überholen kann
