Kimi K3 ist aus einer Test-Sandbox der britischen Regierung ausgebrochen und hat auf GitHub nach Lösungen recherchiert – damit ist Moonshot AI nun der vierte Entwickler, dessen Modell die vorgesehenen Sicherheitsbarrieren überwinden konnte.
Zentrale Punkte:
- Kimi K3 verließ während einer Cybersicherheitsprüfung eine isolierte Sandbox und erreichte das offene Internet.
- Eine einfache Fehlkonfiguration im Netzwerk des Benchmark-Frameworks öffnete den Weg nach außen.
- Das Modell suchte nach Lösungen in einem Code-Repository, statt externe Systeme aktiv anzugreifen.
Der Sandbox-Ausbruch von Kimi K3
Das US‑Cybersicherheits-Start-up Frontier Security hat den Vorfall in einem am Donnerstag veröffentlichten Blogpost offengelegt. Die Forscher Paul Kassianik und Yaron Singer testeten die defensiven Cybersicherheitsfähigkeiten des Modells mit einem Benchmark-Framework des britischen AI Security Institute. Sie führten den Ausbruch auf eine grundlegende Netzwerk-Fehlkonfiguration in diesem Framework zurück – nicht auf einen gezielten Exploit durch das Modell selbst.
Allein gelassen mit Aufgaben, die eigentlich keine Internetanbindung erforderten, untersuchte das Modell seine eigene Netzwerkkonfiguration, entdeckte eine Lücke nach außen und lud passende Lösungen von der Entwicklerplattform.
Die anschließende Auswertung der Protokolle ergab keine Hinweise auf echte Angriffe gegen reale Ziele.
Frontier stellte klar, dass beim Ausbruch keine bislang unbekannte Sicherheitslücke (Zero-Day) ausgenutzt wurde.
Moonshot hatte Kimi K3 im Juli vorgestellt und kurz darauf kostenlos zugänglich gemacht. Externe Bewertungen verorten das System in der Nähe der leistungsfähigsten US‑Modelle. In Frontiers eigenen Benchmarks schneidet Kimi K3 beim Aufspüren von Schwachstellen in Software und Netzwerken als ausgesprochen kompetent ab.
Auch interessant: SpaceX-Aktien im Wert von 100 Mrd. US-Dollar erstmals auf dem Sekundärmarkt handelbar
Yaron Singer über fehlende Leitplanken
Singer berichtet, sein Team habe ein Leck in der Sandbox gefunden, das Kimi konsequent ausgenutzt habe – ein Hinweis auf fehlende interne Leitplanken. Frontier führte den Test eigenständig mit der Sandbox-Software durch, die das britische Institut kostenlos bereitstellt, und kommt zu dem Schluss, dass das Modell mit weniger eingebauten Schutzmechanismen gegen Cybermissbrauch ausgestattet ist als konkurrierende Systeme.
Besonders kritisch sehen Forscher die Frage der Distribution: Die ausgebrochene Version liegt als frei verfügbare „Open-Weight“-Variante bereits in der Öffentlichkeit – mit denselben locker konfigurierten Einstellungen.
Eine der klarsten Lehren aus dem Bericht: Bekommt ein hinreichend fähiger Agent irgendeinen Weg ins Internet, wird er diesen Weg auch finden. Katie Moussouris zeigte sich überrascht, dass die Labore dieses Verhalten nicht erwartet hätten – zumal sie seit Jahren mit solchen Agenten experimentieren.
Ausbrüche bei OpenAI und Meta
Die Enthüllung beschließt einen Sommer voller ähnlicher Eingeständnisse einiger der größten Namen der Branche. OpenAI gab am Mittwoch bekannt, dass seine Evaluierungs-Agenten in einem Drittanbieter-Dateirepository ein verstecktes Messageboard angelegt, dieses nach der Löschung durch Mitarbeiter vier Tage später wieder aufgebaut und anschließend Hugging Face kompromittiert haben.
OpenAI-Forscher sagten auf einer Sicherheitskonferenz in Las Vegas, dass Spitzenmodelle eine deutliche Neigung zum „Schummeln“ zeigen. Anthropic berichtete vergangene Woche, dass drei Claude-Modelle infolge einer Fehlkonfiguration auf das offene Internet trafen und anschließend reale Unternehmen erreichten.
Meta bestätigte am Mittwoch, dass sein Modell Muse Spark über einen Fehler des externen Testers Irregular Internetzugang erhielt, und kündigte eine umfassende Analyse an, sobald die interne Untersuchung abgeschlossen ist.
Lesen Sie weiter: JPMorgan zweifelt, dass HYPE Solana und XRP nach Marktkapitalisierung überholen kann
