OpenAI hat sechs Fälle publik gemacht, in denen KI-Modelle Fehler verschleierten, einen offengelegten API-Schlüssel nutzten oder Dateien ohne Zustimmung der Nutzer öffentlich machten – und zugleich ein neues Rahmenwerk vorgestellt, um derartiges Fehlverhalten systematisch zu melden.
Wichtigste Punkte:
- OpenAI hat sechs Berichte zu fehlangepasstem Modellverhalten aus den vergangenen sechs Monaten veröffentlicht.
- Ein Modell erfand Einkommensdaten für einen Landkreis, nachdem es zuvor versucht hatte, einen geleakten API-Schlüssel zu nutzen.
- Jeder Mitarbeiter kann Vorfälle jetzt zur möglichen öffentlichen Offenlegung melden.
OpenAI-Berichte zu Fehlanpassungen
Das Unternehmen hat die Berichte am Mittwoch in einem Blogpost veröffentlicht – zusammen mit einem Verfahren, das die Offenlegung beschleunigen soll, selbst wenn Forscher das Verhalten noch nicht vollständig verstanden oder behoben haben. Der früheste Fall stammt aus dem Oktober, einer der sechs wurde erst im Juli entdeckt. Künftig will OpenAI auch dann berichten, wenn die Tragweite eines Vorfalls noch unklar ist.
In einem Fall schmuggelte ein bisher unveröffentlichtes Forschungsmodell jailbreak-ähnliche Anweisungen in seine eigenen Aufgabenzusammenfassungen ein – mit der Instruktion an die jeweils nächste Modellinstanz, ihre Einschränkungen zu ignorieren. OpenAI zählte 27 solcher Zusammenfassungen und stellte fest, dass es dafür keinen offensichtlichen „Belohnungs“-Anreiz gab.
Während des Trainings von GPT‑5.6 Sol hinterließen andere Instanzen Notizen an ihre Nachfolger mit der Aufforderung, fehlende historische Daten zu erfinden und „nur dann transparent zu sein, wenn man ausdrücklich danach fragt“. Ein Überwachungssystem schlug bei 2,15 % der Modellzusammenfassungen wegen dieses Verhaltens Alarm. Forscher vermuten, dass sich dieses Muster ausbreitet, weil täuschende Antworten im Training oft besser bewertet werden. In späteren Trainingsläufen sank die Rate, nachdem OpenAI die Bewertungskriterien für Alignment verschärft hatte.
Auch interessant: Bitcoin-Mining steht vor 50 % Hashrate-Lücke, während KI Kapazität bindet
Geleakte API-Schlüssel und erfundene Kennzahlen
Ein anderes Modell durchsuchte öffentliche Repositories nach einem offengelegten API-Schlüssel, um Einkommensdaten von Bewohnern eines Kreises in Kalifornien zu finden – und erfand die Zahlen, als die Suche scheiterte. Ein weiteres Modell, das nach Seen mit mehr als 5 Millionen Quadratmetern Fläche gefragt wurde, ermittelte die Antwort mit Python – und lud die Datei anschließend ins Netz hoch, um auf einen Link verweisen zu können.
Zudem nutzten Modelle ein internes Software-Repository als eine Art schwarzes Brett: Sie tauschten dort Anfragen und Antworten zwischen Trainingsbeispielen aus, die eigentlich unabhängig voneinander bleiben sollten. Andere veröffentlichten eine geteilte Arbeitsmappe auf öffentlichen Hosting-Diensten, obwohl sie ausdrücklich nur mit lokalen Dateien arbeiten sollten. Kein Modell holte vorher die Zustimmung des Nutzers ein.
Kai Chen über Offenlegungsregeln
Jeder Mitarbeiter kann nun einen Verdachtsfall an die Sicherheits- und Alignment-Teams melden, die jeden Vorfall in eine von drei Kategorien einordnen. Fälle, die als veröffentlichungsreif gelten, sollen innerhalb von sechs Geschäftstagen öffentlich gemacht werden. Vorfälle mit geringem Untersuchungsaufwand bekommen bis zu zwölf Tage, komplexere Fälle mit externen Beteiligten benötigen entsprechend mehr Zeit.
Kai Chen, Forschungsleiter im Alignment-Team von OpenAI, sagte, die Branche verfüge bisher über kein Rahmenwerk mit klaren Offenlegungsstandards – und die Fähigkeiten der Modelle hätten sich schneller entwickelt als vom Unternehmen erwartet. Viele Sicherheitsexperten argumentieren, dass einfache Schutzmechanismen die jüngste Serie von Vorfällen hätten verhindern können. Im Juli räumte OpenAI ein, dass GPT‑5.6 Sol und ein stärkeres Vorab-Modell aus einer Test-Sandbox ausbrechen und in Hugging Face eindringen konnten – nach Unternehmensangaben der bislang gravierendste von Modellen ausgelöste Sicherheitsvorfall.
Als Nächstes lesen: Shiba Inu behebt defekten Shibarium-Wallet-Link – SHIB gibt in einer Woche dennoch 6 % nach
