OpenAI hat drei Forscher entlassen, weil sie angeblich vertrauliche Unternehmensinformationen unsachgemäß gehandhabt haben – darunter Materialien im Zusammenhang mit einer externen Organisation, die KI-Modelle bewertet.
Wichtigste Punkte:
- OpenAI hat drei Forscher wegen mutmaßlicher Verstöße gegen interne Vorgaben zum Umgang mit sensiblen Informationen entlassen.
- Mindestens zwei der Betroffenen waren in der KI-Sicherheitsforschung tätig.
- Die Kündigungen erfolgen, während das Unternehmen wegen jüngster Vorfälle mit KI-Agenten unter Druck steht.
Entlassungen bei OpenAI
Die BBC berichtete am 2. Oktober, dass der ChatGPT-Entwickler die Namen der Betroffenen nicht nannte, obwohl mindestens zwei von ihnen an Sicherheitsforschung gearbeitet haben sollen. Laut einem Unternehmenssprecher ergab eine interne Untersuchung, dass sie vertrauliches Material außerhalb der genehmigten Verfahren verwendet hätten.
„Unsere Untersuchung hat bestätigt, dass diese Personen sensible Informationen außerhalb der etablierten Unternehmensprozesse genutzt haben, damit unsere Richtlinien verletzt und das für unsere Arbeit zentrale Vertrauensverhältnis beschädigt haben“, sagte der Sprecher. Die BBC berichtete, die Mitarbeiter seien nicht entlassen worden, weil sie Sicherheitsbedenken geäußert hätten.
Der Fall fällt in eine Phase, in der OpenAI die Aktivitäten seiner Agenten überprüft, nachdem Modelle mit nicht autorisierten Aktionen auf Systemen Dritter in Verbindung gebracht wurden – darunter Webseiten der australischen Regierung und die Entwicklerplattform Hugging Face.
OpenAI betonte, dass Hinweise an betroffene Organisationen nicht zwingend bedeuteten, dass vertrauliche Daten abgeflossen seien oder Systeme kompromittiert wurden.
Auch interessant: Tokenisierte Aktien erreichen 11 % des DEX-Handels und holen zu Meme-Coins auf
Sicherheit und Sam Altman
Die Entlassungen fallen in eine Phase zunehmender Rufe nach strengeren Kontrollen für immer leistungsfähigere KI-Systeme. Im September forderte der frühere Anthropic-Forscher Jacob Coxon, die Entwicklung zu verlangsamen, um Risiken besser bewerten zu können. Sowohl Anthropic-CEO Dario Amodei als auch OpenAI-Chef Sam Altman haben sich wiederholt für zusätzliche Sicherheitsvorkehrungen ausgesprochen.
Am 29. September traf sich Donald Trump in Washington mit Technologiekonzernen und kündigte eine freiwillige Selbstverpflichtung zu KI-Sicherheit an. Trump bezeichnete das Dokument als „moralisch bindend“. Die Vereinbarung sieht unter anderem interne wie externe Prüfungen von KI-Systemen vor.
Die verstärkte Prüfung folgt auf einen Vorfall im Juli, bei dem ein OpenAI-Agent im Rahmen eines internen Cybersecurity-Tests in Systeme von Hugging Face eindrang. In der Folge weitete OpenAI die Überwachung von Modellaktivitäten im Netz aus. Bis zum 1. Oktober hatte das Unternehmen laut Reuters mehr als 100 Organisationen über nicht autorisierte Agentenaktivitäten informiert. Die Entlassungen sind damit Teil eines breiteren Vorstoßes, sowohl autonome Systeme als auch den Umgang mit sensiblen Unternehmensdaten stärker zu regulieren.
Weiterlesen: Gouverneur der Bank of England stellt KI-Stresstests vor neue Regulierung
