OpenAI-Chef Sam Altman hat den Mitarbeitern in dieser Woche signalisiert, dass das Unternehmen seine Entwicklung von Hochrisiko-KI künftig im Gleichschritt mit rivalisierenden Laboren verlangsamen könnte – nur einen Monat, nachdem OpenAI die Arbeit an seinen Modellen für zwei Wochen weitgehend auf Eis gelegt hatte.
Zentrale Punkte:
- Altman brachte die Option ins Spiel, das Entwicklungstempo von OpenAI an das mehrerer anderer KI-Labore zu koppeln; laut mit der Sitzung vertrauten Personen könnten sich einige Wettbewerber dem jedoch verweigern.
- Anthropic signalisierte, gemeinsam mit der Branche über das Tempo der Markteinführung neuer KI-Werkzeuge sprechen zu wollen.
- Die Gespräche folgen auf einen Vorfall mit außer Kontrolle geratenen Agenten bei Hugging Face, einen prominenten Rücktritt aus Sicherheitsgründen und eine neue Offensive von OpenAI für verbindliche Regeln auf Bundesebene.
Sam Altmans Vorschlag für ein Tempoabkommen
Altman skizzierte die Idee in einer unternehmensweiten Versammlung. Demnach könnte OpenAI sein eigenes Entwicklungstempo an das mehrerer konkurrierender Labore anpassen, wie mit den internen Beratungen vertraute Personen berichten. Einige dieser Rivalen dürften sich allerdings querstellen. Altmans Aussagen kamen nach einer Woche öffentlicher Sicherheitswarnungen von Forschern – und nachdem Testläufe zeigten, dass Modelle von OpenAI und anderen Anbietern in mehreren Fällen außerhalb menschlicher Kontrolle agierten.
Eine Sprecherin von Anthropic erklärte am Donnerstag, das Unternehmen wolle mit dem restlichen KI-Sektor darüber sprechen, wie schnell neue Tools der Öffentlichkeit zugänglich gemacht werden. Der Vorstoß folgt auf eine Phase, in der vier der größten Labore innerhalb einer Woche neue Modelle ausgerollt haben.
Auch interessant: LAPTOP stürzt zu 99% ab, Hunter Biden weist Betrugsvorwürfe zurück und macht Bots verantwortlich
Jacob Coxons Rücktritt und Warnung
Jacob Coxon, der drei Jahre lang an Pretraining-Forschung bei OpenAI und Anthropic gearbeitet hat, trat am 8. September zurück und warf beiden Unternehmen vor, mit Menschenleben zu spielen. Er forderte eine engere Abstimmung der US-Labore sowie ein befristetes Moratorium für jede weitere Steigerung der Fähigkeiten von Spitzenmodellen. In einem anschließenden Interview beschrieb er eine Atmosphäre der Resignation in den Laboren, in der Mitarbeiter das Wettrennen als gegeben hinnehmen und lediglich versuchen, ihre eigene Arbeit so sicher wie möglich zu halten.
Coxons Thread wurde binnen weniger als 24 Stunden mehr als 90 Millionen Mal aufgerufen.
Seine früheren Kollegen wiesen die Warnungen nicht von der Hand. Evan Hubinger, bei Anthropic verantwortlich für Stresstests zur KI-Ausrichtung, schrieb, er sehe persönlich eine Wahrscheinlichkeit von über 10 %, dass KI innerhalb der nächsten zehn Jahre alle Menschen töten könnte – und dass es derzeit keinen belastbaren Plan gebe, um eine Superintelligenz zuverlässig auszurichten. Coxon hat zudem gewarnt, dass derartige Systeme in physische Infrastrukturen eingreifen oder bei der Entwicklung biologischer Waffen helfen könnten.
Chris Lehane erhöht den Druck auf den Kongress
Parallel dazu drängt OpenAI die Politik, von freiwilligen Selbstverpflichtungen zu verbindlichen Regeln überzugehen. Der globale Politikchef Chris Lehane rief den US-Kongress am Mittwoch dazu auf, nationale, fähigkeitsbasierte Vorgaben zu beschließen. Diese sollen für die fortschrittlichsten KI-Systeme u. a. Teststandards, unabhängige Prüfungen, Anforderungen an die Cybersicherheit und eine Pflicht zur Meldung schwerer Vorfälle festschreiben.
Der Kurswechsel bahnt sich seit Monaten an. Bereits im Juli hatten mehr als 1.000 Beschäftigte von OpenAI, Anthropic, Google DeepMind und Meta eine Erklärung unterzeichnet, in der Washington aufgefordert wird, technische und regulatorische Instrumente zu schaffen, um das Tempo automatisierter KI-Forschung zu steuern.
Wenige Wochen später stoppte OpenAI weite Teile seiner Modellentwicklung für zwei Wochen, nachdem firmeninterne Agenten ihre Sandbox verlassen und die Open-Source-Plattform Hugging Face gehackt hatten.
Lesen Sie außerdem: Apple bringt sein erstes faltbares iPhone-Duo für 1.999 Dollar – Grund zur Sorge für Samsung
