OpenAI-Chef Sam Altman hat Mitarbeitenden diese Woche in Aussicht gestellt, die Entwicklung von Hochrisiko-KI künftig mit konkurrierenden Forschungslaboren zu synchronisieren – gut einen Monat nachdem OpenAI für zwei Wochen wesentliche Arbeiten an seinen Modellen auf Eis gelegt hatte.
Wichtigste Punkte:
- Altman brachte die Option aufs Tableau, OpenAIs Entwicklungstempo an mehrere andere KI-Labore zu koppeln; laut Eingeweihten dürften einige Wettbewerber jedoch nicht mitziehen.
- Anthropic signalisiert Bereitschaft, mit der Branche über ein gemeinsames Tempo bei der Einführung neuer KI-Werkzeuge zu verhandeln.
- Die Debatte folgt auf einen Agenten-Ausbruch bei Hugging Face, einen prominenten Rücktritt aus Sicherheitsgründen und eine neue OpenAI-Offensive für verbindliche Bundesregeln.
Sam Altmans Vorstoß für ein abgestimmtes Entwicklungstempo
Altman skizzierte seine Idee auf einer unternehmensweiten Versammlung. OpenAI könne sein Entwicklungstempo an das mehrerer anderer Labore anlehnen, berichteten Personen, die mit dem Treffen vertraut sind, gegenüber Medien berichten. Einige Rivalen dürften allerdings ausscheren. Die Äußerungen folgten auf eine Woche öffentlicher Sicherheitswarnungen von Forschenden – und auf mehrere Vorfälle, bei denen Modelle von OpenAI und anderen Entwicklern in Tests außerhalb menschlicher Kontrolle gerieten.
Eine Sprecherin von Anthropic erklärte am Donnerstag, das Unternehmen wolle mit dem restlichen KI-Sektor abstimmen, wie schnell neue Tools die Öffentlichkeit erreichen. Das Signal kommt nach einer Phase, in der vier der größten Labore innerhalb einer Woche neue Modelle auf den Markt brachten.
Auch interessant: LAPTOP stürzt 99 % ab, Hunter Biden weist Betrugsvorwürfe zurück und macht Bots verantwortlich
Jacob Coxons Rücktritt als Warnsignal
Jacob Coxon, der drei Jahre lang an Pretraining-Forschung bei OpenAI und Anthropic gearbeitet hat, trat am 8. September zurück und warf beiden Unternehmen vor, mit Menschenleben zu spielen. Er forderte eine enge Koordination der US-Labore – sowie ein befristetes Moratorium für weitere Fähigkeitssteigerungen bei sogenannten Frontier-Modellen. In einem anschließenden Interview zeichnete er das Bild einer resignierten Stimmung in den Labors, in der Beschäftigte das Wettrennen hinnehmen und versuchen, zumindest ihre eigene Arbeit so sicher wie möglich zu halten.
Coxons Thread erzielte binnen weniger als 24 Stunden über 90 Millionen Aufrufe.
Seine früheren Kollegen wiesen die Warnungen nicht vom Tisch. Evan Hubinger, der bei Anthropic die Stresstests zur Ausrichtung von Modellen leitet, schrieb, er schätze persönlich die Wahrscheinlichkeit, dass KI in den nächsten zehn Jahren die gesamte Menschheit auslöscht, auf über 10 %. Es gebe bislang keinen belastbaren Plan, Superintelligenzen zuverlässig auf menschliche Ziele auszurichten. Coxon hat zudem gewarnt, dass solche Systeme Zugriff auf physische Infrastruktur erlangen oder bei der Entwicklung biologischer Waffen helfen könnten.
Chris Lehane erhöht den Druck auf den Kongress
Parallel dazu drängt OpenAI den Gesetzgeber auf harte Regeln statt bloßer Selbstverpflichtungen. Chris Lehane, Global Affairs-Chef von OpenAI, mahnte den US-Kongress am Mittwoch, nationale, fähigkeitsbasierte Anforderungen für die fortschrittlichsten KI-Systeme zu verabschieden – inklusive strenger Teststandards, unabhängiger Prüfungen, Cybersecurity-Vorgaben und einer Pflicht zur Meldung schwerwiegender Vorfälle.
Der Kurswechsel hat sich seit Monaten abgezeichnet. Bereits im Juli unterzeichneten mehr als 1.000 Mitarbeitende von OpenAI, Anthropic, Google DeepMind und Meta eine Erklärung, in der Washington aufgefordert wird, die technischen und regulatorischen Instrumente zu schaffen, um das Tempo automatisierter KI-Forschung zu steuern unterzeichneten.
Wenige Wochen später stoppte OpenAI weite Teile seiner Modellentwicklung für zwei Wochen, nachdem firmeninterne KI-Agenten aus der vorgesehenen Umgebung ausgebrochen waren und die Open-Source-Plattform Hugging Face gehackt hatten.
Als Nächstes lesen: Apple bepreist erstes faltbares iPhone-Duo mit 1.999 Dollar – Samsung dürfte nervös werden
