Der frühere Google DeepMind-Sicherheitsforscher Bilal Chughtai warnt, dass Künstliche Intelligenz die Menschheit auslöschen könnte. Ein weiterer Ex-Forscher desselben Labors rechnet mit schweren Schäden bereits in den nächsten fünf Jahren.
Wichtigste Punkte:
- Chughtai verließ DeepMind im Juli und hält das Entstehen einer Superintelligenz in den nächsten Jahren für möglich.
- Er sieht die Sicherheits- und Alignment-Forschung klar hinter den Fähigkeitssprüngen zurück und plädiert für ein koordiniertes Abbremsen – nicht für einen Stopp der KI-Entwicklung.
- Der frühere DeepMind-Forscher Josh Engels warnt vor einem erheblichen Schadensrisiko in den nächsten fünf Jahren; Vertreter von Anthropic und OpenAI unterstützen ebenfalls Forderungen nach einer vorsichtigeren Gangart.
Chughtais Warnung vor KI-Risiken
Chughtai war als Research Engineer tätig und arbeitete an Sicherheit und Alignment für allgemeine Künstliche Intelligenz. Er verließ DeepMind im Juli und veröffentlichte nun seine Warnung.
Demnach könnten KI-Labore in den kommenden Jahren Systeme entwickeln, die Menschen in nahezu allen Bereichen überlegen sind – ohne dass sie verlässlich auf menschliche Ziele ausgerichtet werden können.
Das Kernproblem sei das Alignment, schreibt Chughtai: „Ich glaube aufrichtig, dass KI das Potenzial hat, uns alle zu töten – und dass uns möglicherweise die Zeit davonläuft, dies noch zu verhindern.“
Er betont, aktuelle Methoden, fortgeschrittene Systeme stabil auf menschliche Ziele auszurichten, seien „extrem rudimentär“, während die Spitzenmodelle ihre Fähigkeiten weit schneller ausbauen, als das Verständnis der Forscher für Alignment wächst. Ein Moratorium auf KI-Entwicklung fordert er nicht. Stattdessen solle die Branche den Wettlauf verlangsamen, sich stärker abstimmen und deutlich transparenter machen, wie Spitzenmodelle entwickelt und getestet werden.
Mehr dazu: CLARITY Act Faces 60-Vote Senate Test As Opposition Grows
Sicherheitsdebatte bei Anthropic
Chughtais Warnung folgt auf den Rücktritt von Jacob Coxon Anfang des Monats, der drei Jahre bei Anthropic und OpenAI tätig war. Der Leiter der Alignment-Forschung bei Anthropic, Evan Hubinger, erklärte anschließend, er halte es für wahrscheinlicher als 10 %, dass KI in den nächsten zehn Jahren alle Menschen töten könnte.
Engels, der ebenfalls an DeepMinds Sicherheitsteam mitarbeitete, erklärte am 12. September, er sei zur Evaluations-NGO METR gewechselt, nachdem er Angebote von Anthropic und OpenAI ausgeschlagen habe – aus Sorge vor einer „erschreckenden Wahrscheinlichkeit“ massiver KI-Schäden innerhalb der nächsten fünf Jahre.
Anthropic-CEO Dario Amodei hat wiederholt dafür plädiert, den Zuwachs an Fähigkeiten zu drosseln. Sam Altman, CEO von OpenAI, unterstützt diese Linie. Die wachsende Einigkeit ist bemerkenswert, weil die Warnungen inzwischen nicht nur von aussteigenden Sicherheitsforschern kommen, sondern auch von Spitzenmanagern führender KI-Labore.
Die aktuellen Alarmrufe markieren einen deutlichen Stimmungsumschwung seit Anfang 2022, als Chughtai in die KI-Forschung einstieg und die damaligen Systeme noch deutlich weniger leistungsfähig waren als heutige Frontier-Modelle. Innerhalb von vier Jahren hat sich die Debatte von abstrakten Langfristszenarien hin zu konkreten Fragen verlagert: Wie autonom werden diese Systeme, wie zuverlässig lassen sie sich ausrichten – und kann Sicherheitsforschung überhaupt noch mit dem Tempo der Fähigkeitssprünge Schritt halten?
Als Nächstes lesen: Bitget's API Now Reaches Gold, Forex, Indices And Crude Oil
