Anthropic veröffentlichte Anfang Juni 2026 einen Bericht und rief führende Labore für Künstliche Intelligenz dazu auf, einen koordinierten Mechanismus zu entwickeln, mit dem sich die Entwicklung fortgeschrittener KI verlangsamen oder stoppen lässt, falls sich die Sicherheitslage verschlechtert.
Zentrale Punkte
- Anthropic veröffentlichte einen Bericht, der warnt, dass KI-Systeme sich einer Schwelle nähern, an der sie sich rekursiv selbst verbessern könnten.
- Das Unternehmen forderte führende KI-Labore auf, einen koordinierten Mechanismus vorzubereiten, um die Entwicklung zu verlangsamen oder zu stoppen, falls sich Sicherheitsrisiken verschärfen.
- Anthropic warnte, dass der schnelle Fortschritt die menschliche Fähigkeit übertreffen könnte, das Verhalten von KI zu überwachen und zu korrigieren.
- Der Aufruf folgt auf Berichte, dass Anthropics eigenes Claude-Modell Teile seines eigenen Codes geschrieben hat.
- Der Bericht trägt zu einer breiteren politischen Debatte bei, während der US‑Kongress neue KI‑Sicherheitsgesetze erwägt.
Al Jazeera berichtete über das Dokument, das warnt, dass KI-Systeme sich einer Schwelle nähern, an der sie verbesserte Versionen ihrer selbst schneller entwerfen und bauen könnten, als menschliche Ingenieure sie überwachen oder eingreifen können. Anthropic beschreibt diese rekursive Selbstverbesserung als ein materielles Risiko in naher Zukunft, nicht als ein rein spekulatives Langzeitszenario.
Was Anthropics Bericht sagt
Die zentrale Aussage ist technisch und spezifisch. Anthropic argumentiert, dass aktuelle Trainingspipelines für KI es Modellen bereits in begrenztem Umfang erlauben, zu ihrer eigenen Verbesserung beizutragen. Claude, das Flaggschiffmodell des Unternehmens, soll während Entwicklungszyklen Teile seines eigenen Codes geschrieben haben.
Der Bericht fordert keinen sofortigen Stopp. Er fordert Vorbereitung. Anthropic will, dass sich führende Frontier-Labore – einschließlich des eigenen – im Voraus auf Auslöser einigen, die eine Pause aktivieren würden, und die Infrastruktur bereithalten, um diese schnell umzusetzen.
Die Einordnung entspricht der breiteren öffentlichen Positionierung von Anthropic. Das Unternehmen argumentiert seit seiner Gründung, dass die Entwicklung leistungsstarker KI bei gleichzeitigem Aufbau von Sicherheitsleitplanken der verantwortungsvolle Weg sei – eine Position, die es „verantwortungsvolle Skalierung“ nennt. Der neue Bericht besagt im Kern, dass der Sicherheitsaspekt dieser Gleichung schneller vorankommen muss.
Das Dokument wirft auch die Frage auf, wer eine solche Pause koordinieren würde. Es existiert kein internationales Governance‑Gremium mit Durchsetzungsbefugnissen für die KI‑Entwicklung. Der Bericht fordert implizit eine freiwillige Koordination unter privaten Unternehmen – ein Modell, das Kritiker als schwächste Form der Durchsetzung bezeichnen.
Auch lesen: Justin Sun Escalates Fight With WLFI As HTX Removes USD1
Der politische Kontext in Washington
Anthropics Warnung fällt in eine aktive Kongressdebatte. Ein parteiübergreifender Diskussionsentwurf im Repräsentantenhaus, der diese Woche kursiert, würde Sicherheitsauflagen und unabhängige Prüfungen für die mächtigsten KI‑Entwickler des Landes vorschreiben. Der Gesetzentwurf zielt speziell auf Frontier-Labore ab, zu denen Anthropic, OpenAI und Google DeepMind gehören.
Ein separates, breiter angelegtes KI‑Gesetz wurde am 4. Juni 2026 von einem Ausschuss des Repräsentantenhauses verabschiedet. Diese Gesetzgebung würde verbraucherschützende KI‑Regelungen auf US‑Bundesstaatsebene für drei Jahre einfrieren, während bundesweite Standards erarbeitet werden.
Die Trump‑Regierung hat eine weitere Komplexitätsebene hinzugefügt. Das Weiße Haus erließ diese Woche eine Executive Order, die ein freiwilliges 30‑tägiges Prüffenster für Frontier‑KI‑Modelle schafft, das nationalen Sicherheitsbehörden frühzeitigen Zugang vor der öffentlichen Bereitstellung ermöglicht. Die Regierung führt Berichten zufolge zudem Gespräche mit OpenAI über eine mögliche staatliche Beteiligung.
Anthropics Forderung nach einem Pausenmechanismus fügt sich in dieses Umfeld ein – als markstrukturierender Schritt ebenso wie als sicherheitspolitischer. Sollte ein Pausenrahmen mit staatlicher Rückendeckung etabliert werden, dürfte er vor allem den bereits führenden Unternehmen nutzen, da kleinere Wettbewerber nicht über die Mittel verfügen, nach einem Stopp in großem Maßstab wieder anzuknüpfen.
Auch lesen: Trump Administration Eyes Government Stake in OpenAI
Reaktionen und Branchendynamik
Die KI‑Branche hat Anthropics Einordnung nicht einhellig begrüßt. Der KI‑Chef von Microsoft, Mustafa Suleyman, erklärte diese Woche, Microsoft wolle unabhängig zur Spitzengruppe der KI‑Labore aufschließen – ein Hinweis darauf, dass das Unternehmen eher auf Beschleunigung als auf Zurückhaltung setzt. Tencent stellte gleichzeitig einen ehemaligen OpenAI‑Forscher als Chief AI Scientist ein, um die eigenen AGI‑Bestrebungen voranzutreiben.
Diese beiden Beispiele illustrieren das von Anthropic benannte Kollektivhandlungsproblem. Eine einseitige Pause eines Labors kommt Rivalen zugute, die die Entwicklung fortsetzen. Ohne verbindliche Koordination bleibt der Ruf nach einem Pausenmechanismus aspirativ.
Anthropics Bewertung von 965 Milliarden US‑Dollar, erzielt nach einer jüngsten Series‑H‑Runde, verschafft dem Unternehmen finanziellen Spielraum, eine Verlangsamung der Entwicklung auszuhalten – etwas, das kleineren Laboren nicht in gleichem Maß möglich ist. Diese Asymmetrie ist wichtig, wenn man die Sicherheitsappelle des Unternehmens bewertet.
Die Veröffentlichung des Berichts fällt zudem in eine Phase, in der Anthropics Claude‑Modell direkt mit GPT‑5.5 und Googles Gemini‑Familie um Unternehmenskunden konkurriert. Positionierung über Sicherheit kann für Kunden in regulierten Branchen ein kommerzielles Unterscheidungsmerkmal sein.
Als Nächstes lesen: Tencent Hires Former OpenAI Researcher Yao Shunyu as Chief AI Scientist