Microsoft-Mitgründer Bill Gates warnt, dass Künstliche Intelligenz schon heute mächtig genug sei, um Entwicklungen auszulösen, die bis zu eine Milliarde Todesopfer fordern könnten – und fordert die Politik zum Handeln auf.
Wichtigste Punkte:
- Gates warnt, dass KI-Werkzeuge in den Händen von Personen mit krimineller oder extremistischer Agenda Ereignisse auslösen könnten, die 1 Milliarde Menschen töten.
- Er erteilt der Idee einer freiwilligen Selbstkontrolle der KI-Entwickler eine klare Absage und plädiert für verbindliche Regulierung.
- Seine Warnung reiht sich ein in einen Chor von KI-Insidern, die eine Verlangsamung der Entwicklung fordern.
Bill Gates’ KI-Warnung
In einem Gespräch mit Moderatorin Kristen Welker für die NBC-Sendung „Meet the Press“, das am Sonntag ausgestrahlt werden soll, erklärte Gates, die Technologie sei „mit Sicherheit mächtig genug, um Entwicklungen anzustoßen, die … eine Milliarde Todesfälle verursachen“. Menschen mit destruktiven Absichten, ausgestattet mit den neuesten KI-Werkzeugen, bezeichnete er als die gefährlichste „Waffe“, mit der die Welt je konfrontiert war.
Gates konzentrierte sich in seinen Aussagen vor allem auf den Missbrauch durch sogenannte „Bad Actors“ – also Terroristen, Kriminelle oder feindliche Staaten –, weniger auf das Szenario, dass KI die Menschheit vollständig auslöscht.
Auf die Frage Welkers, ob KI-Unternehmen sich selbst regulieren könnten, reagierte Gates ohne Umschweife:
„Niemand glaubt, dass Selbstregulierung ausreicht“, sagte er. Strafverfolgungsbehörden und Gesetzgeber müssten mitbestimmen, wie Schutzmechanismen und Aufsicht konkret aussehen. Diese Vorgaben müssten verbindlich sein. Auf die Frage, ob der US-Kongress entsprechende Gesetze verabschieden sollte, antwortete er: „Auf jeden Fall.“
Lesen Sie auch: Ethereum-Börsenbestände fallen auf Rekordtief, während ETH nahe 2.660 $ handelt
Warnungen von Anthropic und OpenAI
Gates’ Aussagen fallen in eine Phase wachsender Sorge um die Sicherheit von KI – und zwar innerhalb der Branche selbst. Anfang des Monats trat Jacob Coxon bei Anthropic zurück und warf dem Unternehmen sowie OpenAI, wo er zuvor gearbeitet hatte, vor, im Wettlauf um superintelligente Systeme „mit Menschenleben zu spielen“.
Ein weiterer Anthropic-Mitarbeiter bezifferte die Wahrscheinlichkeit, dass KI innerhalb der nächsten zehn Jahre die gesamte Menschheit auslöschen könnte, auf über 10 %. Anthropic-CEO Dario Amodei forderte daraufhin die Branche auf, die Weiterentwicklung sogenannter Frontier-KI-Modelle zu verlangsamen.
OpenAI-Chef Sam Altman sowie Elon Musk stellten sich rasch hinter diese Forderung. Einer aktuellen YouGov-/Economist-Umfrage zufolge halten 69 % der US-Amerikaner KI inzwischen für ein ernstzunehmendes Gefahrenpotenzial.
Europa verfügt bereits über jene Art verbindlicher Regeln, die Gates vorschwebt. In den USA ist die politische Debatte dagegen weiter offen, nachdem Präsident Donald Trump Anfang des Monats Forderungen nach einer Verlangsamung der KI-Entwicklung zurückgewiesen hat. Seit dem 2. August kann die Europäische Kommission Anbieter von General-Purpose-KI-Modellen mit Geldbußen belegen – bis zu 3 % des weltweiten Jahresumsatzes sind möglich. Bisher ist allerdings kein Durchsetzungsverfahren gegen einen Modellanbieter bekannt geworden.
Gates äußert sich seit einigen Monaten zunehmend kritisch zu den Risiken von KI, obwohl er weiterhin als einer der prominentesten Optimisten der Technologie gilt. In einem Essay im August warnte er, dass immer leistungsfähigere KI-Systeme von Angreifern für Cyberattacken, Betrug und Desinformationskampagnen gegen Krankenhäuser, Finanzinstitute, Stromnetze und staatliche Infrastrukturen eingesetzt werden könnten. KI, so schrieb er, werde „entweder der größte Gleichmacher sein, den es je gab, oder die schlimmste Quelle von Ungerechtigkeit“.
Weiterlesen: Polygon erreicht 11 Millionen Zahlungen pro Sekunde in Tests für KI-Agenten
