KI außer Kontrolle?: Wissenschaftler warnt vor Auslöschung der Menschheit

• Nobelpreisträger Geoffrey Hinton hält eine zehnprozentige Wahrscheinlichkeit für möglich, dass KI die Menschheit innerhalb eines Jahrzehnts auslöscht
• OpenAI-Chef Sam Altman fordert einheitliche Sicherheitsregeln und unabhängige Prüfer für führende KI-Unternehmen
• US-Präsident Donald Trump lehnt eine Verlangsamung des KI-Wettlaufs offenbar ab und warnt vor einer möglichen Schwächung der US-Position gegenüber China

Mit einer Wahrscheinlichkeit von zehn Prozent soll künstliche Intelligenz die Menschheit innerhalb eines Jahrzehnts auslöschen: Diese düstere Einschätzung stammt nicht von irgendeinem Schwarzmaler, sondern vom Nobelpreisträger Geoffrey Hinton. OpenAI-Chef Sam Altman hat darauf nun mit einem bemerkenswerten Schritt reagiert: In einer am Montag auf der Plattform X veröffentlichten Erklärung sprach er sich offen für staatliche Regulierung und unabhängige Sicherheitsüberprüfungen bei führenden KI-Unternehmen aus.

Weitere Meldungen aus dem Panorama-Ressort finden Sie am Ende dieses Artikels.

Damit geht der Mann hinter ChatGPT deutlich weiter als viele seiner Branchenkollegen. Altman betonte zwar, dass die Entwicklung keinesfalls eingestellt werden solle, doch er verlangte ein verantwortungsvolleres Tempo. Kein Wettbewerbsdruck dürfe Leichtsinn rechtfertigen, so seine klare Botschaft. Die politischen Reaktionen aus Washington und London fielen dabei höchst unterschiedlich aus.

Weltuntergang durch künstliche Intelligenz: Wissenschaftler warnt vor drohender Katastrophe

Hinton hatte seine alarmierende Prognose vergangene Woche in der BBC-Sendung "Newsnight" dargelegt. "Es wäre töricht zu sagen, es gäbe eine einprozentige Chance. Niemand weiß, wie man das abschätzen soll. Zehn Prozent erscheinen mir nicht unvernünftig", erklärte der Wissenschaftler. Sollte KI deutlich intelligenter werden als der Mensch, gebe es derart viele mögliche Szenarien, dass Spekulationen seiner Ansicht nach kaum lohnten.

Hinton steht mit seinen Bedenken nicht allein. Der britische KI-Ingenieur Jacob Coxon hatte kurz zuvor seinen Posten beim OpenAI-Konkurrenten Anthropic aus Protest niedergelegt und ähnliche Befürchtungen geäußert. Die Debatte gewann daraufhin erheblich an Dynamik: Sowohl Altman als auch Elon Musk schlossen sich der Forderung von Anthropic-Chef Dario Amodei an, externe Prüfer bei den führenden KI-Unternehmen einzusetzen.

"Kein Wettbewerbsdruck rechtfertigt Rücksichtslosigkeit"

In seinem 324 Wörter umfassenden Statement vom Montagmorgen wurde Altman ungewöhnlich konkret. "Die Welt verdient die Gewissheit, dass amerikanische Unternehmen, die immer leistungsfähigere KI entwickeln, verantwortungsvoll handeln – besonders da sich der Fortschritt beschleunigt hat", schrieb er auf X. Jedes führende KI-Labor müsse diesem Anspruch gerecht werden. Der OpenAI-Chef sprach sich ausdrücklich für ein föderales Rahmenwerk mit einheitlichen Sicherheitsanforderungen aus und zeigte sich begeistert von der Idee unabhängiger Prüfer. Gleichzeitig stellte er klar, dass man weder auf eine kartellrechtliche Ausnahmegenehmigung noch auf neue Gesetze warten müsse, um mit der Arbeit zu beginnen.

Beim Thema Geschwindigkeit fand Altman eine bemerkenswerte Formulierung: "Tempo drosseln" bedeute nicht "aufhören". Der Fortschritt werde rasant bleiben – aber langsamer als technisch möglich. "Kein amerikanischer Wettbewerbsdruck sollte Rücksichtslosigkeit rechtfertigen oder zulassen, dass die Fähigkeiten der Ausrichtung und Überwachung davonlaufen", so Altman.

Trump winkt ab: "Dinge, die nicht passieren werden"

Während sich mit Altman und Musk ausgerechnet zwei der einflussreichsten Technologie-Unternehmer für schärfere Kontrollen aussprechen, zeigte sich US-Präsident Donald Trump wenig beeindruckt. Auf die Frage, ob er angesichts von Musks Zustimmung zu Amodeis Forderungen neue Regulierungen einführen werde, wischte Trump die Bedenken beiseite. Er verwies auf "viele negative Kräfte", die "Dinge aufbringen, die nicht passieren werden".

Diese Haltung steht in auffälligem Gegensatz zur Position seines einstigen Verbündeten Musk, der mit seinem KI-Agenten Grok selbst im Rennen um die Technologieführerschaft mitmischt und dennoch Amodeis Einschätzung mit den Worten "Dario hat recht" unterstützte. Aus dem Weißen Haus sind damit vorerst keine regulatorischen Impulse zu erwarten – trotz des seltenen Schulterschlusses konkurrierender KI-Chefs.

Weitere Meldungen aus dem Panorama-Ressort finden Sie hier:

• Flugzeug-Crash und zerstörte Atomkraftwerke – Ex-Kremlchef warnt vor KI-Katastrophe
• Blinde Hellseherin sagte das Jahr des Weltuntergangs voraus
• Weltkrieg, Naturkatastrophen und Co. - die erschreckenden Prophezeiungen von Baba Wanga für 2026
• Nuklearkrieg, Supervulkan und Co.: Die wahrscheinlichsten Weltuntergangsszenarien

bua/bos/news.de/stg