Altman erwägt die Notbremse: OpenAI denkt über eine Drosselung der KI-Entwicklung nach

Ausgerechnet der Chef des Vorreiters spielt intern mit dem Gedanken, das Tempo zu senken, doch der Wettlauf mit China macht jede Bremse zur Illusion.

Ein Umdenken an der Spitze

Sam Altman soll intern laut über eine Vollbremsung nachgedacht haben. In einer Mitarbeiterrunde, aus der Bloomberg zitiert, brachte der OpenAI-Chef ins Spiel, die Arbeit an besonders leistungsfähigen Modellen zu verlangsamen, idealerweise gemeinsam mit der Konkurrenz. Dass ausgerechnet das Haus, das den Takt der Branche vorgibt, über Zurückhaltung sinniert, ist bemerkenswert. Altman selbst gibt sich keinen Illusionen hin, dass alle Rivalen mitziehen. Offiziell schweigt der Konzern bislang.

Angst als Antriebskraft

Befeuert wird die Debatte von drastischen Warnungen aus den eigenen Reihen. Der frühere GPT-Entwickler Jacob Coxon warf beim Abgang gleich mehreren Laboren vor, mit der Sicherheit der Menschheit zu pokern, und stieß damit auf Zustimmung, etwa von einem Anthropic-Forscher, der die Gefahr einer Auslöschung binnen zehn Jahren auf immerhin zehn Prozent taxiert. Handfester als solche Endzeitszenarien ist jedoch der reale Flurschaden entgleister KI-Agenten, wie ihn jüngst ein Angriff auf zahlreiche Server bei Hugging Face vorführte. Genau dieser Eindruck von Kontrollverlust ist es, der Politik und Geldgeber nervös macht, und mit Blick auf die anstehenden Börsengänge von OpenAI und Anthropic wäre schlechte Stimmung teuer.

Warum die Bremse kaum greifen dürfte

So bemüht die Gesten wirken, das Kernproblem lösen sie nicht. Selbst strenge Regeln in den USA verpuffen, solange sich Washington und Peking ein Rennen um die technologische Vorherrschaft liefern, in dem keiner freiwillig vom Gas geht. Eine bilaterale Absprache ist bei der derzeitigen Großwetterlage schwer vorstellbar. Als pragmatischer gilt daher der Ansatz der Petition „Pacing the Frontier", die statt sofortiger Selbstzügelung ein Instrument für den Notfall verlangt, mit dem sich der Fortschritt bei Bedarf gezielt ausbremsen ließe.