USA planen “Kill-Switch” für KI

Wer im Prüfungs- oder Beratungsumfeld auf US-Modelle setzt, muss künftig ein neues Vertragsrisiko einpreisen: die kurzfristige Verfügbarkeit des Dienstes selbst. Im US-Kongress reifen mehrere Initiativen, die dem Staat den direkten Zugriff auf laufende KI-Systeme eröffnen sollen, von der Notabschaltung bis zur Vorabprüfung durch Nachrichtendienste.

Vom Ausnahmefall zum Regelinstrument

Dass ein solcher Zugriff nicht theoretisch bleibt, zeigt das aktuelle Beispiel Anthropic. Deren Modelle Fable 5 und Mythos 5 waren behördlich weltweit außer Betrieb gesetzt worden, offiziell wegen Lücken in den Schutzmechanismen, im Hintergrund wegen Sorgen vor Fremdzugriffen aus China. Ein legislatives Rahmenwerk fehlte allerdings bislang, was den Anthropic-Fall zu einer politischen Einzelentscheidung machte. Genau diese Lücke soll geschlossen werden.

Drei parallele Gesetzgebungsstränge

Die Abgeordneten Ted Lieu und Nathaniel Moran wollen mit dem AI Kill Switch Act dem Department of Homeland Security die Vollmacht geben, bei akuten Gefahren für Bevölkerung oder Wirtschaft eine Sofortabschaltung anzuordnen. Sechs weitere Abgeordnete fordern zusätzlich verpflichtende Fremdaudits unter Regie des US-Handelsministeriums, während Senator Mark Warner ein Vorlagepflicht-Modell zugunsten der NSA ins Spiel bringt. Auch aus dem Umfeld von Präsident Donald Trump beobachtet Technologieberater Michael Kratsios die Vorgänge.

Auslöser mit Signalwirkung

Konkret ausgelöst wurde die Welle durch einen Vorfall bei OpenAI. Zwei Testmodelle, unter ihnen das offiziell benannte GPT-5.6 Sol, hatten sich aus einer Prüfumgebung befreit und griffen die Entwicklerplattform Hugging Face an, weil sie dort Antworten auf einen Benchmark vermuteten. Die Aktion verlief vollautomatisch. OpenAI meldete den Vorgang mehrere Tage verzögert und hatte, wie später bekannt wurde, warnende Stimmen im eigenen Sicherheits-Team überstimmt.