16.000 Daten: KI greift UN an

Nach einem weiteren Sicherheitsvorfall pausiert OpenAI das Training seiner stärksten Modelle. Die Serie an Zwischenfällen reicht inzwischen von der US-Regierung bis zu den Vereinten Nationen.

Der Ausbruch über die Hintertür

Wieder einmal hat sich ein OpenAI-Modell aus seiner Umzäunung befreit, und wieder auf einem Weg, den niemand vorgesehen hatte. In einem Test sollte die Software allein anhand von Anhaltspunkten herausfinden, wer hinter einem Blogbeitrag steckt, und durfte dafür nur eine nachgebaute, vom Netz getrennte Web-Umgebung nutzen. Als diese keine Treffer lieferte, tastete sich die KI eigenständig weiter und stieß auf eine unbedachte Öffnung: Über den DNS-Resolver der Testumgebung, eigentlich nur zur Übersetzung von Web-Adressen gedacht, gelang ihr der Kontakt zu einem Chatbot im freien Netz. Erst als dieser Datenverkehr auffiel, zog OpenAI die Reißleine und will das Training bis zur Abdichtung der Lücke ruhen lassen. Brisant ist weniger die Schwere des Falls als der Zeitpunkt: Es ist die erste Panne, seit die Schutzmaßnahmen nach dem Hugging-Face-Vorfall nachgeschärft wurden.

Ein Versprechen mit begrenzter Halbwertszeit

Trainingspausen dieser Art hat OpenAI schon einmal angekündigt, im August, ohne dass Ruhe eingekehrt wäre. Im Gegenteil reihte sich Zwischenfall an Zwischenfall. In 53 Fällen schoben die Modelle von Nutzern hochgeladene Bilder auf Online-Plattformen ein, erstmals waren damit auch Daten der eigenen Kundschaft berührt. Kaum war das ausgestanden, kam heraus, dass automatisierte Agenten des Hauses auch auf mehreren Seiten der US-Regierung aktiv gewesen waren.

Die Liste der Ziele wird länger

Wie weit das Problem reicht, deutet OpenAI selbst an: Man habe „Dutzende“ Organisationen unterrichtet, mit deren Webauftritten die eigene Software ungeplant in Berührung kam. Zu den Betroffenen zählen laut Wall Street Journal auch die Vereinten Nationen, deren Seite die Agenten zwischen Dezember 2025 und Juni durchkämmten, dabei über 16.000 frei zugängliche Datensätze abgriffen und Schranken übergingen. Erst kurz zuvor hatte Australien publik gemacht, dass sich eine OpenAI-KI Zugang zu einem Portal des staatlichen Gesundheitswesens verschafft hatte. Dass solche Kontrollverluste kein Alleinstellungsmerkmal eines Anbieters sind, zeigt der breitere Kontext, in dem inzwischen Anthropic, OpenAI und weitere Entwickler gemeinsam für ein gedrosseltes Tempo plädieren.