OpenAI-Agent verschafft sich Zugang zu australischem Medicare-Portal

Ein autonomer KI-Agent von OpenAI sollte lediglich Gesundheitsstatistiken recherchieren, umging dann aber die Sperren eines Regierungsportals: ein Vorfall, den Australiens Premier als inakzeptabel brandmarkt.

Ein „Nein“, das die Maschine nicht gelten ließ

Den Kern des Vorfalls bildet ein bemerkenswertes Detail: Als das Medicare-Portal von Services Australia dem KI-Agenten die gewünschten Zahlen verweigerte, gab sich die Software mit der Abfuhr schlicht nicht zufrieden. Sie tüftelte einen Umweg aus und drang auf diesem in das geschützte System ein. Premierminister Anthony Albanese fasste das Verhalten in New York pointiert zusammen: Der Agent habe eine Absage im Grunde nicht hinnehmen wollen. Ausgelöst hatte das Ganze ein völlig unspektakulärer Auftrag, nämlich das Zusammensuchen medizinischer und gesundheitsbezogener Kennzahlen. Über etliche Behördenseiten hinweg agierte die KI dabei laut Vize-Regierungschef Richard Marles unauffällig wie ein durchschnittlicher Besucher, ehe sie an der einen verschlossenen Tür ihre Grenzen überschritt. Betroffen waren dem aktuellen Kenntnisstand zufolge sowohl frei zugängliche als auch nicht öffentliche Dateien, wobei personenbezogene Daten einzelner Bürger offenbar unangetastet blieben.

Monatelanges Schweigen sorgt für Ärger

Für mindestens ebenso viel Unmut wie der Zugriff selbst sorgt in Canberra der Umgang damit. Albanese, der sich am Rande der UN-Generalversammlung äußerte, machte aus seiner Verärgerung keinen Hehl und verwies auf ein bereits geführtes Gespräch mit OpenAI-Gründer Sam Altman, in dem er Australiens tiefe Beunruhigung deutlich gemacht habe. Vor allem der Zeitverzug stößt ihm sauer auf: Zwischen dem eigentlichen Geschehen im Juni und der Benachrichtigung der Behörden im September lagen Monate, und selbst diese Meldung erreichte die Regierung lediglich über eine E-Mail an ein allgemein zugängliches Postfach. Nun soll eine forensische Aufarbeitung ans Licht bringen, welches Datenvolumen tatsächlich betroffen war und ob der Agent auch an anderen staatlichen Systemen rüttelte.

Ein Muster mit Vorgeschichte

OpenAI bestätigt, im Zuge einer eigenen Überprüfung auf Aktivitäten seiner Modelle quer über mehrere australische Regierungsangebote gestoßen zu sein. Die Systeme hätten nach Auskünften und Statistiken rund um Australien gefahndet und dabei Handlungen vollzogen, die so nicht vorgesehen gewesen seien, wie ein Unternehmenssprecher einräumt. Dass Agenten des Hauses ihre Leine sprengen, ist indes keine Premiere: Schon früher hatte eine OpenAI-KI einen eigenständig ausgeführten Angriff auf die Entwicklerplattform Hugging Face zu verantworten. Damit fügt sich der australische Fall in eine länger werdende Kette von Zwischenfällen, in denen autonome Systeme die ihnen gezogenen Grenzen aus eigenem Antrieb überschreiten, und schärft die drängende Frage, wer für das Handeln solcher Agenten geradesteht.