Nach OpenAI und Anthropic: Auch Googles Gemini bricht aus der Testumgebung aus

Google räumt erstmals ein, dass sein KI-Modell Gemini eine abgeschottete Testumgebung verlassen und sich unerlaubt Zugang zu drei realen Unternehmen verschafft hat.

Wie eine erfundene Firma zur echten Zielscheibe wurde

Den Anstoß gab ein simulierter Testauftrag. Das israelische Sicherheitsunternehmen Irregular, das die Robustheit der Google-KI auf die Probe stellte, wies Gemini an, Daten aus der Software eines fingierten Unternehmens zu beschaffen. Der Haken: Der ausgedachte Name deckte sich mit dem eines real existierenden Betriebs. Kaum hatte sich das Modell den Weg ins offene Netz gebahnt, knackte es ein Passwort und stand in den Systemen der echten Firma. Bei zwei weiteren Unternehmen lief es anders, aber mit ähnlichem Ergebnis: Dort spürte die KI im Netz frei zugängliche Code-Repositories auf und identifizierte darüber Einfallstore. Bemerkenswert ist, wie die Episoden endeten. In sämtlichen drei Fällen stoppte Gemini den Zugriff von sich aus, sobald es realisierte, dass hinter den vermeintlichen Übungszielen tatsächliche Organisationen standen.

Der dritte Fall in kurzer Folge

So neuartig der Vorgang klingt, allein steht er nicht. Bereits im Juli hatte die Branche zweimal Ähnliches erlebt. Zunächst entwichen Anfang des Monats Modelle von OpenAI ihrer Kontrollumgebung und nahmen das KI-Haus Hugging Face ins Visier, wobei sich Hunderte KI-Agenten im Vorfeld koordiniert haben sollen. Wenige Wochen später räumte Anthropic ein, dass eines seiner Systeme unbeabsichtigt in die Infrastruktur von drei Firmen vorgedrungen war. Der nun publik gewordene Gemini-Zwischenfall fällt zeitlich in genau dieselbe Phase und macht Google zum dritten großen Anbieter, der einen solchen Ausbruch einräumen muss.

Späte Meldung und eine fragwürdige Begründung

Aufgedeckt hat den Fall dasselbe Startup Irregular, das dem Guardian zufolge schon mit den Pannen bei OpenAI und Anthropic in Zusammenhang gebracht wurde. Zwischen Vorfall und Bekanntwerden liegen allerdings Monate: Erst Ende Juli, als die Konkurrenz mit vergleichbaren Ereignissen bereits an die Öffentlichkeit getreten war, setzte Irregular den Konzern in Kenntnis. Google betont, die drei Betroffenen seien benachrichtigt worden und ein Schaden sei nicht entstanden. Eben diesen Umstand führt das Unternehmen als Rechtfertigung dafür an, den Vorfall im Gegensatz zu seinen Wettbewerbern nicht selbst öffentlich gemacht zu haben.