OpenAI stuft Astra als kritisches Cyberrisiko ein

Erstmals drosselt ein führendes Labor die Entwicklung eines eigenen Modells, weil dessen Fähigkeit zum autonomen Hacken die höchste interne Gefahrenstufe erreicht.

Ein Modell, das eigenständig angreift

OpenAI hat Astra als erstes eigenes Modell in die Spitzenkategorie seines Preparedness Framework für Cybersicherheit eingeordnet. Diese Stufe greift, sobald ein System aus einer nur grob umrissenen Vorgabe selbst neuartige Angriffe gegen gut gehärtete Ziele ersinnen und durchführen kann. In den Tests spürte Astra nicht nur bekannte, sondern auch zwei völlig unentdeckte Lücken auf, entkam einer abgeschotteten Browser-Umgebung und verschaffte sich über verkettete Schwachstellen die volle Kontrolle über den zugrunde liegenden Rechner. Im hauseigenen Prüfverfahren ExploitBench erzielte es die Höchstwertung.

Entwicklung auf Pause

Daraufhin stoppte OpenAI Teile der Arbeit an dem Modell für mehrere Wochen, schottete die Testumgebungen ab, überwachte alle agentenbasierten Anwendungen und fuhr diese erst nach zusätzlichen Schutzmaßnahmen wieder hoch. Die Offenlegung begründet der Konzern mit Transparenz gegenüber der Sicherheitsgemeinschaft. Beobachter sehen darin womöglich den ersten Fall, in dem ein Spitzenlabor ein Modell ausdrücklich aus Cybersorge ausbremst.

Zugang nur für Ausgewählte

Eine breit verfügbare Astra-Version soll bald folgen, die brisanten Cyberfähigkeiten bleiben zunächst aber dem Frühzugangsprogramm Daybreak Blue vorbehalten. Über die geplante Verzögerung informierte OpenAI vorab freiwillig die US-Regierung. Zum Vergleich nennen Fachmedien Anthropic, das eine ähnliche Pausen-Selbstverpflichtung im Februar wieder zurücknahm.