Anthropic veröffentlicht "Claude Fable" mit eingebauter Notbremse

Das KI-Unternehmen bringt eine entschärfte Version seines umstrittenen Spitzenmodells auf den Markt. Bei heiklen Themen schaltet die Software automatisch auf ein älteres System um.

Wenn die KI sich selbst verweigert

Anwender, die seit dieser Woche Claude Fable 5 ausprobieren, machen eine ungewöhnliche Erfahrung. Stellt man der Software bestimmte Fragen, antwortet sie nicht. Stattdessen erhält man eine Nachricht, dass die Anfrage an die ältere Version Claude Opus 4.8 weitergereicht werde. Selbst wer einfach nur Datenmaterial zu chemischen Verbindungen hochlädt, löst diese Umleitung aus.

Die geheime Variante existiert weiterhin

Hintergrund dieser Vorsicht ist eine Geschichte vom Frühjahr. Damals hatte das Unternehmen ein Modell namens Claude Mythos angekündigt, ohne es freizugeben. Der Grund: Die Software war außergewöhnlich gut darin, Schwachstellen in fremder Software zu finden und auszunutzen. Auch beim deutschen Bundesamt für Sicherheit in der Informationstechnik schrillten die Alarmglocken. Mythos bleibt der Öffentlichkeit weiterhin verschlossen. Lediglich eine kleine Auswahl von Organisationen, vorwiegend in den Vereinigten Staaten, hat Zugriff. Auf europäischer Seite gehört seit Juni die Cybersicherheitsagentur ENISA dazu, deutsche Stellen warten noch.

Widersprüchliche Botschaften

Auffällig ist die Inkonsequenz, die das Unternehmen derzeit an den Tag legt. Erst vor wenigen Tagen forderte Anthropic die Weltgemeinschaft öffentlich dazu auf, das Wettrüsten bei künstlicher Intelligenz zu beenden. Praktisch zur selben Zeit präsentiert das Haus sein bislang leistungsfähigstes Modell.

Bewertung durch Außenstehende

Wie revolutionär das neue System tatsächlich ist, sehen unabhängige Prüfer nüchterner. Die Organisation METR ordnet Fable 5 auf einer Entwicklungskurve ein, die sich exakt im erwarteten Rahmen bewegt. Längere Forschungsvorhaben kann die Software nicht eigenständig abwickeln.

Blick aufs Parkett

Der Zeitpunkt dürfte kein Zufall sein. Anthropic bereitet seinen Gang an die Börse vor, ebenso wie OpenAI. Ein leistungsfähiges Modell kurz vor dem Listing weckt das Interesse der Anleger.