Cisco warnt: KI-Berichte sparen Zeit, liefern aber viele Fehler

Der Netzwerkkonzern hat untersucht, wie gut künstliche Intelligenz Sicherheitsberichte erstellen kann. Das Ergebnis ist durchwachsen: Der Entwurf geht schneller, doch Halluzinationen und Datenvermischungen erfordern aufwendige Nacharbeit.

Schnell, aber schlampig

Was passiert, wenn man künstliche Intelligenz auf die Dokumentation von IT-Sicherheitsübungen loslässt? Cisco hat es ausprobiert und die Ergebnisse in einem Blogbeitrag veröffentlicht. Die gute Nachricht: Der erste Textentwurf stand in der Hälfte der üblichen Zeit. Die schlechte: Was dabei herauskam, war oft unbrauchbar. Die Software dichtete Sachverhalte hinzu, die nie stattgefunden hatten. Sie zog Schlüsse, die keinen Sinn ergaben, und spuckte Handlungsempfehlungen aus, die sich nicht umsetzen ließen oder mehrfach auftauchten. Grammatik und Orthografie waren zwar solide, doch der Tonfall sprang von Abschnitt zu Abschnitt.

Gefährliche Verwechslungen

Ein Problem stach besonders hervor. Wenn Mitarbeiter mehrere Berichte nacheinander bearbeiteten, vermischte das Programm deren Inhalte. Details aus einem Vorfall tauchten plötzlich in der Dokumentation eines anderen auf. Das geschah selbst dann, wenn zwischendurch alle Eingaben gelöscht worden waren. Für Sicherheitsdokumentation, wo jedes Detail stimmen muss, ist das ein Ausschlusskriterium.

Mensch bleibt unverzichtbar

Cisco zieht einen klaren Strich. Die Technik sei derzeit nicht reif für den produktiven Einsatz. Wer Berichte verfasst, muss jeden Satz selbst prüfen und trägt die volle Verantwortung. Bei echten Angriffen, die komplexer sind als Übungen, dürften die Schwächen noch deutlicher zutage treten.