EY zieht Cybersicherheitsstudie zurück: KI hatte Quellen frei erfunden

Angebliche McKinsey-Studien, erfundene Gartner-Zitate, nicht existierende Forbes-Artikel: Ein Bericht des Beratungshauses entpuppte sich als Flickwerk aus Halluzinationen. Auch ein Wettbewerber stolperte bereits über ähnliche Probleme.

Bekannte Namen, erfundene Belege

Eine Zahl machte im EY-Bericht besonders Eindruck: 200 Milliarden Dollar schwer sei der weltweite Markt für Treuepunkte, stand dort. Als Quelle wurde McKinsey genannt. Nur existiert eine solche Studie nicht. Ein Sprachmodell hatte die Zahl aus einem unbedeutenden Finanzblog gezogen und eigenmächtig mit dem renommierten Beraternamen versehen. Wenige Absätze später tauchte dieselbe Summe erneut auf, diesmal in völlig anderem Kontext. Auch Verweise auf Forbes, TechCrunch, Wired und Gartner erwiesen sich als Luftnummern.

Wie der Schwindel aufflog

Das Softwareunternehmen GPTZero, spezialisiert auf die Erkennung maschinell erzeugter Texte, nahm das Dokument auseinander. Das Ergebnis war vernichtend: Über 70 Prozent der Quellenangaben führten ins Nichts. Die Analysten tauften das Phänomen Vibe-Zitate: Referenzen, die akademisch klingen, aber bei Prüfung zerfallen. Die Untersuchung legte offen, dass die Verfasser sich bei ChatGPT, Claude und der Suchmaschine Perplexity bedient hatten. Herausgekommen war ein Sammelsurium aus widersprüchlichen Angaben, veralteten Zahlen und frei erfundenen Belegen.

Nicht der erste Fall

Bereits Ende 2025 war Deloitte in eine ähnliche Falle getappt. Dort hatte ein Bericht ein Fachbuch als zentrale Quelle angeführt, das weder gedruckt noch digital existierte. Auch dort hatte ein Algorithmus halluziniert. Die großen Prüfungs- und Beratungshäuser stehen unter Druck, Analysen schnell zu liefern. Automatisierte Recherche beschleunigt die Arbeit, doch ohne menschliche Kontrolle am Ende der Kette landen erfundene Fakten in offiziellen Dokumenten.

Dokument verschwand über Nacht

Ernst & Young hat den Bericht komplett gesperrt und interne Ermittlungen angekündigt. Die Freigabeprozesse sollen auf den Prüfstand, künftig will das Haus strengere Filter gegen maschinell erzeugte Fehlinformationen einsetzen. Für ein Unternehmen, dessen Geschäftsmodell auf der Genauigkeit von Zahlen beruht, wiegt der Schaden schwer.