Erfundene Quellen: Wie KI-Halluzinationen Archive überlasten

Das Internationale Komitee vom Roten Kreuz warnt vor falschen Archivverweisen. Bibliotheken kämpfen mit unnötiger Mehrarbeit und Vertrauensverlust.

IKRK reagiert auf wachsendes Problem

Das Internationale Komitee vom Roten Kreuz sieht sich zu einer ungewöhnlichen Klarstellung gezwungen: Wenn ein Dokument nicht auffindbar ist, bedeute das nicht, dass die Organisation Informationen zurückhalte. Vielmehr könnten KI-generierte Verweise die Ursache sein. Die Hilfsorganisation reiht sich damit in eine wachsende Liste von Einrichtungen ein, die öffentlich auf die Folgen von KI-Halluzinationen hinweisen.

Das Grundproblem

KI-Systeme recherchieren nicht, verifizieren keine Quellen und überprüfen keine Informationen, betont das IKRK. Die Inhalte entstehen auf Basis statistischer Muster. Dabei erfinden die Systeme Katalognummern, Dokumentbeschreibungen oder Plattformverweise, die plausibel erscheinen, aber keinerlei Fundament haben. Weil es der Zweck dieser Systeme sei, Inhalte zu generieren, könnten sie nicht anzeigen, wenn Informationen schlicht nicht existieren. Zuverlässige Quellen fänden sich nur in offiziellen Katalogen oder direkt in Bibliotheken.

Mehrarbeit ohne Ergebnis

Die Konsequenzen für Archive und Bibliotheken sind erheblich. US-Bibliothekare berichteten bereits gegenüber dem Magazin 404 von Konfusion und merklichem Vertrauensverlust. Jede Anfrage zu einem nicht existierenden Titel erfordert zunächst aufwendige Recherche – bis klar wird, dass die Quelle frei erfunden ist. Das IKRK versichert, für Anfragen und Hilfe bei der Recherche verfügbar zu sein. Die Botschaft zwischen den Zeilen: Das Problem bindet Ressourcen, die an anderer Stelle fehlen.