Studie: KI verleitet zur Selbstüberschätzung

Sobald ein Chatbot verfügbar ist, trauen sich Menschen deutlich mehr zu, als sie tatsächlich beherrschen. Ein Eingeständnis der eigenen Unkenntnis bleibt dann fast vollständig aus, selbst bei fehlerhaften Auskünften.

Ein manipuliertes Versuchsdesign

Hinter der Untersuchung stehen Forschungsgruppen aus Rom, Mailand und Paris. Sie legten über 3.000 Freiwilligen in fünf Durchgängen anspruchsvolle Aufgaben vor und räumten dabei stets die Option ein, auf eine Antwort zu verzichten. Entscheidend war ein bewusster Eingriff: Die bereitgestellten Assistenten waren so eingerichtet, dass sie durchweg in die Irre führten. Auf diese Weise ließ sich der Einfluss der reinen Verfügbarkeit vom Nutzen der Auskunft trennen. Genau dort lag der zentrale Befund. Schon die Aussicht, ein System befragen zu können, brachte das Eingeständnis eigener Unkenntnis nahezu zum Erliegen, und zwar unabhängig davon, ob die Teilnehmenden das Angebot überhaupt in Anspruch nahmen.

Höhere Beteiligung, schwächere Ergebnisse

Die Gruppe mit Zugriff arbeitete deutlich mehr Aufgaben ab, kam dabei jedoch seltener zum richtigen Schluss. Parallel dazu stieg das Zutrauen in die eigene Kompetenz auf das Doppelte. Ein Gegengewicht entstand erst, als korrekte Lösungen honoriert und Fehler mit Abzügen belegt wurden. Unter diesen Bedingungen wandten sich die Teilnehmenden seltener an das System und ließen Aufgaben häufiger offen. An das Maß an Zurückhaltung jener Vergleichsgruppe, die von vornherein ohne technische Hilfe auskommen musste, reichten sie dennoch nicht heran.

Konsequenzen für haftungsrelevante Tätigkeiten

Für Berufe, in denen jemand persönlich für eine Einschätzung einsteht, wiegt dieser Effekt schwer. Wer nicht mehr erkennt, wo die eigene Kompetenz endet, trifft Entscheidungen auf brüchiger Grundlage. Ein Ansatzpunkt läge bei den Anbietern selbst: Systeme, die offenlegen, wenn eine Frage keine eindeutige Antwort erlaubt oder die Datenlage zu dünn ist, würden dem Problem einen Teil seiner Wirkung nehmen. Ob die Hersteller diesen Weg gehen wollen, ist offen.