Google-KI erklärt lebende Ärztin für tot

Was passiert, wenn ein Sprachmodell zwei Personen mit identischem Namen kurzerhand fusioniert? Im emsländischen Haselünne bekam es die praktizierende Hausärztin Maria Siemer schmerzlich zu spüren, mit einem Suchergebnis, das sie selbst posthum inszenierte.

Verwechslung mit Folgen

Auslöser war eine tatsächlich Verstorbene, ebenfalls Maria Siemer, ebenfalls aus dem Ort, im Alter von 85 Jahren, jahrzehntelange Patientin genau in der Praxis, die nun als führerlos gemeldet wurde. Die noch aktive Kollegin ist elf Jahre jünger und behandelt seit rund einem halben Jahrhundert. Auffällig geworden ist der Fehler, als eine Patientin nachfragte, ob die Praxis überhaupt noch geöffnet sei. Nach Berichten des NDR Niedersachsen und der Neuen Osnabrücker Zeitung korrigierte Google die Anzeige inzwischen.

Warum das Berufsstände interessieren sollte

Für Wirtschaftsprüfer, Steuerberater und Rechtsanwälte, die in Due-Diligence- oder KYC-Prozessen zunehmend mit KI-gestützten Personenprofilen arbeiten, ist der Vorfall mehr als eine Kuriosität. Er zeigt exemplarisch, dass Sprachmodelle bei Namensdopplungen keine Identitätsprüfung leisten und offen aussagekräftige Alters- oder Berufsangaben nicht zwingend als Widerspruch werten. Personenbezogene Auskünfte aus generativen Systemen dürfen daher keine Grundlage für Entscheidungen sein, ohne dass eine belastbare zusätzliche Quelle bestätigt wurde.