Sullivan & Cromwell patzt bei KI-Nutzung und entschuldigt sich

Anwälte der US-Elitekanzlei reichen einen Schriftsatz mit erfundenen Zitaten und Quellenangaben ein. Der Fehler fliegt auf, weil die Gegenseite genauer hinschaut.

Chatbot dichtet Rechtsprechung hinzu

Selbst in den Chefetagen der Anwaltswelt lauern digitale Stolperfallen. Bei Sullivan & Cromwell, einer der renommiertesten Adressen der amerikanischen Rechtsbranche, hat ein KI-Werkzeug offenbar seiner Fantasie freien Lauf gelassen. Das Ergebnis landete schwarz auf weiß vor einem Insolvenzrichter in Manhattan: ein Dokument voller Geisterquellen, Phantomurteile und Zitate aus dem Nirwana. Die Kanzlei begleitet in dem betreffenden Verfahren die Abwickler von Prince Global Holdings, einem Unternehmen im Zentrum von Betrugs- und Geldwäschevorwürfen. Dass etwas faul war, bemerkte ausgerechnet eine konkurrierende Sozietät. Boies Schiller Flexner, ebenfalls am Verfahren beteiligt, schaute genauer hin und fand: nichts. Die zitierten Rechtsgrundlagen existierten schlicht nicht.

Hausregeln landeten im Papierkorb

Das Pikante: Sullivan & Cromwell hat längst Leitplanken für den Umgang mit algorithmischen Helfern aufgestellt. Nur interessierte das offenbar niemanden im zuständigen Team. Auch die nachgelagerte Qualitätskontrolle winkte das Dokument durch, ohne die Hirngespinste des Chatbots zu entlarven. Andrew Dietderich, einer der beiden Chefs der Sanierungsabteilung, griff daraufhin selbst zur Tastatur. Fünf Seiten umfasst sein Bußbrief an Richter Martin Glenn, drei davon listen akribisch auf, was alles schiefgelaufen ist. Beim Konkurrenzhaus, das den Fehler aufspürte, meldete er sich zusätzlich telefonisch, um sich für den Hinweis zu bedanken.

Schadensbegrenzung läuft

Die Kanzlei verspricht Konsequenzen. Interne Abläufe würden überarbeitet, Prüfschleifen verschärft, damit so etwas nicht noch einmal passiert. Eine bereinigte Version des Schriftsatzes liegt dem Gericht inzwischen vor. Welcher digitale Ghostwriter konkret am Werk war, verrät die Kanzlei nicht. Bekannt ist allerdings, dass Sullivan & Cromwell einst OpenAI bei einer Partnerschaft mit Microsoft zur Seite stand. Beratungsgegenstand damals: wie man künstliche Intelligenz verantwortungsvoll und sicher einsetzt.