Ex-PwC-Beraterin warnt vor KI-Fehlern

Geetha Rajan leitete bei PwC die Schulung von 50.000 Mitarbeitern zu Automatisierungstools. Heute rät sie, strategisches Denken nicht an Maschinen abzugeben.

Rasantes Tempo überfordert

Technologische Umbrüche gab es immer. Doch die Geschwindigkeit hat sich verändert. Cloud und Mobile brauchten ein Jahrzehnt, um sich durchzusetzen. ChatGPT zählte nach wenigen Monaten Millionen Anwender. Geetha Rajan, heute Strategiedirektorin bei Freshworks, beobachtet, dass viele Unternehmen den täglichen KI-Einsatz erwarten, ohne die Folgen zu bedenken. Der entstehende Druck führe zu vermeidbaren Patzern. Manche wollen sofort alles an Maschinen delegieren. Ein Irrtum, findet Rajan. Besser sei es, KI zunächst wie einen talentierten Berufsanfänger zu behandeln. Die Kontrolle bleibt beim Menschen, das System erhält nur begrenzte Freiheiten. Selbst bei klar strukturierten Aufgaben können fehlerhafte Ausgaben entstehen, die auf den ersten Blick plausibel wirken.

Kreativität gehört dem Menschen

Ideenentwicklung und strategisches Nachdenken sollten nicht ausgelagert werden. Rajan formuliert eigene Grundsätze, bevor sie ein System hinzuzieht. Erst im Anschluss lässt sie nach Schwachstellen suchen oder fordert die KI auf, eine kritische Perspektive einzunehmen. Wer ohne eigenes Fundament arbeitet, erkennt Fehler in den Ergebnissen nicht. Unter Zeitdruck übernahm Rajan einmal ungeprüft von einer KI generierte Designprinzipien. Während der Präsentation stellte sie fest, dass die Aussagen nicht ihren Absichten entsprachen. Die Episode verdeutlicht: Geschliffene Formulierungen täuschen leicht über inhaltliche Schwächen hinweg.

Ohne Kontext geht nichts

Wer ein System zur Kundensegmentierung einsetzt, muss die Segmente bereits verstehen. Fehlt dieses Wissen, führen die Ergebnisse in beliebige Richtungen. Geschmack, Prozessverständnis und Architekturkenntnisse entstehen nicht durch Tools. Wenn fünfzig Vorschläge auf dem Tisch liegen, braucht es Urteilsvermögen, um den passenden auszuwählen.