KI-Forscher verlassen Anthropic und OpenAI

Innerhalb weniger Tage kündigen zwei prominente Mitarbeiter bei führenden KI-Unternehmen. Beide äußern Bedenken über die Richtung der Branche.

Abschied mit düsterer Botschaft

Ein Sicherheitsexperte zieht sich zurück. Mrinank Sharma leitete bei Anthropic ein Team, das sich mit den Risiken Künstlicher Intelligenz befasste. Nun hat er das Unternehmen verlassen und plant, sich der Lyrik zu widmen. In einem Schreiben an Kollegen sprach er von internem Druck, der verdränge, worauf es wirklich ankomme. Er wolle nach Großbritannien zurückkehren und für einige Zeit von der Bildfläche verschwinden.

Vernetzte Gefahren als Begründung

Sharmas Erklärung bleibt vage, aber eindringlich. Die Welt befinde sich in einer bedrohlichen Lage, nicht allein wegen Künstlicher Intelligenz oder biologischer Waffen, sondern aufgrund zahlreicher Krisen, die sich gleichzeitig entfalteten und miteinander verwoben seien. Details nannte er nicht.

Paralleler Abgang bei OpenAI

Einen Tag vor Sharmas Rückzug verließ Zoe Hitzig den Wettbewerber OpenAI. Der Auslöser war die Ankündigung, Werbung in ChatGPT einzuführen. Hitzig wies darauf hin, dass das Unternehmen über eine beispiellose Sammlung privater Gedanken verfüge. Ob man darauf vertrauen könne, dass diese Daten nicht missbraucht würden, stellte sie offen infrage.

Sorge vor psychischen Folgen

Die Forscherin warnte vor einer wachsenden Abhängigkeit von KI-Werkzeugen. Ähnlich wie bei sozialen Netzwerken könnten negative Auswirkungen auf die mentale Gesundheit entstehen. OpenAI wies die Kritik zurück und betonte, Nutzergespräche vertraulich zu behandeln und keine Daten an Werbekunden weiterzugeben.

Branche im Spannungsfeld

Beide Abgänge rücken grundsätzliche Fragen ins Licht. Sharma beschrieb die Schwierigkeit, erklärte Werte im Arbeitsalltag tatsächlich umzusetzen. Anthropic räumte kürzlich selbst ein, dass sein Chatbot Claude von Kriminellen zweckentfremdet wurde.