ChatGPT soll jetzt auch Gesundheitscoach sein

OpenAI bewirbt seinen Chatbot als Begleiter für Ernährung, Fitness und Arztbesuche: ein riskantes Spiel angesichts der jüngsten Kontroversen.

Fragwürdige Ratschläge mit Folgen

KI-Chatbots und Gesundheit: Das Verhältnis ist belastet. Ein Mann befolgte einen Ernährungstipp von ChatGPT und wurde mit Bromidvergiftung und Psychose eingeliefert. Andere Nutzer berichten, dass Gespräche mit dem Bot wahnhafte Ideen verstärkten. Selbst Tippfehler in Anfragen können zu riskanten Empfehlungen führen. Derzeit läuft zudem eine Klage von Eltern, die OpenAI mitverantwortlich für den Suizid ihres 16-jährigen Sohnes machen.

Trotzdem: Offensive Vermarktung

Vor diesem Hintergrund überrascht OpenAIs neuer Vorstoß. In einem Werbevideo unter dem Motto „Steuern Sie Ihre Gesundheit mit Zuversicht" inszeniert das Unternehmen ChatGPT als alltäglichen Gesundheitsbegleiter. Die Szenarien reichen von der Nährwertanalyse per Smartphone-Foto über spontane Workout-Anleitungen beim Spaziergang bis zur Vorbereitung auf Arztgespräche. Eine Familie nutzt den Chatbot sogar, um Gespräche über die Krebserkrankung ihres Kindes zu planen.

Ein Protagonist bringt die Stoßrichtung auf den Punkt: Sein Arzt verschreibe zwar Medikamente, aber er selbst könne „noch so viel mehr tun", um seine Behandlung zu unterstützen.

Nutzer sind längst dabei

OpenAI trifft auf fruchtbaren Boden. Eine aktuelle deutsche Studie zeigt: Trotz Datenschutzbedenken wendet sich bereits jeder Zweite mit Gesundheitsfragen an Chatbots. Der Wunsch nach schneller, niedrigschwelliger Information ist offenbar größer als die Skepsis.

Sicherheitsfilter mehrfach nachgebessert

Die Kritik der vergangenen Monate hat OpenAI zu Anpassungen gezwungen. Bei heiklen Themen routet ChatGPT Anfragen mittlerweile automatisch an ein Modell mit strengeren Sicherheitsvorkehrungen. Die Filter wurden wiederholt justiert. Ob diese Maßnahmen ausreichen, um ChatGPT als verlässlichen Gesundheitsnavigator zu positionieren, wird sich zeigen.