Das Problem mit dem plausiblen Irrtum
Eine besondere Schwierigkeit generativer KI besteht darin, dass sie nicht wie ein Arzt „weiß“, was ein Patient hat. ChatGPT, Gemini, DeepSeek und Co. erzeugen Antworten auf Grundlage von Mustern, die sie aus großen Datenmengen gelernt haben – sogenannten Wahrscheinlichkeitsmodellen. Sie prüfen ihre Antworten jedoch nicht auf dieselbe Weise wie eine Ärztin oder ein Arzt eine Diagnose anhand von Krankengeschichte, Untersuchung und medizinischen Befunden. Das Ergebnis kann deshalb sehr kompetent klingen, ohne dass es tatsächlich medizinisch korrekt sein muss.
Ein Chatbot könnte beispielsweise eine harmlose Erklärung für Beschwerden nennen und dadurch den Eindruck vermitteln, dass kein Arztbesuch nötig sei. Umgekehrt kann er auch zahlreiche mögliche Krankheiten aufzählen und damit unnötige Sorgen auslösen.
Laut Stiftung Warentest (8/2026) konnten Wissenschaftler aus Schweden zudem nachweisen, dass die KI bei medizinischen Fragen auch nicht belegte oder frei erfundene Krankheitsbezeichnungen ausgeben kann.
Bereits die Anfrage kann über das Ergebnis entscheiden
Eine weitere Schwierigkeit mit Dr. Chatbot: Bereits die Eingabe der Beschwerden beeinflusst die Ergebnisse. Sind die aufgezählten Symptome nicht vollständig, kann auch die Einschätzung der generativen KI unvollständig oder irreführend sein.
Die Gefahr des „Übervertrauens“
Je souveräner eine KI antwortet, desto leichter fällt es ihr zu vertrauen. Sie klingt freundlich, geduldig und selbstbewusst. Sie kann Rückfragen stellen und ihre Einschätzung ausführlich erklären. Das kann den Eindruck erwecken, man habe es mit einem digitalen Arzt zu tun.
Doch genau vor diesem Übervertrauen in KI wird auch im Zusammenhang mit dem Stiftung-Warentest-Test (8/2026) gewarnt.
Deshalb sollte eine KI-Einschätzung eher als erste Orientierung verstanden werden – nicht als Ersatz für eine medizinische Diagnose.
Auch Datenschutz gehört zur Diagnosefrage
Wer Symptome in einen Chatbot eingibt, sollte sich außerdem fragen: Welche persönlichen Gesundheitsdaten gebe ich hier eigentlich preis?
Gesundheitsinformationen gehören zu den besonders sensiblen personenbezogenen Daten. Deshalb sollte man vor der Eingabe prüfen, wie ein Dienst mit den Daten umgeht, welche Einstellungen zur Speicherung und Nutzung von Chats bestehen und ob persönliche Angaben überhaupt notwendig sind.
Bei Diensten, die Daten in Ländern außerhalb der EU verarbeiten, können andere rechtliche Rahmenbedingungen gelten. Deshalb lohnt sich ein Blick darauf, welche Daten gespeichert werden, wofür sie verwendet werden und ob sie an Dritte oder in Drittländer übermittelt werden. Deutsche Datenschützer und auch Stiftung Warentest (8/2026) warnen unter anderem im Zusammenhang mit der chinesischen KI DeepSeek vor Datenschutzrisiken.
Name, Adresse oder konkrete Kontaktdaten gehören in der Regel nicht in eine Anfrage, wenn sie für die Beantwortung keine Rolle spielen.
Statt „Ich bin Max Mustermann, 57 Jahre alt, wohne in … und nehme Medikament XY“ kann beispielsweise eine möglichst anonymisierte Frage formuliert werden – so weit die Information für die konkrete Frage nicht benötigt wird.
Symptom-Checker als Alternative?
Wer seine Beschwerden digital einordnen möchte, kann auch speziell dafür entwickelte Symptom-Checker nutzen. Auch hier können Beschwerden geschildert werden, um mögliche Ursachen oder Krankheitsbilder einzuordnen und Hinweise zur Dringlichkeit einer medizinischen Abklärung zu erhalten. Stiftung Warentest empfiehlt hierfür Symptomate (Browseranwendung) und Ada (App).
Auch Symptom-Checker ersetzen allerdings keine ärztliche Untersuchung. Sie sind darauf ausgelegt, Beschwerden strukturiert abzufragen und Hinweise auf mögliche Ursachen oder die Dringlichkeit einer medizinischen Abklärung zu geben.
