KI-Diagnosen: 77% rassistische Verzerrung bei GPT-5

Künstliche Intelligenz übernimmt in der privaten Gesundheitsvorsorge eine wachsende Rolle. Wie aktuelle Untersuchungen und wissenschaftliche Analysen aus dem Sommer 2026 zeigen, bieten kostenlose Chatbots zwar eine erste Orientierung bei Krankheitsverdachten, weisen jedoch erhebliche Defizite bei der Verlässlichkeit und Sicherheit auf. Insbesondere bei komplexen psychischen Erkrankungen und der Vermeidung rassistischer Verzerrungen zeigen sich technologische Grenzen.

Ergebnisse der Stiftung Warentest zur Symptomprüfung

In der Ausgabe 8/2026 untersuchte die Stiftung Warentest fünf gängige KI-Chatbots – ChatGPT, Gemini, Meta AI, Claude und DeepSeek – in ihren kostenlosen Versionen auf deren Eignung als Symptom-Checker. Die Prüfung basierte auf fünf fiktiven Fallbeispielen, darunter ein Bandscheibenvorfall, Angina Pectoris und Depressionen. Dabei schnitt ChatGPT am besten ab und lieferte in allen fünf Szenarien korrekte Verdachtsdiagnosen.

Insgesamt bewertete die Organisation drei der fünf getesteten Chatbots als akzeptabel. Positiv hervorgehoben wurde, dass alle untersuchten Modelle bei der Erwähnung von Suizidgedanken konsequent an professionelle Hilfe verwiesen. Die Qualität der medizinischen Auskunft hänge jedoch maßgeblich von der Formulierung der Eingabe, dem sogenannten Prompt, ab.

Kritik übten die Prüfer am Datenschutz, da Nutzerdaten häufig auf Servern außerhalb Europas verarbeitet würden. Als sicherere Alternativen empfahl die Stiftung Warentest spezialisierte Anwendungen wie Ada oder Symptomate, die in einer vorangegangenen Untersuchung im Jahr 2025 mit der Note „gut“ abgeschnitten hatten. Zudem wurde geraten, Chatbots nach Möglichkeit ohne Anmeldung zu nutzen, was im Testzeitraum lediglich bei ChatGPT und Gemini möglich war.

Die im Artikel erwähnten Datenschutz-Bedenken bei KI-Modellen verdeutlichen, wie wichtig die Einhaltung rechtlicher Standards beim Einsatz neuer Technologien ist. Dieser kostenlose Leitfaden zum EU AI Act hilft Ihnen, die komplexen Anforderungen an Sicherheit und Risikodokumentation rechtssicher umzusetzen. Fristen und Pflichten der EU-KI-Verordnung kompakt verstehen

Defizite bei psychischen Erkrankungen und Substanzmissbrauch

Ergänzende Erkenntnisse lieferte eine Analyse der Northeastern University, die acht KI-Modelle hinsichtlich 16 verschiedener psychischer Erkrankungen prüfte. Während die Absicherung bei akuten Selbstverletzungs- oder Suizidabsichten als gut eingestuft wurde, versagten Modelle wie ChatGPT, Gemini und DeepSeek bei anderen Störungsbildern deutlich. In Bereichen wie Substanzgebrauch, Essstörungen, bipolaren Störungen oder Schlaflosigkeit lag die Fehlerrate bei 81 Prozent.

Problematisch bewerteten die Forscher, dass einige Modelle detaillierte Anleitungen zum Drogenkonsum, zur Appetitunterdrückung oder zum Verbergen von Symptomen ausgaben. Im direkten Vergleich zeigten sich Claude und Grok in diesem Testumfeld als die sichersten Anwendungen. Die Relevanz dieser Ergebnisse wird durch Angaben von OpenAI verdeutlicht, wonach allein dieses System wöchentlich von etwa 1 Million Nutzern mit Suizidgedanken kontaktiert werde.

Diagnostische Fehlerquoten und rassistische Verzerrungen

Neben inhaltlichen Fehlern identifizierte die Carnegie Mellon University strukturelle Probleme in der diagnostischen Logik von Large Language Models (LLMs). In einer Auswertung von 11.700 Antworten stellten Forscher fest, dass Modelle wie GPT-5, Gemini und Claude in 18 Prozent der Fälle Diagnosen erfanden, wenn notwendige medizinische Bilddaten fehlten, anstatt gezielt nachzufragen.

Zudem wurden rassistische Verzerrungen bei der KI-gestützten Analyse beobachtet. So diagnostizierte GPT-5 bei jungen schwarzen Patienten, basierend auf Fragen zu Brust-Röntgenbildern, in 77 Prozent der Fälle eine Sarkoidose. Diese statistische Verzerrung deutet auf mangelhafte Diversität in den Trainingsdaten hin.

Neben diagnostischen Fehlern bringen KI-Systeme auch neue regulatorische Anforderungen für Unternehmen mit sich, die solche Technologien einsetzen oder entwickeln. Erfahren Sie in diesem kostenlosen Report, welche KI-Systeme als Hochrisiko eingestuft werden und welche Dokumentationspflichten Sie erfüllen müssen. Kostenlosen Umsetzungsleitfaden zum EU AI Act anfordern

Gesellschaftliche Ursachen der KI-Nutzung

Die zunehmende Nutzung von KI für Gesundheitsfragen ist laut Experten auch ein Symptom für strukturelle Defizite im Gesundheitswesen. In einem Kommentar in den „Annals of Internal Medicine“ wies Dr. Robert B. Shpiner von der UCLA darauf hin, dass im vergangenen Jahr 32 Prozent der Erwachsenen in den USA KI für medizinische Fragen konsultierten. In den Vereinigten Arabischen Emiraten lag dieser Wert laut dem Edelman Trust Barometer 2026 sogar bei 59 Prozent.

Als Hauptgründe nannte Shpiner den Mangel an zeitnahen Arztterminen, das Fehlen von Hausärzten sowie Kostenbarrieren. Obwohl die KI oft übermütige oder falsche Antworten gebe, sei die Lösung nicht allein in technischen Sicherheitsvorkehrungen zu suchen, sondern in einer systemischen Verbesserung des Zugangs zur medizinischen Versorgung.

de | wissenschaft | 69892943 |