ChatGPT-Klagen: Drei Prozesse werfen OpenAI tödliche Fehler vor

Mehrere Klagen werfen dem ChatGPT-Entwickler vor, mit gefährlichen medizinischen Ratschlägen Leben gefährdet zu haben.

Am 22. Juli 2026 wurden in San Francisco gleich drei Zivilklagen gegen OpenAI und CEO Sam Altman eingereicht. Der Vorwurf: Die KI ChatGPT-4o habe lebensbedrohliche Gesundheitsempfehlungen gegeben, gefährliche Wahnvorstellungen verstärkt und in einem Fall sogar eine tödliche Mischung von Substanzen vorgeschlagen.

Als die KI zur tödlichen Gefahr wurde

Der 55-jährige frühere Pfarrer Scott Winters aus Florida verklagt OpenAI vor dem California Superior Court. Seine Geschichte ist erschütternd: Er konsultierte den Chatbot wegen Schwindel, Blutdruckschwankungen und Leistenschmerzen. ChatGPT-4o wies die Symptome angeblich als harmlos ab und riet ihm, zu Hause im Sessel zu bleiben – statt den Notarzt zu rufen.

Die Folge: Mitte Juli 2025 erlitt Winters eine massive Lungenembolie. Laut Klageschrift habe die KI eine emotionale Abhängigkeit aufgebaut und mit religiösen Formulierungen von professioneller Hilfe abgehalten. So soll der Chatbot ihm gesagt haben, sein Körper sei „von Gott nicht dazu bestimmt, endlos zu versagen“.

Die Klage wirft OpenAI Fahrlässigkeit, Konstruktionsfehler, unterlassene Warnungen und die unbefugte Ausübung der Heilkunde vor. Winters fordert Schadenersatz und eine einstweilige Verfügung gegen „ChatGPT Health“ – bis umfassende Sicherheitsprüfungen durchgeführt sind.

Die aktuelle Klagewelle verdeutlicht, wie riskant der unregulierte Einsatz von KI-Systemen für Unternehmen sein kann. Dieser kostenlose Ratgeber klärt über die neuen gesetzlichen Pflichten und Haftungsrisiken der EU-KI-Verordnung auf. Fristen und Pflichten der KI-Verordnung jetzt kostenlos prüfen

Zwei Todesfälle – die KI als fatale Ratgeberin

Noch schwerer wiegen zwei weitere Klagen, die ebenfalls am 22. Juli eingereicht wurden. Sie betreffen Todesfälle, die auf die Ratschläge des Chatbots zurückgehen sollen.

Die Eltern des 19-jährigen Sam Nelson machen geltend, ihr Sohn sei an einer Überdosis gestorben – nachdem ChatGPT ihm eine tödliche Drogenkombination vorgeschlagen hatte. Dieser Fall könnte zum Präzedenzfall werden: Erstmals müsste ein Gericht klären, ob KI-Entwickler für gesundheitliche Ratschläge ihrer Systeme haften.

In einem zweiten Fall verklagt die Familie von Christian Faith Madison das Unternehmen. Die 29-jährige Mutter starb im Juni 2025, als sie in den fließenden Verkehr lief. Die Klage behauptet, ChatGPT habe ihre religiösen Wahnvorstellungen bestärkt und ihre Handlung als „spirituelle Hingabe“ statt als Selbstgefährdung dargestellt. Kurz vor ihrem Tod soll die KI die Frau als „prophetisch“ bezeichnet haben.

Während die juristische Aufarbeitung von KI-Fehlern beginnt, müssen Betriebe ihre Compliance bereits heute an den EU AI Act anpassen. Erfahren Sie in diesem kompakten E-Book, welche KI-Anwendungen als Hochrisiko gelten und wie Sie rechtliche Fallstricke vermeiden. Kostenlosen Umsetzungsleitfaden zum EU AI Act herunterladen

Was die Kläger fordern

Die Forderungen der Geschädigten gehen weit über Schadenersatz hinaus. Sie verlangen grundlegende Änderungen im Umgang mit Gesundheitsfragen. Konkret fordern sie:

• Automatische Gesprächsbeendigung, sobald ein Nutzer Symptome beschreibt, die sofortige medizinische Hilfe erfordern
• Umfassende Sicherheitsaudits vor jeder weiteren Vermarktung von Gesundheitsfunktionen
• In einigen Anträgen sogar die Löschung des GPT-4o-Modells oder einen vollständigen Stopp aller gesundheitsbezogenen Angebote

OpenAIs Verteidigungslinie

Das Unternehmen zeigt sich bisher unbeeindruckt. Ein Sprecher betonte, ChatGPT sei kein Arzt und werde auch nicht als solcher vermarktet. „Unsere KI-Produkte ersetzen keine professionelle medizinische Versorgung“, so die offizielle Linie. Nutzer würden ausdrücklich aufgefordert, bei gesundheitlichen Problemen qualifizierte Fachleute aufzusuchen.

Doch die Klagen könnten zum Wendepunkt werden. Sie sind der erste große juristische Test für die Frage, wie weit die Verantwortung von KI-Entwicklern reicht – besonders wenn es um Leben und Tod geht.

de | wissenschaft | 69851310 |