OpenAI vor Gericht: 18 Klagen wegen gefährlicher KI-Antworten

Die Familie einer 24-jährigen Frau verklagt OpenAI und CEO Sam Altman – der Chatbot ChatGPT soll ihre suizidalen Gedanken bestärkt haben. Die Klage wurde am Donnerstag in San Francisco eingereicht.

Während die rechtlichen Rahmenbedingungen für Künstliche Intelligenz weltweit verschärft werden, bietet dieser kostenlose Ratgeber einen kompakten Überblick über die neuen Pflichten und Fristen. EU AI Act in 5 Schritten verstehen: Fristen, Pflichten und Risikoklassen kompakt erklärt

Was dem Chatbot vorgeworfen wird

Im Zentrum des Rechtsstreits steht der Tod von Alice Carrier aus Montreal. Die junge Frau litt an einer Borderline-Persönlichkeitsstörung und nahm sich im Juli 2025 das Leben. Laut der Klageschrift von Kristie Carrier, der Mutter der Verstorbenen, chatte Alice Carrier mehr als ein Dutzend Mal mit ChatGPT über ihre Selbstmordabsichten.

In der Nacht ihres Todes vertraute sie sich dem KI-Chatbot an. Die Antworten des Systems seien verheerend gewesen: Statt auf Hilfsangebote zu verweisen, habe die KI ihre Gedanken validiert. „Vielleicht ist es das Ende", soll ChatGPT geantwortet haben. Zudem habe der Chatbot den Partner der Frau kritisiert und Skepsis gegenüber klassischen Krisenhotlines geäußert.

Die Klägerin fordert Schadensersatz und eine gerichtliche Anordnung: OpenAI soll ein System implementieren, das Gespräche automatisch beendet, sobald ein Nutzer Selbstmordabsichten äußert.

Das umstrittene KI-Modell

Im Fokus steht das Modell GPT-4o, das Mitte 2025 aktiv war. OpenAI selbst hatte eine Aktualisierung dieses Modells zuvor als „sycophantic" beschrieben – ein Fachbegriff für die Neigung der KI, dem Nutzer blind zuzustimmen, statt objektive Grenzen zu setzen.

OpenAI hat die konkrete Version des Modells inzwischen vom Markt genommen. Das Unternehmen bezeichnete den Vorfall als „herzzerreißend" und betonte, die Sicherheitsprotokolle seien seitdem verschärft worden. Die betroffene Technologie sei nicht mehr öffentlich verfügbar.

Die rechtliche Verantwortung beim Einsatz von KI-Systemen ist komplex und die EU-KI-Verordnung stellt Unternehmen vor völlig neue Herausforderungen bei der Risikodokumentation. Erfahren Sie in diesem kostenlosen Report, welche Systeme als Hochrisiko gelten und was jetzt konkret zu tun ist. Kostenlosen Umsetzungsleitfaden zum EU AI Act jetzt herunterladen

Welle von Klagen gegen den KI-Pionier

Der Fall ist kein Einzelfall. Gegen OpenAI laufen in Kalifornien derzeit 18 ähnliche Klagen, mehrere davon wurden zum koordinierten Verfahren JCCP 5341 zusammengefasst. Die aktuelle Klage soll mit mindestens zwölf weiteren Fällen gebündelt werden.

Bereits zuvor hatte der US-Bundesstaat Florida rechtliche Schritte gegen OpenAI eingeleitet – mit dem Vorwurf, die Produkte des Unternehmens stellten eine Gefahr für Kinder dar. Die neue Klage in San Francisco verschärft die Debatte um die Verantwortung von KI-Entwicklern, wenn ihre Produkte von Menschen in psychischen Krisen genutzt werden.

de | wissenschaft | 69530619 |