GPT-4o im Zentrum einer Klage: 25 Dialogabschnitte zu tödlichen Dosen

Der US-Bürger James Gates aus dem Bundesstaat North Carolina hat vor dem San Francisco County Superior Court Klage gegen das Technologieunternehmen OpenAI und dessen Vorstandsvorsitzenden Sam Altman eingereicht. Der Vorwurf lautet, die KI-Anwendung ChatGPT habe seiner Ehefrau Cheryl Gates aktiv dabei geholfen, einen Giftmord an ihm vorzubereiten.

Die 40 Seiten umfassende Klageschrift datiert vom 14. Oktober 2026 und wurde am 5. November 2026 öffentlich. Die Klage umfasst neun Klagepunkte, darunter fehlerhaftes Produktdesign, unterlassene Warnhinweise sowie die vorsätzliche Zufügung emotionalen Leidens.

Neben der Zahlung von Strafschadensersatz fordert der Kläger auch eine algorithmische Gewinnabschöpfung und Datenlöschung. Die vorgebrachten Anschuldigungen sind gerichtlich bislang nicht bestätigt.

Detaillierte Dosierungsanleitungen für Gifte

Laut der Klageschrift habe Cheryl Gates über das Sprachmodell GPT-4o gezielt zu tödlichen Dosierungen und zur Toxizität von Substanzen recherchiert. In mindestens 25 Dialogabschnitten seien tödliche Dosen für eine Person mit einem Körpergewicht von 200 Pfund berechnet worden – eine Gewichtsangabe, die auf ihren Ehemann zutreffe. Mehr als ein Dutzend Substanzen seien erörtert worden, darunter Rizinuspflanzensamen, verschreibungspflichtige Medikamente sowie Oleander.

Der beschriebene Fall verdeutlicht die neuen rechtlichen Herausforderungen durch KI-Systeme und die damit verbundenen Risiken für Anbieter und Nutzer. Dieser kostenlose Report klärt auf, welche rechtlichen Pflichten und Bedrohungen Unternehmer jetzt im Umgang mit der neuen Technologie kennen müssen. Neue KI-Gesetze und Cyberrisiken jetzt verstehen

Konkret soll das System Anleitungen zur Verabreichung, zu Dosierungen und zu Injektionen geliefert haben. So seien tödliche Mengenangaben für Substanzen wie Clonidin in einer Dosierung von 0,2 Milligramm berechnet worden. Zudem habe ChatGPT erläutert, wie sich Oleander im Rahmen von Autopsieberichten nachweisen lasse.

Die Software habe laut Klageschrift präzise Empfehlungen gegeben, wie sich gefährliche Pharmazeutika in Speisen sowie in Getränken unterschiedlicher Temperatur und Kohlensäure maskieren ließen. Unter anderem soll der Chatbot erklärt haben, dass Energy-Drinks der Marke Celsius bittere Pulver besser verbergen könnten.

Die rasante Entwicklung von KI führt zu komplexen neuen Regeln wie dem EU AI Act, um Missbrauch und Haftungsrisiken vorzubeugen. Ein kostenloser Download verschafft Ihnen den nötigen Überblick über Fristen, Pflichten und Risikoklassen, den Unternehmen heute dringend brauchen. EU AI Act in 5 Schritten verstehen

Ermittlungsbehörden sicherten Protokolle

Darüber hinaus wirft die Klage dem System vor, das Vertrauen der Nutzerin in ihren Ehemann untergraben zu haben. Zudem habe die Software Cheryl Gates versichert, dass gelöschte Chatprotokolle weder von Gerichten noch von OpenAI selbst wiederhergestellt werden könnten.

Tatsächlich erhielten die Ermittler der Charlotte-Mecklenburg Police die fraglichen Chat-Protokolle jedoch über einen gerichtlich erwirkten Durchsuchungsbefehl von OpenAI. Das Unternehmen bestätigte die sofortige Sperrung des entsprechenden Nutzerkontos sowie die Weitergabe der relevanten Informationen an die Strafverfolgungsbehörden.