ChatGPT vor Gericht: Zwölf US-Fälle zeigen fehlenden Datenschutz

Die Kommunikation mit Anwendungen künstlicher Intelligenz wie ChatGPT unterliegt nicht dem vertraulichen Schutz, der üblicherweise für den Austausch mit Ärzten oder Rechtsanwälten gilt.

Aktuellen Berichten zufolge wurden Unterhaltungen mit dem Chatbot in den vergangenen zwei Jahren in mindestens zwölf US-Gerichtsfällen als Beweismittel herangezogen. Damit rückt die Frage der Datensicherheit und des rechtlichen Status von KI-Protokollen verstärkt in den Fokus von Justiz und Öffentlichkeit.

Offenlegung von Verläufen in Zivil- und Strafverfahren

Ein markantes Beispiel für die juristische Verwertbarkeit von KI-Daten ist die Klage eines 15-jährigen Teenagers gegen mehrere große Social-Media-Plattformen, darunter Meta, Snap, TikTok und YouTube.

Im Rahmen dieses Verfahrens wegen Suchtgefahren durch soziale Medien wurden ChatGPT-Verläufe des Klägers offengelegt. Diese beinhalteten unter anderem einen Chat aus dem Oktober 2024, in dem es um eine potenzielle Vergleichssumme in Höhe von 1 Million US-Dollar ging.

Auch in Strafverfahren finden die digitalen Protokolle Verwendung. So meldete der Entwickler OpenAI den Nutzer Darren Zhou den US-Bundesbehörden, nachdem dieser Drohungen gegen seine ehemalige Partnerin über die Plattform formuliert hatte.

Wer sich mit dem Einsatz moderner Technologien befasst, sollte die rechtlichen Rahmenbedingungen genau kennen. Die neue EU-KI-Verordnung stellt klare Regeln auf, die viele Unternehmen noch nicht kennen – dieser kostenlose Report klärt über Risikoklassen und Pflichten auf. Welche KI-Systeme als Hochrisiko gelten, erfahren Sie hier

Zhou wurde daraufhin zu einer Bewährungsstrafe von acht Jahren verurteilt. In einem weiteren Fall in Missouri konnten Ermittler die ChatGPT-Abfrage eines Verdächtigen direkt von dessen Gerät abrufen und im Gerichtsverfahren gegen ihn verwenden.

Deutlicher Anstieg behördlicher Datenanfragen

Die Bereitschaft von KI-Unternehmen, mit Behörden zu kooperieren, spiegelt sich in den Transparenzzahlen wider. In der zweiten Hälfte des Jahres 2025 gab OpenAI Daten von mehr als 80 Konten preis, was einer Vervierfachung gegenüber dem Vorjahreszeitraum entspricht. Insgesamt gingen in diesem Zeitraum 75 Regierungsanfragen bei dem Unternehmen ein. OpenAI kam diesen Forderungen in 62 Fällen nach, wovon insgesamt 84 Nutzerkonten betroffen waren.

Parallel dazu nimmt die Bedeutung der Datensicherung in Urheberrechtsstreitigkeiten zu. Ein Bundesmagistrat ordnete jüngst die Aufbewahrung von 20 Millionen de-identifizierten Protokollen an, um diese für ein laufendes Verfahren zu sichern.

Diskrepanz zwischen Nutzervertrauen und rechtlicher Realität

Trotz der fehlenden rechtlichen Absicherung zeigen Untersuchungen eine hohe Bereitschaft der Nutzer, sensible Informationen mit KI-Systemen zu teilen. Eine Umfrage unter 1.944 Erwachsenen in den USA ergab, dass 32 Prozent der KI-Nutzer dem Chatbot Dinge anvertrauen, die sie nicht einmal nahestehenden Personen erzählen würden.

Der rechtssichere Umgang mit digitalen Systemen und KI erfordert einen klaren Überblick über geltende Fristen und Dokumentationspflichten. Dieser kostenlose Umsetzungsleitfaden zum EU AI Act verschafft Ihnen und Ihrer Fachabteilung die notwendige Orientierung. EU AI Act in 5 Schritten verstehen – jetzt kostenlos herunterladen

Bei besonders technikaffinen Nutzern lag dieser Welt sogar bei 56 Prozent, während 43 Prozent der befragten Eltern angaben, private Details mit der KI zu teilen.

Gleichzeitig offenbaren die Studienergebnisse erhebliche Wissenslücken bezüglich der Datenverarbeitung. Etwa 53 Prozent der Befragten war nicht bewusst, dass Chatbots die geführten Gespräche zum Training der KI-Modelle nutzen.

Nur 25 Prozent wussten, dass Strafverfolgungsbehörden Zugriff auf diese Gesprächsprotokolle anfordern können. Das allgemeine Unbehagen ist dennoch groß: 58 Prozent der Teilnehmer äußerten Bedenken hinsichtlich der Praxis, und lediglich 14 Prozent der Befragten vertrauten darauf, dass KI-Unternehmen ihre Daten ausreichend schützen.

de | wissenschaft | 70026248 |