EU AI Act ab 2. August: Chatbots müssen sich offenbaren, Bußgelder bis 15 Mio
Veröffentlicht am: 18.08.2026 um 00:05 Uhr | Redaktion boerse-global.de
Die Frage, inwieweit Interaktionsprotokolle von KI-Systemen wie ChatGPT rechtlich als öffentliche Aufzeichnungen gewertet werden können, beschäftigt derzeit verstärkt Juristen und Rechtsanwälte.
Im Zentrum der Analyse steht die Einordnung dieser Daten unter Informationsfreiheitsgesetze (FOIA). Während die Debatte über die Offenlegungspflichten an Fahrt gewinnt, verdeutlichen aktuelle Kriminalfälle und Zivilprozesse die wachsende Bedeutung digitaler Gesprächsverläufe als Beweismittel.
Strafrechtliche Relevanz und polizeiliche Ermittlungen
Die Tragweite von KI-Protokollen zeigt sich beispielhaft in einem aktuellen Fall aus Florida. OpenAI meldete dem FBI Nachrichten des 25-jährigen Darren Zhou, nachdem dieser ChatGPT Details eines geplanten Verbrechens anvertraut hatte. Zhou nutzte die KI zur Planung von Gewalttaten gegen seine ehemalige Freundin. Die Meldung durch den Plattformbetreiber führte zu seiner Verhaftung.
Am 13.08.2026 bekannte sich Zhou wegen schweren Stalkings, schriftlicher Drohungen und illegaler Handynutzung für schuldig. Das Gericht verurteilte ihn zu 8 Jahren Bewährung, zwei Jahren mit einer Fußfessel sowie einer Kaution von 100.000 Dollar.
Zudem muss er sich einer psychologischen Untersuchung und einem Täter-Interventionsprogramm unterziehen. Der Fall unterstreicht, dass KI-Interaktionen keine geschützten Räume darstellen, wenn Sicherheitsinteressen berührt sind.
Transparenzdefizite in Zivilprozessen und Unternehmen
Die Handhabung solcher Daten stellt Unternehmen vor große Herausforderungen. Eine aktuelle Umfrage von Kiteworks unter mehr als 450 Fachleuten ergab, dass 80 % der Befragten im letzten Jahr einen Sicherheitsvorfall im Zusammenhang mit KI erlebten.
Besonders kritisch wird bewertet, dass die Hälfte der Unternehmen nicht in der Lage ist, ein KI-Prüfprotokoll innerhalb eines Tages zu erstellen. Zudem nutzen 65 % der Befragten sogenannte Schatten-KI ohne offizielle Genehmigung.
Wer sich mit den rechtlichen Folgen und neuen Risiken von KI-Systemen im Unternehmen befasst, benötigt eine klare Übersicht der gesetzlichen Rahmenbedingungen. Dieser kostenlose Report klärt auf, welche KI-Systeme als Hochrisiko gelten und was Verantwortliche jetzt konkret tun müssen. Umsetzungsleitfaden zum EU AI Act jetzt kostenlos sichern
Auch in der zivilrechtlichen Rechtsprechung gewinnen Protokolle an Gewicht. Im Prozess um eine tödliche Explosion in Houston im Januar 2020 wurde das Verhalten eines Sachverständigen öffentlich. Der Ingenieur Josh Autenrieth nutzte ChatGPT zur Erstellung eines Verteidigungsberichts für das Unternehmen 3M. Nach der Offenlegung der Prompts stellte sich heraus, dass Autenrieth die KI angewiesen hatte, 3M als zu 0 % schuldhaft darzustellen.
Insgesamt wurden 350 Seiten an Protokollen entdeckt, die belegten, dass der Bericht zu 85 bis 90 % KI-generiert war. Trotz der Verteidigungsstrategie sprach die Jury den Klägern 61,5 Millionen Dollar zu und sah eine Mitschuld von 3M in Höhe von 30 %. Für seine Dienste stellte der Sachverständige ein Honorar von insgesamt 90.000 Dollar in Rechnung, basierend auf einem Stundensatz von 475 Dollar.
Neue Funktionen und regulatorische Anforderungen
Die technische Umsetzung der Datenhaltung sorgt ebenfalls für Diskussionen. OpenAI führte am 13.08.2026 für ChatGPT unter macOS die Funktion „Computer History“ ein. Diese protokolliert Interaktionen wie Klicks und Tastatureingaben.
Kritiker weisen darauf hin, dass die Daten als unverschlüsselte Klartextdateien gespeichert werden, was Sicherheitsrisiken birgt. Die Funktion ist im Europäischen Wirtschaftsraum, der Schweiz und Großbritannien derzeit nicht verfügbar.
Die zunehmende Integration von KI in den Geschäftsalltag erfordert eine proaktive Auseinandersetzung mit neuen rechtlichen Pflichten und Bedrohungsszenarien. Dieser kostenlose Ratgeber verschafft Ihnen den notwendigen Überblick über aktuelle Compliance-Anforderungen und Fristen. EU AI Act in 5 Schritten verstehen
Parallel dazu verschärft der EU AI Act die Anforderungen an die Transparenz. Seit dem 02.08.2026 sind Regeln in Kraft, nach denen Chatbots ihre Identität als KI offenlegen und synthetische Inhalte maschinenlesbar kennzeichnen müssen.
Verstöße können mit Bußgeldern von bis zu 15 Millionen Euro oder 3 % des weltweiten Umsatzes geahndet werden. Anthropic setzt hierzu bereits auf Wasserzeichen-Technologien wie SynthID-Text von Google DeepMind, um die Konformität mit den EU-Vorgaben sicherzustellen.
In einem richtungsweisenden Urteil vom 17.08.2026 entschied zudem ein US-Gericht im Fall Amazon gegen Perplexity, dass KI-Agenten rechtlich als Werkzeuge und nicht als Personen einzustufen sind. Diese Einordnung beeinflusst maßgeblich, wie Interaktionsdaten unter bestehenden Gesetzen wie dem Computer Fraud and Abuse Act (CFAA) behandelt werden.
