Halluzinierte Zitate: 87 KI-Falschzitate in kanadischen Gerichten
28.06.2026 - 21:32:44 | boerse-global.de
Ein spektakulärer Fehlprozess in Los Angeles wirft ein Schlaglicht auf die Risiken von Künstlicher Intelligenz in der Justiz. Die Geschworenen konnten sich nicht einigen – und KI-Chatprotokolle standen im Zentrum der Beweisführung.
KI-Chats als Beweismittel: Der Fall Rinderknecht
Ein Gericht in Los Angeles hat am Samstag einen Fehlprozess im Verfahren gegen Jonathan Rinderknecht erklärt. Der Mann war wegen Brandstiftung im Zusammenhang mit dem verheerenden Palisades-Feuer von 2025 angeklagt. Die Flammen hatten damals zwölf Menschen das Leben gekostet und Tausende Gebäude zerstört.
Die Staatsanwaltschaft hatte erstmals in großem Umfang ChatGPT-Protokolle als Beweismittel vorgelegt. Darin fanden sich Anfragen des Angeklagten zu Wutbewältigung und einem sogenannten „Zigarettenbrand", zudem KI-generierte Bilder von Feuern. Nach 13-stündiger Beratung sprachen sich zehn der zwölf Geschworenen für einen Freispruch aus – zu wenig für ein Urteil.
Die Verteidigung argumentierte, Rinderknecht habe das Feuer selbst gemeldet. Ein Whistleblower der Feuerwehr von Los Angeles behauptet zudem, Nachlässigkeit der Behörden habe das Ausmaß der Katastrophe erst ermöglicht. Die Staatsanwaltschaft kündigte bereits einen zweiten Prozess an, der im Oktober beginnen soll.
Der Fall Rinderknecht verdeutlicht, wie tiefgreifend KI-Anwendungen bereits in rechtliche Prozesse und den Alltag eingreifen. Wie Sie ChatGPT sicher und effektiv für Ihre eigenen Zwecke nutzen, ohne rechtliche oder technische Fallstricke, erfahren Sie in diesem kompakten Ratgeber. ChatGPT als Alltagshelfer: Jetzt kostenlosen PDF-Report sichern
Gefälschte Zitate: Anwälte haften persönlich
Der Fall ist kein Einzelfall. Die Nutzung von KI zur Erstellung juristischer Dokumente führt zunehmend zu sogenannten „halluzinierten" Rechtszitaten – also frei erfundenen Quellenangaben. Die Berufungsgerichte reagieren mit harten Strafen.
Erst Anfang des Jahres verhängte das US-Berufungsgericht für den 6. Bezirk eine Geldstrafe von 30.000 Dollar gegen zwei Anwälte. Sie hatten Berufungsschriften mit über zwei Dutzend erfundenen Zitaten eingereicht. Das Urteil: Die Anwälte haften persönlich für die gegnerischen Anwaltskosten und doppelte Verfahrenskosten. Die Botschaft ist klar: Jedes Zitat muss von Menschenhand geprüft werden.
International zeigt sich ein besorgniserregender Trend. Kanadische Gerichte verzeichneten einen sprunghaften Anstieg KI-generierter Falschzitate – von sieben Fällen 2024 auf 87 im Jahr 2025. Allein in den ersten sechs Monaten 2026 wurden 74 weitere Fälle registriert. Zwar stammen rund 81 Prozent dieser Fälle von Selbstvertretern ohne Anwalt, doch fast jeder fündte Fall (19 Prozent) geht auf lizenzierte Rechtsanwälte zurück.
Nicht nur vor Gericht, auch im privaten Umfeld nutzen immer mehr Menschen KI-Tools, oft ohne die richtigen Befehle zu kennen. Dieser Gratis-Report enthüllt die praktischsten Tricks für Einsteiger und zeigt Ihnen, wie die KI Ihren Alltag wirklich erleichtert. Diese einfachen ChatGPT-Befehle jetzt kostenlos entdecken
Neue Regeln: Transparenzpflicht für KI-Nutzung
Die US-Bundesgerichte haben auf die Entwicklung mit einem Flickenteppich neuer Vorschriften reagiert. Seit dem 1. Januar 2026 verlangt das Insolvenzgericht für den südlichen Bezirk Kaliforniens eine Offenlegungspflicht für alle mit generativer KI erstellten Dokumente. Einreicher müssen das verwendete Programm nennen und versichern, dass alle Informationen über traditionelle juristische Datenbanken oder Print-Reporter überprüft wurden.
Weitere Gerichte ziehen nach:
- Westlicher Bezirk von North Carolina: Seit Juni 2024 ist eine Zertifizierung erforderlich, dass für die Recherche keine KI verwendet wurde – mit Ausnahme spezifischer juristischer Datenbanken wie Westlaw oder Lexis.
- US-Handelsgericht: Seit Juli 2025 müssen alle per KI-Sprachbefehl erstellten Textpassagen offengelegt werden. Zudem ist zu versichern, dass keine vertraulichen Informationen an die KI weitergegeben wurden.
- Bezirk Colorado: Im April 2026 wies Richterin Nina Y. Wang eine Verfassungsbeschwerde gegen die dortige KI-Verordnung ab. Die Auflagen seien rechtmäßig, Verstöße könnten zur Streichung von Schriftsätzen führen.
Während einige Richter – etwa im nördlichen Bezirk von Alabama – keine formelle Offenlegung verlangen, erinnern sie die Anwälte eindringlich an ihre Pflicht, alle KI-Inhalte zu prüfen. Die Botschaft ist eindeutig: Die Verantwortung bleibt beim Menschen.
