Justiz nutzt ChatGPT: Hessisches Gericht findet fünf fehlerhafte KI-Quellen
Veröffentlicht am: 12.08.2026 um 08:53 Uhr | Redaktion boerse-global.de
Der Einsatz von Künstlicher Intelligenz in der deutschen Justiz hat eine neue Stufe erreicht. Der Hessische Verwaltungsgerichtshof (VGH) hat im Rahmen eines Verfahrens zum Aufenthaltsrecht ukrainischer Flüchtlinge auf die Unterstützung des KI-Modells ChatGPT zurückgegriffen. Wie aus einem Beschluss vom 24. Juni 2026 hervorgeht, nutzten die Richter die Technologie zur Recherche für das Verfahren mit dem Aktenzeichen 3 A 2624/25. Damit wird der Einzug von Large Language Models in die gerichtliche Entscheidungsfindung deutlich sichtbar, wirft jedoch gleichzeitig Fragen zur Zuverlässigkeit der verwendeten Informationen auf.
Fehlerhafte Quellenangaben in gerichtlichem Beschluss
In der schriftlichen Begründung des Beschlusses wurden mehrere Verweise identifiziert, die direkt auf die Nutzung der Künstlichen Intelligenz hindeuteten. Insgesamt fünf Quellenangaben in dem Dokument waren mit dem Marker „source=chatgpt.com“ versehen. Bei einer genaueren Überprüfung stellte sich heraus, dass diese Angaben teilweise nicht belegt werden konnten. Experten stellten fest, dass einige der durch die KI generierten Quellenlinks nicht funktionsfähig waren und ins Leere führten.
Diese sogenannten Halluzinationen – also die Generierung von plausibel klingenden, aber faktisch falschen Informationen durch eine KI – betrafen im vorliegenden Fall konkrete Belege innerhalb der Argumentationskette. Die fehlerhaften Verweise verdeutlichen die technischen Risiken beim Einsatz von generativer KI in einem Umfeld, das auf höchste Faktenpräzision angewiesen ist.
Verwaltungsgerichtshof verteidigt Einsatz von Künstlicher Intelligenz
Trotz der festgestellten Mängel bei den Quellenangaben hat der Hessische Verwaltungsgerichtshof den Einsatz von ChatGPT in der gerichtlichen Praxis verteidigt. Das Gericht bestätigte die fehlerhaften Angaben, hält die Nutzung der Technologie jedoch grundsätzlich für zulässig. Nach Auffassung der Richter sei der Einsatz der KI insbesondere bei der Recherche nach schwer zugänglichen ausländischen Quellen nützlich. In Verfahren, die internationales Recht oder die Situation in anderen Ländern betreffen, könne die Technologie einen Mehrwert bei der Informationsbeschaffung bieten.
Wer sich mit dem Einsatz von KI-Systemen im professionellen Umfeld befasst, muss neben technischen Risiken auch die neuen rechtlichen Rahmenbedingungen genau kennen. Dieser kostenlose Report klärt auf, welche Regeln die EU-KI-Verordnung aufstellt und was Unternehmen jetzt konkret tun müssen. Welche KI-Systeme gelten als Hochrisiko? Jetzt Ratgeber sichern
Die rechtliche Korrektheit der getroffenen Entscheidung sieht das Gericht durch die fehlerhaften KI-Belege nicht gefährdet. In einer Stellungnahme wurde betont, dass ChatGPT nicht die einzige Quelle für die Urteilsfindung gewesen sei. Da die Entscheidung auf einer breiteren Basis von Informationen und rechtlichen Erwägungen beruhe, bleibe die Integrität des Beschlusses gewahrt. Die fehlerhaften Links und unbelegten Angaben hätten demnach keinen ausschlaggebenden Einfluss auf das Ergebnis des Verfahrens zum Aufenthaltsrecht gehabt.
Bedeutung für die juristische Arbeitspraxis
Der Fall markiert einen Wendepunkt in der Debatte über die Integration von Legal Tech in die staatliche Rechtsprechung. Während die Effizienzgewinne durch KI-gestützte Recherchen von der Justiz als Vorteil gesehen werden, unterstreicht das Ereignis beim VGH Hessen die Notwendigkeit einer strengen manuellen Überprüfung aller KI-generierten Ergebnisse. Die Kennzeichnung der Quellen mit dem direkten Hinweis auf ChatGPT ermöglichte in diesem Fall eine transparente Nachverfolgung der Fehler, zeigt aber auch, dass die Technologie noch keine eigenständige Verlässlichkeit für juristische Standardprozesse bietet.
Die rechtssichere Nutzung von KI erfordert einen präzisen Überblick über Fristen, Pflichten und Risikoklassen gemäß dem neuen EU AI Act. Sichern Sie sich den kostenlosen Umsetzungsleitfaden, um alle relevanten Dokumentationspflichten für Ihre Organisation im Blick zu behalten. Umsetzungsleitfaden zum EU AI Act kostenlos herunterladen
Branchenbeobachter werten die Bestätigung der Zulässigkeit durch den VGH als Signal für andere Gerichte, KI-Werkzeuge trotz bekannter Schwachstellen weiterhin zu explorieren, sofern diese lediglich als ergänzende Hilfsmittel und nicht als alleinige Entscheidungsgrundlage verwendet werden. Die rechtliche Bewertung des Einsatzes von Künstlicher Intelligenz in der Justizverwaltung dürfte durch diesen Vorfall weiter an Dynamik gewinnen.
