Gericht nutzte ChatGPT: Fünf von zwölf Belegen im Beschluss fehlerhaft

Der Hessische Verwaltungsgerichtshof hat in einem offiziellen Beschluss fehlerhafte Internetquellen verwendet – sie stammten von ChatGPT. Fünf von zwölf Belegen im Dokument waren offenbar KI-generiert und erwiesen sich als unbrauchbar. Das Gericht räumte den Fehler ein, hält den Beschluss aber inhaltlich für korrekt.

Gericht räumt Fehler ein

Der Beschluss vom 24. Juni behandelte die rechtliche Situation ukrainischer Schutzsuchender. Die Unstimmigkeiten fielen durch spezifische URL-Parameter auf, die auf den Ursprung der Links bei ChatGPT hindeuteten. Das Gericht bestätigte inzwischen, das KI-Tool für die Recherche von Quellenmaterial genutzt zu haben.

Trotzdem soll der Fall nun weitere Kreise ziehen. Berichten zufolge ist eine Klärung bestimmter Rechtsfragen durch den Europäischen Gerichtshof beabsichtigt.

Personalmangel treibt „Shadow AI“ in der Verwaltung

Der Vorfall ereignet sich in einer Phase, in der die Justiz unter erheblichem Personaldruck steht. Der hessische Justizminister betonte erst kürzlich die angespannte Lage, besonders bei den Rechtspflegern. Die Zahl der Anwärter in der Ausbildung in Rotenburg wurde deshalb massiv erhöht – von 30 auf 80 Personen.

Die Belastung korreliert mit einer wachsenden Nutzung nicht autorisierter KI-Tools in öffentlichen Verwaltungen. Ein Bericht der französischen Aufsichtsbehörde IGAS vom Juli zeigt: Bis zu 40 Prozent der öffentlich Bediensteten nutzen KI-Anwendungen ohne offizielle Freigabe. Die Tools verkürzen Antwortzeiten drastisch – in untersuchten Fällen von 19 auf drei Tage. Doch die Risiken für Datensicherheit und die Richtigkeit von Bescheiden steigen.

Der unkontrollierte Einsatz von Systemen im beruflichen Umfeld birgt enorme Risiken für die Datensicherheit und Compliance. Dieser kostenlose Umsetzungsleitfaden hilft Verantwortlichen, die neuen Anforderungen und Risikoklassen des EU AI Act rechtssicher zu bewerten. EU AI Act in 5 Schritten verstehen: Fristen, Pflichten und Risikoklassen kompakt erklärt

Globale Regulierung nimmt Fahrt auf

Die rechtliche Einordnung von KI-Anbietern wird international präziser. Die schwedische Datenschutzbehörde IMY stellte im Juni klar: Anbieter, die Modelle auf eigene Initiative feinjustieren, gelten als datenschutzrechtlich Verantwortliche. Erfolgt die Anpassung im Auftrag, sind sie Auftragsverarbeiter.

Andere Staaten treiben ihre Gesetzgebung ebenfalls voran:

• Taiwan verabschiedete den AI Basic Act, der am 14. Januar in Kraft trat.
• Singapur setzt weiterhin auf flexible Rahmenwerke statt eines starren Einzelgesetzes.
• USA sicherten sich per Executive Order privilegierten Zugang zu besonders leistungsfähigen Modellen – bis zu 30 Tage vor deren Veröffentlichung.

Wer im professionellen Umfeld KI-Systeme entwickelt oder nutzt, muss die strengen rechtlichen Leitplanken und Dokumentationspflichten der neuen Verordnung genau kennen. Dieser kostenlose Report klärt darüber auf, welche Systeme als Hochrisiko gelten und was Unternehmen jetzt konkret unternehmen müssen. Kostenloser Download: Umsetzungsleitfaden zum EU AI Act

GPT-5.6 „Sol“ soll Halluzinationen eindämmen

Die Industrie reagiert auf das Problem der KI-Halluzinationen – also das Erfinden von Fakten. Anfang August stellte OpenAI die Modellreihe GPT-5.6 vor. Laut Unternehmensangaben sinkt die Quote der Faktenfehler bei der neuen Version „Sol“ im Vergleich zu Vorgängermodellen um 68 Prozent.

Doch Vorfälle wie in Hessen zeigen: Technischer Fortschritt ersetzt keine Kontrolle. Experten raten, KI-generierte Quellenbelege grundsätzlich manuell zu verifizieren. Sonst droht die Integrität gerichtlicher Entscheidungen zu leiden.

de | wirtschaft | 69928614 |