Justiz warnt: KI-Klagen mit erfundenen Zitaten um 50% gestiegen
Veröffentlicht am: 22.08.2026 um 10:48 Uhr | Redaktion boerse-global.de
Die automatisierte Erstellung von Meeting-Notizen durch Künstliche Intelligenz (KI) in Plattformen wie Microsoft Teams, Google Meet und Zoom weist erhebliche Mängel auf. Wie aktuelle Berichte zeigen, können die generierten Zusammenfassungen und Transkripte fehlerhaft sein, was eine sorgfältige manuelle Überprüfung durch die Nutzer erforderlich macht.
Experten warnen davor, sich blind auf die Protokollierungsfunktionen zu verlassen, da sogenannte Halluzinationen der Systeme zu schwerwiegenden Falschinformationen führen können.
Systematische Fehler und Halluzinationen in Protokollen
In der beruflichen Praxis ist die Nutzung von KI bereits weit verbreitet. Laut aktuellen Erhebungen setzen 75 Prozent der Büroangestellten (Knowledge Worker) auf KI-Unterstützung, wobei 78 Prozent der Anwender eigene Tools nutzen.
Trotz einer hohen Quote an Unternehmensstrategien für KI – 98 Prozent der Firmen geben an, eine solche zu besitzen – fehlt es oft an der Steuerung durch das Top-Management, die lediglich bei 39 Prozent der Unternehmen gegeben ist.
Die Skepsis hinsichtlich der Verlässlichkeit ist begründet: 47 Prozent der Anwender berichten von Qualitätsproblemen. Ein Test in Ontario mit 20 verschiedenen Systemen verdeutlichte das Ausmaß der technischen Schwächen.
Bei allen getesteten Anwendungen traten Ungenauigkeiten auf; neun der Systeme wiesen sogar Halluzinationen auf, bei denen die KI Informationen erfand, die im ursprünglichen Gespräch nicht enthalten waren. Diese Problematik betrifft gängige Dienste wie Whisper sowie die integrierten Funktionen von Microsoft Teams und Zoom.
Wer im Unternehmen KI-Systeme einsetzt oder implementiert, muss sich nicht nur mit technischen Fehlern, sondern auch mit den strengen rechtlichen Rahmenbedingungen des EU AI Acts auseinandersetzen. Dieser kostenlose Leitfaden bietet einen kompakten Überblick über alle neuen Anforderungen, Pflichten und Fristen für Firmen. EU AI Act in 5 Schritten verstehen: Fristen, Pflichten und Risikoklassen kompakt erklärt
Gravierende Folgen im medizinischen und juristischen Bereich
Besonders kritisch wird die fehlerhafte Protokollierung in sensiblen Sektoren wie der Medizin. In Australien nutzen bereits 40 Prozent der Hausärzte sogenannte KI-Scribes zur Dokumentation von Patientengesprächen. Ein konkreter Fall in Australien illustriert die Risiken: Dort erfand eine KI in der Patientenakte von Rebecca Green einen nicht existierenden Drogenkonsum.
Eine in der Fachzeitschrift Nature am 20. August 2026 veröffentlichte Übersichtsarbeit zu den Risiken großer Sprachmodelle (LLM) in der Medizin nennt neben Halluzinationen auch den sogenannten Automation Bias – die Tendenz des Menschen, automatisierten Vorschlägen übermäßig zu vertrauen – sowie Sicherheitsrisiken wie Data Poisoning.
Auch die Justiz sieht sich mit den Folgen konfrontiert. Christine Fuchsloch, Präsidentin des Bundessozialgerichts (BSG), berichtete am 20. August 2026 von einer Zunahme der Eilverfahren um 50 Prozent im Jahr 2025, die durch KI-generierte Klagen verursacht wurden. Diese Schriftsätze seien oft fehlerhaft und enthielten Zitate aus erfundenen Urteilen.
Die rechtlichen Konsequenzen für Nutzer sind erheblich: Das Verwaltungsgericht Köln entschied bereits im Juni 2026 (Az. 6 K 6485/25), dass erfundene Zitate in einer wissenschaftlichen Arbeit eine Täuschung begründen, selbst wenn ein direkter Nachweis des KI-Einsatzes fehlt.
Mit der neuen EU-KI-Verordnung kommen weitreichende Dokumentations- und Sorgfaltspflichten auf Betriebe zu, die KI-Tools zur Prozessunterstützung verwenden. Erfahren Sie in diesem praxisnahen Umsetzungsleitfaden, welche Risikoklassen es gibt und wie Sie rechtlich auf der sicheren Seite bleiben. Kostenlosen Umsetzungsleitfaden zum EU AI Act jetzt herunterladen
Sicherheitsstrategien und technologische Anpassungen
Um die Integrität formeller Aufzeichnungen zu sichern, führen erste Anbieter technische Hürden gegen nachträgliche Manipulationen ein. Der Protokolldienst Rimo implementierte zum 20. August 2026 eine Editier-Sperre sowie eine Kommentarfunktion. Dies soll verhindern, dass Originalprotokolle unbemerkt verändert werden, während Korrekturen transparent als Kommentar hinzugefügt werden können.
Parallel dazu verschärfen Entwickler wie OpenAI ihre Sicherheitsvorkehrungen. Das Unternehmen kündigte Mitte August 2026 an, für API-Kunden an der Richtlinie zur sofortigen Datenlöschung (Zero Data Retention) festzuhalten und führte ein Verfahren zur Erkennung von Missbrauch ein, das ohne dauerhafte Speicherung der Inhalte auskommt.
Dennoch bleibt die IT-Sicherheit eine Herausforderung: Identitätsbasierte Angriffe machen neun von zehn Sicherheitsvorfällen aus. Laut Angaben des CEO von One Identity benötigen Angreifer inzwischen nur noch 72 Minuten, um Daten zu exfiltrieren – im Vorjahr lag dieser Wert noch bei 285 Minuten. Die durchschnittlichen Kosten einer Datenschutzverletzung werden auf 4,20 Millionen Euro beziffert.
