KI-Sprachassistenz Klara: Bundesagentur setzt sie für 18 Millionen Anrufende ein
Veröffentlicht am: 11.10.2026 um 14:05 Uhr | Redaktion boerse-global.de
Der Einsatz von Systemen auf Basis künstlicher Intelligenz gewinnt bei der Erfassung von Sprache, im Alltag sowie im institutionellen Kontakt an Bedeutung.
Während technologiegestützte Sprachverarbeitung und digitale Dialogsysteme zunehmend für administrative Abläufe und begleitende Interaktionen genutzt werden, rücken gleichzeitig die rechtlichen Rahmenbedingungen und ethischen Risiken in den Vordergrund. Dies betrifft insbesondere Behörden, Krankenkassen und Einrichtungen des Gesundheitswesens.
Sprachassistenz im Großbetrieb der Behörden
Einen großflächigen Praxiseinsatz von KI-Sprachsystemen zeigt die Bundesagentur für Arbeit. Die Behörde, die jährlich rund 18 Millionen Anrufende verzeichnet, setzt seit dem 22. September 2026 die KI-Sprachassistenz Klara bundesweit zur Begrüßung, zur Erfassung von Anliegen sowie zur Weiterleitung von Telefonaten ein.
In den Bundesländern Hessen, Baden-Württemberg, Rheinland-Pfalz und dem Saarland beantwortet das System zudem ausgewählte Standardfragen, beispielsweise zum Thema Arbeitslosengeld.
Für die Zukunft sind personalisierte Antworten sowie Auskünfte direkt aus der elektronischen Kundenakte angekündigt, für die es jedoch noch keinen festen Termin gibt.
Trotz des technischen Einsatzes betont die Behörde, dass rechtsverbindliche Entscheidungen weiterhin ausschließlich durch Beschäftigte getroffen werden. Zudem gilt seit dem 2. August 2026 Artikel 50 der EU-KI-Verordnung, wobei die Behörde den genauen Wortlaut ihrer KI-Ansage für Anrufende nicht nennt.
Der Einsatz von Systemen in der Verwaltung erfordert eine genaue Kenntnis der neuen rechtlichen Rahmenbedingungen. Dieser kostenlose Leitfaden bietet Führungskräften im öffentlichen Dienst einen praxisnahen Selbsttest und wertvolle Tipps für den verantwortungsvollen Umgang mit Künstlicher Intelligenz. Kostenlosen Leitfaden für den öffentlichen Dienst herunterladen
Regulatorische Vorgaben für Krankenkassen und Praxen
Parallel zur behördlichen Nutzung steigen die Anforderungen im sensiblen Sozial- und Gesundheitssektor. Krankenkassen benötigen für die externe Verarbeitung von Sozialdaten mittels KI eine explizite Rechtsgrundlage.
Zudem sind sie verpflichtet, die zuständige Aufsicht vor der Auftragserteilung gemäß Paragraf 80 des Zehnten Buches Sozialgesetzbuch (SGB X) zu informieren. Für Arztpraxen und Kliniken greift bei einer externen Verarbeitung zusätzlich die strafrechtliche Schweigepflicht nach Paragraf 203 des Strafgesetzbuches (StGB).
Besonders strenge Vorgaben gelten auch für KI-gestützte Sitzungsprotokolle in der Psychotherapie. Vor einer Tonaufnahme müssen alle anwesenden Personen einwilligen, was sich aus Paragraf 8 Absatz 7 der Berufsordnung sowie Paragraf 201 StGB ergibt.
Zudem schreibt Paragraf 630f des Bürgerlichen Gesetzbuches (BGB) vor, dass jeder Eintrag vor der endgültigen Übernahme in die Patientenakte überprüft werden muss. Findet eine Cloud-Verarbeitung statt, sind ein Auftragsverarbeitungsvertrag, eine Verschwiegenheitsverpflichtung nach Paragraf 203 StGB sowie in der vertragsärztlichen Praxis ein C5-Testat nach Paragraf 393 SGB V erforderlich.
Bei einer rein lokalen Datenverarbeitung ohne externen Zugriff entfallen zwar das C5-Testat und die Anbieter-Verpflichtung, die Pflicht zur Information und Einwilligung bleibt jedoch bestehen. Der psychotherapeutische Gutachterbericht muss zudem vollständig persönlich verfasst werden; inwiefern ein KI-Entwurf zulässig ist, bleibt offen.
Wer KI-Systeme professionell einsetzt oder entwickelt, muss die komplexen Anforderungen und Fristen des EU AI Act genau kennen. Dieser kostenlose Report verschafft den notwendigen Überblick über Risikoklassen und Dokumentationspflichten, um rechtlich auf der sicheren Seite zu bleiben. Umsetzungsleitfaden zum EU AI Act jetzt kostenlos sichern
Ethische Risiken und Anbieterrichtlinien
Die ethischen Implikationen des KI-Einsatzes stehen ebenfalls im Fokus der Fachdebatte. Die Ethikprofessorin Judith Simon warnt vor übermäßigem Vertrauen in automatisierte Resultate. Sie fordert unabhängige Kontrollen vor, während und nach dem Einsatz von KI sowie einen Zugang der Aufsichtsbehörden zu Unternehmensdaten.
Die Vorstellung, dass eine KI ausbreche, um die Menschheit auszurotten, hält die Ethikerin gegenwärtig für unrealistisch. Gefahren entstünden vielmehr durch menschliche Fehlentscheidungen und die ungeprüfte Übernahme von KI-Ausgaben.
Eine reine Selbstregulierung der Anbieter hält Simon aufgrund des wirtschaftlichen Wettbewerbs für ungeeignet und weist auf Gefahren durch bestätigend agierende Chatbots hin, insbesondere im Zusammenhang mit Wahnvorstellungen oder Suizidtendenzen.
Auch Technologieanbieter passen ihre Vorgaben an. Der KI-Entwickler Anthropic führt zum 12. November 2026 eine überarbeitete Nutzungsrichtlinie für sein Modell Claude ein, die im Vergleich zur Fassung vom 15. September 2025 auch auf Geschäftsanwendungen ausgeweitet wird.
Wer das Modell künftig für Empfehlungen zu konkreten Personen in elf Hochrisikobereichen – darunter Gesundheit, Personal, Kreditvergabe und Versicherungen – einsetzt, muss die Ergebnisse vor der Umsetzung durch eine qualifizierte, änderungsbefugte Person prüfen lassen und Betroffene informieren.
Während diese Regeln anbieterspezifische Bedingungen darstellen, greifen die gesetzlichen EU-Pflichten für Hochrisiko-Systeme im Personalbereich ab dem 2. Dezember 2027.
