KI-Chatbots im Gesundheitswesen: Transparenzpflicht gilt ab Dezember 2026

Im Spannungsfeld zwischen Patientensicherheit und Innovationsförderung steht die europäische Regulierung künstlicher Intelligenz im Gesundheitssektor vor einer Bewährungsprobe.

Nachdem Vertreter der Medizintechnologiebranche vor bürokratischen Hürden und möglichen Verzögerungen bei der Einführung von Diagnosesoftware gewarnt hatten, hält die Europäische Kommission an der horizontalen Architektur des Gesetzes über künstliche Intelligenz fest, setzt bei der praktischen Ausgestaltung jedoch auf gestaffelte Übergangsfristen und Erleichterungen bei der Umsetzung.

Fristen und Einstufung als Hochrisiko-Anwendungen

Im Zentrum der regulatorischen Anforderungen steht die Einstufung klinischer KI-Systeme, wie sie etwa in der Radiologie, Pathologie oder bei Triage-Entscheidungen eingesetzt werden.

Nach den Bestimmungen der Verordnung (EU) 2024/1689 (EU AI Act) gelten KI-Lösungen, die als Medizinprodukt oder als Sicherheitsbauteil eines solchen fungieren, als Hochrisiko-Systeme. Damit unterliegen sie strengen Maßstäben an die Datengovernance sowie den etablierten Vorgaben des europäischen Medizinprodukterechts.

Für Hochrisiko-KI als Medizinprodukt greift die Pflicht zu einer Konformitätsbewertung durch eine unabhängige Stelle ab August 2028. Bereits ab Dezember 2026 werden zudem Transparenzpflichten für Chatbots und dialogorientierte Systeme wirksam, die sicherstellen sollen, dass Nutzer den Einsatz automatisierter Verfahren klar erkennen können.

Wer sich mit der neuen Einstufung von Hochrisiko-Systemen befasst, benötigt einen klaren Überblick über die kommenden gesetzlichen Anforderungen. Dieser kostenlose Umsetzungsleitfaden zum EU AI Act erläutert alle relevanten Fristen und Pflichten kompakt für Ihr Unternehmen. EU AI Act in 5 Schritten verstehen

Pflichten für Betreiber und Gesundheitseinrichtungen

Die Vorgaben richten sich nicht allein an Softwarehersteller, sondern betreffen auch Gesundheitseinrichtungen und Arztpraxen in ihrer Rolle als Betreiber. Eine Anpassung durch die Änderungsverordnung (EU) 2026/1744 fasste Artikel 4 der KI-Verordnung neu: Betreiber und Anbieter sind demnach verpflichtet, die KI-Kompetenz ihres Personals zu fördern, ohne dass damit die Garantie eines bestimmten formalen Kompetenzniveaus einhergehen muss.

Ergänzend greifen Transparenzvorschriften nach Artikel 50 bei direkter Interaktion mit Patienten. So müssen beispielsweise KI-gestützte Telefonassistenten eindeutig als automatisierte Anwendungen ausgewiesen werden. Flankierend bleiben die Bestimmungen der Datenschutz-Grundverordnung verbindlich, insbesondere die Auflagen zur Verarbeitung von Gesundheitsdaten nach Artikel 9 sowie Vereinbarungen zur Auftragsverarbeitung nach Artikel 28.

Branchenherausforderungen und wissenschaftliche Empfehlungen

In der Praxis löst das Zusammenspiel der regulatorischen Regelwerke anhaltende Debatten aus. Wie der Branchenverband Spectaris in seinem Jahrbuch zur deutschen Medizintechnik aufzeigt, zählen neben der Weiterentwicklung der EU-Medizinprodukteverordnung vor allem offene Haftungsfragen für KI-Anwendungen und digitale Medizinprodukte zu den dringlichen Aufgabenfeldern der Unternehmen.

Die rechtssichere Einordnung von KI-Systemen stellt viele Verantwortliche vor komplexe Fragen zu Risikoklassen und Dokumentationspflichten. Erhalten Sie mit diesem kostenlosen Report fundierte Antworten darauf, was Unternehmen jetzt konkret tun müssen, um die neuen EU-Regeln einzuhalten. Kostenlosen Leitfaden zur KI-Verordnung herunterladen

Wissenschaftliche Gremien betonen gleichzeitig die Notwendigkeit nachweisbarer Standards. Anfang Oktober 2026 veröffentlichten die europäischen Akademiedachverbände EASAC und FEAM zehn Empfehlungen für den verantwortungsvollen KI-Einsatz im Gesundheitswesen.

Die Fachleute sprechen sich dafür aus, KI-Anwendungen wie jede andere medizinische Intervention zu behandeln: Ihr konkreter Nutzen müsse belegt sein, Risiken müssten verstanden werden und die Leistungsfähigkeit bedürfe einer fortlaufenden Überprüfung im klinischen Alltag.

Um dies zu gewährleisten, fordern die Experten vorausschauende europäische Leitlinien, transparente Evaluationsverfahren und gezielte Investitionen in die interdisziplinäre Weiterbildung des Fachpersonals.