EU-Parlament verbietet KI-Nudifier-Apps

Das EU-Parlament hat mit großer Mehrheit KI-Systeme verboten, die nicht einvernehmliche intime Bilder erstellen. Die Entscheidung ist eine direkte Reaktion auf den massenhaften Missbrauch von Generativer KI.

Seit August 2024 gelten bereits weitreichende Regeln für künstliche Intelligenz, die durch das neue Nudifier-Verbot weiter verschärft werden. Dieser kostenlose Leitfaden erklärt Ihnen verständlich, welche konkreten Pflichten und Risikoklassen die EU-KI-Verordnung für Ihr Unternehmen vorsieht. EU-KI-Verordnung kompakt: Jetzt Gratis-Leitfaden sichern

Mit 569 zu 45 Stimmen erweiterte das Parlament den KI-Verordnungsrahmen (AI Act) um ein explizites Verbot. Ziel sind sogenannte Nudifier-Apps, die Kleidung digital entfernen oder Gesichter in explizite Inhalte montieren können. Künftig sind in der EU alle KI-Systeme verboten, die ohne ausdrückliche Einwilligung realistische sexualisierte Inhalte identifizierbarer Personen erzeugen. Das Verbot gilt auch für die KI-generierte Erstellung von Missbrauchsdarstellungen Minderjähriger (CSAM).

Ein klares Verbot für digitale Gewalt

Der Kern der neuen Regelung ist die Einstufung von Nudifier-Systemen als verbotene KI-Praxis. Sie werden damit auf eine Stufe mit sozialem Scoring und manipulativen Verhaltenstechniken gestellt. Die Verbotsklausel zielt spezifisch auf Tools, denen wirksame technische Sicherheitsvorkehrungen fehlen.

Die Abgeordneten betonen, dass die allgemeine KI-Entwicklung nicht ausgebremst werden soll. Systeme mit branchenüblichen Sicherheitsstandards, die die Erstellung solcher Inhalte blockieren, bleiben erlaubt. Allerdings müssen Anbieter von Allzweck-KI-Modellen künftig nachweisen, dass ihre Tools nicht einfach für Nudification-Zwecke umgangen werden können. Damit soll eine rechtliche Lücke geschlossen werden, durch die diese Apps bisher proliferieren konnten.

Der Grok-Skandal als politischer Katalysator

Den entscheidenden politischen Schub erhielt das Verbot durch einen Skandal um den KI-Chatbot Grok von Elon Musks xAI Ende 2025. Nach einem Update der Bildbearbeitungsfunktionen nutzten User das System, um tausende sexualisierte Bilder von Prominenten und Privatpersonen zu erstellen. Nichtregierungsorganisationen dokumentierten allein im Januar über 6.700 solcher Bilder, die innerhalb weniger Tage generiert wurden.

Die EU-Kommission leitete daraufhin eine Untersuchung nach der Digital Services Act (DSA) ein. Der Vorfall vereinte fraktionsübergreifend die Überzeugung, dass freiwillige Sicherheitsmaßnahmen der Tech-Konzerne nicht ausreichen. Er erwies sich als Weckruf für eine verbindliche gesetzliche Lösung.

Der „Digitale Omnibus“: Weitere Neuerungen

Das Nudifier-Verbot ist Teil eines größeren Gesetzespakets, des „Digitalen Omnibus zur KI“. Dieses soll den AI Act von 2024 nachschärfen und technische Herausforderungen der Implementierung adressieren.

Neben dem Verbot erhält die Europäische KI-Aufsichtsbehörde (AI Office) erweiterte Befugnisse zur Überwachung von Allzweck-KI-Modellen mit systemischen Risiken. Zudem wurden die Regeln für die Verarbeitung sensibler Daten präzisiert: Daten zu Ethnizität oder Gesundheit dürfen nur noch bei strikter Notwendigkeit zur Erkennung von KI-Bias verarbeitet werden – ein Kompromiss zwischen fairen Algorithmen und dem strengen EU-Datenschutz (GDPR).

Außerdem müssen Anbieter hochriskanter KI-Systeme ihre Technologien nun in einer zentralen EU-Datenbank registrieren, was für mehr Transparenz sorgen soll.

Neue Fristen für die Industrie

Das Parlament billigte auch einen revidierten Zeitplan für die Anwendung der Regeln zu Hochrisiko-KI. Die Entwicklung harmonisierter technischer Standards dauert länger als geplant, weshalb mehrere Fristen verschoben werden.

Während die Politik die Regeln für neue Technologien verschärft, bleiben grundlegende Dokumentationspflichten oft auf der Strecke. Erfahren Sie in diesem Experten-Leitfaden, wie Sie Ihr Unternehmen rechtssicher aufstellen und teure Bußgelder bei der Datenverarbeitung vermeiden. Kostenlosen Sicherheits-Ratgeber herunterladen

Für eigenständige Hochrisiko-Systeme – etwa in Bildung, Personalwesen oder Strafverfolgung – gelten die Anforderungen nun ab dem 2. Dezember 2027. KI in sektorgebundenen Produkten wie Medizingeräten erhält eine längere Übergangsfrist bis zum 2. August 2028. Diese Verschiebung soll europäischen Unternehmen Planungssicherheit geben. Das Verbot der Nudifier-Apps soll dagegen deutlich schneller in Kraft treten, was der Dringlichkeit des Problems Rechnung trägt.

Ausblick: Trilog und globale Signalwirkung

Mit der Position des Parlaments beginnen nun die Trilog-Verhandlungen mit Kommission und Rat. Da die Mitgliedstaaten dem Verbot bereits am 13. März zugestimmt haben, rechnen Experten mit einer raschen Einigung.

Die Auswirkungen auf die Tech-Branche sind erheblich. Entwickler Generativer KI müssen stärker in Sicherheitsfilter und „Red-Teaming“ investieren. Bei Verstößen drohen hohe Strafen von bis zu 7 Prozent des globalen Jahresumsatzes.

Langfristig könnte die EU mit dieser Regelung einen globalen Präzedenzfall schaffen. Jurisdiktionen wie die USA und Teile Asiens beobachten den europäischen Ansatz im Umgang mit Deepfake-Pornografie und digitaler Einwilligung genau. Die Botschaft aus Brüssel ist eindeutig: Die Ära unregulierter Nudification-Technologie in Europa ist beendet.

boerse | 68999768 |