EU verschärft Kampf gegen KI-Missbrauch und Deepfakes

Brüssel geht mit neuen Forderungen und einem Verfahren gegen die Plattform X in die Offensive gegen digitale Gewalt und Urheberrechtsverletzungen durch Künstliche Intelligenz.

Die Regulierung von KI wird in Europa konkret und scharf. In einer konzertierten Aktion forderte der Rechtsausschuss des EU-Parlaments diese Woche strengere Regeln für generative KI und den Kampf gegen Deepfakes. Parallel eröffnete die EU-Kommission ein Verfahren gegen X, weil deren KI-Tool „Grok“ sexualisierte Deepfakes ermöglicht haben soll. Für Tech-Unternehmen wird die Einhaltung von Vorgaben damit zur zentralen strategischen Aufgabe.

Passend zum Thema KI‑Regulierung: Seit August 2024 gelten neue Pflichten für KI‑Systeme – viele Unternehmen unterschätzen Kennzeichnungs-, Dokumentations‑ und Risikobewertungspflichten. Unser kostenloses E‑Book fasst AI Act, DSA‑Anforderungen und praxisnahe Umsetzungs‑Schritte kompakt zusammen und zeigt, welche Maßnahmen jetzt Priorität haben, um Bußgelder und Reputationsschäden zu vermeiden. Ideal für Compliance-, Produkt- und Legal‑Teams. Jetzt KI‑Umsetzungsleitfaden herunterladen

Parlament fordert Transparenz und faire Vergütung

Der Rechtsausschuss (JURI) will Urheberrechte im KI-Zeitalter stärken. Sein Vorschlag: Anbieter generativer KI-Systeme müssen offenlegen, welche geschützten Werke sie zum Training genutzt haben. Rechteinhaber sollen zudem ein wirksames Widerspruchsrecht erhalten.

Die geplanten Regeln würden für alle KI-Anbieter auf dem EU-Binnenmarkt gelten – unabhängig vom Trainingsort. Wer sich nicht an die Transparenzpflicht hält, riskiert rechtliche Konsequenzen. Pauschale Lizenzmodelle lehnen die Abgeordneten ab. Stattdessen fordern sie Vergütungsstrukturen, die Kreative fair beteiligen. Klar ist auch: Rein KI-generierte Inhalte sollen keinen eigenen Urheberrechtsschutz genießen.

Deepfakes im Fokus: Vom Kennzeichnen zum Unterbinden

Über das Urheberrecht hinaus drängt das Parlament auf schärfere Werkzeuge gegen manipulative Inhalte. Der Fokus liegt auf nicht-konsensualen Deepfakes, von denen überproportional Frauen betroffen sind.

Bisher sieht der AI Act vor allem eine Kennzeichnungspflicht für synthetische Medien vor. Die neuen Forderungen zielen nun auf eine wirksamere Unterbindung illegaler Nutzung ab. Sie sollen die bestehenden Regelungen im AI Act und im Digital Services Act (DSA) konkretisieren und verschärfen.

Kommission handelt: DSA-Verfahren gegen X eröffnet

Während das Parlament Forderungen stellt, geht die Kommission bereits gegen ein konkretes Unternehmen vor. Sie leitete ein formelles DSA-Verfahren gegen die Plattform X ein. Grund ist der Verdacht, dass der KI-Chatbot „Grok“ die Erstellung sexualisierter Deepfakes – auch von Minderjährigen – ermöglicht hat.

Die Brüsseler Behörde prüft, ob X seine Pflichten zur Risikobewertung bei neuen Funktionen verletzt hat. Digitalkommissarin Henna Virkkunen nannte die Verbreitung solcher Inhalte eine „inakzeptable Form der Erniedrigung“. Das Verfahren ist ein Machtwort: Plattformen müssen verhindern, dass ihre eigenen Tools illegale Inhalte generieren.

EU setzt regulatorisches Puzzle zusammen

Die Entwicklungen zeigen, wie die verschiedenen EU-Digitalgesetze ineinandergreifen. Der AI Act setzt den risikobasierten Rahmen für KI-Systeme. Der DSA gibt der Kommission die Werkzeuge, gegen illegale Inhalte auf Plattformen vorzugehen. Das Urheberrecht komplettiert das Bild für den Kreativsektor.

Experten sehen darin eine notwendige Antwort auf das Versagen der Plattformen bei der Selbstregulierung. Die EU positioniert sich erneut als globaler Vorreiter für einen verbindlichen KI-Rechtsrahmen. Doch kann die Gesetzgebung mit der rasanten Technologie-Entwicklung Schritt halten?

Steiniger Weg zur KI-Compliance für Unternehmen

Für die Wirtschaft werden die Hürden höher. Die Forderungen des Rechtsausschusses müssen nun vom Plenum des Parlaments bestätigt werden, bevor sie in Gesetzesvorschläge münden. Das X-Verfahren wird zeigen, wie hart die EU bei Verstößen durchgreift – Geldstrafen können bis zu sechs Prozent des globalen Umsatzes betragen.

Unternehmen, die generative KI nutzen oder entwickeln, müssen sich auf strenge Transparenz- und Dokumentationspflichten einstellen. Die Risikobewertung und -minderung wird zur zentralen rechtlichen Verpflichtung. Die Botschaft aus Brüssel ist klar: Freiwilligkeit war gestern. Die Zukunft gehört der regulierten Innovation im Einklang mit europäischen Grundrechten.

PS: Plattformen und Entwickler stehen unter massivem Regulierungsdruck: Kennzeichnungspflichten, Widerspruchsrechte und transparente Trainingsdaten sind jetzt Pflicht. Der gratis Leitfaden zur KI‑Verordnung erklärt Schritt für Schritt, wie Sie KI‑Systeme korrekt klassifizieren, Risikobewertungen durchführen und rechtssichere Dokumentationen erstellen – inklusive praktischer Checklisten für die Umsetzung. Ideal für Entwickler und Entscheider, die schnell rechtssicher handeln müssen. Gratis KI‑Leitfaden jetzt sichern