KI-Transparenz: EU-Kennzeichnungspflicht für Deepfakes ab heute

Seit heute müssen Anbieter von KI-Systemen in der EU klar kennzeichnen, wenn Inhalte von Maschinen erzeugt wurden. Die ersten großen Transparenzregeln des EU AI Acts sind damit aktiv – ein Meilenstein im Kampf gegen Deepfakes und Manipulation.

Pflicht zur Kennzeichnung von KI-Inhalten

Alle KI-generierten Bilder, Audiodateien und Texte, die authentisch wirken sollen, müssen künftig sichtbare Labels tragen. Doch damit nicht genug: Die Verordnung verlangt zusätzlich maschinenlesbare Metadaten und Wasserzeichen. Diese technischen Maßnahmen sollen sicherstellen, dass KI-Inhalte auch dann erkennbar bleiben, wenn sie über verschiedene Plattformen geteilt werden.

Die Transparenzpflichten gehen über reine Inhaltskennzeichnung hinaus. Anbieter müssen offenlegen, wenn Nutzer mit einem Chatbot oder KI-gesteuerten System interagieren. Auch der Einsatz von Emotionserkennungstechnologie muss gegenüber den überwachten Personen offengelegt werden. Die EU-Kommission hat zwar Symbolvorschläge für die Kennzeichnung veröffentlicht – diese sind jedoch nicht verpflichtend. Die grundlegende Informationspflicht bleibt bestehen.

Abgrenzung: Harmlose Bearbeitung versus Deepfake

Die finalen Leitlinien der Kommission präzisieren, welche Eingriffe eine Kennzeichnungspflicht auslösen. Routineanpassungen wie Farbkorrekturen oder Bildausschnitt-Veränderungen fallen nicht unter die Regelung. Anders sieht es bei invasiven Modifikationen aus: Face-Swapping oder die Erstellung von Deepfakes erfordern eine ausdrückliche Offenlegung.

Die neuen Transparenzpflichten für KI-generierte Inhalte sind erst der Anfang einer umfassenden Regulierungswelle. Dieser kostenlose Leitfaden hilft Unternehmen dabei, den Überblick über alle Fristen, Pflichten und Risikoklassen der EU-Verordnung zu behalten. EU AI Act in 5 Schritten verstehen

Die Vorschriften sehen Ausnahmen vor, um redaktionelle und kreative Freiheit zu schützen. Inhalte, die eine substanzielle redaktionelle Prüfung durch Menschen durchlaufen haben, sind von der Textkennzeichnungspflicht befreit. Zudem gelten Ausnahmen für rein persönliche, künstlerische oder satirische Zwecke – sofern keine anderen rechtlichen Schutzbestimmungen verletzt werden.

Aufsicht: Neues KI-Büro und nationale Behörden

Für die Überwachung der neuen Anforderungen hat die EU ein eigenes KI-Büro in Brüssel eingerichtet. Das Team soll KI-Modelle auf Risiken prüfen – darunter Deepfakes, illegale Inhalte und Cyberbedrohungen. Zusätzlich starten ein Beschwerde-Tool und ein Hinweisgeberkanal, um Verstöße zu melden.

In Deutschland ist die Bundesnetzagentur als zentrale Durchsetzungsbehörde benannt. Die Regulierer stehen vor praktischen Herausforderungen: Technische Schwierigkeiten bei dauerhaften Wasserzeichen und wirtschaftliche Faktoren erschweren die Umsetzung. Die Durchsetzung beginnt zudem in einer Phase, in der auch die Arbeitsmarktbedingungen beobachtet werden – die reale Lohnentwicklung ist seit 2023 um 6,7 Prozent gesunken.

Wer beruflich mit KI-Systemen arbeitet, muss jetzt klären, ob die eingesetzten Tools unter die neuen Hochrisiko-Kategorien fallen. Dieser kostenlose Praxis-Report liefert Compliance-Verantwortlichen und IT-Abteilungen die nötigen Antworten zur rechtskonformen Dokumentation. Jetzt kostenlosen Umsetzungsleitfaden sichern

Fristen und Strafen für Verstöße

Während die Transparenzregeln aus Artikel 50 nun aktiv sind, folgt der EU AI Omnibus (Verordnung 2026/1744), der am 27. Juli 2026 in Kraft trat, einem gestaffelten Zeitplan. Die Deepfake-Kennzeichnung gilt sofort, viele Pflichten für Hochrisiko-KI-Systeme wurden jedoch auf Dezember 2027 oder August 2028 verschoben. Neue Verbote zur Erstellung nicht einvernehmlicher intimer Bilder sollen im Dezember 2026 greifen.

Unternehmen, die gegen den AI Act verstoßen, drohen empfindliche Strafen. Bei verbotenen Praktiken können Bußgelder bis zu 7 Prozent des weltweiten Jahresumsatzes verhängt werden. Andere Verstöße können mit bis zu 5 Prozent des Tagesumsatzes geahndet werden. Bereits mehr als 180 Organisationen haben einen freiwilligen Verhaltenskodex unterzeichnet, der als Rahmen für den Nachweis der Einhaltung der neuen Standards dient. Bestehende KI-Systeme, die vor Inkrafttreten der Regeln eingesetzt wurden, haben bis zum 2. Dezember Zeit, sich anzupassen.

de | wissenschaft | 69909524 |