KI-Transparenz: EU verschärft Regeln für Chatbots ab sofort

Die Europäische Union zieht die Zügel an: Seit dem 2. August 2026 gelten verschärfte Transparenzpflichten für KI-Anbieter. Das neue EU-KI-Amt überwacht die Einhaltung des KI-Gesetzes. Chatbots müssen ihre Identität offenlegen, Deepfakes klar gekennzeichnet werden. Für bestehende Systeme läuft die Übergangsfrist bis zum 2. Dezember.

Lücken im Schutzschild

Ein Test der Organisation Correctiv vom 4. August zeigt jedoch: Die Wirksamkeit der Schutzmechanismen variiert stark. Während Meta AI die Erstellung von Falschmeldungen weitgehend verweigerte, produzierten ChatGPT und Gemini täuschend echte Falschnachrichten – inklusive imitierter Designs von Tagesschau, New York Times oder BBC. Microsofts Copilot kennzeichnete Inhalte zwar als KI-generiert, unterband die Erstellung aber nicht grundsätzlich.

Operation Matrjoschka: Desinformation vor der Wahl

Besonders brisant: die russische Kampagne „Operation Matrjoschka“. Sie zielt laut Expertenbeobachtungen auf die Landtagswahlen im September ab. Gefälschte Videos im Namen namhafter Medienhäuser sollen politische Stimmungen manipulieren. Fachleute wie Karolin Schwarz raten: Verdächtige Inhalte nicht teilen, sondern melden und Absender blockieren.

Die Lage ist auch international angespannt. Nach massenhaften Grenzübertritten in Ceuta kursierten zahlreiche Desinformationen. Internetrechtsexperte Matthias Kettemann verweist auf EU-Recht: Bei systematischer Verbreitung solcher Inhalte können Plattformen haftbar gemacht werden. Der NDR berichtete zudem Anfang August über manipulierte Videos vor Wahlen in Nordostdeutschland, die durch Nachahmung bekannter Medienmarken Seriosität vortäuschten.

Medienkompetenz als Schutzschild

Seit dem 2. August 2026 gelten in der EU verschärfte Transparenzpflichten für KI-Anbieter: Chatbots müssen ihre Identität offenlegen, Deepfakes klar gekennzeichnet werden. Wer diese Regeln nicht umsetzt, riskiert rechtliche Konsequenzen. Unser Report liefert eine konkrete Compliance-Checkliste und zeigt, wie Sie KI-Inhalte korrekt kennzeichnen. Jetzt kostenlosen Compliance-Report anfordern

Mecklenburg-Vorpommern setzt auf Prävention: Die Landesregierung plant eine verstärkte Förderung der Medienkompetenz. Der Hintergrund: Über 90 Prozent der Jugendlichen nutzen regelmäßig soziale Medien, bei einem Teil der 10- bis 17-Jährigen zeigen sich riskante Nutzungsmuster. Ministerpräsidentin Manuela Schwesig unterstützt Vorschläge für bildschirmfreie Zeiten bei Kleinkindern und begleitete Nutzung für ältere Kinder.

Technik gegen Täuschung

Das Fraunhofer-Institut SIT in Darmstadt entwickelt derzeit ein Echtzeit-Warnsystem für Videokonferenzen. Die Software kombiniert Audio- und Videoanalyse und zeigt die Wahrscheinlichkeit eines Deepfakes an – lokal auf dem Endgerät. Forscher der University of California stellten zudem das Werkzeug SAGA vor: Es erkennt nicht nur KI-Videos, sondern identifiziert auch das zugrunde liegende KI-Modell.

Aufklärung und Rechtsprechung

Das Landeskriminalamt Rheinland-Pfalz und die Verbraucherzentrale klären in Veranstaltungen über Phishing und Fake-Shops auf. Ein Web-Seminar am 19. August richtet sich direkt an Verbraucher.

Der Correctiv-Test zeigt: Selbst führende KI-Chatbots wie ChatGPT und Gemini erstellen täuschend echte Falschmeldungen – ein Risiko für Ihre Marke. Erfahren Sie, wie Sie Deepfake-Angriffe erkennen und Ihre Kommunikation absichern. Deepfake-Schutz-Leitfaden jetzt sichern

Auch die Gerichte schärfen die Regeln: Das Landgericht Deggendorf entschied am 27. März (Az. 1 HK O 6/25), dass Online-Händler offenlegen müssen, wie sie die Echtheit von Kundenbewertungen prüfen. Fehlt diese Information, gilt das als Wettbewerbsverstoß.

Verbraucherschutzministerin Theresa Schopper fordert derweil verbindliche EU-Regeln für KI-Assistenten. Menschen müssten die Kontrolle über automatisierte Prozesse behalten – inklusive klarer Kennzeichnung KI-getriebener Entscheidungen und transparenter Kostenkontrollen.

de | wissenschaft | 69920997 |