AI Act: EU verbietet intime Deepfakes ab Dezember, Strafen bis 35 Mio.
17.06.2026 - 00:20:12 | boerse-global.de
Mit 423 Stimmen bei 57 Gegenstimmen und 174 Enthaltungen verabschiedeten die Abgeordneten ein Paket, das unter anderem sogenannte „Nudifier"-Anwendungen verbietet und Unternehmen mehr Zeit für die Einhaltung der Regeln für Hochrisiko-KI einräumt. Die formelle Annahme durch den Europäischen Rat steht noch aus.
Die neue EU-KI-Verordnung stellt Unternehmen vor komplexe Herausforderungen bei der Risikoklassifizierung und Dokumentation. Dieser kostenlose Umsetzungsleitfaden bietet Ihnen einen kompakten Überblick über alle neuen Pflichten und Fristen des AI Act. EU AI Act in 5 Schritten verstehen: Fristen, Pflichten und Risikoklassen kompakt erklärt
Scharfe Verbote und neue Transparenzpflichten
Die EU wird künftig KI-Systeme strikt verbieten, die nicht-einvernehmliche intime Bilder oder Material über sexuellen Kindesmissbrauch erstellen. Diese Regelung tritt zusammen mit neuen Kennzeichnungspflichten für KI-generierte Inhalte am 2. Dezember 2026 in Kraft. Anbieter solcher Systeme müssen technische Schutzmaßnahmen implementieren. Ausnahmen gelten für einvernehmliche Erstellung, künstlerische Ausdrucksformen und medizinische Zwecke.
Die Transparenzanforderungen verschärfen sich ebenfalls. Bereits am 10. Juni veröffentlichte die EU-Kommission einen freiwilligen Verhaltenskodex zur Kennzeichnung von KI-Inhalten. Ab dem 2. August 2026 greifen die Transparenzpflichten aus Artikel 50 des AI Act: Deepfakes und KI-generierte Texte zu öffentlichen Interessen müssen dann verpflichtend gekennzeichnet werden. Auch bei Interaktionen mit Chatbots oder anderen KI-Systemen müssen Plattformen die Nutzer klar informieren.
Die Strafen bei Verstößen sind empfindlich: Bis zu 35 Millionen Euro oder sieben Prozent des weltweiten Jahresumsatzes drohen Unternehmen.
Verlängerte Fristen für Hochrisiko-KI
Die Abgeordneten haben den Zeitplan für Hochrisiko-KI-Systeme angepasst, um der Industrie mehr Zeit für technische Anpassungen zu geben. Für eigenständige Hochrisiko-Systeme gilt die neue Frist nun bis zum 2. Dezember 2027. Bei KI-Systemen, die in Produkte integriert sind, verschiebt sich die Frist auf den 2. August 2028.
Bestehende Regelungen bleiben unverändert: Die Verbote bestimmter Praktiken gelten bereits seit dem 2. Februar 2025, die Pflichten für allgemeine KI-Systeme (GPAI) seit dem 2. August 2025. Kleine und mittlere Unternehmen profitieren von erweiterten Ausnahmen – nun sind auch mittelgroße Firmen eingeschlossen.
Angesichts drohender Millionen-Bußgelder sollten Compliance-Verantwortliche jetzt prüfen, welche ihrer Systeme unter die neuen Hochrisiko-Regelungen fallen. Erfahren Sie in diesem kostenlosen Report, wie Sie die gesetzlichen Anforderungen rechtssicher in Ihre IT-Struktur integrieren. Welche KI-Systeme gelten als Hochrisiko – und was müssen Unternehmen jetzt konkret tun?
USA greifen bei Frontier-Modellen durch
Während Europa seinen Rechtsrahmen festigt, schreitet die US-Regierung mit direkten Maßnahmen voran. Am 12. Juni erließ Washington eine Exportkontrollverordnung, die Anthropic verpflichtet, den ausländischen Zugriff auf seine Modelle Fable 5 und Mythos 5 zu blockieren. Auslöser war eine von Amazon identifizierte Sicherheitslücke, die sogenannte „Jailbreak"-Angriffe ermöglichte.
Anthropic deaktivierte daraufhin beide Modelle vollständig. CEO Dario Amodei führte Gespräche mit dem US-Finanz- und Handelsministerium. Das Unternehmen argumentiert, die Sicherheitsbedenke seien nicht einzigartig – ähnliche Schwachstellen existierten auch in konkurrierenden Modellen wie GPT-5.5.
Parallel dazu wurde am 4. Juni ein überparteilicher Gesetzesentwurf, der Great American AI Act 2026 (GAAIA), vorgestellt. Er sieht eine Aufsicht für Frontier-Modelle mit Einnahmen über 50 Millionen US-Dollar vor. Diese müssten künftig alle sechs Monate unabhängige Audits durchführen und Sicherheitsvorfälle innerhalb von 15 Tagen melden. Zudem verlangt eine Verfügung vom Juni 2026 eine 30-tägige Vorabprüfung für leistungsstarke KI-Modelle.
Indien verschärft Justiz- und Digitalregeln
Auch Indien zieht nach. Der Oberste Gerichtshof veröffentlichte am 3. Juni einen Entwurf, der ein absolutes Verbot von KI für Risikobewertungen in Gerichtsverfahren vorsieht – etwa zur Vorhersage von Rückfall- oder Fluchtgefahr. KI soll künftig nur noch rein unterstützende Funktionen übernehmen dürfen.
Gleichzeitig plant das indische Ministerium für Elektronik und Informationstechnologie, die IT-Regeln zu ändern. Eine „deutliche und durchgehende" Kennzeichnung synthetischer Inhalte soll Pflicht werden. Plattformen, die sich nicht an die Vorgaben zu KI-generierten Inhalten halten, droht der Verlust ihrer rechtlichen Immunität („Safe Harbor").
