EU-Kommission ermittelt gegen X wegen KI-Deepfakes

Die EU-Kommission hat ein formelles Untersuchungsverfahren gegen die Plattform X wegen ihres KI-Modells Grok eingeleitet. Im Zentrum stehen Vorwürfe, das Tool habe zur Erstellung nicht einvernehmlicher pornografischer Deepfakes genutzt werden können – auch mit möglichen Minderjährigen. Damit könnte X gegen den strengen Digital Services Act (DSA) verstoßen haben.

Die am Montag angekündigte Prüfung untersucht, ob X die systemischen Risiken der Integration von Grok unzureichend bewertet und eingedämmt hat. EU-Beamte zeigen sich alarmiert, dass diese Risiken bereits eingetreten sind und Bürger erheblichem Schaden sowie illegalen Inhalten ausgesetzt wurden. Der Schritt erhöht den regulatorischen Druck auf das Unternehmen, das international bereits unter Beschuss steht.

Digital Services Act als Prüfstein

Die Ermittlungen stützen sich auf den Digital Services Act (DSA), das wegweisende EU-Gesetz für mehr Plattform-Verantwortung. Als sogenannte „Sehr große Online-Plattform“ (VLOP) ist X gesetzlich verpflichtet, systemische Risiken wie die Verbreitung illegaler Inhalte zu identifizieren und zu mindern.

Die Kommission prüft nun, ob die Risikobewertung für Grok vor dessen Start ausreichend war. Besorgnis erregen vor allem manipulierte pornografische Bilder, Inhalte zu geschlechtsspezifischer Gewalt und Material, das als Kindesmissbrauch eingestuft werden könnte. EU-Kommissionspräsidentin Ursula von der Leyen nannte solche digitale Manipulation „inakzeptabel“. Vizepräsidentin Henna Virkkunen bezeichnete sexuelle Deepfakes als „gewalttätige und inakzeptable Form der Erniedrigung“.

Passend zum Thema KI‑Regulierung: Viele Unternehmen unterschätzen die neuen Pflichten der EU‑KI‑Verordnung und laufen Gefahr, hohe Sanktionen zu erhalten. Der kostenlose Umsetzungsleitfaden erklärt verständlich Kennzeichnungspflichten, Risikoklassen, Dokumentationsanforderungen und Übergangsfristen des AI‑Act – inklusive praktischer Checklisten und Vorlagen zur sofortigen Umsetzung. Ideal für Plattformbetreiber, Entwickler und Compliance‑Verantwortliche, die rechtliche Risiken minimieren möchten. KI‑Verordnung: Umsetzungsleitfaden gratis herunterladen

Eskalation nach früheren Strafen

Die Grok-Ermittlung ist eine Ausweitung einer bereits laufenden Prüfung zum Risikomanagement von X. Die Kommission verschärft zudem die Untersuchung der Empfehlungsalgorithmen der Plattform – besonders vor dem Hintergrund, dass X Grok für seine Content-Feeds nutzen will. Die Sorge: Die Algorithmen könnten die Verbreitung schädlicher KI-Inhalte beschleunigen und vergrößern.

Die regulatorische Bilanz von X in der EU ist bereits angeschlagen. Im Dezember 2025 verhängte die Kommission eine Geldstrafe von 120 Millionen Euro wegen irreführender Design-Praktiken, mangelnder Werbetransparenz und unzureichender Datenzugänge für Forscher. Die neue Grok-Untersuchung bedeutet eine weitere erhebliche rechtliche und finanzielle Gefahr.

Internationaler Aufschrei und Reaktion von X

Das EU-Verfahren folgt einem globalen Sturm der Entrüstung. Nutzer, Regierungen und Watchdogs reagierten schockiert, als bekannt wurde, dass Grok Bilder von Personen digital „entkleiden“ konnte. Recherchen der Non-Profit-Organisation Center for Countering Digital Hate legen nahe, dass Grok in kurzer Zeit schätzungsweise drei Millionen sexualisierte Bilder generierte – Tausende davon mit Darstellungen von Kindern. Auch in Großbritannien und anderen Ländern laufen bereits Untersuchungen.

X verwies auf eine Stellungnahme vom 14. Januar, in der das Unternehmen sein Engagement für Sicherheit und eine Null-Toleranz-Politik bei Kindesmissbrauch und nicht einvernehmlicher Nacktheit bekräftigte. Man habe Maßnahmen zur Entfernung verstoßender Inhalte ergriffen und die Bildbearbeitungsfunktionen der KI eingeschränkt. EU-Beamte halten diese reaktiven Schritte jedoch möglicherweise für ungenügend, um die grundlegenden systemischen Risiken zu adressieren.

Weichenstellung für KI-Regulierung

Das Verfahren ist ein entscheidender Präzedenzfall für die Durchsetzung des DSA. Sollte X schuldig gesprochen werden, drohen hohe Strafen von bis zu 6 Prozent des globalen Jahresumsatzes. Die Kommission will die Ermittlungen priorisieren und weitere Beweise anfordern.

Die Untersuchung findet zeitgleich mit den Vorbereitungen für den noch umfassenderen KI-Gesetz (AI Act) statt. Ab August 2026 wird dieser verbindliche Transparenzregeln einführen, etwa eine klare Kennzeichnung von KI-generierten Inhalten wie Deepfakes. Das Ergebnis der aktuellen DSA-Ermittlung wird maßgeblich beeinflussen, wie generative KI-Technologien auf großen Plattformen künftig reguliert werden – und zeigt, dass die EU entschlossen ist, ihre regulatorische Macht gegen den Missbrauch Künstlicher Intelligenz einzusetzen.

PS: Die laufende DSA‑Ermittlung gegen Grok macht deutlich, wie schnell Plattformen unter europäische Aufsicht fallen können. Wer jetzt Nachweise, Risikobewertungen und Dokumentationen vorbereitet, reduziert sein Rechtsrisiko erheblich. Unser kostenloser Leitfaden zur KI‑Verordnung bietet eine Schritt‑für‑Schritt‑Checkliste zur Klassifizierung, Meldung und Nachweispflicht großer KI‑Systeme – praktisch für Betreiber und Compliance‑Teams. Jetzt kostenlosen KI‑Umsetzungsleitfaden anfordern