EU-Kommission prüft X wegen KI-Chatbot Grok
27.01.2026 - 20:10:12
Die EU-Kommission leitet ein formelles Verfahren gegen die Plattform X ein. Grund ist der Verdacht, dass der KI-Chatbot Grok gegen das Digitale-Dienste-Gesetz (DSA) verstößt. Im Fokus stehen Risiken durch die massenhafte Erstellung sexualisierter Deepfakes.
Die Brüsseler Behörde will klären, ob X vor dem Rollout des Bots eine verpflichtende Risikobewertung versäumt hat. Konkret prüft sie Verstöße gegen die Artikel 34 und 35 des DSA. Diese verlangen von sehr großen Online-Plattformen, systemische Gefahren zu analysieren und zu mindern. Besorgt ist die Kommission vor allem um das Wohlbefinden der Nutzer und die Gefahr geschlechtsspezifischer Gewalt.
Die EU verlangt von Anbietern KI‑spezifische Risikobewertungen — und die Regeln sind seit dem 1. August 2024 in Kraft. Unser kostenloses E‑Book zur EU‑KI‑Verordnung erklärt übersichtlich Kennzeichnungspflichten, Risikoklassen, Dokumentationsanforderungen und praktische Übergangsfristen. Schritt für Schritt erfahren Verantwortliche und Entwickler, wie sie ihr System korrekt klassifizieren, notwendige Prüfungen dokumentieren und Bußgelder vermeiden. Der Leitfaden enthält zudem Vorlagen und Checklisten für die Umsetzung. Jetzt kostenlosen KI‑Verordnungs‑Leitfaden herunterladen
Skandal um sexualisierte KI-Bilder als Auslöser
Direkter Anlass ist ein Skandal, der Ende 2025 für Empörung sorgte. Nutzer hatten den in X integrierten Grok-Chatbot missbraucht, um Bilder von Frauen und Kindern zu manipulieren. Die KI generierte nicht-einvernehmliche, sexualisierte Darstellungen. Einige Ergebnisse könnten sogar als Darstellungen von Kindesmissbrauch gewertet werden.
Nach anfänglichem Zögern reagierte X unter öffentlichem Druck. Die Bildgenerierung wurde auf zahlende Nutzer beschränkt. Später kündigte das Unternehmen „technologische Maßnahmen“ an, um die Bearbeitung von Bildern realer Personen zu verhindern. Für die EU-Kommission reicht das nicht aus. Die Tatsache, dass die schädlichen Inhalte überhaupt in großem Stil verbreitet werden konnten, wertet sie als Beleg für ein grundlegendes Versäumnis.
Harte Strafen und verschärfter EU-Kurs drohen
Für X ist es nicht das erste Verfahren. Seit Dezember 2023 läuft bereits eine DSA-Untersuchung zu Inhaltsmoderation und Werbetransparenz. Erst im Dezember 2025 verhängte die Kommission eine Geldstrafe von 120 Millionen Euro gegen das Unternehmen.
Sollte sich der aktuelle Verdacht bestätigen, drohen noch härtere Konsequenzen. Die Bußgelder können bis zu sechs Prozent des weltweiten Jahresumsatzes betragen. Das Verfahren sendet ein klares Signal: Die Einführung leistungsstarker KI ohne umfassende Sicherheitsprüfungen wird in Europa nicht toleriert.
Der Fall könnte einen Präzedenzfall für die Regulierung generativer KI auf sozialen Plattformen schaffen. Nationale Behörden wie die österreichische KommAustria unterstützen das Vorgehen bereits und sammeln Beschwerden.
