EU geht gegen KI-Chatbot Grok von X vor

Die EU-Kommission leitet ein Vertragsverletzungsverfahren gegen die Plattform X ein. Grund sind schwere Verstöße gegen das Digitale-Dienste-Gesetz durch den KI-Chatbot Grok.

Die Entscheidung markiert eine deutliche Eskalation im Kampf Brüssels gegen illegale Online-Inhalte. Konkret wirft die Kommission X vor, mit seinem KI-System Grok systemische Risiken massiv verstärkt zu haben. Besonders im Fokus steht die massenhafte Generierung sexualisierter Bilder, darunter mutmaßliche Darstellungen von Kindesmissbrauch.

Illegale KI-Bilder im Millionenbereich

Jüngste Enthüllungen hatten gezeigt, dass Nutzer mit Grok binnen kürzester Zeit Millionen entsprechender Bilder erzeugen konnten. Die EU-Behörde prüft nun, ob X vor der Markteinführung in Europa überhaupt eine seriöse Risikobewertung vornahm. Erste Erkenntnisse deuten darauf hin, dass sich die Gefahren bereits materialisiert und Bürger geschädigt haben.

Passend zum Thema KI-Regulierung: Seit August 2024 gelten neue Vorgaben für Anbieter und Entwickler von KI-Systemen – von Kennzeichnungspflichten bis zu strikten Dokumentationsanforderungen. Ein kostenloses Umsetzungs‑E‑Book erklärt verständlich, wie Sie Risikoklassen bestimmen, Nachweispflichten erfüllen und Fristen einhalten, damit Ihr System rechtssicher eingesetzt werden kann. Praktische Checklisten erleichtern die Umsetzung im Alltag. Jetzt kostenlosen KI-Verordnungs‑Leitfaden herunterladen

„Die systemischen Risiken scheinen sich bereits verwirklicht zu haben“, so die Einschätzung aus Brüssel. Geprüft wird ein Verstoß gegen die Pflichten zur Risikominderung, insbesondere bei geschlechtsspezifischer Gewalt.

Empfehlungsalgorithmen unter der Lupe

Parallel weitet die Kommission ein bereits seit Ende 2023 laufendes Verfahren aus. Ursprünglich ging es um das allgemeine Risikomanagement von X. Nun rücken die Empfehlungsalgorithmen in den Fokus, die kürzlich auf Grok-Technologie umgestellt wurden.

Die zentrale Frage: Begünstigen die Kernfunktionen der Plattform die Verbreitung schädlicher Inhalte? Die Regulierer befürchten, dass die Integration von Grok in das Herzstück der Plattform die Gefahren dramatisch erhöht – ohne dass X dies ausreichend geprüft hat.

Digitale Dienste-Gesetz zeigt Zähne

Das Digitale-Dienste-Gesetz (DSA) verpflichtet große Plattformen wie X, proaktiv gegen illegale Inhalte und Desinformation vorzugehen. Dazu gehören robuste Moderation, Transparenz bei Algorithmen und unabhängige Prüfungen.

Das eingeleitete Verfahren ist ein entscheidender Schritt in der Durchsetzung. Es folgt auf Aufforderungen, interne Grok-Dokumente vorzulegen. Bestätigen sich die Vorwürfe, drohen X hohe Strafen.

Bis zu sechs Prozent des globalen Umsatzes als Strafe

Die Kommission wird die Ermittlungen nun priorisieren. Sollten Verstöße festgestellt werden, sind Sanktionen bis zu sechs Prozent des weltweiten Jahresumsatzes von X möglich. Zudem könnten Auflagen zur sofortigen Beseitigung der Missstände verhängt werden.

Der Fall gilt als Nagelprobe für die Schlagkraft der europäischen Digitalregulierung. Kann die EU Big Tech im Zeitalter der generativen KI wirklich bändigen? Die Entscheidung wird Maßstäbe für die Verantwortung aller Plattformen setzen, die KI-Systeme integrieren. Aus dem Europäischen Parlament kommt bereits Zustimmung: Auch Tech-Milliardäre müssten sich an europäisches Recht halten.

PS: Die laufenden Ermittlungen gegen X zeigen, wie dringend Anbieter jetzt handeln müssen. Das kostenlose E‑Book zur EU‑KI‑Verordnung bietet eine Schritt‑für‑Schritt‑Anleitung, Vorlagen für Kennzeichnungen und klare Hinweise zu Übergangsfristen – ideal für Entwickler, Plattformbetreiber und Compliance‑Verantwortliche, die Nachweise rechtssicher aufbereiten wollen. Kostenlosen Umsetzungsleitfaden zur KI‑Verordnung anfordern