EU-Kommission leitet Verfahren gegen X wegen KI-Chatbot Grok ein

Die EU-Kommission hat ein formelles Verfahren gegen die Plattform X eingeleitet. Grund ist der Verdacht, dass das Unternehmen mit seinem KI-Chatbot Grok gegen das strenge EU-Digitalrecht verstoßen hat. Dieser Schritt markiert einen Wendepunkt in der Regulierung von Künstlicher Intelligenz in Europa.

Konkret wirft die Brüsseler Behörde X vor, bei der Einführung des Chatbots die Risikobewertungs- und Minderungspflichten des Digital Services Act (DSA) nicht ausreichend erfüllt zu haben. Im Fokus stehen Berichte, nach denen Nutzer Grok missbrauchten, um manipulierte und sexualisierte Bilder zu erstellen. Die Kommission prüft nun, ob X die systemischen Risiken seiner Dienste sorgfältig analysiert und wirksame Gegenmaßnahmen ergriffen hat.

Passend zum Thema KI-Regulierung: Seit August 2024 gelten in der EU neue Regeln für KI-Systeme, die Entwickler und Plattformbetreiber unmittelbar betreffen. Ein kostenloser Umsetzungsleitfaden erklärt praxisnah, wie Sie Ihr System korrekt klassifizieren, Dokumentationspflichten erfüllen und Fristen einhalten, um Bußgelder zu vermeiden. Ideal für Compliance-Verantwortliche und Tech-Teams, die jetzt schnell handeln müssen. Jetzt kostenlosen KI-Umsetzungsleitfaden herunterladen

Erste große Bewährungsprobe für den Digital Services Act

Das Verfahren gegen X ist eine der ersten großen Prüfungen für den DSA, der seit Februar 2024 für alle Online-Plattformen in der EU gilt. Die Kommission konzentriert sich auf die Artikel 34 und 35. Diese verpflichten sehr große Plattformen wie X, die gesellschaftlichen Risiken ihrer Systeme – etwa die Verbreitung illegaler Inhalte – gründlich zu bewerten und zu minimieren.

Die zentrale Frage lautet: Hat X die Gefahren der generativen KI-Technologie hinter Grok vor der Markteinführung ausreichend analysiert? Der Skandal um die Erstellung von Deepfakes scheint Befürchtungen der Aufsichtsbehörden zu bestätigen. Bei einem nachgewiesenen Verstoß drohen X Strafen von bis zu sechs Prozent des weltweiten Jahresumsatzes. Allein die Einleitung des Verfahrens zeigt die Entschlossenheit Brüssels, das Digitalrecht konsequent durchzusetzen.

Was der DSA für Plattformen bedeutet

Der Fall Grok beleuchtet nur einen Teil des umfassenden DSA-Regelwerks. Das Gesetz zielt auf ein sichereres und transparenteres Internet ab. Plattformen müssen entschieden gegen illegale Inhalte wie Hassrede und Desinformation vorgehen. Ein Kernstück ist die Stärkung der Nutzerrechte.

Für sehr große Plattformen gelten besonders strenge Pflichten. Sie müssen für Transparenz bei Online-Werbung sorgen und sogenannte Dark Patterns – manipulative Benutzeroberflächen – vermeiden. Personalisierte Werbung auf Basis sensibler Daten oder gezielt an Minderjährige ist stark eingeschränkt. Die Aufsichtsbehörden nehmen die Durchsetzung dieser Regeln nun verstärkt in den Fokus.

Der AI Act: Der parallele Rechtsrahmen für KI

Während der DSA die Nutzung von KI auf Plattformen regelt, schafft der KI-Gesetz (AI Act) einen spezifischen Rahmen für die Entwicklung und den Einsatz Künstlicher Intelligenz. Das weltweit erste umfassende KI-Gesetz folgt einem risikobasierten Ansatz.

KI-Anwendungen mit inakzeptablem Risiko, wie Social Scoring, sind verboten. Für Hochrisiko-Systeme – etwa in kritischer Infrastruktur oder im Personalwesen – gelten strenge Anforderungen. Auch generativen Modellen wie Grok werden spezifische Transparenzpflichten auferlegt. Viele Bestimmungen des bereits in Kraft getretenen AI Acts haben jedoch noch Übergangsfristen.

Was der Fall Grok für die Tech-Branche bedeutet

Das Vorgehen gegen X zeigt, wie die Säulen der europäischen Digitalregulierung – DSA und AI Act – ineinandergreifen. Die Kommission nutzt die vorhandenen DSA-Instrumente, um bereits jetzt gegen KI-bedingte Schäden vorzugehen. Die Botschaft an die Industrie ist klar: Die Einhaltung europäischer Werte bei der digitalen Transformation ist nicht verhandelbar.

Für Plattformbetreiber bedeutet dies eine neue Ebene der Sorgfaltspflicht. Umfassende Risikobewertungen und wirksame Schutzmechanismen für neue KI-Funktionen sind gesetzliche Pflicht, nicht freiwillige Option. Der Fall Grok könnte nur der Anfang einer neuen Ära sein, in der Innovation und regulatorische Verantwortung in Europa enger verknüpft sind denn je.

PS: Übrigens – wenn Sie sich gezielt auf die EU-Vorgaben vorbereiten möchten: Ein kompakter Praxis-Leitfaden zur KI-Verordnung fasst Kennzeichnungspflichten, Risikoklassen und Dokumentationsanforderungen verständlich zusammen und bietet eine Schritt-für-Schritt-Checkliste für Entwickler und Compliance-Teams. Kostenloser Download. KI-Leitfaden jetzt gratis anfordern