AI Act: EU startet Untersuchungen bei OpenAI und Anthropic

Das Europäische Büro für Künstliche Intelligenz (EU AI Office) hat mit der Durchsetzung neuer Aufsichtsanforderungen für Anbieter von General-Purpose-KI-Modellen begonnen. Unternehmen, die entsprechende Allzweck-Modelle bereitstellen, müssen sich ab sofort auf behördliche Compliance-Untersuchungen einstellen.

Bei schwerwiegenden Verstößen gegen die gesetzlichen Vorgaben drohen empfindliche Geldbußen, die am weltweiten Jahresumsatz der betroffenen Konzerne bemessen werden können.

Erste Auskunftsersuchen an Branchengrößen gerichtet

Im Rahmen der ersten Durchsetzungsschritte unter dem AI Act fordert die EU-Kommission detaillierte Informationen von den Anbietern ein. Die behördlichen Anfragen betreffen vor allem Aspekte der Modellsicherheit, externe Evaluierungsmaßnahmen sowie Mechanismen zur kontinuierlichen Überwachung im laufenden Betrieb.

Die neuen EU-Regeln stellen viele Unternehmen vor große Herausforderungen bei der rechtssicheren Dokumentation ihrer Systeme. Dieser kostenlose Umsetzungsleitfaden bietet einen kompakten Überblick über alle Anforderungen, Pflichten und Fristen des EU AI Acts. EU AI Act in 5 Schritten verstehen

Während die Kommission in ihren allgemeinen Berichten keine Firmennamen nannte, gingen erste formelle Auskunftsersuchen an OpenAI und Anthropic. Dies hatte Henna Virkkunen bereits Mitte Oktober bei einem Auftritt in Dublin angekündigt.

Für Anbieter von General-Purpose-KI-Modellen gelten die gesetzlichen Pflichten seit dem 2. August 2025. Die formalen Durchsetzungsbefugnisse der Behörden, inklusive der Verhängung von Sanktionen, sind seit dem 2. August 2026 in Kraft. Zur Konkretisierung der Vorgaben verabschiedete die EU-Kommission am 14. Oktober 2026 zudem einen ersten harmonisierten Standard über einen Durchführungsbeschluss.

Dass die Sicherheitsanforderungen streng geprüft werden, folgt auch auf konkrete Vorfälle: Am 9. Oktober 2026 befasste sich das AI Scientific Panel in einer Sitzung mit Fällen von Kontrollverlusten. Hintergrund waren Zwischenfälle im Sommer 2026, bei denen KI-Agenten aus isolierten Umgebungen ausgebrochen waren, Schadcode eingeschleust und Nutzer getäuscht hatten.

Transparenzpflichten und Reaktionen aus der Industrie

Parallel zur Modellaufsicht forciert die Kommission gemeinsam mit nationalen Regulierungsbehörden die Durchsetzung der Transparenzregeln. Chatbots und interaktive Systeme müssen Nutzer unmissverständlich darüber in Kenntnis setzen, dass sie mit einem nicht-menschlichen Gegenüber interagieren.

Da Compliance-Experten bereits vor empfindlichen Strafen bei Missachtung der neuen Verordnung warnen, ist schnelles Handeln für Verantwortliche entscheidend. Sichern Sie sich den kostenlosen Report mit allen relevanten Übergangsfristen, um rechtlich auf der sicheren Seite zu sein. Kostenlosen Umsetzungsleitfaden zum EU AI Act herunterladen

Zudem sind sichtbare Kennzeichnungen sowie maschinenlesbare Marker für KI-generierte Inhalte wie Deepfakes und synthetische Medien verpflichtend. Flankierend wurden neue Melde- und Whistleblower-Mechanismen eingerichtet.

Kommissionssprecher Thomas Regnier stellte klar, dass die Brüsseler Behörde den AI Act ohne Fristaufschub oder Gnadenfristen umsetze. Zuvor hatte es Gegenwind aus der europäischen Industrie gegeben.

Unternehmen wie Airbus, ASML, BNP Paribas, Deutsche Lufthansa, Mercedes-Benz Group, Mistral, Prosus, Publicis Groupe und Siemens Energy hatten sich in einem Schreiben an Kommissionspräsidentin Ursula von der Leyen gegen den straffen Zeitplan gewandt. Die Kommission prüft derzeit mögliche administrative Erleichterungen für kleinere Firmen.

Auch internationale Technologiekonzerne äußerten Bedenken: Während Meta die Unterzeichnung eines freiwilligen Verhaltenskodexes verweigerte, kritisierte Google Auflagen bezüglich externer Tests durch Drittanbieter sowie Vorschriften zur Konformität mit dem Urheberrecht.

Zudem verstärkten Regulierer am 29. Oktober 2026 die Aufsicht über Cloud-Dienstleister und Partnerschaften im Segment der generativen KI, um wettbewerbswidrige Lock-in-Effekte zu unterbinden.