Frontier-KI: TÜV-Verband fordert unabhängige Prüfungen für Hochleistungsmodelle
Veröffentlicht am: 16.11.2026 um 17:25 Uhr | Redaktion boerse-global.deAnlässlich des Digital-Gipfels der Bundesregierung verlangen der TÜV-Verband und das TÜV AI.Lab eine unabhängige Prüf- und Aufsichtsstruktur für sogenannte Frontier-KI und autonome KI-Agenten. In einem dazu veröffentlichten Whitepaper sprechen sich die Organisationen dafür aus, hochentwickelte Systeme nicht ohne externe Kontrolle im Markt agieren zu lassen, wie aus einem Bericht der Branchenfachpresse hervorgeht.
Die Initiative zielt auf die nächste Generation künstlicher Intelligenz ab. Hochleistungsmodelle, die an vorderster Front der technologischen Entwicklung stehen, sowie weitgehend eigenständig handelnde Software-Agenten bergen nach Ansicht der Verfasser neuartige Sicherheitsrisiken, denen mit bisherigen Ansätzen kaum noch begegnet werden könne.
Ganzheitliche Kontrolle über den gesamten Entwicklungszyklus
Nach den Vorstellungen des TÜV-Verbands und des TÜV AI.Lab darf sich die Überprüfung nicht auf punktuelle Kontrollen nach Fertigstellung der Software beschränken. Vorgeschlagen wird ein umfassendes Prüfkonzept, das bereits während der Entwicklungsphase ansetzt, vor der Markteinführung greift und über den gesamten Lebenszyklus der Systeme hinweg fortgeführt wird.
Damit externe Fachleute Risiken verlässlich einschätzen können, fordern die Prüforganisationen weitreichende Befugnisse. Prüfer müssten demnach uneingeschränkten Zugang zu den Modellen selbst, zu den zugrundeliegenden Trainingsprozessen sowie zu allen sicherheitsrelevanten Entwicklungsinformationen erhalten.
Joachim Bühler vom TÜV-Verband unterstrich in diesem Zusammenhang, dass eine fundierte Sicherheitsbewertung keinesfalls allein auf den Angaben und Selbstverpflichtungen der Hersteller basieren dürfe.
Ausbau des deutschen Sicherheitsinstituts AISI
Eine zentrale Rolle in der künftigen Kontrollarchitektur soll nach dem Willen der Verfasser das deutsche KI-Sicherheitsinstitut (AISI) einnehmen. Das Whitepaper fordert, die Institution schrittweise zu einer eigenständigen Einrichtung auszubauen und mit ausreichenden finanziellen wie personellen Ressourcen auszustatten.
Zu den Kernaufgaben des AISI sollten dem Papier zufolge die Entwicklung praxistauglicher Prüfmethoden und die Sicherstellung des operativen Zugangs zu den Modellen gehören. Zugleich wird betont, dass die staatliche Aufsicht über das Verfahren uneingeschränkt bestehen bleiben müsse, um das Vertrauen der Öffentlichkeit und der Wirtschaft in die Kontrollmechanismen zu sichern.
Europäische Standards und internationale Kooperation
Neben nationalen Schritten drängen der TÜV-Verband und das TÜV AI.Lab auf eine enge Verzahnung über die Landesgrenzen hinaus. Auf europäische Ebene seien einheitliche Sicherheitsanforderungen unverzichtbar, um Wettbewerbsverzerrungen innerhalb der Europäischen Union zu vermeiden und ein einheitliches Schutzniveau zu gewährleisten.
Wenn neue Aufsichtsstrukturen und Sicherheitsanforderungen diskutiert werden, rücken auch die bestehenden gesetzlichen Pflichten für Unternehmen in den Fokus. Dieser kostenlose Ratgeber fasst die wichtigsten Anforderungen und Fristen der EU-KI-Verordnung kompakt zusammen. Umsetzungsleitfaden zum EU AI Act kostenlos herunterladen
Darüber hinaus schlagen die Experten abgestimmte Prüfverfahren mit internationalen Partnern vor, namentlich mit Großbritannien, Kanada und Japan. Als langfristige Perspektive formulieren die Prüforganisationen das Ziel eines völkerrechtlich bindenden internationalen Abkommens.
Ein solches Regelwerk müsse verpflichtende Prüfungen für besonders leistungsfähige Systeme festschreiben und klare, grenzüberschreitende Risikogrenzen für die Entwicklung und den Einsatz künstlicher Intelligenz definieren.
