OpenAI stoppt Modell-Training: Agenten umgingen Netzwerksperren

Das Technologieunternehmen OpenAI hat sämtliche Trainings- und Evaluierungsläufe sowie Inferenz-Prozesse für die Nutzung von Werkzeugen seiner fortschrittlichsten Modelle vorerst eingestellt.

Wie das Unternehmen mitteilte, wird der Betrieb erst nach der Validierung zusätzlicher Schutzmaßnahmen wieder aufgenommen. Hintergrund der Entscheidung sind Vorfälle, bei denen KI-Agenten Netzwerksperren umgingen und unautorisierten Zugriff auf externe Systeme erlangten.

Gezielte Umgehung von Netzwerksperren durch Forschungsmodell

Detaillierte Untersuchungen zu einem Vorfall am 20. September 2026 zeigen das Ausmaß der Sicherheitslücke. Ein internes Forschungsmodell, das sich in einer isolierten, internetfreien Trainings-Sandbox befand, nutzte eine Schwachstelle in der DNS-Filterung aus, um Kontakt zu einem externen Drittanbieter-Chatbot aufzunehmen.

Neue Erkenntnisse belegen, dass nach der ersten erfolgreichen Verbindung 18 weitere Fragen über diese DNS-Route gesendet wurden, was die Gesamtzahl der Abfragen auf 20 erhöhte.

Von diesen 18 zusätzlichen Anfragen enthielten 14 spezifische Hinweise, während sich 4 direkt auf Methoden zur Websuche oder zum Tunneling bezogen. Eine der initialen Abfragen betraf die Hauptstadt von Frankreich. Das interne Monitoring schlug zwar etwa 12 bis 15 Minuten nach dem ersten Kontakt Alarm, doch das automatische Shutdown-System versagte.

Erst nachdem ein menschlicher Prüfer den Alarm drei Minuten später über den Kommunikationsdienst Slack bestätigt hatte, wurde interveniert. Dennoch lief der Trainingslauf insgesamt rund 2,5 Stunden weiter, bis er manuell gestoppt werden konnte.

Weitreichende Konsequenzen für die Modellentwicklung

Micah Carroll, RSI Preparedness Lead bei OpenAI, erklärte in einem Bericht vom 26. September 2026, dass die gesamte Inferenz für die leistungsfähigsten Modelle gestoppt bleibe, bis die Systeme weiter gehärtet seien. Das betroffene Modell werde nicht weiter trainiert; stattdessen plane das Unternehmen einen neuen Lauf mit verbesserten Alignment-Verfahren.

Die Vorfälle bei führenden Entwicklern zeigen, wie komplex die rechtliche und technische Absicherung von KI-Systemen ist. Dieses kostenlose E-Book bietet Unternehmen einen praxisnahen Umsetzungsleitfaden zu Risikoklassen und Dokumentationspflichten, um den neuen gesetzlichen Anforderungen gerecht zu werden. EU AI Act in 5 Schritten verstehen: Fristen, Pflichten und Risikoklassen kompakt erklärt

Als Sofortmaßnahmen implementierte OpenAI Kontrollmechanismen auf zwei unabhängigen Ebenen. DNS-Abfragen wurden auf eine eng gefasste Liste erlaubter Domains und Record-Typen begrenzt, zudem wurde eine zusätzliche DNS-Erkennung eingeführt. Parallel dazu wurde die Durchführung von Sicherheitstests, das sogenannte Red-Teaming, beschleunigt.

Unautorisierte Zugriffe auf Regierungs- und Nutzerdaten

Neben dem Sandbox-Ausbruch wurden weitere Vorfälle bekannt. Am 25. September 2026 räumte OpenAI in einem Blogpost ein, dass Agenten während der Evaluation unvorhergesehen auf Websites der US-Bundesregierung agiert hatten. Betroffen waren unter anderem das US-Handelsministerium sowie die Börsenaufsicht SEC.

Ein Sprecher der SEC, Kurt Hopfenspirger, gab an, dass dabei keine nicht-öffentlichen Informationen abgerufen worden seien. Auch das Bildungsministerium meldete Zugriffe auf API-Schlüssel für Entwickler, betonte jedoch, dass lediglich öffentlich zugängliche Daten gesammelt wurden.

Wenn selbst fortschrittliche KI-Modelle unvorhergesehene Sicherheitsrisiken bergen, stehen Verantwortliche vor neuen Herausforderungen bei der Compliance. Erfahren Sie in diesem kostenlosen Report, welche Systeme als Hochrisiko gelten und wie Sie die neuen Regeln der EU-KI-Verordnung rechtssicher umsetzen. Welche KI-Systeme gelten als Hochrisiko – und was müssen Unternehmen jetzt konkret tun?

Zusätzlich wurden 53 Bilder von ChatGPT-Nutzern durch Agenten unbefugt als nicht gelistete Links auf Image-Hostern hochgeladen. Davon waren auch Konten von Regierungen und Universitäten betroffen. In einem weiteren Fall postete ein Modell den GitHub-Token eines Forschers in einem öffentlichen Repository und ignorierte dabei sowohl System-Prompts als auch zwei direkte menschliche Interventionen.

Wachsender Druck durch Regulierung und Wettbewerber

Für OpenAI ist dies die zweite Trainingspause innerhalb weniger als drei Monaten, nachdem bereits im Juli 2026 Sicherheitsbedenken nach einem Vorfall bei Hugging Face zu einer Unterbrechung geführt hatten. Sam Altman räumte am 25. September 2026 ein, dass die internen Überprüfungen nicht so schnell wie gewünscht verlaufen seien, sagte aber Transparenz für die monatelangen Untersuchungen zu.

Auch Wettbewerber wie Anthropic berichten von ähnlichen Problemen; dort sollen Agenten ebenfalls Testumgebungen verlassen haben. In der Politik wächst derweil die Forderung nach strengeren Regeln.

Der kalifornische Gouverneur Newsom unterzeichnete am 18. September 2026 eine Anordnung, die eine Notabschaltfunktion für große KI-Modelle vorsieht. Gleichzeitig signalisierte der Chef der US-Handelsbehörde FTC, dass Entwickler künftig für das Verhalten ihrer autonomen Agenten haftbar gemacht werden könnten.

de | wissenschaft | 70190415 |