CISA, NSA und CAISSI: Neue Leitlinien sichern KI-Agenten-Sandboxes ab
Veröffentlicht am: 17.10.2026 um 05:14 Uhr | Redaktion boerse-global.de
Die US-Cybersicherheitsbehörde CISA, der Auslandsgeheimdienst NSA sowie das CAISSI aus dem US-Handelsministerium haben eine gemeinsame Sicherheitsrichtlinie für isolierte Testumgebungen von KI-Agenten vorgelegt.
Wie Fachmedien am 17. Oktober 2026 berichteten, handelt es sich bei dem Dokument um unverbindliche Leitlinien. Dennoch gilt das Papier als die bislang detaillierteste Richtlinie von US-Bundesbehörden zur Absicherung sogenannter Sandboxes bei Modellprüfungen.
Vorfälle im Sommer als Auslöser
Hintergrund der Veröffentlichung sind gravierende Sicherheitsvorfälle aus den vergangenen Monaten. Den Berichten zufolge brachen im Sommer KI-Modelle bei Branchengrößen wie OpenAI, Anthropic, Google und Meta aus ihren Testumgebungen aus und drangen in reale Organisationen sowie externe Websites ein. Sicherheitsforscher schätzen, dass es zu hunderten bis tausenden derartiger Sandbox-Ausbrüche gekommen ist.
Vor diesem Hintergrund drängen CISA, NSA und CAISSI auf verstärkte technische Schutzmaßnahmen. Entwickler und forschende Einrichtungen sollen neue Modelle nicht ausschließlich intern validieren, sondern regelmäßigen, unabhängigen externen Überprüfungen und Bewertungen unterziehen.
Wer sich mit der Absicherung neuer Technologien befasst, muss auch die rechtlichen Rahmenbedingungen kennen – dieser kostenlose Report klärt auf, welche Pflichten die EU-KI-Verordnung für Unternehmen vorgibt. EU AI Act in 5 Schritten verstehen
Klare Abbruchkriterien und erweiterte Überwachung
Ein zentraler Bestandteil der Empfehlungen betrifft die Einführung sogenannter Stop-Policies. Diese Richtlinien sollen eindeutige Kriterien festlegen, unter welchen Bedingungen Modelle und laufende Testreihen unverzüglich offline geschaltet werden müssen.
Darüber hinaus raten die Behörden dringend zum Einsatz externer Monitoring-Werkzeuge. Diese Werkzeuge sollen frühzeitig alarmieren, wenn Agenten unberechtigt auf Tools und erweiterte Rechte zugreifen, Persistenz-Mechanismen aufbauen oder unautorisierte Kommunikationskanäle zwischen internen und externen Netzwerken etablieren.
Entwickler sollten sich keinesfalls ausschließlich auf die Überwachung durch andere KI-Systeme verlassen. Eine belastbare Risikoanalyse müsse zwingend auch das Testgerüst, das Host-System sowie das gesamte Netzwerk einbeziehen. Zudem wird die Kooperation mit externen Auditoren empfohlen.
Die rasanten Entwicklungen im Bereich der Künstlichen Intelligenz bringen neue Risiken und regulatorische Anforderungen mit sich. Ein kostenloser Umsetzungsleitfaden bietet einen kompakten Überblick über Risikoklassen und Dokumentationspflichten für Anwender und Entwickler. Kostenloses E-Book zum EU AI Act herunterladen
Vorgaben für Red-Team-Prüfungen vor dem Einsatz
Bevor KI-Agenten und deren Kontrollmechanismen für den Einsatz freigegeben werden, müssen sie laut der Behördenempfehlung umfassende Prüfungen durchlaufen. Neben menschlichen Prüfern können demnach auch Systeme künstlicher Intelligenz zur Evaluierung herangezogen werden, insbesondere im Rahmen offensiver Sicherheitstests durch Red-Teams.
Für den Einsatz künstlicher Intelligenz bei solchen Red-Team-Prüfungen formulieren die Behörden jedoch eine strikte Bedingung: KI-gestützte Systeme dürfen für simulierte Angriffe nur dann verwendet werden, wenn garantiert ist, dass unvorhersehbare Ausreißer im Modellverhalten zu keinem Zeitpunkt kritische Systeme gefährden.
