KI-Lieferkettenschutz: Prisma AIRS hat bereits 3 Millionen Artefakte gescannt

Palo Alto Networks baut seine Plattform Prisma AIRS aus, um autonome KI-Agenten in Unternehmen gegen Cyberbedrohungen und Datenabflüsse abzusichern. Wie das Sicherheitsunternehmen mitteilte, wird der Laufzeitschutz über sogenannte Inference Hooks direkt in Claude Enterprise von Anthropic integriert, darunter in Claude Code, Claude.ai und Claude Cowork.

Die neuen Mechanismen sollen unter anderem Prompt Injections, Jailbreaks sowie toxische Eingaben abfangen und über Richtlinien zur Verhinderung von Datenverlusten sensible Informationen wie personenbezogene Daten, geistiges Eigentum und Quellcode schützen.

Absicherung von Modell-Lieferketten und Gateway-Funktionen

Zusätzlich zu den Schutzmaßnahmen während der Ausführung erweitert Palo Alto Networks das System um die Komponente Prisma AIRS AI Supply Chain Security. Nach Unternehmensangaben wurden im Rahmen dieser Lieferkettensicherheit bereits mehr als 3 Millionen Drittanbieter-Artefakte vorab gescannt. Das System überprüft Open-Source-Modelle, validiert die Fähigkeiten von KI-Agenten und blockiert Schadsoftware noch vor der Bereitstellung.

In den IT-Umgebungen der Kunden untersucht das Tool KI-Modelle und Agent-Fähigkeiten gezielt auf Schadcode, unsichere Serialisierungsformate sowie auf Anweisungen, die Agenten zu unberechtigter Codeausführung, zum Zugriff auf Zugangsdaten oder zum Datendiebstahl anleiten könnten.

Wer KI-Systeme im Unternehmen implementiert, muss die neuen regulatorischen Anforderungen der EU genau kennen. Dieser kostenlose Report klärt auf, welche rechtlichen Pflichten und Bedrohungen Unternehmer jetzt kennen müssen. Umsetzungsleitfaden zum EU AI Act kostenlos herunterladen

Die automatisierte Überprüfung innerhalb bestehender Entwicklungsprozesse soll den Aufwand für manuelle Sicherheitsprüfungen senken. Eine Überprüfung vor dem Produktivstart gelte dabei als deutlich effizienter und kostengünstiger als Reaktionen auf bereits eingetretene Kompromittierungen.

Ergänzend verfügt das Prisma AIRS AI Gateway laut dem Anbieter über zentralisierte Richtlinien und verzeichnete seit seiner Einführung mehr als 20 Aktualisierungen. Spezielle Schutzmechanismen prüfen den Datenverkehr von Modell-Kontext-Protokollen bidirektional und entfernen vertrauliche Daten.

Zudem steuern intelligente Routing-Funktionen Anfragen je nach Absicht und Komplexität an das jeweils am besten geeignete Modell aus, während Echtzeit-Analysen Einblicke in Kosteneinsparungen, Latenzzeiten und die Effizienz von Caches liefern.

Verstärkte Integrationen im Sicherheitsökosystem

Parallel zur Initiative von Palo Alto Networks intensivieren auch weitere Cybersicherheitsanbieter ihre Zusammenarbeit mit KI-Plattformen. Das Sicherheitsunternehmen Checkmarx gab seinen Beitritt zum Claude Marketplace bekannt.

Die rasante Entwicklung von KI-Modellen bringt neue Cyberrisiken mit sich, auf die IT-Abteilungen vorbereitet sein müssen. Ein kostenloser Download verschafft Ihnen jetzt den notwendigen Überblick über Fristen, Pflichten und Risikoklassen. EU AI Act in 5 Schritten verstehen

Unternehmenskunden von Anthropic in den USA erhalten dadurch die Möglichkeit, Teile ihrer vereinbarten Ausgaben auf Checkmarx Fusion sowie auf die Assistenten Triage Assist und Remediation Assist anzurechnen und ihre IT-Sicherheitsausgaben über eine gemeinsam Rechnung abzuwickeln.

Checkmarx Fusion, das im Juli vorgestellt worden war, verknüpft eine deterministische Analyse-Engine mit Modellen von Claude. Während Triage Assist Schwachstellen nach ihrer tatsächlichen Angreifbarkeit statt nach starren Schweregrad-Werten priorisiert, generiert Remediation Assist für gefundene Sicherheitslücken direkt integrierbare Lösungsvorschläge.

Checkmarx beteiligt sich zudem am Cyber Verification Program von Anthropic und setzt Claude Mythos für die interne Sicherheit ein. Harshil Parikh von Checkmarx erklärte dazu, dies vertiefe die Zusammenarbeit mit Anthropic. Ash Alhashim von Anthropic hob hervor, dass Sicherheitsteams vertraute Werkzeuge genauso einfach beziehen können sollten wie die KI-Modelle selbst.