KI-Sicherheit: Agenten und Firmenkäufe als neue Risiken

Autonome KI-Systeme und hastige Firmenübernahmen schaffen gefährliche Sicherheitslücken für Unternehmen. Experten fordern dringend neue Prüfstandards.

Die rasante Übernahme von KI-Start-ups durch große Konzerne birgt unkalkulierbare Gefahren. Sicherheitsexperten warnen vor einer toxischen Mischung: Agentic AI, die eigenständig handelt, wird oft ohne ausreichende Sicherheitsprüfung in bestehende Unternehmensnetzwerke integriert. Das Bundesamt für Sicherheit in der Informationstechnik (BSI) sieht hier eine neue, schwer kontrollierbare Angriffsfläche entstehen.

Die im Artikel beschriebenen Lücken durch autonome Agenten und Prompt‑Injection zeigen, wie verwundbar Unternehmensnetze heute sind. Ein kostenloses E‑Book „Cyber Security Awareness Trends“ erklärt aktuelle Bedrohungen, welche Auswirkungen neue KI‑Regeln (AI Act) haben und welche konkreten Schutzmaßnahmen IT‑Verantwortliche sofort umsetzen können. Jetzt kostenloses Cyber‑Security‑E‑Book herunterladen

Autonome Agenten: Effizienztreiber mit Risiko

KI-Agenten verwalten eigenständig Kalender, bearbeiten E-Mails oder steuern Logistik. Für diese Aufgaben benötigen sie tiefgreifende Zugriffsrechte. Genau hier liegt das Problem. „Diese Autonomie schafft völlig neue Angriffsvektoren“, erklärt ein Sicherheitsforscher. Gelingt es Angreifern, die Handlungsabläufe zu manipulieren, kann die KI schädliche, aber formal erlaubte Aktionen auslösen.

Herkömmliche Sicherheitssysteme sind dagegen oft machtlos. Sie erkennen nicht, wenn ein Agent durch eine geschickt formulierte Prompt Injection missbraucht wird. Selbst OpenAI warnt vor den unkalkulierbaren Risiken dieser Technologie. Die Frage ist: Sind deutsche DAX-Konzerne wie SAP oder die Telekom auf diese Bedrohung vorbereitet?

Firmenkäufe als trojanische Pferde

Im Wettlauf um die beste KI kaufen Konzerne Start-ups – häufig unter Zeitdruck. Die klassische Due Diligence prüft Finanzen und Patente, doch die Risiken der KI bleiben oft im Dunkeln. Woher stammen die Trainingsdaten? Gibt es versteckte Schwachstellen im Code? Eine unzureichende Prüfung kann dazu führen, dass ein Unternehmen nicht nur Technologie, sondern auch massive Sicherheitslücken erwirbt.

Diese Lücken werden zum Einfallstor für Angreifer in das gesamte Netzwerk des Käufers. Experten sprechen von „trojanischen Pferden“ und fordern dringend standardisierte, technische Prüfkataloge, die auch den EU AI Act berücksichtigen.

Die Gefahr aus den eigenen Reihen: Schatten-KI

Ein weiteres Risiko ist die Schatten-KI – also nicht genehmigte KI-Tools, die Mitarbeiter nutzen. Hat ein übernommenes Start-up eine laxere Sicherheitskultur, importiert der Käufer dieses Problem. Jeder dieser unkontrollierten Agenten benötigt eine Maschinenidentität und vergrößert die Angriffsfläche.

Die Lösung liegt im Prinzip der geringsten Rechte: Jeder KI-Agent darf nur auf die absolut notwendigen Daten und Systeme zugreifen. Doch die Praxis sieht oft anders aus. Eine zentrale Überwachung aller autonomen Systeme wird zur Überlebensfrage.

Neues Denken in Sicherheit und Governance

Die Ära der agentenbasierten KI erfordert ein fundamentales Umdenken. Neue Governance-Modelle sind gefragt, die Sicherheit von Anfang an in jede strategische Entscheidung integrieren. Dazu gehört die kontinuierliche Überwachung des KI-Verhaltens im laufenden Betrieb.

Unternehmen stehen vor einer Zerreißprobe: Sie müssen innovativ bleiben, um wettbewerbsfähig zu sein, dürfen dabei aber die Stabilität ihres gesamten Betriebs nicht aufs Spiel setzen. Der sorglose Zukauf von KI-Technologie könnte sich als teurer Fehler erweisen.

@ boerse-global.de

Hol dir den Wissensvorsprung der Profis. Seit 2005 liefert der Börsenbrief trading-notes verlässliche Trading-Empfehlungen – dreimal die Woche, direkt in dein Postfach. 100% kostenlos. 100% Expertenwissen. Trage einfach deine E-Mail Adresse ein und verpasse ab heute keine Top-Chance mehr.
Jetzt anmelden.