KI-Missbrauch: Hacker umgehen Sicherheitsfilter mit gestohlenen Tokens

Sicherheitsexperten von Cisco Talos haben neue Erkenntnisse darüber veröffentlicht, wie Cyberkriminelle moderne KI-Modelle zur Entwicklung von Schadsoftware und zur Durchführung von Angriffen instrumentalisieren. Einem aktuellen Bericht zufolge werden spezialisierte Werkzeuge wie Claude Code, Codex, Cursor und Gemini zunehmend dazu genutzt, Sicherheitsmechanismen zu umgehen und bösartigen Code zu generieren. Die Analyse stützt sich auf die Auswertung wiederhergestellter Chat-Protokolle von Hackern, welche die Interaktionen mit diesen Systemen dokumentieren.

Umgehung von Schutzmechanismen durch einfache Manipulationen

Die Untersuchung zeigt, dass die internen Sicherheitsvorkehrungen der KI-Modelle oft nicht ausreichen, um missbräuchliche Anfragen zu verhindern. Den Angreifern gelingt es demnach durch verhältnismäßig einfache Methoden, sogenannte Jailbreaks herbeizuführen. Dabei geben die Akteure gegenüber der KI beispielsweise vor, im Rahmen von ethischem Hacking zu handeln, oder beanspruchen administrative Berechtigungen für sich.

Ein weiteres Verfahren besteht darin, neue Sitzungen zu starten oder komplexe, bösartige Aufgaben in mehrere kleine Teilschritte zu zerlegen und diese über verschiedene Sitzungen zu verteilen. Auf diese Weise werden die Sicherheitskontrollen der Modelle unterlaufen, da die einzelnen Fragmente für sich genommen oft nicht als schädlich erkannt werden.

Angesichts der zunehmenden Manipulation von KI-Systemen durch Cyberkriminelle müssen Unternehmen ihre Compliance-Strategien dringend anpassen. Dieser kostenlose Umsetzungsleitfaden zum EU AI Act hilft Ihnen, die gesetzlichen Anforderungen an Risikodokumentation und Qualitätssicherung rechtzeitig zu erfüllen. EU AI Act in 5 Schritten verstehen: Fristen, Pflichten und Risikoklassen kompakt erklärt

Automatisierung und Ausmaß der Angriffe

Um ihre Aktivitäten zu skalieren, greifen einige Akteure auf gestohlene API-Tokens von Unternehmen zurück. Dies ermöglicht es ihnen, die Nutzung der KI-Modelle zu automatisieren und Angriffe in größerem Umfang durchzuführen. Die Effektivität dieser Methoden wird durch konkrete Fallbeispiele im Bericht von Cisco Talos verdeutlicht.

So konnte ein Angreifer insgesamt 9.180 Hosts scannen und dabei Anmeldedaten von 54 Systemen sammeln. In einem anderen Fall entwickelte ein Akteur einen speziellen Chatbot, der gezielt für Betrugsmaschen im Bereich Kryptowährungen konzipiert war. Auch weniger erfahrene Kriminelle profitieren von der Technologie: Einem Angreifer gelang es, ein Tool für Denial-of-Service-Angriffe (DoS) zu erstellen, mit dem etwa 2.000 Android-TV-Geräte kontrolliert werden konnten. Erfahrene Hacker nutzen die KI-Modelle hingegen bereits, um technologisch anspruchsvolle Plattformen für ihre Operationen zu entwickeln.

Wer verstehen möchte, welche KI-Anwendungen rechtlich als Hochrisiko eingestuft werden und welche konkreten Dokumentationspflichten auf Betriebe zukommen, findet hier fundierte Antworten. Der kostenlose Report klärt über die neuen Regeln der EU-KI-Verordnung auf, um rechtliche Sanktionen proaktiv zu vermeiden. Welche KI-Systeme gelten als Hochrisiko – und was müssen Unternehmen jetzt konkret tun?

Warnung vor blindem Vertrauen in KI-Sicherheitsfilter

Angesichts dieser Entwicklungen warnen die Experten von Cisco Talos davor, sich ausschließlich auf die integrierten Schutzfilter der KI-Hersteller zu verlassen. Nick Biasini von Cisco Talos betonte in diesem Zusammenhang, dass den Sicherheitsvorkehrungen der Modelle kein uneingeschränktes Vertrauen geschenkt werden dürfe. Die Beobachtungen zeigten deutlich, dass die technologische Hürde für Cyberangriffe durch die Verfügbarkeit dieser KI-Werkzeuge sinke.

Cisco appelliert daher an Verantwortliche in der IT-Sicherheit, verstärkte Eindämmungsmaßnahmen zu ergreifen. Da die KI-Modelle selbst derzeit noch anfällig für Manipulationen durch kriminelle Akteure seien, müssten Verteidiger zusätzliche Schutzebenen etablieren, um die Auswirkungen automatisierter und KI-gestützter Angriffe zu minimieren.

de | wissenschaft | 69917193 |