KI-Sicherheit: Forscher knacken Reasoning-Logs von Claude und Gemini
Veröffentlicht am: 12.08.2026 um 16:13 Uhr | Redaktion boerse-global.de
Forschungsteams des ELLIS Institute Tübingen, des Max-Planck-Instituts sowie Experten von MATS Research und Snyk haben eine gravierende Sicherheitslücke in den Programmierschnittstellen (APIs) führender Sprachmodelle identifiziert. Die Schwachstelle betrifft die sogenannten Reasoning-Logs von Modellen wie Claude und Gemini. Durch diese Lücke können Angreifer sensible Nutzerinformationen extrahieren, die während der logischen Verarbeitungsschritte der Künstlichen Intelligenz (KI) anfallen.
Systematischer Datendiebstahl über Standard-Schnittstellen
Unter der Leitung von Alexander Panfilov wiesen die Forscher nach, dass für den Zugriff auf die verschlüsselten Reasoning-Prozesse lediglich ein herkömmlicher API-Zugang bei den Anbietern OpenAI, Anthropic und Google erforderlich war. In einer Untersuchung von etwa 7.000 öffentlich zugänglichen Datenfragmenten konnten die Experten 62 API-Schlüssel, 33 E-Mail-Adressen sowie 33 Passwörter sicherstellen.
Die Kosten für einen derartigen Angriff sind vergleichsweise gering. Laut den beteiligten Forschern beliefen sich die Aufwendungen für die Extraktion von 10.000 Datensätzen auf etwa 720 US-Dollar. Die Methode nutzt dabei eine gezielte Schwäche in der Modellhierarchie aus: Ein verschlüsselter Reasoning-Block wird in ein weniger leistungsfähiges Modell, beispielsweise Haiku, injiziert, welches den Inhalt schließlich entschlüsselt.
Wer sich mit den Sicherheitsrisiken moderner KI-Systeme befasst, muss auch die rechtlichen Rahmenbedingungen und neuen Pflichten kennen. Dieser kostenlose Report klärt auf, welche KI-Systeme als Hochrisiko gelten und was Unternehmen jetzt konkret tun müssen. Umsetzungsleitfaden zum EU AI Act kostenlos herunterladen
Betroffene Modelle und technologische Implikationen
Die Sicherheitslücke betrifft prominente KI-Systeme wie Claude, GPT und Gemini. Neben dem direkten Abfluss privater Daten warnen die Experten vor weiteren Sicherheitsrisiken wie Jailbreaks, bei denen die Sicherheitsfilter der Modelle umgangen werden. Zudem ermöglicht die Schwachstelle die sogenannte Reasoning-Distillation, bei der die internen Denkprozesse eines hochwertigen Modells zum Training anderer Systeme entwendet werden.
Branchenbeobachter stellten in diesem Zusammenhang fest, dass das Modell Kimi K3 eine hohe statistische Übereinstimmung mit den Reasoning-Vorgängen von Claude Opus aufweist. Bereits ein geringfügiges Fragment von 1 % des Opus-Reasonings reichte aus, um die Ausgabe von Kimi K3 signifikant zu verändern. Während Ähnlichkeiten zu Claude Opus 4.8 und GPT 5.6 Sol dokumentiert wurden, liegen für eine gezielte Distillation durch den Entwickler Moonshot keine Beweise vor. Bestimmte Segmente von Claude und GPT ließen sich jedoch aus Kimi K3 um etwa sechs Größenordnungen einfacher extrahieren als aus vergleichbaren Modellen.
Angesichts neuer technologischer Schwachstellen und gesetzlicher Anforderungen wird der Schutz der Unternehmens-IT immer komplexer. Erfahren Sie in diesem Gratis-E-Book, wie Sie Sicherheitslücken schließen und gleichzeitig die aktuellen gesetzlichen Vorgaben rechtssicher erfüllen. IT-Sicherheits-Leitfaden für Unternehmen jetzt gratis abrufen
Reaktion der Anbieter und fachliche Einordnung
Die betroffenen Unternehmen OpenAI, Anthropic und Google haben auf die Erkenntnisse reagiert und damit begonnen, die Sicherheitslücken in ihren jeweiligen APIs zu schließen. In Fachkreisen und Entwickler-Communities wie Hacker News werden unterdessen grundlegende Design-Entscheidungen der Schnittstellenarchitekturen sowie langfristige Lösungsansätze diskutiert.
Bereits in der Vergangenheit gab es Hinweise auf Versuche, Reasoning-Traces zu extrahieren, wie der Experte Matthew Green bestätigte. Die aktuelle Entdeckung unterstreicht jedoch die neue Qualität der Bedrohung durch die gezielte Ausnutzung der Log-Strukturen, die eigentlich zur Verbesserung der Modelltransparenz beitragen sollten.
