FlashProve: Anthropic belegt die Herkunft von KI-Antworten kryptografisch

Das KI-Unternehmen Anthropic hat am 2. November 2026 den quelloffenen Forschungsprototypen FlashProve unter der Apache-2.0-Lizenz veröffentlicht. Das System nutzt kryptografische Beweise auf Basis von zkSNARKs, um nachzuweisen, dass eine generierte Antwort tatsächlich von festgelegten Modellgewichten stammt, ohne diese Gewichte offenlegen zu müssen.

Die Entwicklung stammt vom hauseigenen Frontier Red Team unter der Leitung von Roy Rinberg und Alex Allain in Zusammenarbeit mit Forschern der EPFL, des MIT und von StarkWare.

Anthropic kündigte das Verfahren am 3. November 2026 per Blogbeitrag an, nachdem ein entsprechender Prototyp zur Inferenz-Verifikation bereits als Ziel bis September 2026 in der Sicherheits-Roadmap des Unternehmens verankert war.

Kryptografischer Nachweis auf Standard-Hardware

Das Verfahren basiert auf vier zentralen Eigenschaften: Vollständigkeit, Korrektheit, Zero-Knowledge und Kürze, womit die Verifikation auch auf herkömmlichen Rechnern möglich ist. Die zugrundeliegenden Sicherheitsgarantien wurden in der formalen Beweissprache Lean verifiziert.

Technisch hinterlegt der Modellanbieter vorab ein einmaliges kryptografisches Commitment auf die Modellgewichte, das als rund 6,5 Megabyte großer digitaler Fingerabdruck dient. Diese Offline-Berechnung nimmt etwa 39 Minuten in Anspruch und bleibt für rund 16 Millionen Anfragen gültig.

Die technologische Absicherung von KI-Systemen wird immer komplexer, während gleichzeitig neue gesetzliche Vorgaben wie der EU AI Act in Kraft treten. Dieser kostenlose Download verschafft Ihnen den Überblick über Fristen, Pflichten und Risikoklassen, den Ihre Rechts- und IT-Abteilung jetzt dringend braucht. EU AI Act in 5 Schritten verstehen

Für jede einzelne Modellanfrage wird anschließend ein Beweis generiert, der bei einem Kontext von 1.024 Tokens rund 18,78 Megabyte umfasst. Über das Prüfprogramm cp_verify lässt sich dieser Nachweis auf einer Standard-CPU kontrollieren.

Die Verifikation dauert 17 Sekunden auf 24 CPU-Threads und 21 Sekunden auf einem einzelnen Thread. Bei früheren Systemen benötigte ein vergleichbarer Vorgang für 1.000 Tokens noch über 14 Stunden, erzeugte 93,6 Gigabyte große Beweisdateien und forderte fast einen Tag an Rechenzeit zur Überprüfung.

In einem Benchmark mit dem Modell Meta Llama 4 Maverick, das 400 Milliarden Parameter bei 4-Bit-Quantisierung umfasst, erreichte FlashProve bei einem Kontext von 1.024 Tokens eine Beweiserzeugung von etwa 110 Tokens pro Sekunde auf einer H100-GPU.

Pro Token waren dabei rund 17 Milliarden aktive Parameter beteiligt. Für die Beweiserzeugung werden eine 80-Gigabyte-Grafikkarte sowie circa 290 Gigabyte Arbeitsspeicher auf dem Hostsystem benötigt. Eine Gruppe von 24 Anfragen erforderte rund 223 Sekunden Prover-Zeit.

Hohe Rechenlast und technische Grenzen

Trotz der Fortschritte schränken erhebliche Rechenkosten den praktischen Einsatz derzeit ein. Die Beweiserstellung benötigt etwa die 70- bis 95-fache GPU-Zeit im Vergleich zu einer gewöhnlichen vLLM-Inferenz. Unter Verwendung von acht H100-Grafikkarten in FP8-Präzision entspricht dies dem rund 72-fachen bis 94-fachen Aufwand, was den Einsatz im regulären API-Verkehr gegenwärtig verhindert.

Zudem ist FlashProve auf Eingaben von maximal 1.024 Tokens und eine deterministische Token-Auswahl per Integer-Greedy-Verfahren begrenzt. Die Modellarchitektur selbst bleibt nicht verborgen, und es existiert keine formale Äquivalenzgarantie zwischen dem C++-Verifier und dem Protokoll. Messungen zeigten, dass das Top-Token an 6,81 Prozent der Positionen abwich.

Wer sich mit der Verifikation und Sicherheit von KI-Modellen befasst, muss auch die rechtlichen Rahmenbedingungen und drohenden Sanktionen bei Verstößen kennen. Erfahren Sie in diesem kostenlosen Umsetzungsleitfaden zum EU AI Act alles über die relevanten Übergangsfristen und wie Sie Ihr Unternehmen rechtssicher aufstellen. Kostenlosen KI-Verordnung Leitfaden herunterladen

Relevanz für Compliance und Modellüberwachung

Praktische Anwendungsszenarien liegen in der Erkennung manipulierter Ausgabeströme sowie im Schutz davor, dass Routing-Dienste heimlich günstigere Ersatzmodelle einspielen. Zudem ermöglicht der Ansatz die Überprüfung von Leistungsdaten, Service-Level-Agreements und Compliance-Vorgaben. Dies betrifft unter anderem Prüfpflichten im Rahmen des Banken-Modellrisikos und die Anforderungen der europäischen Verordnung (EU) 2024/1689 (EU AI Act).

Anthropic betonte, dass FlashProve kein Feature des Sprachmodells Claude und kein Produktionssystem sei. Der Programmcode werde derzeit nicht aktiv weitergepflegt. Das Unternehmen bezeichnete das Projekt als frühen Forschungsmeilenstein und rief Entwickler dazu auf, den Prototypen weiter zu testen.