Anthropic und Theorem: Claude prüft 123 Open-Source-Bibliotheken formal

Das KI-Unternehmen Anthropic hat gemeinsam mit dem Partner Theorem eine automatisierte mathematische Verifikation von Produktionssoftware demonstriert. Mithilfe des KI-Modells Claude erzeugten die Entwickler formale Beweise für die Absturzfreiheit auf Ebene von RISC-V-Assembly.

Die Verifikation umfasste 239 Einstiegspunkte in 123 Open-Source-Bibliotheken aus Googles Testplattform OSS-Fuzz. Laut Anthropic handelt es sich um den ersten großflächigen Einsatz von künstlicher Intelligenz zur formalen Verifikation produktiver Software direkt auf Assembler-Ebene.

Umfangreicher Beweis-Code für maschinennahen Code

Bisher galt formale Software-Verifikation als aufwendige Expertenarbeit, die beispielsweise bei einem Betriebssystem rund 20 Personenjahre in Anspruch nehmen konnte.

Bei dem Projekt am 22. Oktober 2026 bezifferte Anthropic den Umfang der mathematischen Nachweise auf rund 180 Millionen Zeilen Rocq-Beweis-Code. Pro Binärdatei fielen typischerweise etwa 600.000 Zeilen an. Die analysierten Binaries wiesen dabei einen Median von 18.000 RISC-V-Instruktionen auf.

Ziel der Beweisführung war der Nachweis, dass die untersuchten Programme bei jeder Eingabe unter 64 Megabyte regulär terminieren. Ausgeschlossen werden sollten dabei Speichersicherheitsfehler sowie fehlgeschlagene interne Überprüfungen. Der Beweis schloss alle modellierten Antworten des Linux-Betriebssystems sowie die Speicherlayouts ein.

Um die Spezifikationen zu erstellen, wandelten die Forscher bestehende Testsammlungen in formale mathematische Anforderungen um, die dauerhaft erfüllt bleiben müssen. Frühere Arbeiten des Unternehmens umfassten unter anderem Sicherheitsnachweise für die Bibliothek zlib sowie die Verhaltens-Äquivalenz eines in Rust geschriebenen Python-Interpreters.

Entdeckung langjähriger Sicherheitslücken

Im Rahmen des Projekts stieß das System auf hunderte Defekte, die jahrelangen und billionenfachen automatisierten Testläufen bisher entgangen waren. Zu den Funden zählte ein Zähler-Unterlauf samt unzulässigem Schreibzugriff bei einer Eingabegröße von etwa 20 Megabyte und seltenem Datenlayout, während herkömmliche Fuzzing-Verfahren meist nur Eingaben bis etwa 1 Megabyte testen.

Während KI-Systeme helfen, tief sitzende Programmierfehler aufzuspüren, bringt ihr Einsatz auch neue regulatorische Anforderungen für Unternehmen mit sich. Dieser kostenlose Leitfaden bietet Ihnen einen kompakten Überblick über alle Pflichten und Fristen des EU AI Acts. EU AI Act in 5 Schritten verstehen

Zudem identifizierten die Forscher einen unberechtigten Lesezugriff in einem Bild-Decoder bei 64 Megabyte Input und über 2 Gigabyte Speicherverbrauch, einen Absturz bei einer spezifischen Aufrufsequenz über zwei Datei-Handles sowie einen seit über einem Jahrzehnt bestehenden Logikfehler, über den Zugriffsbeschränkungen auf Dateien umgangen werden konnten.

Auch die bekannte Schwachstelle CVE-2026-56132 in der Bibliothek libexpat wurde eigenständig wiederentdeckt. Claude behob die gefundenen Programmierfehler eigenständig und führte für den aktualisierten Code erneut den formalen Beweis.

Geltungsgrenzen und Bereitstellung für Entwickler

Das Verfahren weist jedoch technische Restriktionen auf. Die erbrachten Beweise gelten ausschließlich für einzelsträngige, statisch verlinkte RISC-V-Binärdateien unter Verwendung der Programmbibliothek musl libc auf einem modellierten Linux-System mit festem Speicherbudget. Eine Übertragbarkeit auf weitverbreitete Architekturen wie x86 oder ARM mit dynamischer Verlinkung über die glibc besteht vorerst nicht.

Zudem ist der Rechenaufwand hoch. Ein einzelner Beweis kostet laut Angaben vom 22. Oktober 2026 hunderte Millionen Token, teils wurden Werte von über 100 Millionen Token verzeichnet. Die Wiederverwendung bereits erstellter Beweise reduziert diese Kosten jedoch.

Wer sich mit der Absicherung komplexer Systeme befasst, muss auch die rechtlichen Rahmenbedingungen für Hochrisiko-KI kennen. Erfahren Sie in diesem kostenlosen Report, was Unternehmen jetzt konkret tun müssen, um die neuen Regeln der EU-KI-Verordnung zu erfüllen. Umsetzungsleitfaden zum EU AI Act kostenlos herunterladen

Im Modellvergleich löste Opus 5.5 die Hälfte von 36 Testaufgaben mit rund 40 Prozent weniger Token als das Modell Opus 5. Der Einsatz von Agenten in gemeinsam genutzten Arbeitsumgebungen senkte den Token-Verbrauch im Vergleich zu Einzelläufen um 17 Prozent.

Anthropic kündigte an, formale Verifikation künftig so routinemäßig etablieren zu wollen wie herkömmliche Softwaretests. Einen Teil der Beweise sowie der Semantik für Betriebssystem und RISC-V veröffentlichte das Unternehmen zur freien Nutzung.

Theorem Labs startete zeitgleich das System OSS Verify, das Code kostenfrei für Open-Source-Projekte als absturzfrei zertifiziert oder Fehlerkorrekturen vorschlägt. Zudem veröffentlichte Theorem einen Claude-Skill und plant als nächsten Schritt die Verifikation des Paketmanagers Nix samt glibc, OpenSSL und cURL.

Nach Berichten vom 22. Oktober 2026 deckte Theorem bei Tests an einem PDF-Reader innerhalb einer Woche so viele Lücken auf wie gewöhnlich in einem ganzen Jahr und stieß dabei auch auf Fehler in offizieller x86-Referenzdokumentation.