Claude prüft Open-Source-Code: 239 Einstiegspunkte in 123 Bibliotheken

Das KI-Unternehmen Anthropic und das Verifikations-Startup Theorem haben bestehende Fuzz-Tests aus Googles OSS-Fuzz-Projekt mithilfe des KI-Modells Claude in mathematische Spezifikationen übersetzt. Auf dieser Basis erzeugte das System am 22. Oktober 2026 maschinell überprüfte Beweise für die Absturzfreiheit von 239 Test-Einstiegspunkten in 123 Open-Source-Bibliotheken auf RISC-V-Assembly-Ebene.

Wie die beiden Partner in einem Forschungspost des Frontier Red Teams von Anthropic darlegten, belegen die mathematischen Nachweise unter modellierten Bedingungen einen regulären Programmabbruch, das Ausbleiben fehlgeschlagener Zusicherungen und keine erkannten Speichersicherheitsfehler für Eingaben unter 64 Megabyte.

Enormer Code-Umfang in wenigen Wochen

Der Umfang des erzeugten Verifikationsmaterials ist beträchtlich: Rund 180 Millionen Zeilen Beweiscode im formalen System Rocq entstanden im Rahmen des Projekts. Ein typischer Beweis umfasst etwa 600.000 Zeilen, während die analysierten Binärdateien im Median rund 18.000 RISC-V-Befehle zählen.

Die Validierung übernahm das Beweisprüfungswerkzeug Rocq. Nach Angaben von Anthropic und Theorem gelang die Erstellung der Beweise in wenigen Wochen. Anthropic stellte dieser Zeitspanne den historischen Aufwand von 20 Personenjahren gegenüber, der für die Verifikation des seL4-Betriebssystemkerns nötig war.

Während des Prozesses entdeckte und reparierte Claude hunderte Programmierfehler, die zuvor selbst von Billionen automatisierter Testdurchläufe unbemerkt geblieben waren. Zu den Funden zählte am 22. Oktober 2026 ein Pufferüberlauf durch einen Zähler-Unterlauf in einem Dekomprimierer, der nur bei einem seltenen Speicherlayout von rund 20 Megabyte auftrat.

Übliche Fuzz-Tests prüfen meist nur Eingabegrößen bis etwa 1 Megabyte. In einem Bild-Dekodierer deckte das System einen unzulässigen Lesezugriff außerhalb der Speichergrenzen bei einer Eingabegröße von 64 Megabyte und über 2 Gigabyte Arbeitsspeicher auf.

Zudem identifizierte die Software Abstürze durch eine Aufrufsequenz über zwei Dateideskriptoren auf dieselbe Datei sowie nicht durchgesetzte Beschränkungen beim Dateizugriff.

Wer sich mit der Sicherheit komplexer Software befasst, muss heute auch die neuen rechtlichen Rahmenbedingungen für Künstliche Intelligenz im Blick behalten. Dieser kostenlose Umsetzungsleitfaden bietet Unternehmen einen kompakten Überblick über alle Anforderungen, Pflichten und Fristen der EU-KI-Verordnung. EU AI Act in 5 Schritten verstehen

Auch die Sicherheitslücke CVE-2026-56132 in der Bibliothek libexpat wurde wiederentdeckt, ergänzt um einen Logikfehler, der über zehn Jahre lang verborgen geblieben war. Bei einem PDF-Betrachter fand Claude innerhalb einer einzigen Woche so viele Sicherheitsmängel, wie Entwickler sonst in einem ganzen Jahr verzeichnen.

Modellgrenzen und Ressourcenbedarf

Anthropic und Theorem wiesen am 22. Oktober 2026 auch auf methodische Grenzen hin: Die Beweise gelten ausschließlich für einsträngig ausgeführte, statisch verknüpfte RISC-V-Programme mit der musl-C-Bibliothek unter einer modellierten Linux-Umgebung bei einem festen Speicherbudget und Eingaben unter 64 Megabyte.

Für gängige x86- oder ARM-Architekturen sowie die weit verbreitete Standardbibliothek glibc greifen die aktuellen Resultate nicht, noch garantieren sie vollständige Fehlerfreiheit.

Zusätzliche Restunsicherheiten verbleiben in der Semantikmodellierung von RISC-V und Linux, in den Theoremaussagen sowie im Rocq-Prüfprogramm. Zudem erfassen die Spezifikationen für AddressSanitizer nicht jeden denkbaren Speicherfehler.

Die rasante Entwicklung von KI-Systemen zur Fehlererkennung stellt Unternehmen vor neue Herausforderungen bei der Risikobewertung ihrer IT-Infrastruktur. Erfahren Sie in diesem kostenlosen Report, welche KI-Systeme als Hochrisiko gelten und wie Sie die neuen Regeln der EU-KI-Verordnung rechtssicher umsetzen. Kostenlosen Umsetzungsleitfaden zum AI Act sichern

Die Rechenintensität bleibt hoch: Anthropic bezifferte die Kosten für einen einzelnen Beweis auf hunderte Millionen Token. Neuere Architekturen zeigen jedoch Fortschritte. So bewältigte das Modell Opus 5.5 die Hälfte von 36 Testaufgaben mit rund 40 Prozent weniger Token als Opus 5. Der Einsatz spezialisierter Agenten in geteilten Arbeitsbereichen reduzierte den Token-Verbrauch im Vergleich zu Einzelläufen um 17 Prozent.

Anthropic stellte am 22. Oktober 2026 die RISC-V- und Betriebssystemsemantik, vollständige Beweise für ungepatchte Fuzz-Tests sowie Spezifikationen nicht bewiesener Tests bereit.

Ein öffentliches Software-Repository enthält verifizierte Beweise für 60 Einstiegspunkte in 25 Bibliotheken auf Basis von Rocq 9.2.0. Theorem veröffentlichte am selben Tag eine Schnittstelle für Claude und bietet die Verifikationspipeline externen Projekten an.

Theorem Labs startete zudem den kostenfreien Dienst OSS Verify für Open-Source-Software. Künftig strebt Theorem die formale Überprüfung des Paketmanagers Nix samt glibc sowie der Softwarebibliotheken OpenSSL und cURL an.