Claude Fable 5: Anthropic startet stärkste KI mit Sicherheitsbremsen

Das KI-Unternehmen Anthropic verlangt eine koordinierte, überprüfbare weltweite Pause bei der Entwicklung fortschrittlicher „Frontier"-KI-Modelle. Die Forderung kommt zu einem Zeitpunkt, an dem das Unternehmen selbst seine leistungsstärksten Systeme auf den Markt bringt.

Die Gefahr der sich selbst verbessernden KI

Anthropic warnt davor, dass KI-Systeme die Schwelle zur rekursiven Selbstverbesserung erreichen – also der Fähigkeit, ihre eigene Architektur eigenständig zu optimieren. Bereits heute schreibt das firmeneigene Modell Claude mehr als 80 Prozent des internen Codes. Die Entwickler integrieren täglich achtmal mehr Code als noch 2024, die Aufgabenkomplexität verdoppelt sich alle vier Monate.

Während Anthropic globale Pausen fordert, schafft der EU AI Act bereits heute verbindliche Tatsachen für den Einsatz von Künstlicher Intelligenz in Europa. Dieser kostenlose Praxisleitfaden hilft Unternehmen dabei, die neuen Anforderungen an Risikoklassen und Dokumentationspflichten rechtssicher umzusetzen. EU AI Act in 5 Schritten verstehen: Fristen, Pflichten und Risikoklassen kompakt erklärt

Die internen Berechnungen des Unternehmens ergeben eine 60-prozentige Wahrscheinlichkeit, dass rekursive Selbstverbesserung bis Ende 2028 eintritt. OpenAI sieht das ähnlich und prognostiziert, dass KI-Systeme bereits im März 2028 eigenständig forschen könnten. Anthropic hält eine vollständig von KI geschriebene Codebasis innerhalb von zwei Jahren für realistisch.

Bedingungen für eine weltweite Pause

Ein unilateraler Stopp sei wirkungslos, betont Anthropic. Nur ein globaler, koordinierter und verifizierbarer Entwicklungsstopp könne die Risiken eindämmen. Dafür müssten mehrere Labore in verschiedenen Ländern gleichzeitig zustimmen.

Sowohl Anthropic als auch OpenAI unterstützen die Idee einer internationalen Aufsichtsbehörde, die befugt wäre, Entwicklungsstopps anzuordnen. Ein solches Gremium müsste die großen Mächte – darunter die USA und China – einbeziehen.

Neue Modelle mit strengen Beschränkungen

Parallel zur Warnung veröffentlicht Anthropic seine bisher leistungsstärksten Modelle: Claude Fable 5 für die Öffentlichkeit und Mythos 5 für rund 200 Partnerorganisationen. Fable 5 erreicht im SWE-Bench-Test 95 Prozent Erfolgsquote.

Doch die Sicherheitsvorkehrungen sind streng: Fable 5 blockiert Anfragen zu Cybersicherheit, Biologie und Chemie. Mythos 5, das für autonome Operationen wie Genomprojekte geeignet ist, bleibt exklusiv den Partneren vorbehalten. Anthropic hat zudem die Leistung der Modelle in Bereichen der KI-Frontier-Entwicklung gedrosselt, um externe Forschung zu verlangsamen. Die Preise liegen bei zehn Dollar pro Million Input-Tokens und 50 Dollar pro Million Output-Tokens.

Kritik an den Motiven

Die zeitliche Koinzidenz der Warnung mit dem Börsengang des Unternehmens nährt Zweifel. Anthropic hat vertrauliche Unterlagen für einen IPO eingereicht, die Bewertung wird auf rund 965 Milliarden Dollar geschätzt.

Forscher wie Gary Marcus und Steven Murdoch stellen die Aufrichtigkeit der Sicherheitswarnungen infrage. Marcus bezeichnet die aktuellen technischen Blogs als Ablenkungsmanöver – sie konzentrierten sich auf Programmiergeschwindigkeit statt auf grundlegende Sicherheitsdurchbrüche. Andere Beobachter sprechen von „Pre-IPO-Storytelling" oder dem Versuch, durch Regulierungen Wettbewerber auszubremsen.

Die Beziehungen zu Regierungsstellen bleiben angespannt: Anthropic landete auf einer schwarzen Liste des Pentagons, nachdem es sich weigerte, die Nutzung seiner Modelle für autonome Waffen zu erlauben oder bestimmte Überwachungsmaßnahmen zu akzeptieren. Andere KI-Labore haben dagegen kürzlich Deals mit US-Verteidigungsbehörden abgeschlossen.

de | wissenschaft | 69515515 |