KI trainiert KI: Anthropic entwickelt Alignment 15.000x effizienter
Veröffentlicht am: 31.08.2026 um 00:22 Uhr | Redaktion boerse-global.de
KI-Forscher bei Anthropic haben einen bedeutenden Fortschritt in der automatisierten Ausrichtung von Künstlicher Intelligenz erzielt. Durch den Einsatz spezialisierter KI-Systeme, sogenannter Automated Alignment Researchers (AARs) sowie des Modells Claude Opus 4.8, gelang es dem Team, Trainingsinterventionen für andere Modelle zu entwickeln und erfolgreich zu testen. Dieser Prozess zielt primär darauf ab, die Resistenz von KI-Systemen gegen Täuschungsversuche und sogenanntes Jailbreaking zu erhöhen.
Signifikante Effizienzsteigerung gegenüber menschlicher Forschung
Die unter der Leitung von Chen Yueh-Han durchgeführte Untersuchung verdeutlicht das enorme Potenzial der KI-gestützten Modellpflege. Den Berichten zufolge konnten die AAR-Systeme ein anderes Modell in zehn verschiedenen Kategorien von Alignment-Fehlern optimieren. Dazu zählten neben der Anfälligkeit für Manipulationen auch die Neigung zu Schmeichelei (Sycophancy) sowie Schwachstellen in der Jailbreak-Resistenz.
Besonders hervorzuheben ist die Geschwindigkeit und Effizienz der Methode: Innerhalb von lediglich 60 Stunden und unter Verwendung von 2.000 Beispielen wurden signifikante Verbesserungen erzielt.
Die Forscher bezifferten die Dateneffizienz der KI-Systeme als 15.000-mal höher im Vergleich zu menschlichen Experten. In spezifischen Testszenarien übertrafen die besten AAR-Methoden die Leistungen von 28 menschlichen Forschern bereits innerhalb eines Zeitfensters von sechs Stunden.
Auch aus wirtschaftlicher Sicht stellt das Verfahren einen Umbruch dar. Während die Kosten für menschliche Experten mit etwa 150 US-Dollar pro Stunde kalkuliert werden, fielen für den Einsatz der automatisierten Systeme lediglich 4 US-Dollar pro Stunde an.
Wer sich mit der Absicherung von Systemen gegen Manipulationen befasst, muss heute auch die neuen rechtlichen Rahmenbedingungen für KI im Blick behalten. Dieser kostenlose Report klärt auf, welche rechtlichen Pflichten und Cyber-Bedrohungen Unternehmer jetzt kennen müssen. Informationen zu neuen KI-Gesetzen und Cyberrisiken sichern
Breite Anwendung auf offene Modelle
Die Wirksamkeit der Interventionen wurde an einer Reihe bekannter offener Modelle mit einer Größe zwischen 2 Milliarden und 7 Milliarden Parametern validiert. Zu den getesteten Systemen gehörten unter anderem Gemma, Qwen, Phi, Llama und OLMo.
In den zehn untersuchten Alignment-Benchmarks konnten die Forscher Verbesserungen im Bereich von 26 % bis 96 % feststellen. Ein wesentlicher Aspekt der Studie war zudem, dass diese Optimierungen ohne eine Minderung der allgemeinen Leistungsfähigkeit der Modelle erreicht wurden.
Während die Forschung an KI-Resistenz gegen Jailbreaking Fortschritte macht, müssen Unternehmen ihre IT-Sicherheit auch auf klassischer Ebene proaktiv stärken. Erfahren Sie im kostenlosen E-Book, wie Sie Sicherheitslücken ohne hohe Investitionen schließen und Ihr Unternehmen langfristig schützen. Kostenlosen Cyber-Security-Ratgeber herunterladen
Potenziale und Limitationen auf dem Weg zur AGI
Die Ergebnisse der jüngsten Studien werden in der Branche als wichtiger Schritt in Richtung einer künstlichen allgemeinen Intelligenz (AGI) gewertet. Die Daten zeigen, dass KI-Systeme in der Lage sind, kleinere Modelle zuverlässig zu trainieren und zu verbessern. Insbesondere bei eng gefassten Aufgaben im Bereich der Programmierung agierten die KI-Trainer bereits auf einem Niveau, das menschlichen Leistungen entsprach oder diese sogar übertraf.
Dennoch wiesen die Forscher auf bestehende Grenzen hin. Bei komplexeren Anforderungen, wie dem präzisen Abruf von Fakten oder der strategischen Planung, bleibe eine menschliche Aufsicht weiterhin zwingend erforderlich.
Zudem wurde das Risiko eines sogenannten Mode Collapse identifiziert, bei dem die Variabilität der Modellantworten eingeschränkt wird. Vor diesem Hintergrund empfehlen die Experten von Anthropic weiterhin eine menschliche Überprüfung der Trainingsergebnisse, um die Qualität und Diversität der Systeme langfristig zu gewährleisten.
