KI-Extinction: Anthropic-Forscher beziffert Auslöschungsrisiko auf 10%
Veröffentlicht am: 10.09.2026 um 02:02 Uhr | Redaktion boerse-global.de
Ein führender Sicherheitsforscher des US-amerikanischen KI-Unternehmens Anthropic hat eine alarmierende Prognose zur Zukunft der Menschheit abgegeben. Evan Hubinger beziffert das Risiko einer totalen Vernichtung durch künstliche Intelligenz innerhalb der kommenden zehn Jahre auf einen zweistelligen Prozentsatz. Die Warnungen fallen in eine Zeit zunehmender interner Spannungen und politischer Forderungen nach strengeren Kontrollen.
Hubinger äußerte sich am 9. September 2026 besorgt über den aktuellen Stand der Sicherheitsforschung. Seiner Einschätzung nach liege die Wahrscheinlichkeit bei über 10 Prozent, dass die Technologie innerhalb des nächsten Jahrzehnts alle Menschen töten könnte.
In einem Beitrag auf der Plattform X, der innerhalb kurzer Zeit über 10 Millionen Aufrufe generierte, legte er dar, dass es derzeit keinen konkreten Plan für die sogenannte Ausrichtung (Alignment) einer superintelligenten KI gebe.
Ohne eine technologische Lösung für dieses Problem fehle die Gewissheit, dass hochkomplexe Systeme im Einklang mit menschlichen Werten agieren und kontrollierbar bleiben.
Rücktritte und Vorwürfe gegen führende KI-Labore
Unterstützt werden diese Warnungen durch personelle Konsequenzen innerhalb des Unternehmens. Der Forscher Jacob Coxon gab am 9. September 2026 seinen Rücktritt bekannt und erhob dabei schwere Vorwürfe gegen die gesamte Branche.
Coxon erklärte, dass die führenden KI-Labore, namentlich Anthropic und OpenAI, mit dem Leben der Bevölkerung spielen würden. Er warnte eindringlich vor den Gefahren selbstverbessernder Systeme. Diese besäßen laut seiner Einschätzung das Potenzial, die Menschheit bereits bis zum Ende des laufenden Jahrzehnts auszulöschen.
Während Experten über die langfristigen Risiken superintelligenter Systeme debattieren, müssen Unternehmen bereits heute konkrete gesetzliche Leitplanken beachten. Dieser kostenlose Umsetzungsleitfaden bietet einen kompakten Überblick über alle Anforderungen, Pflichten und Fristen des EU AI Acts. EU AI Act in 5 Schritten verstehen
Coxon betonte zudem, dass viele Menschen, die aktiv an der Konstruktion dieser Systeme beteiligt sind, ernsthaft davon überzeugt seien, dass ihre Arbeit den Tod aller Menschen zur Folge haben könnte. Um diese Gefahr abzuwenden, forderte der ehemalige Anthropic-Mitarbeiter ein vorübergehendes Verbot jeglicher Verbesserungen an den Modellfähigkeiten.
Die Besorgnis scheint sich durch verschiedene Hierarchiestufen des Unternehmens zu ziehen. Der Forscher Samuel Marks beobachtete eine Korrelation zwischen der beruflichen Position und dem Grad der Beunruhigung. Demnach seien Mitarbeiter umso besorgter, je höherrangig ihre Funktion innerhalb der Organisation angesiedelt ist.
Intransparenz gegenüber Aufsichtsbehörden
Parallel zu den internen Warnungen steht Anthropic wegen seiner mangelnden Kooperationsbereitschaft mit staatlichen Aufsichtsbehörden in der Kritik. Das Unternehmen hat sein neuestes Modell, Claude Mythos 5.1, dem britischen AI Safety Institute (UK AISI) nicht für unabhängige Sicherheitsüberprüfungen zur Verfügung gestellt.
Wer sich mit der Entwicklung oder dem Einsatz von KI-Systemen befasst, steht vor neuen regulatorischen Herausforderungen bezüglich der Risikodokumentation. Erfahren Sie in diesem kostenlosen Report, welche Systeme als Hochrisiko gelten und wie Sie die rechtlichen Vorgaben sicher erfüllen. Kostenlosen Umsetzungsleitfaden zum EU AI Act sichern
Dieser Vorgang wirft Fragen zur Wirksamkeit freiwilliger Selbstverpflichtungen auf. Während Berichte über die Verweigerung vorliegen, steht eine offizielle Stellungnahme des Unternehmens zu diesem Sachverhalt noch aus.
Politische Initiativen für Verbote und Notabschaltungen
Die Zuspitzung der Warnungen aus den Forschungsabteilungen löst nun verstärkt Reaktionen in der Politik aus. US-Senator Bernie Sanders kündigte an, einen Gesetzentwurf einzubringen, der ein Verbot von Superintelligenz-Anwendungen vorsieht.
Darüber hinaus diskutieren politische Entscheidungsträger über neue gesetzliche Rahmenbedingungen. Diese umfassen unter anderem Kill-Switch-Gesetzgebungen, die eine sofortige Abschaltung von KI-Systemen ermöglichen sollen, falls diese unvorhersehbare oder gefährliche Verhaltensweisen entwickeln. Genaue Zeitpläne für die Umsetzung dieser legislativen Vorhaben stehen derzeit noch fest.
