KI-Forschung: 22 Experten warnen vor einer möglichen Intelligenzexplosion
Veröffentlicht am: 03.10.2026 um 13:51 Uhr | Redaktion boerse-global.de
Führende Wissenschaftler und Branchenexperten warnen davor, dass die fortschreitende Automatisierung der KI-Forschung innerhalb weniger Jahre eine sogenannte Intelligenzexplosion herbeiführen könnte. Wenn Systeme zunehmend die Entwicklung künftiger Modellgenerationen selbst übernehmen, drohe die Kontrolle über den technologischen Fortschritt verloren zu gehen.
Warnung vor sich selbst verstärkenden Forschungsschleifen
Am 28. September 2026 veröffentlichte das Cambridge AI Science and Policy Project eine entsprechende Arbeit, die von insgesamt 22 Mitautoren verfasst wurde. Unter den Unterzeichnern finden sich Pioniere des Fachgebiets wie Geoffrey Hinton, Yoshua Bengio und Andrew Barto sowie Führungskräfte führender Branchenunternehmen, darunter OpenAI-Chefwissenschaftler Jakub Pachocki und Anthropic-Mitgründer Jack Clark.
GovAI-Forscher Alan Chan und weitere Autoren der Schrift, zu denen neben Clark, Pachocki und Hinton auch Eric Horvitz zählt, warnen vor einer sich selbst verstärkenden Schleife in der Forschung. Werden künftige Modelle primär durch automatisierte Prozesse entworfen und optimiert, könnten gewaltige technologische Durchbrüche nicht mehr im Jahresabstand, sondern monatlich auftreten.
Forderung nach Aufsicht und Notfallbremsen
Um solchen Dynamiken entgegenzuwirken, verlangen die Autoren der Arbeit weitreichende Sicherheitsmaßnahmen. Dazu zählen eine verpflichtende Offenlegung, eine unabhängige Aufsicht sowie die Implementierung wirksamer Notfallbremsen. Die Verfasser fordern konkrete Einblicke in den Grad der Automatisierung bei den führenden KI-Laboren und den Einsatz unabhängiger Prüfer.
Wer sich mit der rasanten Entwicklung von KI-Systemen und deren Kontrolle befasst, steht oft vor komplexen rechtlichen Fragen. Dieser kostenlose Umsetzungsleitfaden bietet einen kompakten Überblick über alle Anforderungen, Pflichten und Fristen der EU-KI-Verordnung. EU AI Act in 5 Schritten verstehen
Darüber hinaus sprechen sich die Experten für standardisierte Berichte sowie internationale Vereinbarungen aus, um verbindliche Rahmenbedingungen zu schaffen. Bestehende Initiativen greifen nach Ansicht der Autoren noch zu kurz: Ein Abkommen des Weißen Hauses sieht zwar bereits externe Prüfer vor, bleibt in seinen Bestimmungen jedoch weniger konkret als die nun vorgelegten Empfehlungen.
Rapider Anstieg der internen Automatisierung
Die Warnungen treffen auf eine Phase, in der Tech-Unternehmen ihre internen Forschungsabläufe mit hohem Tempo automatisieren. Nach Angaben des Unternehmens Anthropic entfielen im August 2026 bereits 26 Prozent der internen Forschungs- und Entwicklungsarbeit auf das KI-Modell Claude.
Während die technologische Automatisierung voranschreitet, müssen Unternehmen bereits heute konkrete Regeln wie Kennzeichnungspflichten und Risikodokumentationen beachten. Erfahren Sie in diesem kostenlosen Report, welche KI-Systeme als Hochrisiko gelten und was Verantwortliche jetzt konkret tun müssen. Kostenlosen Umsetzungsleitfaden zum EU AI Act anfordern
Im März desselben Jahres lag dieser Anteil noch bei lediglich einem Prozent. Der Branchenkonkurrent OpenAI wiederum strebt bis März 2028 einen vollständig autonomen KI-Forschungsassistenten an.
Zu berücksichtigen bleibt dabei die Verlässlichkeit der Kennzahlen: Die Daten zu den tatsächlichen Automatisierungsanteilen stützen sich bislang auf die Darstellungen der Unternehmen selbst und wurden bisher nicht unabhängig verifiziert.
