MuTRAP-Angriff: Manipulierte Trainingsdaten treffen sieben Robotermodelle
Veröffentlicht am: 24.10.2026 um 02:03 Uhr | Redaktion boerse-global.de
Ungeklärte Haftungsfragen und das Fehlen standardisierter Sicherheitsprotokolle verzögern derzeit den Schritt humanoider Roboter von kontrollierten Testumgebungen in reale Industrieanlagen. Darauf machten Aaron Rohmann von MicroAGI und Richard Ahlfeld von CoreWeave am 22. Oktober 2026 aufmerksam. Der Übergang aus reinen Demonstrationen in den aktiven Fabrikalltag werde durch erhebliche rechtliche und versicherungstechnische Hürden gehemmt.
Fragmentierte Lieferketten und unklare Risikoverteilung
Ein wesentliches Problem bei der Einführung humanoider Systeme liegt in der komplexen Zusammensetzung moderner Maschinen. Wenn ein Roboter aus Komponenten diverser Zulieferer besteht – etwa einem separat gefertigten Körper, spezialisierten Greifhänden und extern entwickelten KI-Modellen –, bleibe die juristische Verantwortung im Falle von Personenschäden völlig offen, erklärte Rohmann. Dies behindere einen zügigen Rollout in der Industrie. Zudem stehe die Frage im Raum, ob ein Zuverlässigkeitswert von rund 99,7% für einen echten Produktionseinsatz überhaupt ausreiche.
Wie akut die Vorbehalte in der Praxis sind, verdeutlichte Ahlfeld mit Blick auf einen jüngsten Branchengipfel: Kein einziges Unternehmen habe dort Live-Vorführungen gewagt, primär aufgrund ungelöster Versicherungsfragen. Den Versicherungsschutz für einen Roboter für nur einen einzigen Tag abzusichern, sei mit extrem hohen Kosten verbunden.
MicroAGI sammelte kürzlich eine Seed-Finanzierungsrunde über 55 Mio. US-Dollar ein, was laut Ahlfeld die bislang größte dieser Art in Deutschland darstellt. Große Trainingsläufe für solche Systeme erfordern bis zu 50.000 GPUs, während ein einzelner Fehlschlag Kosten von 100 Mio. US-Dollar verursachen kann.
Robotik und KI leiten eine neue Ära der Industrie ein, die für Unternehmen enorme Chancen, aber auch neue Verantwortungen bereithält. Dieser Report liefert konkrete Einblicke in die Unternehmen, die von den aktuellen Milliarden-Investitionen in diese Zukunftstechnologien profitieren. Robotik und KI: Profiteure der neuen Industrieära erkennen
Lücken in den Regularien und der Versicherung
Auch auf internationaler politischer Ebene wächst der Druck, regulatorische Rahmenbedingungen anzupassen. In Südkorea forderte der Abgeordnete Jeong Jin-wook von der Demokratischen Partei im parlamentarischen Ausschuss für Industrie, Handel, Mittelstand und Start-ups Reformen bei der Regulierung physischer KI. Das bestebestehende südkoreanische Zertifizierungssystem für Außenbereich-Roboter sei lediglich auf Radmodelle ausgelegt.
Kriterien für zwei- oder vierbeinige Laufroboter hinsichtlich Treppensteigen, Aufrichten und Umkippsicherheit fehlten bislang völlig. Zudem decke die dortige Roboter-Haftpflichtversicherung gegenwärtig nur Drittschäden ab, schließe jedoch Schäden an der Maschine selbst, KI-Fehlfunktionen oder Angriffe durch Hacking aus.
Gleichzeitig belegte ein am 22. Oktober 2026 vorgestelltes Forschungsergebnis auf der Konferenz IROS-2026 neue Sicherheitsrisiken in den Lieferketten.
Wissenschaftler demonstrierten eine Angriffsmethode namens MuTRAP, bei der durch die Vergiftung von rund 10% domänenspezifischer Trainingsdaten ein verdeckter Soft-Prompt eingeschleust werden kann. Dieser manipuliert die Aufgabenplanung des Roboters erst bei einem bestimmten Auslösewort, während Audits des Basismodells unauffällig bleiben. In Tests über sieben offene Modelle erzielte das Verfahren Erfolgsraten von 97,3% bis 100%.
Wer sich mit dem Einsatz moderner Technologien und KI-Systeme befasst, muss die neuen rechtlichen Rahmenbedingungen und Kennzeichnungspflichten genau kennen. Dieser kostenlose Umsetzungsleitfaden verschafft Ihnen den notwendigen Überblick über Fristen, Pflichten und Risikoklassen des EU AI Acts. EU AI Act in 5 Schritten verstehen
Industrie arbeitet an Standards und Übergangslösungen
Laut einem am 22. Oktober 2026 veröffentlichten Whitepaper des Fraunhofer IPT, das über 240 Unternehmen untersuchte, beschränkt sich die industrielle Validierung von Humanoiden aktuell noch auf Pilotprojekte und Vorführungen. Industrieller Nutzen könne jedoch schon vor einer vollständigen Allzweck-Autonomie entstehen; KI-Cobots und mobile Manipulatoren böten hier kurzfristigere Mehrwerte.
Um die Sicherheitslücke zu schließen, treiben Hersteller technische Schutzmaßnahmen und neue Normen voran. Agility Robotics weitet die Zusammenarbeit mit FORT Robotics aus, um den Roboter Digit 5 über eine Offboard Safety Bridge direkt an externe Sicherheitseinrichtungen wie speicherprogrammierbare Steuerungen (SPS) und Notaus-Systeme anzubinden.
Agility Robotics bringt dabei Erfahrungen aus über 65.000 Betriebsstunden früherer Modellgenerationen unter anderem bei Schaeffler, GXO und Toyota Motor Manufacturing Canada ein und beteiligt sich an der Ausarbeitung der ISO 25785-1 sowie des nordamerikanischen Standards ANSI/A3 TR R15.108.
Agile Robots kooperiert wiederum mit NVIDIA an der Halos-Plattform für kollaborative Humanoide. Da mehrgliedrige Laufroboter mit Lasten physikalisch nicht abrupt stoppen können, sondern Gangart und Tempo graduell anpassen müssen, erarbeitet das Unternehmen mit Partnern neue Konzepte.
Agile Robots, dessen Sicherheitsfunktionen TÜV SÜD-zertifiziert sind und das weltweit über 20.000 Automatisierungslösungen im Einsatz hat, wirkt an kommenden ISO-Normen für aktiv geregelte Stabilität mit.
Parallel dazu formulieren Gremien wie ISO/TC 299 an Normen wie der ISO 10218 und künftigen Leitlinien für KI in der funktionalen Sicherheit (ISO/IEC TS 22440), welche auch auf der IRSC-Konferenz vom 3. bis 5. November in Detroit debattiert werden.
