KI-Sicherheit in Unternehmen: Jedes sechste meldet Angriffe oder Betrug

Der Digitalverband Bitkom hat in Berlin einen Leitfaden mit dem Titel Verantwortungsvoller KI-Einsatz: Risiken verstehen, steuern und versichern als kostenlosen Download bereitgestellt. Die Veröffentlichung richtet sich an Unternehmen, Versicherer, InsurTechs und Makler sowie an Fachkräfte in den Bereichen Underwriting, Risikomanagement und IT-Sicherheit.

Hintergrund der Initiative ist die rasche Verbreitung der Technologie in der Wirtschaft: Nach Angaben des Branchenverbands setzen bereits 57 Prozent der Unternehmen in Deutschland künstliche Intelligenz ein, während weitere 38 Prozent die Einführung planen oder diskutieren.

Gleichzeitig wächst der deutsche KI-Markt im laufenden Jahr nach Verbandsprognosen um 48 Prozent auf 28,7 Milliarden Euro, nach 19,4 Milliarden Euro im Vorjahr.

Dynamische Risiken und offene Haftungsfragen

Mit der zunehmenden Integration von Systemen steigen auch die operativen Gefahren. Lukas Spohr, Experte für Digital Insurance beim Bitkom, betonte, dass künstliche Intelligenz betriebliche Prozesse zwar beschleunige, bestehende Risiken jedoch verstärke.

Fehlerhafte Abläufe verbreiteten sich schneller und seien im Nachhinein schwerer zu rekonstruieren. Insbesondere beim Einsatz autonom agierender KI-Agenten wachsen laut Spohr die Anforderungen an Zugriffsrechte, Freigabeprozesse, laufende Überwachung und menschliche Kontrollmechanismen.

Thematisch deckt der Leitfaden Aspekte wie Governance und IT-Sicherheit ab. Er behandelt Schäden im eigenen Unternehmen, Risiken gegenüber Dritten sowie Reputationsschäden infolge von irreführenden Behauptungen über den tatsächlichen Technologieeinsatz.

Da die Haftungsfragen beim Einsatz neuer Technologien oft komplex sind, benötigen Unternehmen einen klaren Überblick über die rechtlichen Rahmenbedingungen. Dieser kostenlose Umsetzungsleitfaden zum EU AI Act erklärt Ihnen kompakt alle Fristen, Pflichten und Risikoklassen. EU AI Act in 5 Schritten verstehen

Zudem analysiert die Veröffentlichung versicherbare Risiken und bestehende Versicherungslücken. Die grundlegende Haftungsfrage bleibt nach Medienberichten zum Leitfaden jedoch weiterhin offen. Regulatorisch blicken viele Unternehmen auf europäische Vorgaben; der ursprüngliche Vorschlag der EU-Kommission zum KI-Gesetz datiert vom 21. April 2021.

Aufholbedarf bei Sicherheitsabläufen und Governance

Dass das Risikomanagement in vielen Organisationen dem Tempo der Technologieeinführung hinterherhinkt, belegen weitere Erhebungen. Laut der KI-Sicherheitsstudie 2026 des TÜV-Verbands und des Bundesamts für Sicherheit in der Informationstechnik berichtet jedes sechste Unternehmen von bestätigten oder vermuteten Cyberangriffen beziehungsweise Betrugsversuchen mit KI-Bezug.

Dennoch verfügen lediglich 11 Prozent der Firmen, die KI nutzen oder dies planen, über spezielle Abläufe für derartige Sicherheitsvorfälle. Weiterbildungsbedarf sehen die bereits anwendenden Unternehmen vor allem bei der Integration mit 76 Prozent, dem sicheren Umgang mit 69 Prozent sowie der Datenkompetenz mit 65 Prozent.

Auch eine internationale Befragung des Technologieunternehmens IBM unterstreicht die Herausforderungen in den Führungsetagen: In Deutschland meldeten 82 Prozent der Führungskräfte einen Vorfall mit KI-Bezug im vergangenen Jahr, der den Vorstand oder die Geschäftsleitung erreichte.

Wer die Sicherheit der eigenen IT-Systeme proaktiv stärken möchte, findet in diesem Ratgeber wertvolle Strategien zur Abwehr aktueller Bedrohungen. Das Gratis-E-Book enthüllt, wie Sie Sicherheitslücken schließen und gleichzeitig neue gesetzliche Anforderungen rechtssicher erfüllen. IT-Sicherheit ohne teure Investitionen stärken

Allerdings passten nur 39 Prozent der deutschen Unternehmen daraufhin ihre Governance-Strukturen an. Bei der Haftungsfrage für Schäden sprachen sich 19 Prozent der befragten Führungskräfte in Deutschland für eine geteilte Verantwortung zwischen Anwendern und Anbietern aus, während 22 Prozent einen klareren regulatorischen Rahmen einforderten.

Internationale Grundsätze für Finanzinstitute

Über die Leitlinien nationaler Branchenverbände hinaus widmen sich auch internationale Gremien der Steuerung technologischer Gefahren. Das Financial Stability Board veröffentlichte einen Abschlussbericht mit zwölf Grundsätzen für den verantwortungsvollen KI-Einsatz in Finanzinstituten.

Die Empfehlungen gliedern sich in vier Grundsätze zur unternehmensweiten Steuerung und acht Leitlinien für das Risikomanagement über den gesamten Lebenszyklus der Systeme. Sie zielen darauf ab, Risiken bei der Verarbeitung sensibler Daten, der Nachvollziehbarkeit automatisierter Entscheidungen und der Abhängigkeit von externen Technologieanbietern zu begrenzen.