EU-KI-Verordnung: Neue Kennzeichnungspflicht für Chatbots ab August
22.06.2026 - 17:09:03 | boerse-global.de
Laut dem aktuellen Phishing Trends Report von KnowBe4 nutzen mittlerweile 86 Prozent aller identifizierten Phishing-Angriffe KI-Unterstützung. Die Erfolgsquote ist alarmierend: KI-gestützte Kampagnen erzielen eine Klickrate von 54 Prozent – herkömmliche Phishing-Mails kommen gerade mal auf 12 Prozent.
Die wirtschaftlichen Schäden sind enorm. Das Bundeskriminalamt bezifferte die Cybercrime-Verluste in Deutschland für 2025 auf 202,4 Milliarden Euro. Global gesehen schätzt die Global Anti-Scam Alliance die Betrugsschäden für 2024 auf rund 850 Milliarden Euro.
Angesichts der rasanten Zunahme von KI-gestützten Attacken ist der Schutz Ihrer digitalen Identität wichtiger denn je. Dieser kostenlose Ratgeber zeigt Ihnen, wie Sie mit der neuen Passkey-Technologie Ihre Konten bei Amazon, WhatsApp und Co. effektiv vor Hackerangriffen absichern. Jetzt Passwort-Stress beenden und Sicherheit erhöhen
Automatisierte Betrugsmaschinerie
Ein besonders perfides Problem: Angreifer automatisieren die Erstellung ihrer Betrugsinfrastruktur. Google reichte Mitte Juni Zivilklage gegen ein in China ansässiges Netzwerk namens „Outsider Enterprise“ ein. Der Vorwurf: Mithilfe des Sprachmodells Gemini generierte das Netzwerk innerhalb von zwei Wochen mindestens 9.000 gefälschte Webseiten und 2,5 Millionen betrügerische SMS.
Doch damit nicht genug. Sicherheitsexperten warnen vor einer neuen Angriffsform namens Agentjacking. Dabei manipulieren Angreifer KI-Assistenten gezielt, um sensible Daten abzugreifen. Erste Analysen zeigen: Solche Attacken auf spezialisierte KI-Tools haben eine Erfolgsquote von bis zu 85 Prozent.
Die Tech-Branche reagiert. Google rollt derzeit eine Funktion zur Erkennung gefälschter Anrufe für Android-Smartphones aus. Die Software identifiziert Betrüger, die mit KI-Stimmenimitaten arbeiten. Finanzinstitute stehen vor einem Strategiewechsel: Experten fordern den Übergang von rein regelbasierten Systemen hin zu verhaltensorientierter Echtzeit-Erkennung – inklusive biometrischer Verhaltensmerkmale.
Gefährliche Selbstüberschätzung
Trotz der wachsenden Gefahr leben viele Nutzer in einer riskanten Illusion. Der BSI-Cybersicherheitsmonitor 2026 zeigt: 47 Prozent der Befragten glauben, KI-generierte Inhalte sicher erkennen zu können. Gleichzeitig ergreifen 32 Prozent keinerlei konkrete Prüfmaßnahmen. Nur jeder zehnte Nutzer verwendet Instrumente wie die Rückwärts-Bildersuche zur Verifikation.
Sicherheitsexperten von McAfee und anderen Organisationen raten zu erhöhter Wachsamkeit. Die empfohlenen Schutzmaßnahmen: konsequente Zwei-Faktor-Authentifizierung, Passwort-Manager und die Verifizierung unerwarteter Zahlungsaufforderungen über einen zweiten, unabhängigen Kommunikationskanal.
EU-KI-Verordnung: Fristen rücken näher
Der gesetzliche Rahmen wird enger. Ab dem 2. August 2026 treten wesentliche Teile der EU-KI-Verordnung in Kraft. Betroffen sind vor allem Hochrisiko-KI-Systeme sowie Transparenzpflichten für Chatbots. Anbieter müssen KI-Interaktionen und Deepfakes in der öffentlichen Kommunikation dann eindeutig kennzeichnen. Bei Verstößen drohen Bußgelder von bis zu 35 Millionen Euro oder sieben Prozent des weltweiten Jahresumsatzes.
Die neuen gesetzlichen Anforderungen des EU AI Acts stellen viele Unternehmen vor große Herausforderungen. Sichern Sie sich diesen kostenlosen Umsetzungsleitfaden, um alle relevanten Fristen, Pflichten und Risikoklassen der KI-Verordnung rechtzeitig im Blick zu haben. Kostenlosen AI Act Leitfaden jetzt herunterladen
Viele Organisationen sind auf diese Fristen nicht vorbereitet. Umfragen aus dem Frühjahr deuten darauf hin: Über die Hälfte der betroffenen Unternehmen hat noch kein vollständiges KI-Inventar erstellt. Während der Handelsverband Eurocommerce Ausnahmen von der Kennzeichnungspflicht für Werbebilder fordert, drängen Versicherungsaufsichten auf einheitliche Regeln für KI-Chatbots in der Beratung.
Parallel dazu forderte die deutsche Verbraucherschutzministerkonferenz am 20. Juni einen nationalen Aktionsplan gegen Fake-Shops. Ziel ist ein beschleunigtes Verfahren zur Löschung betrügerischer Angebote sowie eine stärkere Bündelung der Zuständigkeiten zwischen Polizei, Justiz und Regulierungsbehörden wie dem BSI.
