Superwahljahr 2024: Wenn die KI Wahlkampf betreibt

Jena - Knapp vier Milliarden Menschen in 70 Ländern, fast die Hälfte der Weltbevölkerung, treten laut Berechnungen ( https://www.economist.com/interactive/the-world-ahead/2023/11/13/2024-is-the-biggest-election-year-in-history ) dieses Jahr den Gang zur Wahlurne an, auch in Deutschland: Neben zahlreichen Kommunal- und Landtagswahlen werden deutsche Wahlberechtigte im Juni über das Europäische Parlament abstimmen. Mit der zunehmenden Verbreitung und Zugänglichkeit von Künstlicher Intelligenz wächst das Risiko, dass Wähler desinformiert und in ihrer Entscheidung beeinflusst werden. Experten des europäischen IT-Sicherheitsherstellers ESET gehen davon aus, dass Wahlmanipulationen durch KI in verschiedenen Formen auftreten werden.

"Es ist sehr wahrscheinlich, dass es in diesem Jahr Manipulationsversuche durch KI bei Wahlen geben wird, zum Beispiel in Form von gefälschten Politikervideos. Nicht nur politische Parteien im eigenen Land haben ein Interesse daran, dem politischen Gegner zu schaden, auch ausländische Akteure werden versuchen, durch KI in den Wahlkampf einzugreifen", erklärt Michael Klatte, IT-Sicherheitsexperte bei ESET. "Wähler in Deutschland müssen deshalb achtsam sein, wenn sie auf Social Media oder in anderen Quellen Nachrichten konsumieren – die KI-Technik ist mittlerweile so weit fortgeschritten, dass selbst Profis gefälschte Bilder und Videos nicht auf den ersten Blick erkennen."

Wenige Daten reichen für ein realistisches Video vom Bundeskanzler

Generative KI kann sehr realistische gefälschte Inhalte erstellen, sogenannte Deepfakes. Die Idee dahinter: Die manipulierten Bilder und Videos sollen das Image von Politikern beschädigen und Ereignisse inszenieren, die nie stattgefunden haben. Ende letzten Jahres machte beispielsweise ein gefaktes Video von Olaf Scholz ( https://www.br.de/nachrichten/netzwelt/scholz-deepfake-sind-ki-faelschungen-verboten,TwzZ6nE ) die Runde. Ziel solcher Aktionen ist es, politische Gegner zu diffamieren, was im Wahlkampf Stimmen kosten kann.

Da die Produktionstechnik stetig ausgefeilter wird, fällt es immer schwerer, zwischen authentischen und gefälschten Inhalten zu unterscheiden. Um ein solches Videos zu erstellen, benötigt man nur das richtige Rohmaterial an Daten, beispielsweise Videos, Bilder und Tonaufnahmen – all dies gibt es von Politikern online en masse. KI-Tools, die mit Hilfe dieser Daten Bilder, Texte und Audiodateien generieren, sind online für eine geringe Nutzungsgebühr verfügbar und erstellen innerhalb kürzester Zeit authentisch wirkende Medien.

Desinformation mit KI bei Wahlen ist längst Realität

In den USA, wo der Präsidentschaftswahlkampf bereits im vollen Gange ist, erfreuen sich KI-Tools bereits großer Beliebtheit, um politische Gegner zu diffamieren. So forderte beispielsweise ein KI-Anrufer Wähler im US-Bundesstaat New Hampshire dazu auf, nicht an den Vorwahlen teilzunehmen und torpedierte somit den Wahlkampf des amtierenden US-Präsidenten Joe Biden.

In Deutschland werden Desinformationskampagnen über andere Kanäle vermutet: Vor allem Social-Media-Plattformen und Messenger-Dienste wie TikTok, Instagram sowie Telegram und WhatsApp werden schon heute dazu genutzt, um Falschinformationen zu verbreiten – auch, wenn deren Betreiber schon viel tun, um dem entgegenzuwirken ( https://digital-strategy.ec.europa.eu/de/news/online-platforms-put-special-focus-elections-third-batch-reports-under-code-practice-disinformation ). Im Wahlkampf werden Betrüger die große Reichweite dieser Kanäle nutzen, um Falschinformationen schnell an viele Empfänger zu verteilen.

Tipps zur Erkennung von KI-gesteuerter Falschinformation

Die gute Nachricht ist: Demokratien schauen nicht tatenlos dabei zu, wenn ihre Wahlprozesse drohen, manipuliert zu werden. Das Ende 2022 in der EU in Kraft getretene "Gesetz über digitale Dienste ( https://digital-strategy.ec.europa.eu/de/policies/dsa-impact-platforms )" (Digital Services Act) nimmt Suchmaschinen- und auch Social-Media-Betreiber in die Pflicht, Risiken bei Wahlprozessen abzumildern. Dazu gehört auch die Reaktion auf Desinformation. Die Löschung fragwürdiger Inhalte kann trotzdem einige Zeit in Anspruch nehmen. Nutzer sollten sich deshalb an die folgenden Tipps halten, wenn sie auf scheinbar brisante Neuigkeiten und Skandale politischer Würdenträger im Internet stoßen:

* Überprüfen Sie die Quelle : Überprüfen Sie die Glaubwürdigkeit der Quelle, insbesondere bei unbekannten oder fragwürdigen Nachrichtenquellen. * Analysieren Sie den Inhalt : Achten Sie auf Anzeichen von Unstimmigkeiten, Ungenauigkeiten oder übermäßig emotionalen Inhalten, die auf eine mögliche Manipulation hinweisen könnten. * Achten Sie auf Details: Obwohl KI-Technologien immer besser werden, kommt es immer noch zu Fehlern und Ungenauigkeiten. Häufig sehen auf Bildern beispielsweise Hände unnatürlich aus, in Videos wirken Lippenbewegungen ungenau bzw. asynchron.

Weitere Tipps stellt die Bundesregierung online ( https://www.bundesregierung.de/breg-de/schwerpunkte/umgang-mit-desinformation/falschmeldungen-erkennen-1750146 ) zur Verfügung.

(Ende)

Aussender: ESET Deutschland GmbH Ansprechpartner: Philipp Plum Tel.: +49 3641 3114 141 E-Mail: [email protected] Website: www.eset.de