KI-Deepfakes vor Gericht: OpenAI und Meta warnen vor kaum prüfbaren Beweisen

Führende Technologiekonzerne schlagen Alarm wegen der zunehmenden Qualität künstlich erzeugter Medien im Justizsystem. Bei einer Sitzung des Beratenden Ausschusses für Beweisregeln der US-Judicial Conference in Boston haben Vertreter von OpenAI und Meta vor den erheblichen Gefahren gewarnt, die durch KI-generierte Fälschungen für die Echtheitsprüfung von Beweismitteln entstehen.

Audio- und Videoaufnahmen ließen sich in Gerichtsverfahren immer schwerer verifizieren. Beide Unternehmen mahnten die Gerichte dazu, die weitreichenden Auswirkungen künstlicher Intelligenz auf künftige Prozesse rechtzeitig zu berücksichtigen.

Fehlende Unterscheidbarkeit und sinkende Hürden

Die Vertreter der Tech-Konzerne machten deutlich, wie rasant sich die Technologie zur Fälschung von Bild- und Tonmaterial entwickelt. Devin Norder aus dem Produktmanagement von Meta erklärte vor dem Gremium, dass Medien, die mit den neuesten KI-Modellen erstellt werden, für Menschen nicht mehr von echten Aufnahmen unterscheidbar seien. Zudem sei die Erstellung solcher Inhalte inzwischen extrem niedrigschwellig: Nutzer benötigten dafür kaum noch Zeit oder finanzielle Mittel.

Wer sich mit den rechtlichen Rahmenbedingungen für künstliche Intelligenz befasst, findet in diesem Leitfaden eine kompakte Übersicht zu den neuen gesetzlichen Anforderungen. EU AI Act in 5 Schritten verstehen: Fristen, Pflichten und Risikoklassen kompakt erklärt

Auch vonseiten OpenAIs wurde vor einer trügerischen Sicherheit bei der Enttarnung von Fälschungen gewarnt. Shira Anderson, Politikberaterin bei OpenAI, betonte bei dem Treffen, dass KI-Bilder fortlaufend besser würden. Für die Zukunft sei nach ihrer Einschätzung nicht mehr damit zu rechnen, dass es eine verlässliche wissenschaftliche Erkennungsmethode geben werde, um Fälschungen zweifelsfrei zu identifizieren.

Grenzen von Wasserzeichen und regulatorischen Vorgaben

Als ein Kernproblem stuften die Beteiligten die technische Überprüfung im juristischen Alltag ein. Zwar verlangen neue gesetzliche Vorgaben in Kalifornien und der Europäischen Union den Einsatz digitaler Wasserzeichen, um Deepfakes kenntlich zu machen.

Anderson warnte jedoch vor Lücken bei solchen Vorgaben: Ein universelles Verfahren zur Erkennung existiere bislang nicht, da jedes Unternehmen auf eigene, proprietäre Systeme setze. Ohne einheitliche Standards bleibe der Nachweis manipulierter Medien vor Gericht lückenhaft.

Die neuen Regeln zur Kennzeichnung und Risikodokumentation von KI-Systemen stellen viele Verantwortliche vor große Herausforderungen. Dieser kostenlose Report klärt auf, welche konkreten Pflichten jetzt für Unternehmen und Organisationen gelten. Welche KI-Systeme gelten als Hochrisiko – und was müssen Unternehmen jetzt konkret tun?

In der US-Justiz stößt die Debatte auf wachsende Aufmerksamkeit, auch wenn akute Konfliktfälle bislang selten sind. Der Beratende Ausschuss für Beweisregeln befasst sich bereits seit 2023 mit dem Risiko manipulierter Beweismittel.

Jesse Furman, Panel-Vorsitzender und US-Bezirksrichter in Manhattan, hielt fest, dass entsprechende Fälle im praktischen Gerichtsalltag gegenwärtig noch nicht häufig aufträten. Die Warnungen der Entwickler verdeutlichen jedoch, dass sich die Justiz frühzeitig auf eine Flut schwer überprüfbarer Bild- und Tondokumente vorbereiten muss.