Metas Chatbot bestritt Trump-Attentat

Meta verweist auf sogenannte "Halluzinationen", bei denen Software mit Künstlicher Intelligenz Dinge einfach erfindet. Die Branche fand bisher keine grundsätzliche Lösung für das Problem.

Meta musste sich nach Kritik aus dem politischen Lager der Trump-Anhänger rechtfertigen. Angeprangert wurde, dass sich der Chatbot Meta AI erst weigerte, Fragen zu dem Attentat auf den Ex-Präsidenten zu beantworten - und dann zum Teil behauptete, es habe nie stattgefunden.

Der Konzern erklärte in einem Blogeintrag, man habe Meta AI zunächst mit Absicht nicht über das Attentat am 13. Juli sprechen lassen. Denn rund um schlagzeilenträchtige Ereignisse gebe es oft widersprüchliche Angaben und unbegründete Spekulationen bis hin zu Verschwörungstheorien.

Meta: "Unglücklich", aber keine Absicht

Aber auch nachdem der KI-Chatbot mit Informationen über das Attentat gefüttert worden sei, habe er "in wenigen Fällen" behauptet, es sei nicht passiert, räumte Meta ein. Das sei "unglücklich", aber keine Absicht gewesen.

Die "Halluzinationen" sind ein allgemeines Problem von KI-Chatbots und haben damit zu tun, wie die Software funktioniert. Die Programme werden zunächst mit riesigen Mengen an Informationen trainiert. Bei ihren Reaktionen auf Nutzeranfragen wägen sie dann auf dieser Basis Wort für Wort ab, wie ein Satz wahrscheinlich weitergehen sollte.

Dadurch kann die Software völlig falsche Aussagen zusammenwürfeln, auch wenn sie nur mit korrekten Informationen angelernt wurde. KI-Entwickler versuchen, das Problem mit Hilfe zusätzlicher Leitplanken für die Programme in den Griff zu bekommen.

Faktencheck-Label auf dem falschen Foto

Bei einem zweiten Problem wurde ein Foto, auf dem Trump mit seinen Leibwächtern unmittelbar nach dem Attentat zu sehen ist, fälschlicherweise mit einem Faktencheck-Label versehen. Damit war ursprünglich eine manipulierte Version des Bildes markiert worden, in der ein Lächeln auf den Gesichtern der Bodygards ergänzt wurde. Doch für Metas automatisierte Systeme war der Unterschied zwischen den beiden Fotos schwer zu erkennen - und sie fügten das Faktencheck-Label auch zum Original-Foto hinzu.

Bei dem Attentat hatte ein Mann bei einem Wahlkampfauftritt im Bundesstaat Pennsylvania auf Trump geschossen. Die Kugeln töteten einen Zuschauer und verwundeten zwei weitere. Der Ex-Präsident wurde am Ohr getroffen.