Seit dem Amtsantritt von Papst Leo XIV. mehren sichKI-generierte Deepfakes, die angeblich das neue Oberhaupt der Katholischen Kirche zeigen. Das Nachrichtenportal des Vatikans warnt, dass sich Fake News rund um den neuen Papstonline verbreiten. Das DW-Faktencheck-Team hat sich einige der Posts genauer angeschaut. 

Behauptung: Papst Leo XIV. habe angeblich auf einen Brief von Burkina Fasos Junta-Chef Ibrahim Traoré geantwortet. "Ich habe Ihre Worte nicht nur einmal, sondern mehrmals gelesen. (...) In Ihrer Stimme vernehme ich nicht nur die Wut eines Präsidenten, sondern den gerechten Aufschrei eines Kontinents, der seit langem vernachlässigt und ausgebeutet wurde", wird der Papst auf Englisch in einem Video zitiert, das auch in Auszügen in anderen sozialen Medien wie X geteilt wird.

DW Faktencheck: Fake

Das 36 Minuten lange Video nutzt Videomaterial von einem Treffen mit Journalisten am 12. Mai. Dies konnten wir anhand einer Bilderrückwärtssuche feststellen. Im Video wird mit einer Morphing-Technik gearbeitet, um die Lippenbewegungen des Papstes mit der KI-generierten Tonspur zusammenzubringen. Dies wurde von Vatican News, dem offiziellen Nachrichtenportal des Heiligen Stuhls, bestätigt.

Auch der YouTube-Kanal selbst gibt zu, dass das Video nicht echt ist - allerdings gut versteckt hinter viel Text, den man erst ausklappen muss. "Dieses Video ist ein fiktives Werk", heißt es, inspiriert von dem Leben Traorés, der sich 2022 mit einem von den Vereinten Nationen verurteilten Coup an die Macht putschte.

"Obwohl einige Elemente auf wahren Begebenheiten beruhen, sind die beschriebenen Situationen und Dialoge rein fiktiv und spiegeln keine tatsächlichen Ereignisse wider", steht in dem Begleittext. Jede Ähnlichkeit mit realen Tatsachen sei rein zufällig. Und weiter: "Audio- oder visuelle Inhalte wurden stark bearbeitet oder digital generiert."

Der Papst reiht sich ein in die Riege der prominenten Persönlichkeiten, die von Traorés Unterstützern benutzt werden, um den Militärchef in ein besseres Licht zu rücken: Auch Deepfakes von Stars wie Rihanna, Beyoncé und Justin Bieber kursieren mit KI-generierten Songs und Videos.

Behauptung: Angeblich kritisierte der Papst den US-amerikanischen Präsidenten Donald Trump in einem Video, das auf TikTok und Instagram verbreitet wurde. "Trump, die Einwanderungspolitik, die Sie umgesetzt haben, ist eine eklatante Missachtung sowohl der Lehren der Kirche als auch der Versprechen des amerikanischen Traums." Der Papst habe gesagt, er sei vehement gegen alles, wofür Trump stehe. 

DW Faktencheck: Fake

Das Video wurde manipuliert und der Papst hat nichts davon je gesagt. Alle Reden, Ansprachen und Texte des Papstes können in Gänze auf der offiziellen Website vatican.va nachgelesen werden, seine Termine stehen auf vaticannews.va.

Es gibt auch andere Hinweise, dass das Video nicht echt sein kann: Papst Leo XIV. wurde als Robert Francis Prevost in Chicago in dem US-amerikanischen Bundesstaat Illinois geboren. Er spricht demnach Englisch als Muttersprache mit einem leichten Chicagoer-Akzent. Ein genauer Blick auf die Mundbewegungen im Video lässt auch erkennen, dass dort Unschärfen mit häufigen kleinen Störungen in dem Bereich des Mikrofons auftreten. Wir haben das Originalvideo gefunden, in dem der Papst mit Medienvertretern am 12. Mai spricht. Er erwähnt Trump dort nicht und spricht Italienisch.

Behauptung: "Papst Leo XIV. hat absichtlich eine LGBTQ-Regenbogenfahne ignoriert, indem er wegschaute, als er sich ihr näherte", behauptet ein viraler Post auf X, der mehr als 12 Millionen Mal angeschaut wurde.

DW Faktencheck: Falsch

Auf dem Video ist zu sehen, wie der Papst einen Korridor entlanggeht, an deren Seiten sich Menschenmassen drängen. Er schüttelt jeweils Hände zu seiner linken und rechten Seite. Er dreht sich auf die andere Seite, bevor die Flagge auf dem Bildschirm zu sehen ist. Das Originalvideo hat Vatican News veröffentlicht.

Allerdings ist die bunte "Regenbogenflagge" in dem Video nicht die LGBTQ-Flagge, sondern die italienische Friedensflagge mit dem italienischen Wort für Frieden (pace). Auch wenn die Flaggen auf dem ersten Blick sehr ähnlich scheinen, gibt es einige Unterschiede: So hat die LGBTQ-Flagge sechs Streifen und beginnt mit rot und schließt unten mit lila ab. Die Friedensflagge hingegen hat sieben Streifen - zusätzlich einen hellblauen Streifen, den die LGBTQ-Flagge nicht hat - und die Farbreihenfolge ist vertauscht. 

Da KI-generierte Inhalte immer raffinierter werden, ist es wichtig, auf Unstimmigkeiten zu achten, Quellen zu überprüfen und gefälschte Inhalte zu melden, um deren weitere Verbreitung zu verhindern. Dass dies erfolgreich ist, zeigt ein Beispiel: Ein YouTube-Kanal, der gefälschte Predigten veröffentlichte, gibt es inzwischen nicht mehr.

Dieser Text erschien zuerst auf Englisch.