Russlands Präsident Wladimir Putin kniend vor seinem Gast, dem chinesischen Präsidenten Xi Jinping. Der ehemalige US‑Präsident Donald Trump, der in New York von Polizisten in einem Handgemenge festgenommen wird – so wie er es vorausgesagt hat. Bestechend echt aussehende Aufnahmen fluten das Netz – und sind doch so offensichtlich gefälscht, auch weil die Botschaften, die sie transportieren, an Plumpheit kaum zu unterbieten sind.

Mehr zum Thema

 

ARD Story: Die Machtmaschine

„Fake Accounts beeinflussen die Demokratie absolut“: Brisante ARD-Recherchen über Facebook und Co.

 

Gezielte Desinformation

Russischer Fakeanruf: Merkel fällt auf falschen Poroschenko herein

 

Fake News, Hacking und Tausende Internetbots

Bericht: Israelische Firma für weltweite Wahlmanipulationen verantwortlich

„Doch nicht jeder ist auf dem Laufenden darüber, wie schnell sich die generative KI (künst­liche Intelligenz) und der Deepfake Space entwickeln“, sagt Henry Ajder, Experte auf dem Gebiet der künstlichen Intelligenz, einem „Newsweek“-Artikel zufolge. Europol, die europäi­sche Strafverfolgungsbehörde, veröffentlichte 2021 einen Bericht, demzufolge „Experten schätzen, dass bis 2026 bis zu 90 Prozent aller Online-Inhalte synthetisch generiert sein könnten“.

Dabei ist es jetzt schon manchmal schwer, echte Aufnahmen von Fälschungen zu unter­scheiden. Unmöglich ist es aber nicht. Das Netzwerk Recherche leistet hier wertvolle Hilfestellung.

Deep Fakes entdecken: Google plus Faktencheck

Der erste und oft einfachste Weg sollte eine simple Suchmaschinensuche eventuell plus Suchwort „Faktencheck“ sein. Denn oft haben sich schon seriöse Medien oder andere Fakten­checker mit dem Thema beschäftigt, Google ermöglicht auch die Bildersuche (Google Lens) im Netz – Fotos also direkt hochladen und auf Ergebnisse warten.

Auch macht es Sinn, die Botschaft hinter den Aufnahmen zu prüfen: Gab es überhaupt ein Treffen zwischen Chinas Präsident und Putin? Kam es dabei zum Eklat, sodass der Russe vor dem Gast niederkniete? Gibt es darauf keine Hinweise, abgesehen vom zu prüfenden Bilddokument, liegt eines Fälschung bereits nahe.

Kleine Fehler betreffen oft Details

Im Fall der Aufnahmen des verhafteten Trumps handelt es sich sehr wahrscheinlich um Produkte der neuesten Versionen von KI‑Bildtools wie Midjourney oder Stable Diffusion, deren optische Ergebnisse sehr realitätsnah erscheinen, aber dennoch bei eher neben­sächlichen Details ihren KI‑Ursprung verraten, wie etwa in einem Beitrag auf der Website der amerikanischen Computerzeitschrift „Wired“ beschrieben wird.

Offensichtlich fällt es den Algorithmen immer noch schwer, menschliche Körper auf natürliche Weise nachzubilden, was zum Beispiel darin seinen Ausdruck findet, dass bei den Trump-Bildern Körperproportionen in der Bewegung verzerrt erscheinen oder mit anderen Personen zu verschmelzen scheinen, während Hände und Gesicht stets überzeugend aussehen. Der Blick auf die Details am Rande verrät oft die Fälschung.

Verräterische Details können auch Schriftzeichen (zum Beispiel auf der Polizeiuniform) sein, die keinen Sinn ergeben. Zudem Gesichtsausdrücke, die übertrieben erscheinen und zur Handlung der betreffenden Person gar nicht passen. So wird im „Wired“-Artikel darauf hingewiesen, dass der schmerzhafte Ausdruck der auch auf den Bildern sichtbaren Trump-Gattin Melania an „Der Schrei“ erinnere, jenes bekannte Gemälde des Malers Edvard Munch, nicht aber an eine realistische Geste.

Helfende Apps wie Tin Eye oder Photo Sherlock

Wer immer noch Zweifel hat, kann helfende Programme zurate ziehen. Tin Eye ist ein kostenloses und leistungsstarkes Tool für die umgekehrte Bildersuche. Es hilft, das gleiche oder ein ähnliches Bild online zu finden, wenn es bereits woanders im Netz veröffentlicht wurde.

Die App Photo Sherlock ist ebenfalls kostenlos. Sie ermöglicht eine umgekehrte Bildsuche mit drei verschiedenen Suchmaschinen: Google, Yandex und Bing. Sie bietet auch die Möglich­keit, den Ursprung eines Posters oder Fotos in einer Zeitschrift oder Zeitung zu überprüfen.

Wie geht Twitter mit Deepfakes um?

Die aktuelle Richtlinie der Social-Media-Plattform ist nicht eindeutig. Zwar dürfen keine synthe­tischen, manipulierten oder kontextlosen Medien geteilt werden, die Menschen täuschen, verwirren und zu Schaden führen können (Stichwort „irreführende Medien“). Twitter lässt aber Ausnahmen für Memes, Kommentare und Posts zu, die nicht mit der Absicht erstellt wurden, User und Userinnen irrezuführen.

RND/stu