Datenschutzskandal um chinesische Deepfake-App Zao

  • In China sorgt aktuell eine neue Deepfake-App namens Zao für Furore.
  • Die Technik ist ausgefeilt, schon in wenigen Sekunden lässt sich das eigene Gesicht in Szenen von bekannten Filmen oder Serien projizieren.
  • Mit dem Download von Zao müssen die Nutzer allerdings ihre Rechte an Bildern und erstelltem Videocontent abgeben.
Michèle Förster
|
Anzeige
Anzeige

Hannover. Seit dem vergangenen Wochenende ist der chinesische App-Store um eine Sensation reicher. Die sogenannte Deepfake-App Zao ging wenige Stunden nach ihrem Erscheinen viral und führte bis Montag die Rangliste der beliebtesten iOS-Gratis-Apps in China an. Auf Twitter gab es in den vergangenen Tagen nahezu kein anderes Thema mehr. Doch der Grund dafür waren eher die skandalösen Nutzungsbedingungen.

Lesen Sie hier: Deepfake: Bill Hader imitiert Tom Cruise – Unterhaltung oder Gefahr?

Fake-Videos werden immer realistischer

Weiterlesen nach der Anzeige
Anzeige

Die Technik hinter solchen Videos ist mittlerweile sehr ausgefeilt, denn in wenigen Sekunden lässt sich das eigene Gesicht in Szenen von bekannten Filmen oder Serien projizieren – mit verblüffend realistischen Ergebnissen. Eine Auswahl an Filmmaterial stellt einem die App selbst zur Verfügung. Einmal Hauptdarsteller in „Game of Thrones“ oder „Titanic“ zu sein rückt damit für ein Millionenpublikum in greifbare Nähe.

Als Basis für die Projektion reicht bei Zao schon ein einfaches Foto. Noch realistischere Ergebnisse lassen sich mit einem Foto-Walkthrough erstellen, bei dem sich die Nutzer aus unterschiedlichen Winkeln ablichten lassen. Zao-Nutzer Allan Xia zeigt auf Twitter zum Beispiel seine ganz persönlichen Hollywoodclips, die laut eigener Aussage in nur wenigen Sekunden entstanden sind.

Die Technik dahinter nennt sich „deep video portraits“ und ist am Max-Planck-Institut für Informatik in Saarbrücken entwickelt worden. Die Wissenschaftler haben eine Möglichkeit gefunden, Mundbewegungen und sogar den Gesichtsausdruck in Filmaufnahmen zu verändern. Ursprünglich sollte die Technik der Filmindustrie zugutekommen, denn besonders das Synchronisieren von Filmen oder die Postproduktion könnten so erleichtert werden. Wie sich zeigte, wurde die Technik aber eher von verschiedenen App-Entwicklern als Spielerei adaptiert, um mithilfe künstlicher Intelligenz Fake-Videos zu erzeugen. Das Missbrauchspotenzial hinter der Technik ist hoch, denn die Videomanipulationen könnten ebenso gut auch genutzt werden, um Reden von Politikern zu verändern oder die Gesichter von Prominenten auf die Körper von Pornodarstellern zu montieren.

Anzeige

Auch interessant: Deepfakes: Sind manipulierte Videos eine Gefahr?

Datenschutzskandal: Das Kleingedruckte lesen

Anzeige

Schon wenige Stunden nachdem Zao im App-Store zum Download bereitstand, hagelte es in den App-Bewertungen und sozialen Medien Kritik. Der Grund dafür waren die allgemeinen Geschäftsbedingungen der App. Mit dem Download von Zao müssen die Nutzer ihre Rechte an Bildern und erstelltem Videocontent abgeben. Auch eine Weitergabe an Dritte schließen die Nutzungsbedingungen nicht aus. Für viele Nutzer ein Skandal, der einen gewaltigen Shitstorm in den sozialen Medien heraufbeschwor.

Wie der „Guardian“ berichtete, zeigte der App-Entwickler auf Drängen von Verbraucherschützern und unter dem Druck der Öffentlichkeit Einsicht und überarbeitete seine Nutzungsbedingungen. „Wir verstehen die Bedenken um die Privatsphäre und werden das Problem beheben“, äußerte sich das Entwicklerunternehmen Momo, dem unter anderem auch eine Datingplattform gehört. Eine dauerhafte und freie Nutzung des erstellten Videocontents oder hochgeladener Fotos sei nun nicht mehr möglich. Auch auf den Firmenservern sollen die Inhalte ab sofort nicht mehr gespeichert werden, weiß der „Guardian“.

Lesen Sie hier: Faceapp: Lustige Spielerei oder russischer Datenklau?