von Patrick Coffee
Im vergangenen Jahr veröffentlichte das russische Telekommunikationsunternehmen MegaFon einen Werbespot, in dem eine Bruce-Willis-Simulation bei der Entschärfung einer Bombe hilft. Vor wenigen Tagen spielte Elon Musk die Hauptrolle in einem Marketingvideo des Immobilieninvestment-Start-ups reAlpha Tech Corp.
Und im letzten Monat zeigte ein Werbevideo für das Maschinenleasing-Unternehmen Paperspace Co. sprechende Doppelgänger der Schauspieler Tom Cruise und Leonardo DiCaprio.
Keiner dieser Prominenten hat auch nur einen Moment bei den Dreharbeiten zu diesen Kampagnen verbracht. In den Fällen der Herren Musk, Cruise und DiCaprio haben sie nicht einmal zugestimmt, die betreffenden Unternehmen zu unterstützen.
Alle Videos mit digitalen Simulationen wurden mit der Deep-Fake-Technologie erstellt, um die Hollywood- und Wirtschaftsgrößen Dinge sagen und tun zu lassen, die sie nie tatsächlich gesagt oder getan haben.
Einige der Werbespots sind grobe Parodien, und die Vermischung des Digitalen mit dem Analogen kann einen aufmerksamen Betrachter im besten Fall nicht täuschen. Dennoch könnte die zunehmende Verbreitung von Deepfake-Software die Branche in tiefgreifend verändern und gleichzeitig neue rechtliche und ethische Fragen aufwerfen.
Autorisierte Deepfakes könnten es den Vermarktern ermöglichen, große Stars in der Werbung zu präsentieren, ohne dass diese tatsächlich am Set oder vor der Kamera erscheinen müssen, was die Kosten senkt und neue kreative Möglichkeiten eröffnet. Unautorisierte Deepfakes schaffen jedoch eine rechtliche Grauzone: Prominente könnten Schwierigkeiten haben, die Verbreitung nicht autorisierter digitaler Reproduktionen ihrer selbst und die Manipulation ihrer Marke und ihres Rufs in den Griff zubekommen, so Experten.
Wir haben es schon schwer genug mit gefälschten Informationen. Jetzt haben wir auch noch Fälschungen, die immer überzeugender aussehen”, sagte Ari Lightman, Professor für digitale Medien und Marketing am Heinz College of Information Systems and Public Policy der Carnegie Mellon University.
Der US-Gesetzgeber hat begonnen, sich mit dem Deepfake-Phänomen zu befassen. Im Jahr 2019 hat Virginia die Verwendung von Deepfakes in Rachepornos verboten, Texas hat sie in politischen Kampagnen verboten und Kalifornien hat sie in beiden Fällen untersagt. Letztes Jahr wurde das Ministerium für Innere Sicherheit im Rahmen des U.S. National Defense Authorization Act angewiesen, jährliche Berichte über die von dieser Technologie ausgehenden Gefahren zu erstellen.
Experten sagten, ihnen seien keine Gesetze bekannt, die sich speziell mit der Verwendung von Deepfakes in der Werbung befassen.
Prominente haben einige Erfolge beim Verklagen von Werbetreibenden wegen unbefugten Verwendung ihrer Abbilder im Rahmen des Werberechts erzielt, sagte Aaron Moss, Vorsitzender der Prozessabteilung der Anwaltskanzlei Greenberg Glusker. Er zitiert Woody Allens 5-Millionen-Dollar-Vergleich mit American Apparel im Jahr 2009 wegen des nicht genehmigten Auftritts des Regisseurs auf einem Werbeplakat der Bekleidungsmarke.
Sowohl Paperspace als auch reAlpha haben die Videos von Anwälten überprüfen lassen und Maßnahmen ergriffen, um sicherzustellen, dass die Betrachter verstehen, dass die abgebildeten Prominenten nicht für die Produkte der Unternehmen werben oder an der Produktion der Videos beteiligt waren, so die Unternehmen.
Das Video von Paperspace erschien ursprünglich auf der eigenen Website und sollte die Nutzer über die Deepfake-Technologie aufklären, sagte Daniel Kobran, Chief Operating Officer. Das Musk-Video von reAlpha enthielt “Haftungsausschlüsse”, die es als Satire auswiesen, sagte Christie Currie, Chief Marketing Officer. Das Gleiche gilt für ein ähnliches Video, das reAlpha im vergangenen Jahr veröffentlicht hat und in dem eine digitale Version des Tesla-Chefs in einem Schaumbad saß und das Konzept der Regulierung A+ (Equity Crowdfunding) erklärte.
Das Video hatte 1,2 Millionen Aufrufe auf YouTube und weckte das Interesse von 22.000 Menschen in 83 Ländern”, so Currie in einer E-Mail. Sie fügte hinzu, dass das Unternehmen es vermied, das Video direkt mit seinen Spendenbemühungen in Verbindung zu bringen.
“Es gibt natürlich immer ein kleines Risiko bei jeder Art von Parodie”, sagte Currie in einem Interview, “aber im Allgemeinen sollte es kein Problem geben, solange es lehrreich und satirisch ist und man einen Haftungsausschluss hat, solange man nicht zu einer Transaktion aufruft.
Die Wahrscheinlichkeit, dass jemand von Herrn Musks Format ein Startup wegen eines Deepfake-Videos verklagt, ist gering, und diese Unternehmen könnten für sich entscheiden, dass das Risiko die beträchtliche Publicity wert ist, die es für sie bringen würde, sagte Moss.
“Viele dieser Unternehmen gehen absichtlich so nah wie möglich an die Grenze, um die Prominenten, auf die sie abzielen, quasi zu trollen”. Aber die Leichtigkeit, mit der Deepfakes erstellt werden können, bedeutet, dass einige Prominente bald von Anzeigen überschwemmt werden könnten, die ihre unautorisierten, aber sehr überzeugenden Abbilder zeigen, sagte Moss. Es wäre der “Tod durch tausend Schnitte”, wenn Prominente versuchen würden, gegen jedes kleine Unternehmen oder jeden einzelnen Urheber vorzugehen, der die Software verwendet, fügte er hinzu.
Gleichzeitig kann die Formulierung in Verträgen, die Jahre vor der Einführung der Technologie verfasst wurden, so vage sein, dass Vermarkter vorhandenes Filmmaterial für die Erstellung neuer Deepfake-Videos verwenden können.
8 Antworten
Falls DAS alles ist, was sie können bzgl. Deepfakes, was ich mal stark bezweifle, dann ist das NICHTS.
Wer *das* nicht unterscheiden kann, dem ist nicht zu helfen.
Das ist eben nicht alles. Das sind die harmlosen Apps, die sich jeder technisch Unbedarfte downloaden kann. Die Manipulation wird hier doch absichtlich “offensichtlich” gemacht, um es als Überzeichnung/Parodie verkaufen zu können. Auch zur eigenen Rechtssicherheit, um nicht wegen Verstoßes gegen Copyright, Bild-, Namensrechte und Co verklagt zu werden.
Gefährlich sind die Deepfakes, die täuschend echt sind und professionell gemacht werden. Militärs, Geheimdienste etc haben andere Möglichkeiten und eine andere Motivation. Letztendlich ist es wie bei Photoshop. Vielleicht haben Sie das Programm wie ich. Ich kann ein Bild/Foto so manipulieren, dass es für jeden offensichtlich ist. Als Gag. Oder aber ich mache mir Mühe. Dann erkennt die Manipulation nur das professionelle Auge. Wenn überhaupt. Geben Sie mir einen Tag Zeit. Dann mache ich foto-technisch aus einem Zwei-Sterne-Hotel ein Fünf-Sterne-Hotel. Für den Katalog, für die Webseite. Kein Problem. Der Swimming-Pool sieht aus wie eine Kloake, im Hintergrund ist eine Riesenbaustelle? Nicht, nachdem ich die Bilder bearbeitet habe.
Was für Bilder gilt, gilt mittlerweile auch für bewegte Bilder. Und das ist zu wenig im Bewusstsein der Menschen.
Genau so ist es, lieber Herr Löcke. Ich sage oft scherzhaft zu meiner Frau, wenn sie Bilder für den privaten Gebrauch verändert, damit sie besonders gut aussehen: “Du verfälschst Tatsachen, der Ast war nunmal da, oder dieser Vogel ist nunmal dort durchgeflogen”. Manchmal “verschiebt sie auch Kontinente” 😉
Wenn das für einen Hobbyfotografen so einfach ist mit den zur Verfügung stehenden Mitteln, wie leicht ist es dann erst für einen bösartigen “Profi”. Und Kriegspropaganda ist ja auch schon ein alter Hut. Also ich glaube in diesem Zusammenhang nur mehr das, was ich biologisch sehe und anfassen kann 🙂
Wer sich durch Bilder oder Videos von “Prominenten” zu einer Entscheidung motivieren lässt, die er nicht selbst qua eigenen Verstandes trteffen würde, ist selbst schuld. Oder so…
Als ich klein war hieß es “Ich habs doch schwarz auf weiß gelesen.” Irgendwann hieß es “Ich habs doch mit eigenen Augen gesehen.”
Was man wohl zukünftig noch sagen kann?
Was man wohl zukünftig noch sagen kann? Der Schwager meines Nachbarn soll gesagt habe, seine Cousine habe eine Freundin, deren Bekannter von jemandem gehört hätte, daß sein alter Schulfreund das ähnlich sehe, weil seine Großtante auch immer der Meinung gewese sei.
Langt doch, als schlüssige Beweisführung.
Der Videobeweis ist kein Beweis mehr. Das wird immer deutlicher, aber es soll vielleicht nicht allgemein bekannt werden. Gerade Bilder sind wirksam bei der unbedingt gewollten Verbreitung von, sagen wir mal, Wahrheiten. Andererseits wird es für uns als Empfänger von Botschaften immer klarer – den Bildern einfach zu vertrauen, führt allzu oft in die Irre. Als Kinder haben viele von uns es eigentlich schon gelernt, in der Sesamstraße: „Wieso, weshalb, warum? Wer nicht fragt, bleibt dumm.“ Warum haben das nur so viele vergessen?
Lieber Dr. Wessel,
das ist der Fluch des technischen Fortschritts. Er hat natürlich auch einen Segen, aber das Eine ist ohne das Andere wohl nicht zu haben. Wohl dem, der differenzieren kann.