Unerlaubte Deepfake-Werbung: Scarlett Johansson klagt
Die einen spielen plötzlich in einem Porno mit, andere in einem Werbeclip: Deepfake macht es möglich. Das ist aktuell der Schauspielerin Scarlett Johannson passiert. Diese hat den Star-Anwalt Kevin Yorn damit beauftragt, Klage einzureichen.
Dank immer besserer Künstlichen Intelligenz werden gefälschte Video- und Audiodateien immer ausgefeilter. Wie gefährlich ist solch ein Deepfake?
Foto: Panthermedia.net/Momius
Zunächst hat das US-Magazin „Variety“ darüber berichtet, nun macht die Meldung ihre Runde: Scarlett Johansson reicht eine Schadensersatzklage gegen das türkische Unternehmen Convert Yazılım Limited ein. Die in Istanbul ansässigen App-Entwickler haben für ihre Avatar-App Lisa.ai scheinbar ein älteres Video von Scarlett Johansson auf Facebook verwendet, ihre Stimme geklont und daraus einen Werbeclip für die App erstellt, der dann über „X“ verbreitet wurde. Der Fall von Scarlett Johansson zeigt, welche Herausforderungen die immer besser werdenden Deepfake-Technologien mit sich bringen.
Chance oder Risiko?
Johansson äußerte resigniert, dass der Kampf gegen die Verwendung von Deepfakes in pornografischen Inhalten bereits verloren sei. Dieser Vorfall reiht sich in eine Serie von Fällen ein, in denen Prominente unwissentlich in Deepfakes verwickelt wurden. So wies Tom Hanks vor Kurzem auf Instagram seine Anhänger auf ein gefälschtes Video hin, das ihn ohne sein Wissen für Werbezwecke im Bereich der kosmetischen Zahnmedizin zeigte. Auf Nachfrage des „Hollywood Reporters“ zeigte sich Hanks zwiegespalten. Einerseits ist er von der Möglichkeit, seine Schauspielkarriere nach seinem Tod virtuell fortzusetzen, fasziniert, was die komplexe Natur dieser Technologie unterstreicht.
Chance oder Risiko? In vielen Fällen bewegt sich Deepfake eher auf der Schattenseite, denn damit lassen sich Videos, Bilder oder Stimmen erzeugen, die vom Original kaum zu unterscheiden sind. Damit lässt sich einiges anstellen, was wirklich kriminell ist. Womit wir bei der Frage wären: Wie gefährlich ist Deepfake? Wir haben uns angeschaut, was mit künstlicher Intelligenz heute schon alles möglich ist und welche Gefahren lauern. Nicht zuletzt geht es aber auch darum, ob wir uns vor einem Deepfake schützen können.
Was bedeutet Deepfake?
Der Begriff „Deepfake“ bezeichnet die Manipulation von Video- oder Audioinhalten mithilfe von künstlicher Intelligenz (KI). Hierbei werden künstliche neuronale Netzwerke und maschinelles Lernen verwendet, um beispielsweise Gesichter in Videoclips durch die Gesichter anderer Personen zu ersetzen. Einige Deepfake-Verfahren ermöglichen sogar Echtzeitmanipulation.
Der Ausdruck „Deepfake“ setzt sich aus den englischen Begriffen „Deep Learning“ und „Fake“ zusammen. Er beschreibt die künstliche Generierung oder Modifikation von Video- und Audioinhalten unter Einsatz von KI-Technologien. Deepfakes nutzen dabei künstliche neuronale Netzwerke und Methoden des maschinellen Lernens, insbesondere des Deep Learning.
Verschiedene Arten von Deepfakes
Dies ermöglicht beispielsweise das Austauschen von Gesichtern in vorhandenen Videoclips, das Erzeugen von Sprachaufnahmen mit fremden Stimmen oder das Verändern von Bewegungen von Personen. Die resultierenden Inhalte erscheinen äußerst realistisch und authentisch, wodurch sie oft schwer als Fälschungen zu erkennen sind.
Laut Bundesamt für Sicherheit und Informationstechnik (BSI) gibt es verschiedene Arten von Deepfakes. Eine davon ist das „Face Swapping“, bei dem das Gesicht einer Person durch das einer anderen ersetzt wird, wobei Mimik, Gesichtsbeleuchtung und Blickrichtung beibehalten werden.
Eine andere Methode ist das „Face Reenactment“. Bei dieser Technik werden Kopfbewegungen, Mimik oder Lippenbewegungen einer Person durch die Erstellung von 3D-Modellen des Gesichts am Computer manipuliert. Das Resultat sind oft verblüffend realistische Videos. Zusätzlich können auch Stimmen mithilfe von Technologie authentisch nachgeahmt werden.
Wie lassen sich Deepfakes erstellen?
Die Erstellung eines Deepfakes ist durchaus einfach. Zunächst sammelt man Bilder oder Videos der gewünschten Person und verwendet eine spezielle, oftmals kostenlose Software. Die künstliche Intelligenz der Software extrahiert das Gesicht der Zielperson und integriert es in ein anderes Bild oder Video. Während die Software den Großteil der Arbeit übernimmt, hängt die Qualität und Authentizität des Endprodukts von der Rechenkapazität des verwendeten Computers ab.
Generell ist die Erstellung von Deepfakes nicht illegal, da es noch keine spezifischen Gesetze gibt, die dies regeln. Dennoch können bei der Verwendung von Bildmaterial ohne Zustimmung Persönlichkeits- und Urheberrechte verletzt werden. So schwirren zum Beispiel Videos von Barack Obama und Angela Merkel mit Aussagen durchs Netz, die diese niemals getätigt haben. Auch andere Promis sind schon Opfer von Deepfakes geworden.
So hat die damaligen Regierende Bürgermeisterin von Berlin, Franziska Giffey, im Jahr 2022 eine halbe Stunde vermeintlich mit Kiews Oberbürgermeister Vitali Klitschko gesprochen. Erst dann brach Giffey das Videotelefonat ab, weil ihr etwas an dem ehemaligen Boxweltmeister seltsam vorkam. Und in der Tat wurde sie Opfer eines Deepfakes. Wiens Bürgermeister Michael Ludwig war weniger misstrauisch, er soll über eine Stunde mit dem Fake-Klitschko gesprochen haben.
Welche Gefahren drohen durch Deepfakes?
Sie haben in diesem Beitrag einiges über die verschiedenen Möglichkeiten eines Deepfakes gelernt und können sicherlich erahnen, welche Gefahren durch gefälschte Stimmen, Videos oder Bildern drohen. Das Bundesamt für Sicherheit in der Informationstechnik formuliert folgende Bedrohungsszenarien:
- Gefahren durch Deepfakes in biometrischen Systemen: Deepfakes ermöglichen die Erstellung von medialen Inhalten, die die Eigenschaften einer Zielperson imitieren. Diese Technologie kann insbesondere bei Fernidentifikationsverfahren, wie der Sprachererkennung über das Telefon oder Videoidentifikation, problematisch werden. Hier erhält ein Verteidigungssystem nur das Endsignal, hat aber keine Kontrolle über die Aufnahmetechnik oder eventuelle Manipulationen des Materials.
- Einsatz im Social Engineering: Deepfakes können für gezielte Phishing-Angriffe, bekannt als „Spear-Phishing“, eingesetzt werden, um vertrauliche Informationen abzugreifen. Ein Angreifer könnte beispielsweise mithilfe von Deepfakes einen Anruf tätigen, der die Stimme einer Führungskraft imitiert, um so eine Geldtransaktion auszulösen – eine Methode, die als „CEO-Fraud“ bekannt ist.
- Desinformationskampagnen: Mit Deepfakes können überzeugende Falschinformationen erstellt werden. Indem manipulierte Medieninhalte von wichtigen Persönlichkeiten generiert und verbreitet werden, könnten breit angelegte Desinformationskampagnen durchgeführt werden.
- Risiko der Verleumdung: Die Fähigkeit, Personen Dinge sagen oder tun zu lassen, die sie nie gesagt oder getan haben, birgt das Risiko schwerer Rufschädigungen durch das Verbreiten von Unwahrheiten.
Opfer eines Deepfake-Betrugs können jedoch nicht nur Unternehmen oder prominente Persönlichkeiten werden. Auch Schülerinnen und Schüler, Großeltern, eigentlich jeder kann auf einen gefälschten Gegenüber reinfallen.
Deutsche Sicherheitsbehörden in großer Sorge
Innerhalb der deutschen Sicherheitsbehörden wächst die Besorgnis über das Potenzial von Deepfakes, insbesondere angesichts ihrer immer überzeugenderen Qualität. Es gibt Befürchtungen, dass Geheimdienste und andere staatliche Akteure sie für gezielte Desinformation, Manipulation und den Erwerb von vertraulichen Informationen nutzen könnten.
Laut einer aktuellen Publikation des Bundesamts für Verfassungsschutz (BfV), die besonders vor Wirtschaftsspionage warnt, ist es „sehr wahrscheinlich, dass technisch versierte Nachrichtendienste und staatliche Institutionen Deepfakes als innovative Angriffsmethoden einsetzen werden“. Mit den Fortschritten in der künstlichen Intelligenz wird es einfacher, Personen in Audio- und Videoaufnahmen fast fehlerfrei zu imitieren.
Die Bedrohung beschränkt sich nicht nur auf manipulierte Videos im Internet. Es besteht auch die Gefahr von Live-Manipulationen während Videokonferenzen. Solche Deepfakes könnten fremden Geheimdiensten, Hackern oder Wirtschaftsspionen völlig neue Manipulations- und Datenerfassungsmöglichkeiten bieten. Ein entscheidender Vorteil dieser Methode gegenüber traditioneller Spionage ist, dass kein neues Vertrauensverhältnis zum Ziel aufgebaut werden muss, da die imitierte Person vermutlich bereits als vertrauenswürdig angesehen wird – zum Beispiel bei Vitali Klitschko.
Wie lassen sich Deepfakes erkennen?
Auch wenn Deepfakes mit immer besseren KI-Tools oft nur noch schwer zu erkennen sind, gibt es einige Anzeichen, die darauf hindeuten könnten. Dr. Nicolas Müller vom Fraunhofer-Institut AISEC (Angewandte und Integrierte Sicherheit) forscht seit Jahren zum Thema künstlicher Intelligenz und Deepfakes. Gegenüber dem Südkurier nannte er folgende Merkmale, die auf ein gefälschtes Audio oder Video hindeuten könnten:
- Unnatürliche Gesichtsbewegungen: Wenn die Bewegungen im Gesicht einer Person nicht typisch oder auffällig ungewöhnlich erscheinen, lohnt es sich, genauer hinzusehen.
- Diskrepanzen zwischen Audio und Video: Ein Indikator kann sein, wenn die Lippenbewegungen der Person nicht mit der Tonspur synchronisiert sind.
- Bild- und Tonauffälligkeiten: Hinweise auf Manipulationen können Pixelfehler, untypische Übergänge sowie ungewöhnliche Kanten und Schatten im Bild sein. Im Audiotrack können Störgeräusche wie Knacken, Rauschen oder ungewöhnliche hohe Töne auf Deepfakes hindeuten.
- Unnatürlicher Sprachfluss: Bei Audio-Deepfakes, die mit großen und möglicherweise fehlerhaften Datenmengen trainiert wurden, kann es zu einer roboterhaften oder untypischen Sprechweise kommen, besonders wenn die Trainingsdaten Fehler enthalten oder nicht korrekt annotiert wurden.
Gibt es Tools oder Technologien, um Deepfakes automatisch zu erkennen?
In manchen Fällen ist der Einsatz von Technologie unerlässlich. Es existieren spezielle Anwendungen, die darauf ausgelegt sind, Fälschungen aufzudecken. Diese analysieren beispielsweise Farbwerte oder Metadaten eines Fotos, welche Informationen über Ort und Zeitpunkt der Aufnahme liefern. Unternehmen wie Sentinel, Intel und Microsoft bieten solche Deepfake-Erkennungsprogramme an.
Diese Tools setzen auf hoch entwickelte KI-Algorithmen, um Deepfakes präzise zu identifizieren. Jedes dieser Programme hat einen eigenen Ansatz, angefangen von der Untersuchung feinster Graustufenabweichungen in einem Video bis zur genauen Beobachtung von Gesichtsausdrücken und Bewegungen.
Zum Beispiel verwendet Sentinel KI-Technologien, um digitale Medien auf Manipulationen zu überprüfen und diese visuell darzustellen. Microsofts Video Authenticator hingegen gibt in Echtzeit einen Vertrauenswert aus, der Aufschluss darüber gibt, ob ein Bild oder Video bearbeitet wurde.
Diese Werkzeuge sind an vorderster Front im Bestreben, Deepfakes zu bekämpfen und die Glaubwürdigkeit digitaler Inhalte sicherzustellen. Da sich Deepfake-Technologien ständig weiterentwickeln, müssen auch die Erkennungsmethoden stetig angepasst werden. Denn eines sollte klar sein – die Ära der Deepfakes hat gerade erst begonnen.
Ein Beitrag von:
