Täuschend echt: Deepfakes mit realistischem Herzschlag
Forschende schlagen Alarm: Aktuelle Deepfake-Videos können mittlerweile einen realistischen Herzschlag imitieren, was ihre Erkennung erheblich erschwert. Ein neu entwickelter Deepfake-Detektor konnte zwar den Puls in gefälschten Videos wahrnehmen, doch dieser wirke oft täuschend echt. Expertinnen und Experten sehen nun die Notwendigkeit, neue Erkennungsmethoden zu entwickeln, um der rasanten Evolution der Deepfake-Technologie Schritt zu halten.
Noch sind Deepfakes zu erkennen, aber die Technologie wird immer raffinierter.
Foto: PantherMedia / Ivan Ryabokon
Die Fortschritte in der Deepfake-Technologie bereiten Expertinnen und Experten zunehmend Sorgen. Jüngste Studien zeigen, dass aktuelle Deepfake-Videos mittlerweile in der Lage sind, einen realistischen Herzschlag zu imitieren, was ihre Erkennung deutlich erschwert. Peter Eisert, Professor an der Humboldt-Universität zu Berlin und Autor einer neuen Studie, warnt: „Wir zeigen hier zum ersten Mal, dass neuere hochwertige Deepfake-Videos einen realistischen Herzschlag und winzige Veränderungen in der Gesichtsfarbe aufweisen können, was ihre Erkennung erheblich erschwert.“ Diese Entwicklung könnte weitreichende Folgen haben, da Deepfakes somit immer schwieriger als Fälschungen zu entlarven sind. Kriminelle und bösartige staatliche Akteurinnen und Akteure könnten diese Technologie missbrauchen, um beispielsweise politische Gegner oder Menschenrechtsverteidiger zu diskreditieren.
Bisher galt die Analyse der Lichtdurchlässigkeit der Haut und der darunter liegenden Blutgefäße als vielversprechende Methode zur Erkennung von Deepfakes. Die sogenannte Remote-Photoplethysmographie (rPPG), bei der Webcams zur Ermittlung von Vitalparametern eingesetzt werden, hatte in experimentellen Deepfake-Detektoren bereits bewiesen, dass sie echte von gefälschten Videos unterscheiden kann. Diese Erfolge führten zu der Annahme, dass die derzeitigen Deepfakes noch nicht in der Lage seien, eine realistische Herzfrequenz zu imitieren. Doch die neuesten Erkenntnisse von Eisert und seinem Team widerlegen diese Einschätzung. Die Forschenden kodierten einen Deepfake-Detektor, der automatisch die Pulsfrequenz aus Videos ausliest und analysiert. Dabei verwendeten sie neue Methoden zur Bewegungskompensation und Rauschunterdrückung.
Deepfake-Detektor erkennt täuschend echten Herzschlag in gefälschten Videos
Um die Leistungsfähigkeit ihres Deepfake-Detektors zu testen, erstellten die Autorinnen und Autoren einen eigenen Datensatz von Videos, der als Grundlage für die Erstellung von Deepfakes verschiedener Zielidentitäten diente. Während der Aufnahmen wurde der Herzschlag der Protagonisten mittels EKG überwacht, wodurch das Team die Genauigkeit der rPPG-Messungen ihres Detektors bestätigen konnten. Die Abweichung zwischen den Schätzungen und der tatsächlichen Pulsfrequenz betrug lediglich zwei bis drei Schläge pro Minute. Auch bei der Analyse älterer, weit verbreiteter Sammlungen von Videos mit echten Personen konnte der Detektor zuverlässig die Herzschlagsignale extrahieren. Doch die eigentliche Überraschung folgte, als der Detektor auf bekannte Fälschungen angewendet wurde: Auch in den Deepfakes nahm er einen Puls wahr – und dieser erschien in der Regel sehr realistisch.
Die Ergebnisse der Studie zeigen, dass ein realistischer Herzschlag sowohl absichtlich von einem Angreifer hinzugefügt als auch versehentlich von einem echten Video „vererbt“ werden kann. „Kleine Variationen im Hautton der echten Person werden zusammen mit der Gesichtsbewegung auf das Deepfake übertragen, so dass der ursprüngliche Puls im gefälschten Video nachgeahmt wird“, erklärt Eisert. Diese Erkenntnis verdeutlicht, dass die bisherigen Methoden zur Erkennung von Deepfakes an ihre Grenzen stoßen. Die Tatsache, dass selbst hochentwickelte Detektoren Schwierigkeiten haben, gefälschte Videos anhand des Herzschlags zu erkennen, zeigt die Notwendigkeit, neue Ansätze zu entwickeln. Dennoch gibt es Grund zum Optimismus, denn die Autorinnen und Autoren der Studie sehen Möglichkeiten, wie Deepfake-Detektoren die Oberhand zurückgewinnen könnten.
Lokaler Blutfluss im Gesicht als Schwachstelle aktueller Deepfakes
Laut den Forschenden könnte der Schlüssel zur Erkennung von Deepfakes in Zukunft darin liegen, sich auf den lokalen Blutfluss im Gesicht zu konzentrieren, anstatt nur die globale Pulsfrequenz zu betrachten. „Unsere Experimente haben gezeigt, dass aktuelle Deepfakes zwar einen realistischen Herzschlag zeigen, aber keine physiologisch realistischen Variationen des Blutflusses über Raum und Zeit innerhalb des Gesichts“, sagt Eisert. Diese Schwäche der derzeitigen Deepfake-Technologie sollte von der nächsten Generation der Deepfake-Detektoren ausgenutzt werden. Indem sie die räumlichen und zeitlichen Muster des Blutflusses im Gesicht analysieren, könnten neue Algorithmen möglicherweise präziser zwischen echten und gefälschten Videos unterscheiden. Doch die Entwicklung solcher fortschrittlichen Detektoren erfordert Zeit und intensive Forschung.
Die rasante Entwicklung der Deepfake-Technologie stellt eine ernstzunehmende Herausforderung dar. Mit jedem Fortschritt in der Erstellung täuschend echter Fälschungen müssen auch die Methoden zu ihrer Erkennung weiterentwickelt werden. Es ist ein kontinuierliches Wettrennen zwischen den Erstellenden von Deepfakes und den Entwicklerinnen und Entwicklern von Detektoren. Nur wenn es gelingt, zuverlässige Methoden zu entwickeln um Deepfakes zu identifizieren, können die potenziellen Gefahren der Technologie eingedämmt werden. Dazu gehört es nicht nur, Missbrauch durch Kriminelle zu verhindern, sondern auch die Öffentlichkeit über die Existenz und die Möglichkeiten von Deepfakes aufzuklären. Nur durch ein Zusammenspiel aus technologischem Fortschritt und gesellschaftlicher Sensibilisierung lässt sich den Herausforderungen der Deepfake-Ära effektiv begegnen.
Wachsamkeit und Forschung im Kampf gegen Deepfakes unerlässlich
Die Erkenntnisse der vorgestellten Studie machen deutlich, dass im Kampf gegen Deepfakes kontinuierliche Forschung notwendig ist. Die Tatsache, dass aktuelle Deepfake-Videos bereits in der Lage sind, einen realistischen Herzschlag zu imitieren, zeigt, wie schnell sich diese Technologie weiterentwickelt. Es ist daher wichtig, dass Forschende, Technologieunternehmen und politische Entscheidungsträger eng zusammenarbeiten, um Strategien zu entwickeln, um Deepfakes zu erkennen und einzudämmen. Nur durch eine Kombination aus technischen Lösungen, rechtlichen Rahmenbedingungen und Aufklärungskampagnen kann sichergestellt werden, dass die Gefahren dieser Technologie minimiert werden. Die Gesellschaft muss sich dennoch darauf einstellen, dass Deepfakes in Zukunft eine immer größere Rolle spielen werden.
Ein Beitrag von:
