Forschung und Entwicklung

Deep Fakes zuverlässig enttarnen mit Mathematik

In letzter Zeit haben so genannte »Deep Fakes« einiges an öffentlicher Aufmerksamkeit auf sich gezogen. Als Deep Fakes bezeichnet man täuschend echte Manipulationen von Bildern oder Videos, vornehmlich von Prominenten. Ein am Fraunhofer ITWM entwickeltes Tool zeigt, wie man diese Täuschungen schneller aufdecken kann – mit nahezu hundertprozentiger Sicherheit.

»Deep Fakes sind besorgniserregend«

Diese Einschätzung stammt von jemanden, der es wissen muss, nämlich Joaquin Candela, dem Leiter der KI-Entwicklung bei Facebook. Wer sich selbst von der hohen Qualität der Fälschungen überzeugen und gleichzeitig sein Urteilsvermögen testen will, kann dies zum Beispiel auf dieser Webseite tun: www.whichfaceisreal.com

Deep Fakes – also die Verwendung neuronaler Netzwerke zur Manipulation multimedialer Inhalte – werden erzeugt mittels generativer Modelle, auch »Generative Adversarial Networks« (GANs) genannt. Sie gelangen erst langsam in den Fokus der Wissenschaft. Und diese tut sich derzeit noch schwer, das Problem zu lösen, denn es gibt noch zu wenige valide Datensätze, mit denen sich belastbare Aussagen treffen lassen. Entsprechend hoch ist die Fehlerquote automatischer Systeme, die bisher zur schnellen Analyse von Bildern eingesetzt werden.

Abhilfe schafft hier eine neue mathematische Methode, die Forschende in Kaiserslautern, Mannheim und Offenburg entwickelt haben. Während die meisten derzeitigen Ansätze versuchen, wieder Lernalgorithmen einzusetzen, um die Manipulationen zu erkennen, geht die Forschergruppe einen anderen Weg:

»Bei Analysen fiel auf, dass GANs beim Generieren von Bildern inhärente Fehler machen. Diese sind zwar für das menschliche Auge kaum sichtbar, lassen sich mathematisch aber sehr leicht im Fourier-Raum abbilden«, erläutert Dr. Janis Keuper, langjähriger Mitarbeiter des Fraunhofer ITWM und nun Professor für »Analytics and Data Science« an der Hochschule Offenburg.

Der Deep Fake-Detektor ermittelt

Die neue, am Fraunhofer ITWM entwickelte Methode hat gegenüber bestehenden Verfahren gleich mehrere Vorteile:

  • Der entdeckte GAN-Fehler ist systematisch bedingt; daher ist es theoretisch unmöglich, dass derzeitige GAN-Architekturen lernen können, den Detektor zu umgehen.
  • Es werden nur sehr wenige Beispieldatendaten benötigt, um Deep Fakes zuverlässig zu erkennen.
  • Die Methode ist sehr einfach zu implementieren und benötigt vergleichsweise wenig Rechenleistung.

Bei einer ersten Auswertung auf öffentlichen Testdaten erreichte der neue Ansatz eine Genauigkeit von nahezu einhundert Prozent.

Über Fraunhofer-Institut für Techno- und Wirtschaftsmathematik ITWM

Das Fraunhofer-Institut für Techno- und Wirtschaftsmathematik ITWM in Kaiserslautern zählt zu den größten Forschungsinstituten für angewandte Mathematik weltweit. Wir sehen unsere Aufgabe darin, die Mathematik als Schlüsseltechnologie weiterzuentwickeln und innovative Anstöße zu geben. Unser Fokus liegt auf der Umsetzung mathematischer Methoden und Technologie in Anwendungsprojekten und ihre Weiterentwicklung in Forschungsprojekten. Das enge Zusammenspiel mit Partnern aus der Wirtschaft garantiert die hohe Praxisnähe unserer Arbeit.

Deren integrale Bausteine sind Beratung, Umsetzung und Unterstützung bei der Anwendung von Hochleistungsrechnertechnologie und Bereitstellung maßgeschneiderter Software-Lösungen. Unsere verschiedenen Kompetenzen adressieren ein breites Kundenspektrum: Fahrzeugindustrie, Maschinenbau, Textilindustrie, Energie und Finanzwirtschaft. Dieses profitiert auch von unserer guten Vernetzung, beispielsweise im Leistungszentrum Simulations- und Software-basierte Innovation.

Über die Fraunhofer-Gesellschaft

Die Fraunhofer-Gesellschaft ist die führende Organisation für angewandte Forschung in Europa. Unter ihrem Dach arbeiten 72 Institute und Forschungseinrichtungen an Standorten in ganz Deutschland. Mehr als 26 600 Mitarbeiterinnen und Mitarbeiter erzielen das jährliche Forschungsvolumen von 2,6 Milliarden Euro.

Davon fallen ca. 2,2 Milliarden Euro auf den Leistungsbereich Vertragsforschung. Rund 70 Prozent dieses Leistungsbereichs erwirtschaftet die Fraunhofer-Gesellschaft mit Aufträgen aus der Industrie und mit öffentlich finanzierten Forschungsprojekten. Internationale Kooperationen mit exzellenten Forschungspartnern und innovativen Unternehmen weltweit sorgen für einen direkten Zugang zu den wichtigsten gegenwärtigen und zukünftigen Wissenschafts- und Wirtschaftsräumen.

Firmenkontakt und Herausgeber der Meldung:

Fraunhofer-Institut für Techno- und Wirtschaftsmathematik ITWM
Fraunhofer-Platz 1
67663 Kaiserslautern
Telefon: +49 (631) 31600-4674
Telefax: +49 (631) 31600-1999
http://www.itwm.fraunhofer.de

Ansprechpartner:
Esther Packullat
Presse und Öffentlichkeitsarbeit
Telefon: +49 (631) 31600-4867
Fax: +49 (631) 31600-5867
E-Mail: esther.packullat@itwm.fraunhofer.de
Ilka Blauth
Presse- und Öffentlichkeitsarbeit
Telefon: +49 (631) 31600-4674
Fax: +49 (631) 31600-4400
E-Mail: ilka.blauth@itwm.fraunhofer.de
Für die oben stehende Pressemitteilung ist allein der jeweils angegebene Herausgeber (siehe Firmenkontakt oben) verantwortlich. Dieser ist in der Regel auch Urheber des Pressetextes, sowie der angehängten Bild-, Ton-, Video-, Medien- und Informationsmaterialien. Die United News Network GmbH übernimmt keine Haftung für die Korrektheit oder Vollständigkeit der dargestellten Meldung. Auch bei Übertragungsfehlern oder anderen Störungen haftet sie nur im Fall von Vorsatz oder grober Fahrlässigkeit. Die Nutzung von hier archivierten Informationen zur Eigeninformation und redaktionellen Weiterverarbeitung ist in der Regel kostenfrei. Bitte klären Sie vor einer Weiterverwendung urheberrechtliche Fragen mit dem angegebenen Herausgeber. Eine systematische Speicherung dieser Daten sowie die Verwendung auch von Teilen dieses Datenbankwerks sind nur mit schriftlicher Genehmigung durch die United News Network GmbH gestattet.

counterpixel