Die auf digitale Identitätsprüfung fokussierte PXL Vision mit Sitz in Zürich und das Schweizer Forschungsinstitut Idiap spannen bei der Bekämpfung von betrügerischen KI-generierten Gesichtsbildern und Reisedokumenten zusammen. Das von der Schweizerischen Agentur für Innovationsförderung Innosuisse finanzierte Projekt habe zum Ziel, die weltweit erste robuste Lösung im Bereich Deepfake-Erkennung zur Marktreife zu bringen, heisst es in einer Aussendung dazu. Die öffentlich-rechtliche Anstalt des Bundes hat demnach für das 18 Monate dauernde Vorhaben dem halbprivaten, gemeinnützigen Idiap Research Institute als Forschungs- und PXL Vision als Implementierungspartner den Zuschlag gegeben.
"Identitätsfälschung mithilfe künstlich generierter Daten wird zu einem immer grösseren Problem bei der Bekämpfung von Betrugsversuchen im Internet. Gemeinsam mit Idiap arbeiten wir deshalb mit Hochdruck an der nächsten Generation von Deepfake-Erkennung, um unsere Lösungen zur digitalen Identitätsverifikation an die neuen technologischen Herausforderungen anzupassen und noch sicherer zu gestalten", erläutert Michael Born, CEO bei PXL Vision. "Mit der Generierung von synthetischen Daten für die Erkennung von Dokumenten und Bildern soll zusätzlich erreicht werden, dass unsere Gesichtsverifikation unabhängig von Alter, Geschlecht oder Hautfarbe der abgebildeten Personen stets dieselbe hohe Qualität aufweist."
Generelle Deepfake-Erkennung stelle selbst für die modernste Technologie nach wie vor eine technische Herausforderung dar, betonen die beiden Partner. "Angesichts der rasanten Entwicklung von Methoden der künstlichen Intelligenz sind wir bestrebt, der Zeit voraus zu sein. Wir wollen gemeinsam mit Idiap eine Lösung entwickeln, die mit neuartigen Methoden sowohl für die Erkennung von durch KI erzeugten Gesichtern als auch von Identitätsdokumenten eingesetzt werden kann”, unterstreicht Born. Dieselben Technologien sollen verwendet werden, um mit einem neuen synthetischen und ausgewogenen Datensatz an Gesichtern (hinsichtlich Geschlecht, Alter und Hautfarbe) die gesamte Weltbevölkerung abzudecken und so die Korrektheit der Gesichtserkennung durch die Produkte von PXL Vision auch in Zukunft zu gewährleisten, gibt sich Born ziemlich selbstsicher.
Interview mit Nevena Shamoska, Chief Technology Officer bei PXL Vision
Es arbeiten auch andere Hersteller an der Erkennung von Deepfakes. Was soll ihre Technologie von den anderen unterscheiden respektive besser machen?
Nevena Shamoska: Verschiedene Hersteller nutzen unterschiedliche Ansätze oder Technologien zur Erkennung von Deepfakes. Jeder Ansatz hat seine eigenen Stärken und Schwächen. Einige basieren auf maschinellen Lernmodellen, die auf grossen Datensätzen mit echten und gefälschten Medien trainiert wurden. Andere verwenden eher traditionelle Bild- oder Videoanalysemethoden. Die Genauigkeit von Deepfake-Erkennungstechnologien variiert in Bezug auf die korrekte Erkennung manipulierter Medien. Auch die Fähigkeit dieser Ansätze, sich an neue Arten von Deepfake-Techniken oder Variationen anzupassen, kann variieren, da sich die Methoden zur Erzeugung von Deepfakes ständig weiterentwickeln.
Unser Projekt zusammen mit Ideap ist auf 18 Monate ausgelegt. Eine Vorhersage der Fortschritte in diesem Bereich über diesen Zeitraum hinweg ist schwierig. Wir sind jedoch entschlossen, einen bahnbrechenden Deepfake-Detektor speziell für ID-Dokumente zu entwickeln. Eine solche Lösung ist derzeit auf dem Markt nicht vorhanden. Darüber hinaus werden wir ein fortschrittliches Gesichtserkennungssystem entwickeln, welches aufkommenden Deepfake-Technologien entgegenwirken kann.
Idiap ist Forschungs- und PXL Vision Implementierungspartner in dem Projekt. Wie darf man sich diese Rollenverteilung in der Praxis vorstellen?
Nevena Shamoska: PXL Vision ist nicht nur ein Umsetzungspartner, sondern steuert auch Daten und Expertenwissen zu ID-Dokumenten bei und beteiligt sich mit Idiap an der Forschung. Es werden gemischte Teams gebildet, die gemeinsam an verschiedenen Forschungspaketen arbeiten. Sobald die Ergebnisse vorliegen, wird das Produktionsteam von PXL Vision die Lösung in das Produkt integrieren.
Wird die neue Lösung dereinst auch in anderen Produkten als denen von PXL Vision zum Einsatz kommen? In welchen?
Nevena Shamoska: Je nach Projektergebnissen könnte PXL Vision ein weiteres Produkt zur Erkennung von Deepfakes entwickeln. Dieses Produkt wäre unabhängig von unserer Identitätsprüfungssoftware PXL Ident und könnte in verschiedenen Branchen und Industrien eingesetzt werden. Diese Bereiche umfassen beispielsweise Sicherheit und Betrugserkennung, die Medien- und Unterhaltungsindustrie sowie Social-Media-Plattformen. Ein Deepfake-Detektor könnte dabei helfen, die Authentizität von Inhalten zu überprüfen und die Verbreitung von Fehlinformationen zu verhindern. Auch bei juristischen und forensischen Untersuchungen könnte er zur Authentifizierung von Beweisen eingesetzt werden.
