Deepfake

Die Europäische Union will KI-Anwendungen zum missbräuchlichen Erstellen von sexualisierten Deepfakes in Zukunft verbieten. Vertreter der Mitgliedstaaten und des Europäischen Parlaments einigten sich auf eine entsprechende Anpassung des KI-Gesetzes, wie die zyprische EU-Ratspräsidentschaft mitteilte. Deepfake-Skandale wie beispielsweise auf der Plattform X soll es in der EU damit fortan nicht mehr geben.

Das US-Startup Vermillio sucht gegen Honorar im Internet gefälschte Videos und lässt diese Deepfakes auf Wunsch aus dem Netz entfernen. Angesichts der Flut an Fälschungen, die mit der Weiterentwicklung der Möglichkeiten durch Künstliche Intelligenz (KI) einhergehen, sieht CEO Dan Neely eine lohnende Geschäftsnische.

Laut Forschenden der Universität Zürich kann das Gehirn beim Verarbeiten von natürlichen Stimmen im Vergleich zu ihren Deepfake-Imitationen Unterschiede erkennen. In einer Studie haben die Wissenschaftler zwei Hirnareale identifiziert, die differenziert auf die akustischen Signale reagieren.

Forscher des Cispa Helmholtz Center for Information Security haben mit "UnGANable" ein neues Anti-Deepfake-Verfahren zur teilweisen Verhinderung von Bildmanipulationen mit böswilliger Absicht getestet. "Vereinfacht gesagt, versucht "UnGANable", Bilder von Gesichtern vor Deepfakes zu schützen", so Cispa-Forscher Zheng Li.