Bis 2028 werden 40 Prozent der Regierungsorganisationen spezielle Trustops-Funktionen einrichten, um Deepfake-basierten Identitätsbetrug und Disinformation-as-a-Service (DaaS) zu bekämpfen. Dies sagen die Experten des Markforschungshauses Gartner voraus. Behörden müssen Gartner zufolge dringend tragfähige Vertrauensmechanismen etablieren, etwa, indem sie von reaktiver Faktenprüfung zu einer proaktiven Vertrauensarchitektur übergehen, um sich gegen Deepfakes zu schützen.
Diese Bedrohungen zeigen sich in öffentlichkeitswirksamen Desinformationskampagnen, zum Beispiel dann, wenn Führungspersönlichkeiten imitiert werden, um irreführende öffentliche Erklärungen zu verbreiten. Zugleich richten sich Deepfake-Angriffe auch gegen interne Systeme. Dabei versuchen Angreifer, automatisierte biometrische Authentifizierungsverfahren wie Stimm- oder Gesichtserkennung zu umgehen oder Mitarbeitende durch Social Engineering zu schädlichen Handlungen zu bewegen. Typischerweise geschieht dies, indem sie gezielt Autorität und Dringlichkeit vortäuschen.
"Deepfakes können das Konzept der digitalen Identität untergraben oder sogar als Waffe einsetzen und damit die Glaubwürdigkeit des Staates selbst angreifen“, sagte Daniel Nieto, Senior Director Analyst bei Gartner. "Wenn Bürgerinnen und Bürger eine echte Ankündigung des Premierministers oder ein sicheres Portal der Steuerbehörde nicht mehr zuverlässig von einer Fälschung unterscheiden können, gerät die Wahrheit ins Wanken.“
Regierungsorganisationen sollten kurzfristig laut Gartner etwa einen Vertrauensrat einrichten. In Abstimmung mit den wichtigsten Stakeholdern (IT, Recht, Kommunikation, Personal) sollte eine Aufsichtsfunktion geschaffen werden. Dieser Rat müsse sich mit Fragen der digitalen Identität und der Bekämpfung von Desinformationsaktivitäten (sowohl intern als auch extern) befassen. Zur Optimierung von Geschäftsprozessen sollten risikoreiche administrative Arbeitsabläufe, wie z. B. Finanzauszahlungen, identifiziert und anschliessend geprüft werden. Weiters sollten Sicherheitsmassnahmen mit mehreren Genehmigungsinstanzen und Authentifizierung auf Anwendungsebene implementiert werden, um Schwachstellen zu beseitigen, die von Stimmenklonen von Führungskräften ausgenutzt werden könnten. Zudem sollten normale Strategien und Programme zur Daten- und Sicherheitsgovernance eingeführt werden, die sich zunächst auf diese risikoreichen Arbeitsabläufe konzentrieren und bei Bedarf auf weitere Bereiche ausgeweitet werden. Zur Deepfake-Verifizierung sollten Standardarbeitsanweisungen (SOPs) mit Schritt-für-Schritt-Anleitungen zur Nutzung von Technologie entwickelt werden, um verdächtige digitale Interaktionen zu testen und möglicherweise KI-generierte Inhalte aufzudecken.
