Bis 2029 werden die meisten Datenschutzvorfälle nicht mehr auf die direkte Offenlegung personenbezogener Daten (PII) zurückzuführen sein, sondern auf von KI generierte Schlussfolgerungen über Einzelpersonen. Zu diesem Ergebnis kommt das Forschungs- und Beratungsunternehmen Gartner.
"Wir erleben derzeit einen grundlegenden Wandel, weg von der Offenlegung von Daten, hin zur Offenlegung von Erkenntnissen", sagt Bart Willemsen, VP Analyst bei Gartner. "Unternehmen haben sich bislang darauf konzentriert, personenbezogene Rohdaten zu schützen. KI ist heute jedoch in der Lage, hochsensible persönliche Erkenntnisse zu rekonstruieren, ohne dabei klassische Datenschutzkontrollen umgehen zu müssen. Die Datenschutzrisiken entstehen zunehmend durch die Schlussfolgerungen, die KI-Systeme über Einzelpersonen ziehen und nicht mehr durch die direkte Offenlegung der zugrunde liegenden Daten."
Während Unternehmen aufgrund regulatorischer Anforderungen und des Kostendrucks die Menge der von ihnen gespeicherten personenbezogenen Daten reduzieren, eröffnet der Zugang zu KI Angreifern neue Möglichkeiten für schlussfolgerungsbasierte Angriffe. Denn Fortschritte im Bereich generativer KI (GenAI) und des maschinellen Lernens (ML) ermöglichen es, sensible Merkmale wie Gesundheitszustände oder Verhaltensmuster aus scheinbar harmlosen, anonymisierten oder aggregierten Daten abzuleiten.
