Gartner warnt vor KI-Rückschlüssen

Der Datenschutz steht laut Gartner vor einer grundlegenden Neuausrichtung. Bis 2029 werden nicht mehr geleakte personenbezogene Datensätze das dominierende Risiko sein, sondern Erkenntnisse, die KI-Modelle eigenständig aus vorhandenen Informationen ableiten.

Vom Datensatz zur Ableitung

Bart Willemsen, VP Analyst bei Gartner, beschreibt den Wandel als Verschiebung des Angriffspunkts. Generative KI und maschinelles Lernen können sensible Eigenschaften zu Gesundheit oder Verhalten selbst aus anonymisierten oder aggregierten Datensätzen rekonstruieren, ohne bestehende Datenschutzregeln zu verletzen. Da Unternehmen ihre gespeicherten Datenmengen reduzieren, wächst gerade dadurch die Bedeutung leistungsfähiger Modelle als Rekonstruktionswerkzeug. Inferenzbasierte Angriffe umgehen zudem klassische Erkennungsmuster, sodass Personen kompromittiert werden können, ohne dass je ein Datensatz abfließt.

Was Gartner Unternehmen empfiehlt

Willemsen rät CISOs und Datenschutzverantwortlichen zu einem fünfteiligen Ansatz: KI-Governance und Privacy-by-Design in bestehende Programme einbinden, datenschutzfördernde Technologien wie Differential Privacy und synthetische Daten einsetzen, Datenminimierung und Lebenszyklus-Steuerung ausbauen, Anomalieerkennung gegen KI-gestützte Bedrohungen ausrichten sowie Transparenz und Human-in-the-Loop-Kontrollen verpflichtend verankern.

Wo die Budgets hinfließen

Bis 2028 dürften die Investitionen in Datenintegrität laut Gartner das Niveau der Ausgaben für Datenvertraulichkeit erreichen. Für WP- und Compliance-Verantwortliche verschiebt sich damit die zentrale Frage: nicht mehr wie Daten gespeichert werden, sondern was KI daraus interpretiert.