Was ist Datenverlustprävention im Zeitalter der KI?

Datenverlustprävention beinhaltet eine Reihe von Richtlinien und Tools, die Datenlecks und andere Formen riskanter Datenfreigaben erkennen und verhindern. DLP schützt vertrauliche Daten, während Anwender sie erstellen, speichern, verwenden, kopieren, hochladen und senden.

DLP bietet schon lange Schutz für E-Mails und Endpunkte, für den Webverkehr und den Cloud-Speicher sowie für SaaS-Anwendungen und Collaboration-Tools. Diese Kanäle sind nach wie vor wichtig, aber im Zeitalter der KI muss DLP auch Prompts, Uploads, Modelleingaben, Modellausgaben und Aktionen von KI-Agenten abdecken.

Ein Mitarbeiter der Finanzabteilung könnte beispielsweise versuchen, eine Tabelle mit Kundenzahlungsdaten an ein privates E-Mail-Konto zu senden. DLP kann Zahlungskartendaten erkennen und die Nachricht daraufhin blockieren, verschlüsseln, unter Quarantäne stellen oder eine Warnung ausgeben.

DLP schützt vertrauliche Daten, deren Kompromittierung geschäftliche, finanzielle, rechtliche oder Compliance-Risiken verursachen könnte. Dazu gehören:

• Geistiges Eigentum, wie Quellcode, Produktpläne, Designs und Geschäftsgeheimnisse
• Personenbezogene Informationen wie Namen, Adressen, Ausweisnummern und Mitarbeiterdaten
• Geschützte Gesundheitsinformationen, wie z. B. Patientenakten, Diagnosen, Abrechnungsdaten und Behandlungsdaten
• Zahlungs- und Finanzdaten, wie Kontonummern, Gehaltsabrechnungen, Rechnungen und Transaktionen
• Anmeldedaten, Secrets, Token, API-Schlüssel, Zertifikate und Zugriffsdaten
• Regulierte Aufzeichnungen, Verträge, Sitzungsunterlagen und rechtliche Dokumente

In KI-Workflows können Daten an verschiedenen Stellen auftauchen. Sie können in GenAI-Prompts eingefügt werden. Sie können in Zusammenfassungstools geladen werden. Sie können von einem Copiloten indiziert, in einen RAG-Workflow integriert oder von einem KI-Agenten verarbeitet werden.

DLP identifiziert vertrauliche Daten, bewertet sie anhand von Richtlinien und leitet Maßnahmen ein, sobald Risiken erkannt werden.

Gängige DLP-Maßnahmen umfassen:

• Erkennung: Vertrauliche Daten in Dateien, Nachrichten, Prompts, Uploads und Repositorys identifizieren
• Benachrichtigung: Sicherheitsteams, für Daten verantwortliche Personen oder Compliance-Teams über riskante Aktivitäten informieren
• Blockierung: Unbefugtes Freigeben, Hochladen, Kopieren, Einfügen oder Übertragen von Daten verhindern
• Verschlüsselung: Vertrauliche Daten schützen, bevor sie eine genehmigte Umgebung verlassen
• Quarantäne: Risikoreiche Dateien oder Nachrichten vor der Freigabe zur Überprüfung zurückhalten
• Schwärzung: Vertrauliche Daten in Nachrichten, Dateien, Prompts oder Ausgaben entfernen oder unkenntlich machen
• Schulungen: Anwender in Echtzeit warnen und auf sicherere Verhaltensweisen hinweisen
• Audit: Richtlinienverstöße, Entscheidungen und Anwenderaktionen aufzeichnen, um Untersuchungen, Reaktionen auf Zwischenfälle und Compliance-Überprüfungen zu unterstützen

DLP funktioniert am besten, wenn sowohl Inhalt als auch Kontext ausgewertet werden. Es kann beispielsweise legitim sein, eine Datei an ein autorisiertes Rechtsteam weiterzugeben, aber riskant sein, sie in ein nicht genehmigtes öffentliches KI-Tool zu laden.

Künstliche Intelligenz verändert die Datenverlustprävention, weil vertrauliche Daten nicht mehr nur über E-Mails, Endpunkte, Cloud-Anwendungen und File-Sharing-Tools übertragen werden. Sie gelangen nun auch in Prompts, Uploads, Modelleingaben und -ausgaben, RAG-Workflows, KI-Agenten und andere KI-gestützte Systeme. Gleichzeitig besteht bei KI das Risiko, das freizügig weitergegebene Informationen offengelegt, Datenzugriffe beschleunigte und vertrauliche Inhalte kompromittiert. Die dabei verwendeten Workflows unterscheiden sich von den traditionellen, von Anwendern gesteuerten Abläufen.

Durch Prompts entsteht ein neuer Datenkanal

Prompts stellen jetzt einen Datenkanal dar. Mitarbeiter fügen routinemäßig Quellcode, Kundeninformationen, Verträge und andere sensible Daten in KI-Tools ein, um ihre Arbeit zu beschleunigen. Daraus ergibt sich eine neue Möglichkeit für Datenkompromittierungen.

DLP muss vertrauliche Daten in Prompts, Uploads und Kopier- und Einfügevorgängen erkennen und Anwender auf die Nutzung genehmigter KI-Tools hinweisen.

Durch KI-Agenten entstehen neue Zugriffsrisiken

KI-Agenten können autonom handeln, indem sie Daten abrufen, Tools aufrufen, Systeme abfragen, Dateien zusammenfassen, Nachrichten senden oder Workflows auslösen. Verfügt ein Agent über übermäßige Berechtigungen, schwache Leitlinien oder Zugriff auf zu freizügig weitergegebene Repositorys, kann er vertrauliche Daten im großen Umfang kompromittieren.

Ein KI-Agent mit Zugriff auf interne Dokumentation könnte beispielsweise vertrauliche Produktpläne abrufen und diese in einem Anwender-Workflow anzeigen. Deshalb ist Zugriffskontrolle so wichtig. Moderne DLP-Lösungen müssen das Least-Privilege-Prinzip sowie die Datenklassifizierung, Datenherkunft, Agentenüberwachung und Analyse des Anwenderverhaltens kombinieren und dabei nicht nur zeigen, welche Daten verschoben wurden, sondern auch wer oder was sie verschoben hat, warum sie verschoben wurden und wohin sie gelangt sind.

KI-Ergebnisse können zu Kompromittierungspunkten werden

KI-Ausgaben können Daten kompromittieren, wenn sie vertrauliche Inhalte wiederholen, zusammenfassen, ableiten oder offenlegen. Ein KI-gestützter Copilot könnte Dateien aufdecken, die zu freizügig weitergegeben wurden, ein RAG-Workflow könnte vertrauliche Daten an den falschen Anwender zurückgeben und ein kundenspezifisches LLM könnte Antworten basierend auf vertraulichen Trainings- oder Tuning-Daten generieren. Da Informationen von der KI transformiert werden, bevor sie sie präsentiert, kann die Ausgabe neu erscheinen, selbst wenn sie aus vertraulichen Daten stammt.

Vergleich traditioneller DLP-Risiken mit DLP-Risiken im Zeitalter der KI

KI birgt neue Risiken für Datenkompromittierungen, weil Anwender und Agenten neue Möglichkeiten erhalten, auf Informationen zuzugreifen, diese zu verändern und weiterzugeben. DLP muss diese Risiken reduzieren, indem sie vertrauliche Daten findet, Richtlinien durchsetzt und Teams klare Transparenz bietet.

Untersuchungen von Proofpoint zeigen, dass diese Risiken in den Unternehmen bereits Realität sind: 42 % haben bereits einen vermuteten oder bestätigten KI-bezogenen Zwischenfall erlebt. Von diesen Unternehmen haben 67 % Bedrohungsaktivitäten in E-Mails, 57 % in SaaS- oder Cloud-Anwendungen und 53 % in KI-Assistenten oder -Agenten bestätigt.

Moderne DLP muss folgende Risiken minimieren:

• Schatten-KI und unbefugte Nutzung von Tools
• Vertrauliche Daten in GenAI-Prompts und -Uploads
• KI-Anwendungen und -Agenten mit übermäßigen Zugriffsrechten
• Vertrauliche Daten in Trainings-, Optimierungs-, Einbettungs- und RAG-Workflows
• Prompt-Injection und Adversarial Prompting, die versuchen, geschützte Informationen zu extrahieren
• Kompromittierte Plugins, APIs, OAuth-Berechtigungen und verbundene Anwendungen
• Insider-Risiko durch fahrlässige, kompromittierte oder böswillige Anwender

Schatten-KI und nicht genehmigte Tools

Schatten-KI bedeutet, dass Mitarbeiter KI-Tools verwenden, die nicht vom Unternehmen genehmigt wurden. Da diese Tools möglicherweise nicht den Unternehmensrichtlinien für den Umgang mit Daten entsprechen, fehlt Unternehmen oft der Überblick darüber, welche Daten hochgeladen, wie lange sie gespeichert oder wie sie verwendet werden.

Beispielsweise könnte ein Mitarbeiter im Gesundheitswesen ein nicht genehmigtes KI-Tool verwenden, um Patientenakten zusammenzufassen. DLP kann erkennen, wie vertrauliche Daten in diese Tools gelangen, und Anwender auf zulässige Alternativen hinweisen, statt ihre Arbeit einfach zu blockieren.

KI mit übermäßigen Zugriffsrechten und überhöhter Autonomie

KI-Anwendungen und -Agenten können auf mehr Daten zugreifen, als sie benötigen. Ein Copilot kann beispielsweise zu freizügig weitergegebene Dateien indizieren oder eine OAuth-Anwendung kann weitreichende Berechtigungen erhalten, die es einem Agenten ermöglichen, auf mehrere Systeme zuzugreifen.

Überhöhte Autonomie bedeutet, dass ein Agent zu viel Handlungsfreiheit besitzt. Dies birgt ein Risiko, da ein Agent möglicherweise nicht nur Daten einsehen, sondern unter Umständen auch verschieben, zusammenfassen, kopieren oder senden kann.

DLP muss mit Zugriffszuordnung, Labeln, dem Least-Privilege-Prinzip und Agentenüberwachung arbeiten. Teams müssen wissen, welche Zugriffsmöglichkeiten ein KI-Tool hat und ob diese Zugriffsrechte zur jeweiligen Aufgabe passen.

Insider-Risiko in KI-Workflows

KI-Workflows können die genaue Lokalisierung von Insider-Risiken erschweren. Fahrlässige Anwender laden möglicherweise vertrauliche Dateien in öffentliche Tools, während kompromittierte oder böswillige Anwender KI einsetzen können, um vertrauliche Informationen im großen Umfang zu lokalisieren, zusammenzufassen oder zu extrahieren.

Der Kontext ist entscheidend. Ein Entwickler, der eine öffentliche Dokumentation zusammenfasst, birgt möglicherweise nur ein geringes Risiko. Das Laden von Quellcode in ein nicht genehmigtes KI-Tool muss dagegen eine andere Reaktion auslösen. Die Abwehr von Insider-Bedrohungen kann diese beiden Fälle voneinander trennen, weil es das Anwenderverhalten mit der Vertraulichkeit der Daten und der KI-Aktivität verknüpft.

Moderne DLP muss vertrauliche Daten über Personen, Anwendungen und KI-Agenten hinweg schützen. Sie muss mit der Datenerkennung und -klassifizierung, mit DSPM, der Zugriffskontrolle, der Abwehr von Insider-Bedrohungen, der Datenherkunft, mit Audit-Protokollen und der KI-Governance integriert werden.

Transparenz für Personen, Anwendungen und Agenten

Sicherheitsteams müssen wissen, wie vertrauliche Daten zwischen Anwendern, Anwendungen, KI-Tools und Agenten übertragen werden. Damit sollen beispielsweise folgende Fragen beantwortet werden:

• Wer hat auf vertrauliche Daten zugegriffen?
• War der Anwender, die Anwendung oder der Agent autorisiert?
• Welche vertraulichen Daten waren betroffen?
• Wurden die Daten kopiert, hochgeladen, zusammengefasst, freigegeben oder in einen Prompt aufgenommen?
• Wurde bei der Aktivität ein genehmigtes KI-Tool eingesetzt?
• Wurden in der Ausgabe vertrauliche Informationen preisgegeben?
• Ist dieses Verhalten für den Anwender oder die Rolle normal?

Klassifizierung vor der Durchsetzung

Effektive DLP beginnt mit der Klassifizierung, damit Sie wissen, welche Daten vertraulich sind und wo sie sich befinden. DSPM hilft, vertrauliche Daten in Cloud- und lokalen Repositorys zu identifizieren, einschließlich Dateien mit zu weit gefassten Berechtigungen, sodass DLP Kontrollmechanismen anwenden kann, bevor Anwender, Anwendungen oder KI-Agenten diese Daten in riskante Kanäle leiten.

Microsoft 365 Copilot kann beispielsweise auf SharePoint- und OneDrive-Inhalte zugreifen. Werden vertrauliche Dateien zu freizügig weitergegeben, kann Copilot diese unbefugten Anwendern zugänglich machen. DSPM identifiziert Datenkompromittierungen, während DLP reguliert, wie auf diese Daten zugegriffen, wie sie weitergegeben und wie sie verwendet werden.

Echtzeitkontrollen und Anwenderschulungen

Moderne DLP muss Sicherheit und Produktivität in Einklang bringen, indem sie kontextbezogene Kontrollen anwendet, keine pauschalen Einschränkungen.

Zu den wichtigsten Fähigkeiten gehören:

• Vertrauliche Daten erkennen und klassifizieren, bevor KI-Tools darauf zugreifen
• Öffentliche GenAI, Unternehmens-Copiloten, kundenspezifische LLMs und KI-Agenten kontinuierlich überwachen
• Vertrauliche Daten in Prompts, Uploads, Dateien und Ausgaben erkennen
• Anpassbare Steuerelemente wie Blockierung, Verschlüsselung, Schwärzung, Quarantäne und Anwenderschulungen anwenden
• Zugriff mit Least-Privilege-Prinzipien kontrollieren
• Anwenderverhalten, Vertraulichkeit von Daten, KI-Aktivitäten und Zielrisiken korrelieren
• Audit-Protokolle führen und Datenherkunft für Untersuchungen und Compliance verfolgen

Echtzeit-Schulungen helfen Anwendern, in Risikosituationen sicherere Entscheidungen zu treffen, weil sie erklären, warum eine Aktion unsicher ist, und Anwender auf einen genehmigten Workflow hinweisen.

DLP ist Bestandteil eines effektiven Governance-Programms für KI-Daten. Um effektiv zu sein, muss sie klare Richtlinien, angemessene Zugriffskontrollen, Schulungen für Anwender und eine kontinuierliche Überwachung durchsetzen.

Akzeptable KI-Nutzung definieren

Unternehmen müssen definieren, welche KI-Nutzung erlaubt, welche eingeschränkt und welche genehmigungspflichtig ist. Die Regeln müssen so klar sein, dass die Anwender sie befolgen können, und gleichzeitig so spezifisch, dass das Sicherheitsteam sie durchsetzen kann.

Ein Rechtsteam möchte beispielsweise, dass GenAI Verträge zusammenfasst. Eine Richtlinie kann Zusammenfassungen von nicht vertraulichen Texten zulassen. Sie kann Uploads blockieren, die personenbezogene Daten von Kunden enthalten, es sei denn, das Tool ist genehmigt und wird reguliert.

Richtlinien zur akzeptablen Nutzung müssen folgende Fragen beantworten:

• Welche KI-Tools werden genehmigt?
• Welche Daten können verwendet werden?
• Welche Anwendungsfälle müssen überprüft werden?
• Welche Rollen haben Zugriff auf welches Tool?
• Wie werden Prompts, Uploads, Ausgaben und generierte Inhalte gehandhabt?/li>
• Wie werden Ausnahmen genehmigt?

Richtlinien mit technischen Kontrollen durchsetzen

Richtlinien benötigen technische Kontrollen. DLP trägt dazu bei, die KI-Datenkontrolle in die Praxis umzusetzen, indem sie Datenbewegungen überwacht und Regeln für Anwender, Anwendungen und Agenten durchsetzt.

Nutzen Sie diesen Prozess, um DLP mit der KI-Governance in Einklang zu bringen:

• Erkennen Sie vertrauliche Daten in Cloud-, SaaS-, Endpunkt-, Collaboration-Tools und in lokalen Repositorys.
• Klassifizieren Sie Daten nach Risiko, Geschäftswert und regulatorischen Anforderungen.
• Ordnen Sie den KI-Zugriff so zu, dass Teams wissen, welche Tools, KI-Copiloten, Anwendungen und Agenten auf vertrauliche Daten zugreifen können.
• Setzen Sie adaptive Kontrollen durch, z. B. Blockierung, Schwärzung, Verschlüsselung, Schulungen, Eskalation und Audit-Protokollierung.
• Überprüfen Sie Zwischenfälle, Anwenderverhalten und Audit-Protokolle, um die Richtlinien langfristig zu verbessern.

Dieser Ansatz hilft Unternehmen, die Einführung von KI zu unterstützen und gleichzeitig die Kontrolle über vertrauliche Daten zu behalten.

Verhaltensänderungen fördern

KI-Governance ist kein ausschließlich technischer Aspekt. Die Mitarbeiter müssen wissen, welche Daten sie verwenden dürfen, welche Tools genehmigt sind und warum bestimmte Aktionen Risiken bergen.

Security-Awareness-Schulungen können dazu beitragen, den sicheren Umgang mit KI zu vermitteln. Echtzeit-Schulungen können im Risikofall mit Hinweisen eingreifen, wenn beispielsweise vertrauliche Daten in ein nicht genehmigtes GenAI-Tool eingefügt werden.

Viele Risiken im Zusammenhang mit KI-Daten entstehen bei Routinearbeiten. Die Anwender fassen möglicherweise Dokumente zusammen, schreiben Code, analysieren Daten oder versuchen, effizienter zu arbeiten. DLP muss sichereres Verhalten fördern, ohne die genehmigte Nutzung von KI zu beeinträchtigen.

Unternehmen, die DLP-Lösungen evaluieren, müssen über die traditionelle Kanalabdeckung hinausblicken. Der richtige Ansatz muss Daten über E-Mails, Endpunkte, SaaS, Web, Cloud-Speicher, öffentliche GenAI-Tools, Enterprise-Copiloten, kundenspezifische LLMs, RAG-Workflows und Agenten hinweg schützen.

Nutzen Sie die folgende Prüfliste, um zu beurteilen, ob Ihr DLP-Ansatz für die Datenrisiken im KI-Zeitalter gerüstet ist:

Ein Finanzdienstleistungsunternehmen möchte beispielsweise, dass seine Analysten genehmigte KI-Tools verwenden, gleichzeitig aber verhindern, dass sie Kundenkontodaten in nicht genehmigten Services laden. DLP muss beide Ziele unterstützen: die genehmigte Nutzung von KI zu ermöglichen und die Kompromittierung vertraulicher Daten zu kontrollieren.

Durch die Einführung von KI entstehen neue Datenpfade. Vertrauliche Daten können Prompts, Uploads, Copiloten, kundenspezifische LLMs, RAG-Workflows, Ausgaben und Agenten durchlaufen. Teams benötigen Transparenz, Kennzeichnungen, Zugriffskontrollen, adaptive DLP, Audit-Protokolle und Anwenderschulungen.

Proofpoint bietet Ressourcen, mit denen Teams Daten für Personen, KI-Tools und Agenten absichern können. Der Leitfaden „Absicherung und Kontrolle von KI“ definiert einen detaillierteren Rahmen für den Schutz vertraulicher Daten in KI-Workflows.

Erfahren Sie, wie Sie vertrauliche Daten absichern und verwalten, die von Anwendern, KI-Tools und Agenten verarbeitet werden. Lesen Sie dazu unseren Leitfaden „Absicherung und Kontrolle von Daten für KI“.