Qu'est-ce que la prévention des fuites de données à l'ère de l'IA ?

La prévention des fuites de données est un ensemble de règles et d'outils qui aide à détecter et à prévenir les fuites de données et d'autres formes de partage de données à risque. La DLP protège les données sensibles à mesure qu'elles sont créées, stockées, utilisées, copiées, chargées et envoyées.

La DLP a longtemps couvert les emails, les endpoints, le trafic Web, le stockage cloud, les applications SaaS et les outils de collaboration. Ces canaux demeurent importants, mais à l'ère de l'IA, la DLP doit également couvrir les requêtes, les chargements, les entrées et sorties de modèles et les actions exécutées par les agents d'IA.

Imaginons qu'un collaborateur du département financier tente d'envoyer un tableur contenant des données de paiement client à un compte de messagerie personnel. La solution DLP détectera les données de carte de paiement et bloquera, chiffrera ou mettra en quarantaine le message ou enverra une alerte le concernant.

La DLP protège les données sensibles susceptibles de créer un risque commercial, financier, juridique ou de conformité en cas d'exposition. Il s'agit notamment des données suivantes :

• Propriété intellectuelle, telle que code source, plans de produits, conceptions et secrets commerciaux
• Informations personnelles, telles que noms, adresses, numéros d'identification et dossiers des collaborateurs
• Informations de santé protégées, telles que dossiers médicaux, diagnostics, demandes de remboursement et données de traitement
• Données de cartes de paiement et financières, telles que numéros de compte, fichiers de paie, factures et transactions
• Identifiants de connexion, secrets, jetons, clés API, certificats et données d'accès
• Dossiers réglementés, contrats, documents du conseil d'administration et documents juridiques

Dans les workflows d'IA, ces données peuvent apparaître à de nouveaux endroits. Elles peuvent être collées dans une requête d'IA générative. Elles peuvent être téléchargées dans un outil de résumé. Elles peuvent être indexées par un copilote, intégrées dans un workflow RAG ou traitées par un agent d'IA.

La DLP fonctionne en identifiant les données sensibles, en les évaluant par rapport aux règles et en prenant des mesures lorsqu'un risque est détecté.

La DLP effectue notamment les actions courantes suivantes :

• Détection : elle identifie les données sensibles dans les fichiers, les messages, les requêtes, les chargements et les référentiels.
• Alerte : elle prévient les équipes de sécurité, les propriétaires de données ou les équipes de conformité en cas d'activité à risque.
• Blocage : elle met fin au partage, au chargement, à la copie, au collage ou à la transmission non autorisés de données.
• Chiffrement : elle protège les données sensibles avant qu'elles ne quittent un environnement approuvé.
• Quarantaine : elle retient les fichiers ou messages à risque pour examen avant leur diffusion.
• Anonymisation : elle supprime ou masque les données sensibles contenues dans un message, un fichier, une requête ou une sortie.
• Coaching : elle avertit les utilisateurs en temps réel et les guide vers l'adoption d'un comportement plus sûr.
• Audit : elle enregistre les violations des règles, les décisions et les actions des utilisateurs afin de soutenir les investigations, la réponse aux incidents et l'examen de la conformité.

La DLP donne de meilleurs résultats lorsqu'elle évalue à la fois le contenu et le contexte. Par exemple, il peut être tout à fait approprié de partager un fichier donné avec une équipe juridique approuvée, mais dangereux de le charger sur un outil d'IA public non approuvé.

L'IA modifie la prévention des fuites de données car les données sensibles ne transitent plus uniquement via des emails, des endpoints, des applications cloud et des outils de partage de fichiers. Elles circulent désormais dans des requêtes, des chargements, des entrées et sorties de modèles, des workflows RAG, des agents d'IA et d'autres systèmes optimisés par l'IA. Dans le même temps, l'IA peut mettre au jour des informations faisant l'objet d'un partage excessif, accélérer l'accès aux données et exposer du contenu sensible d'une manière que les workflows traditionnels pilotés par les humains n'auraient jamais pu faire.

Les requêtes créent un nouveau canal de données

Les requêtes constituent désormais un canal de données. Les collaborateurs collent régulièrement du code source, des informations clients, des contrats et d'autres données sensibles dans des outils d'IA pour accélérer leur travail, créant ainsi une nouvelle voie d'exposition des données.

La DLP doit détecter les données sensibles présentes dans les requêtes, les chargements et les activités de copier-coller tout en orientant les utilisateurs vers des outils d'IA approuvés.

Les agents d'IA créent de nouveaux risques en matière d'accès

Les agents d'IA peuvent agir de manière autonome et exécuter diverses actions : récupération de données, appel d'outils, interrogation de systèmes, résumé de fichiers, envoi de messages et déclenchement de workflows. Si un agent dispose d'autorisations excessives, de garde-fous insuffisants ou d'un accès à des référentiels faisant l'objet d'un partage excessif, il peut exposer des données sensibles à grande échelle.

Par exemple, un agent d'IA disposant d'un accès aux documents internes pourrait récupérer des plans de produits confidentiels et les exposer dans un workflow destiné aux utilisateurs. D'où l'importance de la gouvernance des accès. Une solution DLP moderne doit combiner accès selon le principe du moindre privilège, classification des données, traçabilité des données, surveillance des agents et analyse des comportements afin de montrer non seulement quelles données ont été déplacées, mais aussi par qui ou par quoi, pourquoi et où.

Les résultats de l'IA peuvent devenir des points d'exposition

Les résultats de l'IA peuvent exposer des données lorsqu'ils répètent, résument, infèrent ou révèlent du contenu sensible. Un copilote optimisé par l'IA peut exposer des fichiers faisant l'objet d'un partage excessif, un workflow RAG peut envoyer des données privées au mauvais utilisateur, et un LLM personnalisé peut générer des réponses basées sur des données d'entraînement ou d'optimisation sensibles. Étant donné que l'IA transforme les informations avant de les présenter, le résultat peut sembler nouveau même s'il provient de données sensibles.

Comparaison entre les risques traditionnels et à l'ère de l'IA en matière de DLP

L'IA crée de nouveaux risques d'exposition des données en donnant aux personnes et aux agents de nouveaux moyens d'accéder aux informations, de les modifier et de les partager. La DLP devrait contribuer à réduire ces risques en identifiant les données sensibles, en appliquant les règles et en offrant aux équipes une visibilité claire.

Les recherches de Proofpoint montrent que ces risques affectent déjà les entreprises : 42 % font état d'un incident de sécurité suspect ou confirmé lié à l'IA. Parmi ces entreprises, 67 % ont constaté une activité de menaces au niveau de la messagerie électronique, 57 % dans des applications SaaS ou cloud, et 53 % dans des assistants ou agents d'IA.

La DLP moderne devrait contribuer à réduire les risques suivants :

• Shadow AI et utilisation d'outils non approuvés
• Données sensibles dans des requêtes d'IA générative et des chargements
• Applications et agents d'IA disposant de privilèges excessifs
• Données sensibles dans les données d'entraînement et d'optimisation, les embeddings et les workflows RAG
• Injection d'invites et techniques d'invites antagonistes visant à extraire des informations protégées
• Modules d'extension, API, autorisations OAuth et applications connectées compromis
• Risques internes dus à des utilisateurs négligents, compromis ou malveillants

Shadow AI et outils non approuvés

On parle de Shadow AI lorsque des collaborateurs utilisent des outils d'IA qui n'ont pas été approuvés par l'entreprise. Comme ces outils ne se conforment pas forcément aux exigences de l'entreprise en matière de traitement des données, les entreprises manquent souvent de visibilité sur les données qui sont chargées, la durée de leur stockage et l'utilisation qui en est faite.

Par exemple, un collaborateur d'un établissement de santé pourrait utiliser un outil d'IA non approuvé pour résumer des dossiers patients. La DLP peut détecter les données sensibles transférées vers ces outils et orienter les utilisateurs vers des alternatives approuvées au lieu de simplement bloquer leur travail.

Applications d'IA dotées de privilèges excessifs et agentivité excessive

Les applications et agents d'IA dotés de privilèges excessifs peuvent accéder à plus de données qu'ils n'en ont besoin. Par exemple, un copilote peut indexer des fichiers faisant l'objet d'un partage excessif, ou une application OAuth peut recevoir des autorisations étendues qui permettent à un agent d'accéder à plusieurs systèmes.

L'agentivité excessive signifie qu'un agent a trop de liberté d'action. Cela pose un risque car l'agent peut non seulement voir les données, mais aussi les déplacer, les résumer, les copier et les envoyer.

La DLP doit être combinée au mappage des accès, à des étiquettes, au principe du moindre privilège et à la surveillance des agents. Les équipes doivent savoir à quoi un outil d'IA a accès et si ce niveau d'accès est adapté à la tâche.

Risques internes dans les workflows d'IA

Les workflows d'IA peuvent compliquer l'identification des risques internes. Des utilisateurs négligents peuvent charger des fichiers confidentiels sur des outils publics, tandis que des utilisateurs compromis ou malveillants peuvent utiliser l'IA pour localiser, résumer ou extraire des informations sensibles à grande échelle.

Le contexte est crucial. Un ingénieur qui résume des documents publics posera peu de risque, tandis que le chargement de code source vers un outil d'IA non approuvé devrait déclencher une réponse différente. La gestion des menaces internes aide à faire cette distinction en reliant le comportement des utilisateurs à la sensibilité des données et à l'activité de l'IA.

La DLP moderne doit protéger les données sensibles des personnes, des applications et des agents d'IA. Elle doit s'intégrer à la découverte des données, à la classification, à la DSPM, à la gouvernance des accès, à la gestion des menaces internes, à la traçabilité des données, aux pistes d'audit et à la gouvernance de l'IA.

Visibilité sur l'ensemble des utilisateurs, des applications et des agents

Les équipes de sécurité ont besoin d'une visibilité sur la manière dont les données sensibles circulent entre les utilisateurs, les applications, les outils d'IA et les agents. L'objectif est de répondre à des questions telles que :

• Qui a accédé aux données sensibles ?
• L'utilisateur, l'application ou l'agent disposait-il de l'autorisation nécessaire ?
• Quelles données sensibles ont été affectées ?
• Ont-elles été copiées, chargées, résumées, partagées ou incluses dans une requête ?
• L'activité a-t-elle impliqué un outil d'IA approuvé ?
• Le résultat a-t-il exposé des informations sensibles ?
• Ce comportement est-il normal pour l'utilisateur ou le rôle ?

Classification avant l'application des règles

Une DLP efficace commence par la classification : savoir quelles données sont sensibles et où elles résident. La DSPM aide à identifier les données sensibles dans les référentiels cloud et sur site, y compris les fichiers faisant l'objet d'autorisations trop larges, afin que la DLP puisse appliquer des contrôles avant que les utilisateurs, les applications ou les agents d'IA ne déplacent ces données vers des canaux à risque.

Par exemple, Microsoft 365 Copilot peut accéder au contenu de SharePoint et OneDrive. Si des fichiers sensibles font l'objet d'un partage excessif, Copilot pourrait les montrer à des utilisateurs non autorisés. La DSPM identifie les expositions, tandis que la DLP régit la manière dont ces données sont consultées, partagées et utilisées.

Contrôles en temps réel et coaching des utilisateurs

La DLP moderne doit trouver un équilibre entre sécurité et productivité en appliquant des contrôles en fonction du contexte, et non des restrictions générales.

Les principales fonctionnalités sont les suivantes :

• Découverte et classification des données sensibles avant que les outils d'IA n'y accèdent
• Surveillance continue de l'IA générative publique, des copilotes d'entreprise, des LLM personnalisés et des agents d'IA
• Détection des données sensibles présentes dans les requêtes, les chargements, les fichiers et les résultats
• Application de contrôles adaptatifs tels que le blocage, le chiffrement, le masquage, la mise en quarantaine et le coaching des utilisateurs
• Gestion des accès à l'aide du principe du moindre privilège
• Mise en corrélation des risques liés au comportement des utilisateurs, à la sensibilité des données, à l'activité de l'IA et à la destination
• Conservation des pistes d'audit et traçage des données aux fins des investigations et de la conformité

Le coaching en temps réel aide les utilisateurs à prendre des décisions plus sûres au moment où le risque survient en expliquant pourquoi une action est dangereuse et en les dirigeant vers un workflow approuvé.

La DLP est l'un des éléments d'un programme efficace de gouvernance des données pilotée par l'IA. Pour être efficace, elle doit offrir des règles claires, des contrôles d'accès appropriés, une formation des utilisateurs et une supervision continue.

Définition de l'utilisation acceptable de l'IA

En matière d'utilisation de l'IA, les entreprises doivent fixer ce qui est autorisé, ce qui fait l'objet de restrictions et ce qui nécessite une approbation. Les règles doivent être suffisamment claires pour que les utilisateurs les respectent et suffisamment précises pour que les équipes de sécurité puissent les appliquer.

Imaginons qu'une équipe juridique souhaite que l'IA générative résume des contrats. Une règle pourra autoriser les résumés de textes non confidentiels, mais bloquer les chargements contenant des données personnelles de clients, à moins que l'outil ne soit approuvé et régi.

Les règles d'utilisation acceptable doivent établir ce qui suit :

• Quels outils d'IA sont approuvés
• Quelles données peuvent être utilisées
• Quels cas d'utilisation nécessitent un examen
• Quels rôles peuvent accéder à chaque outil
• Comment gérer les requêtes, les chargements, les résultats et le contenu généré
• Comment les exceptions sont approuvées

Application des règles avec des contrôles techniques

Les règles nécessitent des contrôles techniques. La DLP aide à transformer la gouvernance de l'IA en action en surveillant les mouvements des données et en appliquant des règles aux utilisateurs, aux applications et aux agents.

Suivez la procédure ci-dessous pour aligner la DLP sur la gouvernance de l'IA :

• Identifiez les données sensibles dans le cloud, les applications SaaS, les endpoints, les outils de collaboration et les référentiels sur site.
• Classez les données en fonction du risque, de leur valeur métier et des exigences réglementaires.
• Cartographiez les accès de l'IA afin que les équipes sachent quels outils, copilotes, applications et agents peuvent accéder aux données sensibles.
• Appliquez des règles adaptatives, telles que le blocage, le masquage, le chiffrement, le coaching, l'escalade et la journalisation des audits.
• Examinez les incidents, le comportement des utilisateurs et les pistes d'audit afin d'améliorer les règles au fil du temps.

Cette approche aide les entreprises à soutenir l'adoption de l'IA tout en gardant le contrôle sur les données sensibles.

Incitation à un changement de comportement

La gouvernance de l'IA ne revêt pas seulement un aspect technique. Les collaborateurs doivent savoir quelles données ils peuvent utiliser, quels outils sont approuvés et pourquoi certaines actions créent des risques.

Une formation de sensibilisation à la sécurité informatique peut aider à enseigner l'utilisation sûre de l'IA. Le coaching en temps réel peut ajouter des conseils au moment où le risque surgit, par exemple lorsqu'un utilisateur tente de coller des données sensibles dans un outil d'IA générative non approuvé.

De nombreux risques pour les données liés à l'IA émanent de tâches de routine : des utilisateurs qui résument des documents, écrivent du code, analysent des données ou essaient de travailler plus efficacement. La DLP doit guider des comportements plus sûrs sans perturber l'utilisation approuvée de l'IA.

Les entreprises qui évaluent des solutions DLP doivent regarder au-delà de la couverture des canaux traditionnels. L'approche appropriée doit protéger les données au niveau des emails, des endpoints, des applications SaaS, du Web, des espaces de stockage cloud, des outils d'IA générative publics, des copilotes d'entreprise, des LLM personnalisés, des workflows RAG et des agents.

Utilisez cette liste de contrôle pour évaluer si votre approche DLP est prête pour les risques liés aux données à l'ère de l'IA :

Par exemple, une société de services financiers peut souhaiter que les analystes utilisent des outils d'IA approuvés, mais les empêcher de charger des données de comptes clients dans des services non approuvés. La DLP doit prendre en charge les deux objectifs : permettre l'utilisation approuvée de l'IA et contrôler l'exposition des données sensibles.

L'adoption de l'IA crée de nouvelles voies d'accès aux données. Les données sensibles peuvent circuler via des requêtes, des chargements, des copilotes, des LLM personnalisés, des workflows RAG, des sorties et des agents. Les équipes ont besoin de visibilité, d'étiquettes, de contrôles d'accès, d'une DLP adaptative, de pistes d'audit et d'un coaching des utilisateurs.

Proofpoint propose des ressources pour aider les équipes à protéger les données des utilisateurs, des outils d'IA et des agents. Le guide Sécuriser et gouverner les données face à l'IA propose un cadre plus approfondi pour protéger les données sensibles dans les workflows d'IA.

Découvrez comment sécuriser et gouverner les données sensibles utilisées par les personnes, les outils d'IA et les agents. Lisez note guide : Sécuriser et gouverner les données face à l'IA.