Les agents IA et la confidentialité IA : un défi majeur pour les entreprises
Un agent IA refuse de communiquer un numéro de sécurité sociale quand on le lui demande directement. Ses garde-fous fonctionnent, en apparence.
Mais quelques minutes plus tard, on lui demande simplement de transférer l'e-mail complet qui contient des coordonnées bancaires et des informations médicales. Et là, sans la moindre hésitation, il transfère tout.
La leçon est simple : un agent peut respecter la lettre d'une règle de confidentialité tout en la contournant complètement par la bande. C'est exactement le nouveau défi de la confidentialité IA aujourd'hui. Ce n'est plus une question de "quelles données envoie-t-on au modèle", c'est devenu une question de ce qu'un système capable d'agir seul peut déduire, combiner et transmettre.
D'assistants qui répondent à des agents qui agissent
Il y a encore peu, le risque se limitait globalement à un usage individuel et ponctuel : un salarié copiait un extrait de document dans un chatbot pour en obtenir un résumé. C'était gênant, mais limité.
Aujourd'hui, les agents IA vont bien plus loin. Ils ne se contentent plus de répondre à des questions :
Ils analysent des bases de données entières.
Ils interrogent des CRM et des outils métiers.
Ils exécutent des workflows complets, de bout en bout.
Ils interagissent directement avec des systèmes externes, souvent sans intervention humaine.
Ce glissement d'un outil consulté ponctuellement à un système qui agit en continu change la nature même du risque. Ce n'est plus une fuite isolée qu'il faut redouter, mais une accumulation silencieuse d'incidents mineurs, chacun anodin en apparence, qui finissent par dessiner une vraie brèche.
Le vrai problème : un agent qui ne sait pas ce qui est privé
L'un des enseignements les plus révélateurs des études récentes sur le sujet concerne ce qu'on pourrait appeler l'absence de sens du contexte chez ces systèmes.
Beaucoup d'agents ne parviennent pas à distinguer de façon fiable un canal de communication privé d'un canal public. Dans un cas documenté, un agent a affirmé qu'il répondrait discrètement par e-mail tout en publiant, au même moment, le contenu lié sur un canal ouvert à tout le monde.
Quand un agent ne fait pas la différence entre une conversation confidentielle et un espace partagé, chaque interaction devient une fuite potentielle.
À cela s'ajoute un phénomène plus subtil, souligné par les autorités de protection des données : plus un système d'IA agentique accumule d'informations sur un utilisateur au fil de ses tâches, plus il devient capable d'en déduire de nouvelles. Des informations que l'utilisateur n'a jamais explicitement partagées, mais que le système reconstitue par recoupement.
La confidentialité ne se joue donc plus seulement au moment où une donnée est collectée. Elle se joue aussi, et peut-être surtout, dans tout ce que le système en déduit ensuite souvent de façon totalement invisible pour l'utilisateur.
Pourquoi la gouvernance peine à suivre
Le paradoxe, c'est que ces risques ne sont pas vraiment inédits dans leur nature. Accès mal configurés, privilèges excessifs, absence de traçabilité : des problèmes que les équipes IT connaissent depuis longtemps.
Ce qui change, c'est la vitesse à laquelle ils se propagent quand c'est une machine, et non un humain, qui exécute les actions. Sans gouvernance solide, un agent peut :
Accumuler des privilèges excessifs au fil du temps, sans qu'on s'en aperçoive
Être manipulé via des instructions cachées, glissées dans un document ou un e-mail
Propager une erreur à travers tout un système, bien plus vite qu'un humain ne l'aurait jamais fait
Et la gouvernance, justement, peine encore à suivre le rythme de l'adoption. La plupart des entreprises se retrouvent avec des agents déjà déployés en production, pendant que leur cadre de gouvernance IA — celui qui définit précisément ce que ces agents ont le droit de voir, de faire et de transmettre — est encore en construction, quand il existe.
Ce que les entreprises peuvent faire dès maintenant
Face à ces constats, quelques principes concrets permettent de reprendre la main sur la confidentialité IA.
Sur les accès et les données :
Limiter strictement les données accessibles à chaque agent au strict nécessaire pour sa fonction un agent qui gère des tickets support n'a aucune raison d'avoir accès aux dossiers RH.
Anonymiser ou pseudonymiser les données personnelles lorsque c'est possible, en particulier dans les jeux de données utilisés pour enrichir le contexte ou entraîner un modèle.
Vérifier où sont réellement hébergées les données traitées par chaque agent — la source, l'environnement d'exécution, et les journaux générés.
Sur la surveillance continue :
Auditer régulièrement la mémoire et les journaux des agents, car ce sont souvent ces données persistantes, accumulées silencieusement au fil du temps, qui deviennent le véritable point de fuite — bien plus qu'une interaction ponctuelle.
Mettre en place des alertes sur les comportements inhabituels : un agent qui accède soudainement à des ressources qu'il n'utilise jamais habituellement mérite d'être examiné.
Sur la conformité :
Prévoir des mécanismes clairs pour les droits des utilisateurs (suppression, accès, opposition), au même titre que pour n'importe quel autre traitement de données personnelles.
Documenter précisément le rôle et le périmètre de chaque agent déployé, pour pouvoir répondre rapidement en cas de contrôle ou d'incident.
Sur le plan réglementaire, le sujet reste en mouvement. Les autorités européennes travaillent actuellement à clarifier l'articulation entre les règles de protection des données existantes et les nouvelles obligations spécifiques à l'IA, appliquées cette fois aux systèmes agentiques. Des initiatives de normalisation se mettent également en place à l'échelle internationale, centrées notamment sur l'identité et l'autorisation des agents — signe que ces risques appellent désormais une véritable infrastructure de gouvernance, et non plus de simples correctifs au cas par cas.
Conclusion
Les agents IA ne posent pas un problème de confidentialité fondamentalement différent de ceux que les entreprises connaissent déjà : accès excessifs, données mal classées, absence de traçabilité. Ce qu'ils changent, c'est l'échelle et la vitesse à laquelle ces failles peuvent se transformer en incident réel.
La confidentialité IA ne se résout donc pas simplement en configurant correctement un modèle. Elle se construit en amont dans la gouvernance des accès, la limitation des données exposées, et la capacité à comprendre, et à documenter, précisément ce qu'un agent est capable de voir, de déduire et de transmettre.