IA en entreprise : quand la confiance devient un risque de sécurité
L’IA en entreprise s’impose rapidement dans les navigateurs, les environnements de développement, les applications métier et de nombreux outils du quotidien. Elle permet d’automatiser certaines tâches, d’accélérer la recherche d’informations et d’accompagner les collaborateurs dans leurs activités.
Mais cette adoption crée aussi un nouveau défi pour les équipes de sécurité : comment protéger des outils auxquels les utilisateurs font naturellement confiance ?
Pendant des années, les entreprises ont appris à leurs collaborateurs à se méfier des logiciels inconnus, des liens suspects et des sites web inhabituels. Avec l’IA, la menace peut prendre une autre forme. Les cybercriminels n’ont pas nécessairement besoin de gagner directement la confiance d’un utilisateur. Ils peuvent exploiter la confiance que celui-ci accorde déjà à une marque, un outil ou une méthode d’installation familière.
L’IA en entreprise devient une nouvelle surface d’attaque
L’utilisation croissante de l’IA fait évoluer la surface d’attaque des organisations.
Un outil d’IA peut être intégré à un navigateur, un IDE, une application métier ou un environnement de développement. Il peut également télécharger des modèles, modifier certaines configurations ou communiquer avec des infrastructures externes.
Ces comportements ne sont pas nécessairement malveillants. Pourtant, ils peuvent créer des situations difficiles à distinguer des techniques utilisées par des attaquants.
Une campagne observée en 2026 autour de Gemini Nano illustre ce problème. Chrome pouvait télécharger un modèle d’IA d’environ 4 Go sur les terminaux lorsque la fonctionnalité concernée était activée. La suppression du fichier ne suffisait pas à empêcher son retour : le navigateur pouvait le télécharger à nouveau lors d’un lancement ultérieur.
Pour les équipes IT et sécurité, le problème n’est donc pas que le logiciel soit malveillant. C’est que son comportement peut ressembler à celui d’un mécanisme de persistance.
Quand un logiciel légitime ressemble à une menace
Dans un environnement d’entreprise, la suppression d’un fichier est généralement considérée comme une action de remédiation. Mais lorsqu’un logiciel légitime restaure automatiquement ce fichier, le comportement mérite d’être analysé.
Dans le cas de Chrome, la configuration des fonctionnalités d’IA peut également dépendre de politiques spécifiques du navigateur et de paramètres du registre Windows. Une configuration absente ou incorrecte peut ainsi activer des fonctionnalités d’IA qui n’ont pas nécessairement été intégrées aux politiques internes de l’organisation.
Cela met en évidence un point important pour l’IA en entreprise : la sécurité ne doit pas uniquement surveiller les logiciels inconnus. Elle doit également comprendre les comportements des logiciels légitimes.
Les équipes de sécurité peuvent notamment surveiller :
les téléchargements importants associés aux outils d’IA
les modifications de politiques et de configurations
la création ou la restauration de fichiers liés aux modèles d’IA
les communications avec des infrastructures externes
les comportements inhabituels d’un outil pourtant approuvé
La confiance peut aussi être exploitée par l’ingénierie sociale
La confiance ne concerne pas uniquement le fonctionnement des logiciels.
Elle peut également devenir un levier d’attaque lorsque les cybercriminels imitent les outils et les marques que les utilisateurs connaissent déjà.
Une campagne documentée en 2026 ciblait par exemple des développeurs recherchant des instructions d’installation de Claude Code. Des annonces sponsorisées redirigeaient les utilisateurs vers des pages imitant la documentation officielle. La commande d’installation, présentée dans un environnement familier, récupérait pourtant du code depuis une infrastructure contrôlée par les attaquants.
L’attaque ne reposait donc pas sur une erreur évidente de l’utilisateur. Elle exploitait une habitude légitime : chercher la documentation d’un outil connu et copier sa commande d’installation.
Une fois exécutée, la chaîne d’infection pouvait notamment utiliser mshta.exe, cmd.exe et PowerShell avant d’établir une communication avec une infrastructure de commande et contrôle.
Pourquoi les outils familiers peuvent devenir des cibles
Les utilisateurs ont appris à reconnaître certains signaux de danger : une adresse inconnue, un fichier inattendu ou un logiciel dont ils n’ont jamais entendu parler.
Mais ces réflexes deviennent moins efficaces lorsque l’attaque reprend les codes d’un outil familier.
Un faux site peut reprendre :
le logo d’un éditeur connu ;
la structure de sa documentation ;
ses instructions d’installation ;
son vocabulaire technique ;
ou même les résultats d’une recherche que l’utilisateur effectue régulièrement.
Dans ce contexte, la confiance devient elle-même un vecteur d’attaque.
Le problème ne vient donc pas nécessairement d’un manque de vigilance des utilisateurs. Comme le montre la source, les attaques peuvent réussir précisément parce que la confiance accordée au logiciel ou à la marque est légitime.
L’IA en entreprise nécessite aussi une gouvernance
L’adoption d’un nouvel outil d’IA ne devrait pas se limiter à décider s’il est utile ou non.
Les entreprises doivent également déterminer :
quels outils d’IA sont autorisés ;
comment ils peuvent être installés ;
quelles configurations sont acceptées ;
quelles données peuvent être utilisées ;
quelles activités doivent être surveillées ;
et quelles traces doivent être conservées pour permettre une investigation.
Cette question devient particulièrement importante lorsque les outils d’IA sont directement intégrés aux environnements de travail existants.
Un navigateur peut télécharger un modèle. Un IDE peut exécuter des commandes. Un assistant peut interagir avec des fichiers. Un agent IA peut potentiellement effectuer plusieurs actions à la place d’un utilisateur.
Plus l’IA est intégrée aux processus de l’entreprise, plus sa gouvernance doit être considérée comme un sujet de sécurité.
La visibilité doit accompagner l’adoption de l’IA
La sécurité de l’IA en entreprise ne repose pas uniquement sur l’interdiction ou l’autorisation des outils.
La visibilité joue également un rôle essentiel.
Les équipes de sécurité doivent être capables d’identifier les comportements inhabituels et de comprendre la chaîne d’événements qui les précède et les suit. Dans les campagnes étudiées, la corrélation de plusieurs événements permet notamment de détecter des comportements qui pourraient passer inaperçus lorsqu’ils sont analysés individuellement.
Cela peut inclure la surveillance des processus, des téléchargements, des modifications de configuration, des commandes PowerShell ou encore des communications réseau.
L’objectif n’est pas de considérer chaque outil d’IA comme une menace. Il s’agit plutôt de disposer de suffisamment de visibilité pour distinguer un comportement attendu d’une activité réellement suspecte.
Sécuriser l’IA sans remettre en cause son adoption
L’IA en entreprise n’est pas intrinsèquement dangereuse. Le véritable enjeu est de faire évoluer les pratiques de sécurité au même rythme que les usages.
Les campagnes analysées montrent deux situations différentes : dans un cas, un comportement légitime peut ressembler à une technique d’attaque ; dans l’autre, une marque et un processus d’installation familiers peuvent être utilisés pour tromper les utilisateurs.
Dans les deux cas, le point commun reste le même : la confiance.
Les entreprises peuvent donc intégrer plusieurs principes à leur stratégie de sécurité :
Inventorier les outils d’IA utilisés sur les terminaux et dans les environnements de travail.
Définir des politiques claires concernant leur installation et leur configuration.
Surveiller les changements de configuration liés aux fonctionnalités d’IA.
Analyser les comportements des logiciels légitimes, et pas uniquement ceux des applications inconnues.
Renforcer la visibilité sur les processus et les commandes exécutées dans les environnements sensibles.
Sensibiliser les utilisateurs et les développeurs aux risques liés aux fausses documentations et aux installations provenant de sources non vérifiées.
Corréler les événements de sécurité afin d'identifier des chaînes d'activité inhabituelles.
La confiance doit désormais être surveillée
L’adoption de l’IA transforme progressivement les habitudes de travail. Mais elle transforme aussi les stratégies des attaquants.
Les cybercriminels peuvent exploiter la confiance accordée à un navigateur, une documentation, une marque ou un outil de développement. La prochaine génération d’attaques pourrait également viser les plugins, les agents IA, les marketplaces d’outils ou d’autres composants de l’écosystème IA.
Pour les équipes de sécurité, le défi n’est donc pas simplement de savoir quels outils d’IA sont utilisés.
Il est de comprendre ce que ces outils font, comment ils sont configurés et quels comportements ils génèrent dans l’environnement de l’entreprise.
Car à mesure que l’IA en entreprise devient familière, la confiance qu’elle inspire peut devenir une nouvelle surface d’attaque.
Détectez les menaces liées à l’IA avec Log360
Face à l’évolution des cybermenaces, les entreprises doivent pouvoir identifier les comportements suspects, corréler les événements de sécurité et réagir rapidement aux activités inhabituelles. La surveillance des journaux et l’analyse des événements jouent un rôle essentiel pour renforcer cette visibilité.
Les règles de détection associées aux campagnes W17 et W20 sont disponibles dans ManageEngine Log360. Elles permettent notamment de repérer certains comportements liés au téléchargement de modèles d’IA, aux modifications de configuration et à l’exécution de commandes suspectes.
Découvrez comment Log360 peut aider vos équipes de sécurité à détecter les menaces et à renforcer la protection de votre environnement IT.