AI Governance

L’IA que vous ne voyez pas, vous ne pouvez pas la gouverner

Par Xavier Franco, CEO de Elternativa · Grupo Zemsania
· 6 min de lecture

Rédigé avec l’aide de l’IA et relu par Xavier Franco

Ombres de plusieurs personnes regardant leur téléphone, projetées sur un mur blanc, sans que personne ne soit visible.
Dans cet article

Il y a une question qui n’a presque jamais de réponse rapide dans une entreprise : combien d’agents d’IA y a-t-il aujourd’hui dans la vôtre ? Pas ceux que vous avez approuvés, mais tous. Ceux du CRM, ceux de l’ERP, ceux que quelqu’un a montés avec un outil low-code, ceux qu’utilise chaque fournisseur et ceux que chacun apporte de chez soi. C’est ce qu’on appelle le shadow AI, et c’est le véritable point de départ de la gouvernance de l’IA.

Vos équipes utilisent déjà l’IA, et souvent la leur

Inutile de le supposer. Le Work Trend Index 2024 de Microsoft et LinkedIn, fondé sur une enquête auprès de 31 000 personnes dans 31 pays, a constaté que 75 % des travailleurs du savoir utilisent déjà l’IA au travail. Et que 78 % de ceux qui l’utilisent apportent leurs propres outils.

Le même rapport donne un autre chiffre que je trouve plus révélateur encore : 79 % des dirigeants estiment qu’adopter l’IA est essentiel pour rester compétitifs, mais 60 % disent que leur entreprise n’a ni vision ni plan pour la déployer.

Autrement dit : l’IA est déjà entrée par la porte de derrière, pendant que l’entreprise décide par où elle veut qu’elle entre.

Concrètement : demandez à trois équipes différentes quels outils d’IA elles utilisent au quotidien. Comparez leur réponse avec la liste des outils approuvés.

Pourquoi interdire ne marche pas

La première réaction est souvent d’interdire. Je le comprends, mais cela ne marche pas : si l’outil aide les gens à mieux travailler, ils continueront à l’utiliser, simplement sans le dire. Et vous perdez alors exactement ce dont vous avez besoin : la visibilité.

Le shadow AI, ce n’est pas seulement le salarié avec son chatbot. Dans une entreprise moyenne cohabitent aujourd’hui des agents de fournisseurs différents, chacun dans son système, sans point commun :

  • les assistants intégrés au CRM, à l’ERP ou à la plateforme de service ;
  • les flux que quelqu’un a montés avec un outil low-code ;
  • l’IA qu’utilise chaque fournisseur de développement, chacun à sa manière ;
  • et ce que chaque personne utilise de son côté.

Ce que fait chacun reste, au mieux, dans des journaux que seul un spécialiste comprend.

Concrètement : ne commencez pas par une politique d’interdiction. Commencez par une question : quelle IA touche nos données, et qui l’a mise là ?

Les trois risques qui comptent vraiment

Quand l’IA ne se voit pas, trois risques s’accumulent, que la direction finit par payer :

  • Données. Des informations sensibles qui partent vers des outils que personne n’a examinés.
  • Coût. La consommation de modèles croît sans contrôle, sans savoir quel agent ni quel cas d’usage la déclenche. La facture d’IA est déjà une nouvelle ligne du budget, et personne ne sait ce qu’elle a apporté.
  • Conformité. Sans traces ni preuves, démontrer que vous respectez le règlement européen sur l’intelligence artificielle est impossible.

Aucun des trois ne se règle par une circulaire. Ils se règlent par l’inventaire, des règles et des preuves.

De l’ombre à l’inventaire : comment je m’y prendrais

Ma proposition est de passer de l’interdiction à voir, contrôler et démontrer, dans cet ordre :

  1. Inventaire vivant. Une liste de tous vos systèmes d’IA, avec leurs agents, les bases de connaissances qu’ils utilisent et les intégrations qu’ils touchent. Vivante, parce qu’elle change chaque semaine.
  2. Identité par agent. Chaque agent avec sa propre clé, pour savoir qui fait quoi et empêcher qu’un agent se fasse passer pour un autre.
  3. Règles qui s’appliquent seules. Des seuils de coût, de latence et de données sensibles, avec un critère simple : d’abord alerter et, si nécessaire, bloquer.
  4. Preuve. Chaque opération de chaque agent est enregistrée, pour pouvoir expliquer ce qui s’est passé et le démontrer à qui le demande.
  5. Une vue pour la direction. Coût, risque et usage dans un même tableau de bord, pour décider à partir de données.

Et un point important : les règles doivent être déterministes. Si le contrôle de l’IA est fait par une autre IA, vous n’avez pas de contrôle : vous avez une autre opinion.

Concrètement : choisissez le domaine où l’on utilise le plus d’IA (service client, ventes ou développement) et commencez l’inventaire par là. Un domaine bien examiné vous apprend plus qu’une politique pour toute l’entreprise.

Quel rapport avec l’AI Act

Bien plus qu’il n’y paraît. Le règlement européen sur l’intelligence artificielle est déjà en marche : selon le calendrier officiel de la Commission européenne, les interdictions et l’obligation de maîtrise de l’IA s’appliquent depuis le 2 février 2025, et l’application générale est arrivée le 2 août 2026.

La maîtrise de l’IA, c’est précisément ce que le shadow AI met à l’épreuve. La Commission précise dans ses questions et réponses qu’elle n’exige pas de certificat, mais bien une formation adaptée au rôle de chaque personne, et qu’il convient de documenter ce qui est fait. Renvoyer aux instructions du fabricant ne suffit pas.

Et comment allez-vous former les gens à l’IA qu’ils utilisent si vous ne savez pas quelle IA ils utilisent ? L’inventaire est la première étape de la conformité, pas un supplément. Sans savoir quels systèmes vous avez, vous ne pouvez ni classer leur risque, ni former ceux qui les utilisent, ni démontrer quoi que ce soit si on vous le demande.

Concrètement : croisez votre premier inventaire d’IA avec les personnes qui utilisent chaque outil. Cette liste est la base de votre plan de maîtrise de l’IA.

Par où commencer

  1. Demandez et écoutez : quelle IA est utilisée, dans quelles équipes et pour quoi faire.
  2. Faites le premier inventaire des agents et des intégrations, même incomplet.
  3. Définissez trois règles non négociables : quelles données ne sortent pas, quel coût déclenche une alerte et quel agent a besoin d’une approbation.
  4. Connectez la télémétrie des agents que vous avez déjà, sans changer de fournisseur.
  5. Révisez chaque mois l’inventaire, le coût et les alertes avec la direction.

Vous n’avez pas besoin de tout avoir dès le premier jour. Vous avez besoin de cesser de ne pas le voir.

Comment nous vous aidons

Chez AI Governance, nous vous aidons à voir et à gouverner l’IA de votre entreprise : inventaire vivant des agents, des bases de connaissances et des intégrations, règles de coût, de latence et de données sensibles, et la preuve que demande le règlement européen sur l’intelligence artificielle, à partir de données réelles.

Nous le faisons avec Regentic.AI, dont nous sommes les distributeurs exclusifs en Europe. Il se connecte avec des standards ouverts comme OpenTelemetry, fonctionne sur n’importe quel framework et modèle, applique les règles avec un moteur déterministe et émet des rapports de preuve scellés.

Cet article est informatif et ne remplace pas le conseil juridique de votre organisation.

Questions fréquentes

Qu’est-ce que le shadow AI ?

C’est l’usage d’outils et d’agents d’IA au sein d’une entreprise sans que l’organisation le sache ou l’ait approuvé, de l’assistant personnel d’un salarié aux agents intégrés dans d’autres applications.

Pourquoi le shadow AI est-il un risque ?

Parce qu’il peut faire sortir des données sensibles hors de tout contrôle, faire exploser le coût de l’IA sans savoir pourquoi et rendre impossible la preuve de la conformité réglementaire.

Faut-il interdire l’IA pour éviter le shadow AI ?

Cela ne fonctionne généralement pas. Il est plus efficace de donner de la visibilité : inventorier ce qui est utilisé, poser des règles claires et proposer des alternatives approuvées.

Qu’est-ce qu’un inventaire des systèmes d’IA ?

Une liste vivante des agents et des systèmes d’IA de l’entreprise, avec ce qu’ils utilisent et ce qu’ils touchent, qui sert de base au contrôle et à la conformité.

Continuer la lecture