Technologies

Shadow IA, une pratique très répandue qu'il faut encadrer

Parmi les utilisateurs professionnels de la GenAI, 37% n’en informent pas leur hiérarchie. (Photo : Saradasish Pradhan/Unsplash)

L'Inria et le club de data scientists Datacraft dévoilent une enquête sur le shadow IA. Une pratique certes courante dans les entreprises mais pour laquelle il existe des solutions. Explications.

PublicitéEn mars 2025, 37% des utilisateurs interrogées qui utilisent des IA génératives dans le cadre professionnel (soit 17% de l'échantillon) n'en ont pas informé leur hiérarchie. C'est ce qui ressort de l'enquête qualitative menée par l'Inria et le club de data scientists Datacraft auprès de 14 grandes organisations dont Airbus, l'Assurance Maladie, le CHU de Montpellier ou encore le Crédit Agricole.

« Les collaborateurs s'emparent de l'IA générative, pour reformuler des mails, structurer des présentations, produire des textes, traduire, faire de la veille, approfondir des idées... Ils le font en dehors de tout cadre officiel, souvent sans en parler à leur hiérarchie, dans une logique de bricolage », déclare à ce titre Yann Ferguson, docteur en sociologie à l'Inria et auteur de l'enquête. Mais, pour lui, l'idée n'est pas de condamner l'IA mais d'en encadrer les usages. Preuve en est, 65% des étudiants interrogés estiment que la présence des IA génératives fait partie des principaux critères de choix de leur future entreprise.

Minimiser les risques

Ce phénomène du shadow IA est prégnant dans les entreprises et toutes sont concernées à l'image du Crédit Agricole : « Dès 2022, nous nous sommes aperçus de l'engouement autour de l'IA, en revanche le shadow IA n'a eu qu'assez peu d'incidence nous concernant puisque nous avions anticipé en encadrant les usages. Nous avons ainsi mis en place des mesures de protection et des espaces d'expérimentation, par exemple via des bacs à sable autour d'Azure et d'Open AI. Bien sûr, il faut être réaliste, nous minimisons les risques, mais nous ne les annihilons pas », souligne Aldrick Zappellini, chief data & AI officer au sein du Crédit Agricole, lors d'une table ronde organisée lors de la présentation des résultats de l'étude.

Un avis que partage aussi Antoine Jacoutot, CTO de Believe, une entreprise de musique numérique française qui possède plusieurs marques de distribution et des labels (TuneCore, Groove Attack, etc.) : « ça va très vite, les usages de l'IA se développent rapidement dans notre métier. Nous nous sommes rendu compte que certains de nos collaborateurs avaient acheté des licences GPT et exploitaient des solutions pour leurs usages professionnels ».

Si l'usage de la GenAI fait d'abord gagner à ses utilisateurs de la productivité et de la créativité comme le confirme l'étude, il présente des risques, comme l'a rappelé Yann Ferguson, preuve à l'appui. Un prompt sur 12 contient des données sensibles, des données clients ou encore des données sur les employés.

Préconisations pour sortir du shadow IA

Dans ce contexte, il faut trouver les bonnes solutions pour sortir du shadow IA, l'étude de l'Inria préconise donc plusieurs étapes. Déjà, il faut reconnaître l'ampleur du phénomène et à partir de là, une trajectoire en plusieurs temps peut s'initier : le pilotage tout d'abord, en nommant les usages, en formulant un diagnostic partagé, en posant les premiers garde-fous avec les directions métiers ; le partage ensuite, en instaurant par exemple des espaces d'échange entre pairs ; la sécurité, enfin, en mettant à disposition des outils validés ou encore en définissant un cadre légal.

PublicitéTout cela nécessite de cartographier les usages réels, d'identifier les gestes professionnels émergents et de comprendre les arbitrages opérés entre vitesse, rigueur, autonomie ou conformité. De même, il faut établir un cadre de confiance suffisamment clair pour sécuriser, suffisamment souple pour évoluer. Enfin, la formation se doit d'être holistique en articulant maîtrise technique et lucidité critique. En effet, selon Yann Ferguson, les compétences liées à la GenAI excèdent largement les aspects techniques, il s'agit aussi de comprendre les limites des modèles, de développer une capacité à évaluer la qualité des sorties produites et à exercer un jugement professionnel sur ce qui peut ou non être délégué.

D'ailleurs, Nicolas Blanc, secrétaire national à la transition économique au sein de la CFE-CGC qui intervenait lors de la même table ronde, invite les entreprises à mettre en place le plus rapidement une gouvernance autour de l'IA pour encadrer tous ces aspects.