Stratégie

A la recherche d'une gouvernance efficace de l'IA

---

Selon les experts, la rapidité d'adoption de l'IA et l'évolution permanente des technologies complexifient la mise en oeuvre de pratiques de gouvernance au sein des organisations.

PublicitéDe nombreuses organisations déployant l'IA reconnaissent la nécessité de mettre en place des garde-fous, mais rares sont celles qui ont su élaborer un modèle de gouvernance mature. D'après une récente étude de Cisco, trois organisations sur quatre déclarent disposer d'un processus de gouvernance dédies pour l'IA, mais seulement 12% estiment que leurs efforts en la matière ont atteint un bon niveau de maturité.

L'étude de Cisco, Data and Privacy Benchmark Study, suggère non seulement que les processus de gouvernance de l'IA sont encore en plein développement, mais aussi que les préoccupations liées à la protection de la vie privée incitent les entreprises à renforcer les garde-fous. Ainsi, 93% des organisations prévoient d'investir davantage pour faire face à la complexité croissante des systèmes d'IA et aux attentes des clients et des autorités de régulation.

Pour Jen Yokoyama, vice-présidente senior en charge de l'innovation et de la stratégie juridique chez Cisco, voir les professionnels de l'informatique et de la sécurité interrogés reconnaître la nécessité de poursuivre leurs efforts en matière de gouvernance de l'IA est un signe encourageant. « Cette statistique illustre bien la prise de conscience de la complexité à laquelle ces entreprises sont confrontées, explique-t-elle. Si tout le monde disait : "Oui, nous avons un programme, donc nous sommes prêts", ce serait faire preuve d'une certaine naïveté face à l'incroyable complexité du sujet. »

L'adoption précède la gouvernance

L'un des principaux défis pour les organisations qui déploient l'IA réside dans le décalage entre adoption et gouvernance, souligne Jen Yokoyama. De nombreux responsables informatiques doivent prendre des décisions concernant la conformité, les questions d'éthique et la transparence au fur et à mesure du déploiement de la technologie, ajoute-t-elle. « Une grande partie du problème réside dans la volonté d'aller vite, d'adopter rapidement l'IA et de rentabiliser cette technologie, explique-t-elle. Il faut agir vite, car les gens investissent maintenant et veulent voir des résultats. Il faut donc trouver des solutions à un rythme soutenu. »

Les responsables IT doivent également prendre en compte des questions telles que la confidentialité, le partage des données avec les fournisseurs d'IA, ainsi que la localisation et la souveraineté des données lors du lancement de leurs projets, précise Jen Yokoyama. « Le problème, c'est qu'une solution unique ne convient pas dans tous les cas », ajoute-t-elle.

Les multiples facettes de la gouvernance

PublicitéLa rapidité d'adoption de l'IA a complexifié les efforts de gouvernance, confirme Jean-Matthieu Schertzer, directeur de l'IA chez Eagle Eye Group, fournisseur de solutions informatiques pour le marketing. « De nombreuses organisations déploient rapidement l'IA dans des fonctions telles que le marketing, pour des questions d'automatisation, de personnalisation et d'efficacité opérationnelle, mais la maturité de la gouvernance est souvent à la traîne à mesure que l'adoption se généralise, explique-t-il. L'opacité de nombreux systèmes d'IA rend difficile le suivi des décisions, l'identification des biais et l'établissement de responsabilités claires en cas de problème. »

Selon Jean-Matthieu Schertzer, une gouvernance efficace de l'IA repose sur des pratiques opérationnelles structurées, telles que la documentation des limitations des modèles, la réalisation d'audits de biais et de sécurité, et la mise en place de processus de revue et de supervision. Il ajoute que, parallèlement, les responsables de l'IA doivent répondre aux attentes croissantes en matière de transparence, de consentement et de conformité réglementaire, des enjeux qui concernent de nombreux services au sein d'une organisation. « Ces exigences impliquent les équipes juridiques, data, sécurité, marketing et produit, et les progrès sont souvent ralentis lorsque les responsabilités ne sont pas clairement définies ou que les initiatives restent cantonnées à des projets pilotes cloisonnés au lieu de devenir des pratiques opérationnelles courantes », explique-t-il.

Une discipline émergente

Ron Davis, vice-président senior de l'ingénierie produit et responsable de l'IA chez QAD Redzone, éditeur de logiciels pour le manufacturing, ajoute que la rapidité des déploiements complexifie la gouvernance de l'IA, tout comme la vitesse d'évolution de la technologie elle-même. « L'innovation en IA progresse plus vite que la formalisation des contrôles dans la plupart des entreprises, obligeant les équipes à adapter simultanément la technologie et la gouvernance, déclare-t-il. Pour ne rien arranger, la gouvernance de l'IA demeure une discipline émergente, dont les normes et modèles opérationnels sont encore en cours d'élaboration. »

Le défi de la gouvernance de l'IA est amplifié dans le secteur manufacturier, car l'IA influence de plus en plus les décisions opérationnelles qui affectent la sécurité et la qualité, ajoute-t-il. « De ce fait, les organisations doivent composer avec l'incertitude tout en jonglant avec la rapidité, les risques, la responsabilité et la sécurité », explique Ron Davis.

Mauvaise gouvernance des données = IA mal gouvernée

Dans de nombreuses organisations, la difficulté à renforcer la gouvernance de l'IA découle d'un manque de gouvernance de la donnée elle-même, ajoute Anisha Vaswani, directrice des systèmes d'information et de la relation client chez Extreme Networks, fournisseur d'équipements réseau. De nombreuses entreprises peinent encore à mettre en place une gouvernance des données performante, constate-t-elle.

« À cela s'ajoutent l'évolution rapide des technologies, les nouveaux investissements et la nécessité de former le personnel pour une gouvernance efficace, ce qui ne fait qu'aggraver le problème, ajoute-t-elle. On est confronté à une grande complexité et à une fragmentation des données et des modèles, ainsi qu'à une évolution rapide du paysage technologique de l'IA. Pour pouvoir la gouverner, il faut la comprendre, se tenir informé des évolutions. Or, celles-ci sont extrêmement rapides. »

Travail collaboratif

Anisha Vaswani recommande aux organisations de mettre en place des équipes transverses pour traiter les questions de gouvernance. Et les DSI et autres responsables IT ont un rôle crucial à y jouer pour promouvoir l'auditabilité et l'explicabilité des outils d'IA, ajoute-t-elle. « La gouvernance, c'est aussi adopter une attitude pessimiste et se demander : "Quels sont les risques et comment les atténuer ?", explique-t-elle. Nous n'avons pas encore trouvé de solution miracle ; il s'agit d'une technologie émergente. »

Jen Yokoyama, de Cisco, confirme que l'élaboration de bonnes pratiques nécessitera un travail collaboratif, car la gouvernance de l'IA concerne de multiples disciplines au sein d'une organisation. « Les professionnels de l'informatique perçoivent des choses que les services juridiques, les responsables de la protection des données ou les ingénieurs ne voient pas, et inversement, explique-t-elle. Sans mécanisme pour dialoguer sur ce sujet, surtout dans les grandes entreprises, ces échanges n'auront pas lieu. Vous apprendrez après coup et vous serez contraints de réagir. »

Une gouvernance efficace de l'IA exige une large participation, confirme Ron Davis (QAD Redzone). « Les organisations doivent réunir les responsables des produits, de l'ingénierie, des opérations, du juridique et des lignes d'activité afin de définir des normes et responsabilités partagées, explique-t-il. Il ne s'agit pas d'un cadre défini ponctuellement, mais d'un modèle opérationnel évolutif, intégré au cycle de vie du produit à l'échelle de l'organisation et se précisant au fur et à mesure que les capacités et les cas d'usage de l'IA mûrissent. »

La réglementation n'est pas la seule boussole

Sur ce sujet, le leadership est essentiel, et les dirigeants doivent définir la gouvernance comme une responsabilité fondamentale dans le déploiement de l'IA, ajoute Ron Davis. Aux leaders de définir clairement les responsabilités, les droits de décision et les mécanismes d'escalade tout au long du cycle de vie du produit d'IA.Les organisations doivent également éviter de considérer la réglementation comme le seul moteur de leurs modèles de gouvernance, ajoute-t-il.

Jean-Matthieu Schertzer, d'Eagle Eye Group, recommande également aux responsables informatiques de considérer la gouvernance de la même manière qu'un contrôle financier, et non comme une contrainte administrative. Et de réaliser des audits réguliers pour détecter les biais. « L'élément crucial est de répondre à la question : "Qui est responsable de la décision lorsque l'IA se trompe ?" en définissant clairement les rôles et en établissant un processus d'escalade », explique-t-il.

Selon lui, la DSI doit aussi s'attacher à documenter les résultats de l'IA qui sont explicables et ceux qui ne le sont pas. « Au lieu de promettre une explicabilité parfaite, les programmes avancés [de gouvernance] documentent les limites des modèles, définissent des points de contrôle et créent des processus de supervision et de correction, résume-t-il. C'est ce qui permet de faire de l'IA responsable une pratique quotidienne reproductible. »

Article rédigé par

Grant Gross, CIO US (adapté par Reynald Fléchaux)

Partager cet article