Projets

Quand les agents IA sèment la pagaille à l'hôpital

Le Mass General Brigham. Les tests sur l’IA agentique dans cet hôpital situé dans la métropole de Boston soulignent l’importance de l’intégration aux workflows médicaux et de l’adoption par les équipes. (Photo : D.R.)

Le test de l'IA agentique en conditions réelles dans un hôpital soulève 5 difficultés principales lors du passage à l'échelle. L'intégration d'un modèle performant est insuffisante, comme le montre une étude à laquelle ont participé Harvard et le MIT.

PublicitéLe passage d'un projet pilote d'IA agentique en production est souvent présenté comme une question de performance algorithmique. Mais l'expérimentation conduite par le Mass General Brigham (système de santé universitaire), en collaboration avec le Massachusetts Institute of Technology (MIT) et l'université de Harvard, raconte une tout autre histoire. Dans un service d'immunothérapie en oncologie, « irAE-Agent », un agent d'IA clinique, a été testé en conditions réelles pour accompagner les équipes dans la gestion de patients atteints de cancer. Le constat est sans appel sur ce projet : 20% du temps seulement a été consacré à la conception et au développement des modèles, contre 80 % pour l'implémentation opérationnelle de l'agent. Car le déploiement d'un agent IA ne se résume pas à l'intégration d'un modèle performant. Il engage un travail 'sociotechnique' profond, une réorganisation des données, la validation des modèles et une transformation des pratiques.

L'agent d'IA mis en place dans le département d'immunothérapie n'a pas été confronté en premier lieu à un problème de qualité de prompt ou d'architecture de modèle, mais à la réalité fragmentée du système d'information hospitalier. Données hétérogènes, historiques patients incomplets, documentation non structurée, interopérabilité imparfaite : l'essentiel des efforts de l'équipe en charge du projet a donc porté sur la consolidation des données. Par ailleurs, l'intégration aux dossiers patients électroniques a nécessité un travail fin d'alignement entre les logiques cliniques, les temporalités de prise en charge et les contraintes réglementaires. Ce travail d'implémentation, souvent invisible, représente la charge principale pour le passage à l'échelle de l'IA agentique.

Miser sur une mise en oeuvre progressive

Dans ce projet, l'équipe a utilisé le cadre RACI (Responsible, Accountable, Consulted, Informed) afin de clarifier les responsabilités dans les décisions critiques. En intégrant d'emblée les rôles et responsabilité de chaque intervenant dans la charte du projet, l'équipe a évité l'apparition de chaînes d'e-mails qui ralentissent souvent les déploiements d'IA dans les organisations hospitalières. Ce qui signifie toutefois que la gouvernance doit être intégrée très tôt dans le projet. Par exemple, ici, le fait d'indiquer explicitement que les prompts ne contiendraient jamais de données de santé identifiables a raccourci les délibérations du comité d'éthique. Par ailleurs, la mise en oeuvre progressive du système a été essentielle pour identifier les obstacles dans l'utilisabilité, isoler des problèmes de sécurité et désamorcer les inquiétudes des utilisateurs avant un déploiement complet.

PublicitéIn fine, les travaux publiés par les équipes associées au MIT identifient cinq difficultés majeures lors du passage à l'échelle des agents IA en santé. Ces tâches complexes ne sont pas technologiques au sens strict, mais plutôt organisationnelles. Le premier défi concerne l'intégration des données labellisés et accessibles. Les systèmes agentiques sont généralement élaborés à partir de jeux de données antérieurs dont les usages ne sont pas clairement définis. Le second enjeu réside dans la validation et dans l'ajustement du modèle. Les chercheurs et développeurs vont souvent vérifier le système lors de l'étape de développement des workflows, donc en dehors du flux réel, ce qui empêche une modélisation précise des performances et de l'impact de l'IA agentique en conditions réelles. Or, lorsque l'agent interagit avec des outils ou bases de données absentes de l'évaluation initiale, les risques et performances peuvent être mal estimés.

Estimer la valeur en amont : hasardeux

Aussi, les travaux relayés par la Sloan School of Management, affiliée au Massachusetts Institute of Technology, insistent sur le fait que la valeur économique d'un agent ne peut être présumée avant son passage à l'échelle. Les gains dépendent du contexte clinique, du volume d'usage, du niveau d'automatisation réellement atteint et du degré d'appropriation par les équipes. Un agent performant en environnement pilote peut voir son retour sur investissement s'éroder en passant à l'échelle si les processus ne sont pas repensés en parallèle.

Quatrièmement, l'orchestration des responsabilités humaines et algorithmiques constitue un chantier à part entière. Le déploiement d'agents IA modifie la répartition des tâches, redéfinit les zones de décision et introduit de nouvelles dépendances opérationnelles. Sans clarification des rôles de supervision, de correction, de décision finale en cas de désaccord, le risque est double : soit un sentiment de sur-confiance dans l'automatisation va s'installer soit, au contraire, elle sera sous-utilisée par défiance. L'enjeu organisationnel consiste à intégrer l'agent dans le flux clinique réel, et non à l'ajouter comme une couche supplémentaire complexifiant le travail.

Enfin, la gouvernance continue et l'adaptation dans le temps représentent un autre défi, et supposent un effort sur la durée de la part des organisations. Contrairement à un logiciel statique, un agent évolue, apprend, interagit avec des environnements changeant et peut voir ses performances dériver. D'où l'importance d'un suivi longitudinal.