Projets

BNP Paribas déploie une plateforme LLM pour ses métiers

BNP Paribas donne à ses équipes l'accès à des LLM validés pour développer de nouveaux cas d'usage. (Photo : E.D.)

Pour identifier et valider de nouveaux cas d'usage de GenAI, BNP Paribas a choisi de donner à tous ses employés l'accès direct à une plateforme de LLM. Ces derniers, validés par le groupe bancaire, permettent aux équipes de tester la GenAI dans des conditions sécurisées.

PublicitéC'est une démarche bottom-up accompagnée par un déploiement technologique sécurisé sur laquelle BNP Paribas parie désormais pour déployer de nouveaux cas d'usage de GenAI. Le groupe bancaire va ainsi donner progressivement accès à l'ensemble de ses équipes, à une plateforme de LLM, dans un contexte sécurisé qu'il maîtrise. Un moyen de prévenir le shadow AI et l'éventuelle fuite de données sensibles ou confidentielles.

La plateforme, gérée par les équipes IT, donne accès aux LLM de Mistral AI, partenaire de BNP Paribas depuis un an, ainsi qu'à plusieurs modèles open source. La banque compte la compléter prochainement avec des modèles entraînés sur ses data internes. L'ensemble fonctionne sur des configurations équipées de GPU hébergées dans les datacenters de l'entreprise. « Cette architecture permet au groupe de disposer d'une puissance de traitement élevée pour exécuter efficacement les modèles de langage, tout en mutualisant et limitant les coûts », précise le communiqué de BNP Paribas.

De premiers tests chez Hello Bank

Hello Bank fait partie, avec l'inspection générale du groupe notamment, des premiers services à tester LLM as a service, nom de la plateforme. La banque en ligne dispose déjà d'un chatbot exploitant la GenAI, même si celui-ci continue de s'appuyer surtout, pour des raisons d'efficacité et de pertinence des réponses, sur les algorithmes initiaux de machine learning alimentés par une base de connaissance BNP Paribas qui a servi à le développer.

BNP Paribas teste et déploie en effet des cas d'usage de GenAI depuis plusieurs mois, comme les désormais classiques assistants conversationnels, la génération de documents ou la recherche d'information dans des corpus documentaires. Les équipes de développeurs l'utilisent déjà également pour coder ou pour le devops, par exemple. Mais LLM as a service s'adresse à tous les employés, et vise un déploiement à l'échelle d'un groupe employant près de 180 000 personnes.

« LLM as a Service s'appuie sur les retours d'expérience des premières entités utilisatrices et vient compléter les initiatives déjà engagées autour de l'IA générative au sein de BNP Paribas, confirme le communiqué. Ce déploiement progressif permet de prendre en compte les spécificités locales, tout en garantissant un haut niveau de sécurité, de conformité et d'efficacité opérationnelle ». Comme le précise enfin Marc Camus, le nouveau DSI du groupe, « nous créons un socle technologique commun qui permet aux entités de se concentrer sur les cas d'usage métier, tout en s'appuyant sur une infrastructure mutualisée et sécurisée ».