Stratégie

Avec un socle solide en IA, Bank of America s'aventure sereinement dans la genAI

Dès 2018, Bank of America a développé son propre agent d'IA conversationnel avec ses clients et employés. Aujourd'hui, elle explore aussi la genAI. (Photo BofA)

Le géant Bank of America a lancé une stratégie d'IA dès 2018 avec un petit modèle développé en interne destiné à l'expérience client. Un projet qui lui confère une certaine sérénité vis-à-vis de la genAI, à l'heure où elle se dote de 4 milliards de dollars que la banque envisage aujourd'hui de mettre en oeuvre.

PublicitéBank of America va investir 4 Md$ dans l'IA et les innovations technologiques associées cette année. Pour autant, son agent d'IA maison Erica, déjà âgé de 7 ans, reste une source majeure de ROI et un pivot de l'expérience des clients et des employés. Le terme d'agent, et encore moins d'IA agentique, était encore rarement utilisé en 2018, mais la banque a pourtant constitué à l'époque une équipe d'ingénieurs logiciels, de linguistes et d'experts bancaires pour créer un petit modèle linguistique, ajusté ensuite au fil des ans à partir des retours des clients du centre d'appels.

Hari Gopalkrishnan, head of consumer, business, and wealth management technology chez BofA, explique que la clé du succès et de la longévité d'Erica, basé sur des modèles open source, réside justement dans sa petite taille. « Nous ne rédigeons pas des essais avec Erica. Nous n'essayons pas plus d'écrire du code logiciel avec, insiste-t-il. Nous essayons de comprendre quel genre de brève conversation un client veut avoir directement avec nous, parce qu'il n'a pas envie de passer son temps à explorer un menu qui contient au moins 50 options différentes. Nous essayons de traduire par exemple ce que le client veut réellement lorsqu'il dit : 'Je veux payer une facture ».

Un modèle interne à plus de 90% de précision

« Nous avons entraîné notre modèle à cette fin, poursuit Hari Gopalkrishnan. Au fil du temps, il est passé d'un modèle dont la précision était de 80 % à 85 %, à bien plus de 90 %. Nous prédisons également de mieux en mieux les actions qu'il va entreprendre ». Bank of America a pu ainsi adapter Erica pendant la pandémie aux nombreuses demandes des consommateurs ou des entreprises, comme les prêts PPP (prêts d'aide au paiement des salaires pour les TPE). Elle compte néanmoins adopter des offres de genAI et d'IA agentique au fur et à mesure de leur évolution, mais estime que la plupart des besoins de ses clients de la banque sont satisfaits en interne.

Aujourd'hui, plus de 20 millions de clients de BofA utilisent Erica. Et plus de 90 % des plus de 200 000 employés de la société utilisent Erica for employees, l'adaptation de l'agent qui leur est destinée. Cela a permis de réduire de plus de 50 % le nombre d'appels au service d'assistance informatique. Et en 2025, Bank of America veut utiliser une partie de ses 4 milliards de dollars d'investissements dans l'IA pour un moteur de recherche et une assistance améliorés aux employés, aux clients et à son agent destiné à Merrill Lynch, Ask Merrill.

Une orchestration à l'ancienne, plutôt que de l'agentique

La banque dispose déjà d'applications de genAI et de projets pilotes. Pour ses développeurs, par exemple, ce qui aurait augmenté leur efficacité de plus de 20 %. Pour ses conseillers, qui s'en servent pour préparer les réunions avec les clients, économisant des dizaines de milliers d'heures chaque année, selon la banque. Pour les équipes de vente et de négociation des marchés mondiaux qui utilisent la genAI pour chercher, résumer et synthétiser des études de marché et des commentaires associés.

PublicitéPour l'instant, Hari Gopalkrishnan privilégie une exploitation des agents via des technologies d'orchestration existantes pour répondre aux besoins de ses clients, plutôt que les technologies d'IA agentique encore à l'épreuve. Il rappelle que de nombreuses technologies comme le métavers ou la réalité augmentée ont déjà été surestimées. En revanche, il considère la computervision et les capacités multimodales des modèles de fondation comme prometteuses et envisage de les utiliser pour augmenter la satisfaction des clients. Pour toutes ces raisons, Erica continuera d'être le visage de l'expérience client et employé, même si elle sera enrichie avec des capacités d'inférence et de raisonnement plus avancées en back-end au fur et à mesure de l'apparition des besoins.

Une stratégie data modernisée

L'agrégation et le nettoyage des données font aussi partie du cahier des charges de Bank of America alors qu'elle poursuit son incursion dans l'analytique et l'IA, avec des plateformes comme Hadoop et Snowflake. « Nous avons modernisé notre stratégie data, explique Hari Gopalkrishnan. Nous avons un terrain de jeu assez important en matière d'analyse des données. Nous nous approvisionnons en data auprès de la bonne source avec la garantie qu'il s'agit de données propres, avec le bon niveau de gouvernance et une gestion responsable. » Tout ce que BofA réalise avec de l'IA passe d'ailleurs par un processus de certification. « Tout est soumis à un processus de gouvernance qui repose sur 16 piliers différents, dont l'impartialité et la transparence. »

« En ce qui concerne les technologies de genAI, nous voulons rester agnostiques en matière de modèles, car les choses changent considérablement en permanence, insiste Hari Gopalkrishnan. Le raisonnement évolue, la tarification des jetons change, de nouvelles innovations apparaissent. Nous ne voulons pas être prisonniers d'un modèle donné. En deux mots, quand nous étudions un cas d'utilisation, nous examinons la classification des données, nous regardons nos propres capacités, puis nous définissons ce qui nous semble la solution la plus adéquate ». Pour Hari Gopalkrishnan, les innovations en matière d'entraînement, d'inférence et de raisonnement des modèles fondamentaux sont excellentes, mais il continuera à utiliser des recettes disponibles sur étagère et des solutions établies pour répondre aux besoins numériques en constante évolution de ses clients et de ses employés.

Une stratégie discrètement efficace

Pour Brian Hopkins, analyste chez Forrester, « BofA a adopté une approche prudente de la genAI, mais cela pourrait s'avérer un choix intelligent. La confiance est la monnaie d'échange de la banque. Or, la genAI induit encore des risques réels [tels que] les hallucinations, le manque d'explicabilité et les lacunes en matière de sécurité. Pourquoi risquer d'entamer la confiance alors que ce que [BofA] a construit fonctionne déjà et fonctionne bien ? A leur échelle, le moindre faux pas pourrait se révéler très coûteux ».

De plus, alors qu'elle entre désormais dans une phase d'exploitation de la genAI, la banque est en position de force, avec des données propres, des objectifs business clairs et l'expérience avancée d'une IA opérationnelle, observe l'analyste. Son modèle « investir une fois, réutiliser plusieurs fois » pourrait s'avérer très rentable au fil du temps. «En fin de compte, bien que BofA ne fasse pas dans le tape-à-l'oeil, je les trouve discrètement efficaces, déclare Brian Hopskins. Je ne serais pas surpris qu'ils dépassent leurs concurrents une fois que toute la poussière dorée autour de l'IA sera retombée ».