Business

L'IA s'infiltre progressivement parmi les risques les plus redoutés des entreprises

L'IA s'infiltre progressivement parmi les risques les plus redoutés des entreprises
L'IA fait son entrée parmi les risques les plus craints par les acteurs économiques. (Crédit : Pixabay / G.Altman)

Si, selon le dernier baromètre des risques d'Allianz, le risque cyber reste le plus préoccupant pour les dirigeants, l'IA fait aussi une apparition discrète dans le classement de l'assureur. Et, dans le rapport 2024 sur la perception des risques du World economic forum, la technologie émerge bel et bien comme un des dangers les plus redoutés.

PublicitéSans surprise, les menaces cyber s'installent confortablement en tête du baromètre des risques selon le rapport Allianz 2024. La multiplication et la diversification des attaques les ont propulsés sur la première marche du podium des plus grandes craintes des entreprises. Et avec une avance de 5 points (36% de réponses), sans précédent sur les deuxième et troisième risques majeurs : les interruptions d'activité (-3 points, 31%) et les catastrophes naturelles (+7 points, 19%). Alors que les pandémies avaient occupé le devant de la scène en 2020, elles sont renvoyées en fond de classement (19e place, -18 points, 4%) et cèdent leur place aux risques traditionnellement les plus cités, soit les catastrophes naturelles, et les incendies et explosions (6e place, + 4 points, 19%).

Comme le note la synthèse du baromètre, les interruptions d'activités qui concernent aussi bien les infrastructures que la supply chain - sujet d'inquiétude majeur pour les entreprises - sont, par ailleurs, des risques induits par d'autres risques. Elles « sont étroitement liées aux risques occupant les premières places du classement, tels que les incidents cyber, les catastrophes naturelles et les incendies. » Les ransomwares et les conflits internationaux ou locaux qui menacent directement la chaîne logistique, déjà malmenée par le Covid-19, font partie des plus forts sujets d'inquiétude. De façon surprenante, les secteurs de l'ingénierie, de la construction et de l'immobilier, le transport et la logistique ne placent pas le risque cyber dans leur trio de tête. Celui-ci n'apparait même pas du tout dans le top 5 de l'agriculture, ni même, plus étonnamment, de la marine et du transport maritime, des énergies renouvelables et du secteur minier.

L'IA, moteur de progrès des attaques cyber

Mais ce sont les progrès des attaquants cyber, experts technologiques par nature, qui inquiètent le plus les répondants, si l'on en croît l'analyse d'Allianz. L'exploitation de l'IA, et plus spécifiquement des LLM, pour concevoir des scénarii de menaces sophistiqués, performants et, qui plus est, inédits et donc difficiles à anticiper, est une des raisons pour lesquelles les entreprises craignent encore davantage les risques cyber. 

La conséquence : l'IA fait une entrée parmi les risques les plus redoutés, même si c'est par le biais indirect de la cybersécurité. Mais elle fait aussi son apparition dans le baromètre en tant que tel aux côtés du métavers ou des véhicules autonomes dans la catégorie ombrelle des « nouvelles technologies », qui passe de la 14e à la 12e place avec 9% de réponses (-5 points). Dans les classements sectoriels du baromètre Allianz, seuls le spectacle, l'industrie automobile, et le secteur high tech - en connaissance de cause - placent ces « nouvelles technologies » dont l'IA parmi les 5 risques les plus importants (5e).

Publicité
L'IA est le 2e risque le plus cité par les dirigeants et experts internationaux interrogés dans le Rapport 2023-2024 sur la perception du risque du World economic forum, derrière le changement climatique.

Dans son Global risks report 2024 publié le 10 janvier et présenté à l'occasion du Forum de Davos, le World economic forum (WEF) a justement volontairement isolé les risques liés à l'IA de ceux associés à d'autres technologies. Dans son enquête, il a ainsi pour la première fois spécifiquement identifié les « conséquences négatives associées aux technologies d'IA », qui faisaient là aussi préalablement partie d'une catégorie fourre-tout intitulée « conséquences défavorables des technologies de rupture » aux côtés du quantique, des biotechnologies et de la géo-ingénierie.

Dans une section intitulée sans équivoque « l'IA à la manoeuvre », le WEF rapporte qu'un total de 28% des répondants la perçoivent comme un risque grave dans les 2 ans à venir (et 5% extrêmement grave). Un sentiment qui s'amplifie drastiquement dans une perspective de long terme, avec 73% de répondants y voyant un risque grave (27% extrêmement grave) pour la prochaine décennie. Le WEF souligne entre autres les potentiels impacts sociétaux de l'IA. Elle pourrait contribuer à creuser des fossés entre des zones géographiques qui auraient accès aux technologies et à leurs usages et celles qui ne l'auraient pas. Elle pourrait aussi être exploitée comme outil d'aide à la décision dans le cadre de conflits.

Le contrôle croissant de l'IA sur le monde physique

Le risque est d'autant plus inquiétant, comme le note le rapport, qu'il « n'est pas nécessaire que l'IA soit intentionnellement utilisée de façon malveillante pour avoir des conséquences dangereuses. De nouveaux risques surgiront en effet avec les modèles d'IA générative auto-apprenants et leur contrôle croissant sur le monde physique, qui généreront des changements à grande échelle dans les domaines socio-économiques. » Pour les répondants, ce sont là encore l'insécurité cyber, mais aussi la concentration de la technologie entre quelques mains dans certaines régions du monde, qui rendent inquiétante la généralisation de l'usage de l'IA. Les ruptures de supply chain, là encore, pouvant entraîner des dysfonctionnements importants.

L'IA est ainsi entrée directement dans le top 10 du classement. Parmi les inquiétudes les plus fortes sur ses conséquences, la désinformation, la destruction des emplois et le remplacement de l'être humain. « Jusqu'ici, estime le WEF, le principe de précaution n'a pas été appliqué à l'IA, les régulateurs penchant du côté de l'innovation. Cependant, l'évolution rapide de ces technologies avancées, et le recours à celles-ci dépassent à la fois notre capacité de compréhension et de création de règlements de protection - l'éternel problème de la course de la régulation derrière les technologies. Les conséquences pourraient mettre en danger les systèmes politiques, la sécurité et la stabilité mondiales. »

Partager cet article

Commentaire

Avatar
Envoyer
Ecrire un commentaire...

INFORMATION

Vous devez être connecté à votre compte CIO pour poster un commentaire.

Cliquez ici pour vous connecter
Pas encore inscrit ? s'inscrire

    Publicité

    Abonnez-vous à la newsletter CIO

    Recevez notre newsletter tous les lundis et jeudis

    La question du moment
    Votre entreprise a-t-elle pour politique de privilégier le cloud public pour tout nouveau projet ou déploiement ?