Technologies

Appel à manifestation d'intérêt pour tester Paname, le modèle d'audit d'IA

Le projet de tests de Paname par des organisations publiques et privées se déroulera en 3 phases jusqu'en novembre 2026. (crédit : Cnil)

Poussé notamment par l'Anssi et la Cnil depuis 2025, le projet Paname visant à développer un outil d'audit de la confidentialité des modèles d'intelligence artificielle fait l'objet d'un appel à manifestation d'intérêt. Objectif : donner la possibilité à des administrations et des entreprises de tester cet outil et s'assurer de sa pertinence.

PublicitéAnnoncé en juin dernier, le projet Privacy auditing of AI models (Paname), qui doit déboucher sur le développement d'un outil d'audit de la confidentialité des modèles d'intelligence artificielle, avance. Impliquant la Cnil, l'Anssi, le pôle d'expertise de la régulation numérique (Peren) et le projet Ipop des programmes et équipements prioritaires de recherche en cybersécurité de l'Inria, ce projet prendra la forme d'une bibliothèque logicielle open source. « L'objectif de l'outil est de permettre une mise en oeuvre efficace et à moindre coût de certains tests techniques d'extraction d'informations sur les données d'entraînement que les acteurs de l'écosystème IA sont susceptibles de devoir réaliser pour évaluer le statut d'un modèle d'IA au regard du RGPD », explique la commission nationale de l'informatique et des libertés.

Après une première phase de spécifications techniques et de développements, une autre étape est atteinte avec le lancement d'une série de tests impliquant aussi bien des administrations que des entreprises pour s'assurer que le développement de cet outil soit pertinent pour des cas d'usages concrets. Dans ce cadre, un appel à manifestation d'intérêt (AMI) a été émis pour identifier les contributeurs souhaitant s'impliquer dans ce projet. Cet appel vise tout entité publique et privée établie dans les États membres de l'Union Européenne.

Fin de l'appel à manifestation d'intérêt le 28 mars 2026

« Les partenaires se réservent le droit de refuser certaines candidatures à partir d'un certain seuil (une notification indiquant la fin des candidatures sera également faite sur les réseaux sociaux dans ce cas précis) ou bien si celles-ci sont jugées incomplètes et/ou hors-sujet », prévient toutefois la Cnil. L'AMI est ouvert du 26 février au 28 mars 2026. Les réponses peuvent être déposées à compter de la date de publication. Les dossiers doivent être adressés exclusivement sous forme électronique à l'adresse mail indiquée sur le site de la Cnil et respecter le format du formulaire de réponse à cet appel à manifestation d'intérêt général. La publication de la librairie est prévue cet automne.