Gouvernance de l'IA en entreprise : par où commencer
Gouvernance de l'IA en entreprise : définition, rôles, référentiels (AI Act, ISO/IEC 42001, NIST) et démarche en six étapes pour encadrer les usages.
La gouvernance de l'IA organise la manière dont une entreprise décide, encadre et contrôle ses usages de l'intelligence artificielle. Ce guide en donne la définition, présente les rôles et les référentiels, puis propose une démarche en six étapes applicable à une organisation de toute taille.
Qu'est-ce que la gouvernance de l'IA ?
La gouvernance de l'IA est l'ensemble des règles, des rôles et des processus par lesquels une organisation s'assure que ses systèmes d'intelligence artificielle sont connus, maîtrisés, conformes à la réglementation et alignés sur ses objectifs. Elle couvre tout le cycle de vie d'un système : décision de le lancer, conception ou achat, mise en service, surveillance et retrait.
Elle prolonge la gouvernance des données sans s'y réduire. La gouvernance des données porte sur ce qui alimente les systèmes ; la gouvernance de l'IA porte sur ce que les systèmes décident ou produisent, et sur ses effets.
Pourquoi structurer une gouvernance de l'IA maintenant ?
Trois facteurs rendent le sujet pressant : la diffusion rapide de l'IA générative dans les équipes, souvent en dehors de tout cadre, l'entrée en application progressive du règlement européen sur l'IA, et la responsabilité de l'entreprise sur les décisions prises avec l'aide de ces systèmes.
Le premier facteur est le plus immédiat. Des collaborateurs utilisent des assistants génératifs avec des documents internes sans que l'entreprise sache lesquels ni dans quelles conditions. Cet usage non déclaré expose à des fuites d'informations confidentielles et à des résultats erronés repris sans vérification.
Quels risques la gouvernance de l'IA couvre-t-elle ?
Une gouvernance traite cinq familles de risques.
Risque | Exemple |
|---|---|
Conformité | Système relevant du haut risque utilisé sans les contrôles requis |
Confidentialité | Données clients saisies dans un outil externe non validé |
Fiabilité | Réponse inexacte d'un modèle génératif intégrée à un livrable |
Biais et équité | Système de tri de candidatures défavorisant une catégorie de personnes |
Dépendance | Processus critique reposant sur un fournisseur unique de modèle |
Sur quels référentiels s'appuyer ?
Trois textes servent de base. Ils se complètent : le premier est obligatoire, les deux autres sont volontaires.
L'AI Act, règlement (UE) 2024/1689, classe les systèmes par niveau de risque et fixe les obligations des fournisseurs et des déployeurs. Voir notre point sur les obligations et le calendrier de l'AI Act.
La norme ISO/IEC 42001, publiée en 2023 par l'ISO, définit un système de management de l'IA certifiable, sur le modèle des normes de management de la qualité ou de la sécurité de l'information.
Le cadre de gestion des risques de l'IA du NIST, publié en 2023 par l'institut américain de normalisation, structure la démarche en quatre fonctions : gouverner, cartographier, mesurer, gérer. Il est consultable sur le site du NIST.
Lorsque des données personnelles sont traitées, le RGPD s'ajoute ; la CNIL publie des recommandations dédiées aux systèmes d'IA.
Quels rôles prévoir ?
La gouvernance de l'IA repose sur quatre rôles, qui peuvent être cumulés dans une petite structure.
Un sponsor à la direction, qui arbitre et porte le sujet.
Un responsable de la gouvernance de l'IA, qui tient l'inventaire, anime le dispositif et suit la conformité.
Un comité de l'IA, réunissant métiers, informatique, juridique, sécurité et protection des données, qui valide les cas d'usage sensibles.
Un responsable par système, côté métier, qui répond de son usage et de sa surveillance.
Le délégué à la protection des données et le responsable de la sécurité des systèmes d'information sont associés dès l'origine.
Comment mettre en place une gouvernance de l'IA en six étapes ?
La démarche suit six étapes : inventorier, classer, fixer les règles, organiser la validation, former, puis surveiller. Les deux premières peuvent être menées en quelques semaines et suffisent à réduire l'essentiel de l'exposition.
Inventorier les usages. Recensez les systèmes développés en interne, les fonctions d'IA intégrées aux logiciels du marché et les usages individuels d'assistants génératifs. Une enquête interne anonyme fait apparaître les usages non déclarés.
Classer par niveau de risque. Pour chaque usage, déterminez le niveau de risque au sens de l'AI Act, le rôle de l'entreprise, fournisseur ou déployeur, et la sensibilité des données concernées.
Fixer les règles d'usage. Rédigez une charte courte : outils autorisés, données qu'il est interdit de saisir, obligation de vérifier les résultats, mention de l'usage de l'IA dans les contenus produits.
Organiser la validation. Tout nouveau cas d'usage passe par une fiche décrivant sa finalité, ses données, ses risques et son responsable. Le comité examine les cas sensibles.
Former les équipes. L'AI Act demande que les personnes qui utilisent des systèmes d'IA disposent d'un niveau de maîtrise suffisant. Adaptez la formation au métier.
Surveiller dans la durée. Suivez les performances, les incidents et les évolutions des systèmes en service. Un modèle se dégrade quand les données changent.
Que doit contenir une charte d'usage de l'IA générative ?
Une charte efficace tient en une ou deux pages et répond à cinq questions : quels outils sont autorisés, quelles données ne doivent jamais y être saisies, qui vérifie ce que l'outil produit, quand faut-il signaler l'usage de l'IA, et à qui s'adresser en cas de doute.
Interdire sans proposer d'outil validé déplace les usages hors de vue. La charte s'accompagne donc d'une solution approuvée par l'entreprise.
Quels indicateurs suivre ?
Cinq indicateurs rendent compte de la maturité du dispositif :
part des systèmes d'IA inscrits à l'inventaire et classés ;
part des cas d'usage validés avant mise en service ;
part des collaborateurs concernés ayant été formés ;
nombre d'incidents signalés et délai de traitement ;
part des systèmes sensibles faisant l'objet d'un contrôle humain documenté.
Quelles erreurs éviter ?
Trois erreurs sont fréquentes. Confier le sujet à la seule direction informatique, alors que les risques sont d'abord métier et juridiques. Rédiger une politique détaillée avant d'avoir inventorié les usages réels. Créer un comité qui valide tout, et que les équipes contournent pour gagner du temps : la validation doit être proportionnée au risque.
Pour les principes d'équité et de transparence, voir notre article sur l'IA responsable.
Trouver un expert en gouvernance de l'IA
BeAdvize est une plateforme française qui met en relation freelances IT, ESN et cabinets, et entreprises, avec de l'IA au service du sourcing et du matching.
Les entreprises qui structurent leur gouvernance peuvent y rechercher un consultant spécialisé, parmi les freelances et les consultants d'ESN partenaires. Les consultants en gouvernance de l'IA y trouvent les missions publiées dans ce domaine, avec leur tarif journalier affiché.