IT Glossary

Gouvernance de l'IA

La gouvernance de l'IA fixe quels outils d'IA utiliser, pour quoi, avec quelles données et sous quelle responsabilité. Briques, référentiels et pilotage.

novembre 2, 2026

Qu'est-ce que la gouvernance de l'IA ?

La gouvernance de l'IA est le cadre de politiques, de rôles et de contrôles qui décide, à l'échelle de l'organisation, quels outils et modèles d'IA peuvent être utilisés, pour quels usages, avec quelles données et sous la responsabilité de qui, et comment leur usage, leurs risques et leur coût sont suivis dans la durée. Elle couvre les outils d'IA achetés, les fonctions d'IA intégrées aux applications SaaS existantes et les modèles développés en interne, pas seulement les agents autonomes.

À retenir

  • La gouvernance de l'IA décide quels outils d'IA utiliser, pour quoi, avec quelles données et sous quelle responsabilité, dans toute l'organisation.
  • La gouvernance de l'IA est plus large que la gouvernance des agents IA, centrée sur les identités, les droits et les actions des agents autonomes.
  • Le NIST AI Risk Management Framework (AI RMF 1.0), publié le 26 janvier 2023, est un référentiel destiné à un usage volontaire.
  • La norme ISO/IEC 42001:2023 définit les exigences d'un système de management de l'intelligence artificielle, ce qui rend la gouvernance de l'IA auditable.

Comment fonctionne la gouvernance de l'IA

  • Inventaire : un registre des outils, fonctions et modèles d'IA en service, y compris ceux adoptés sans validation de la DSI, avec leurs utilisateurs et leur coût.
  • Circuit de validation : un parcours défini pour demander un nouvel outil d'IA, avec des contrôles de sécurité, juridiques et de données avant son déploiement.
  • Règles sur les données : quelles catégories de données peuvent aller dans quels outils, par exemple aucune donnée personnelle de clients dans un outil sans accord de sous-traitance au sens du RGPD.
  • Responsables : un responsable métier et un responsable technique nommés pour chaque outil, qui répondent de son usage et de son renouvellement.
  • Suivi et revue : l'usage, les accès et les dépenses sont suivis en continu, et le registre complet est revu à intervalle fixe, par exemple chaque trimestre.

Gouvernance de l'IA ou gouvernance des agents IA : où s'arrête chacune ?

  • Gouvernance de l'IA : la couche transverse. Elle fixe les règles de tout usage de l'IA, de l'assistant conversationnel à la fonction d'IA du CRM, et trace qui a décidé, sur quelle base et avec quelles données.
  • Gouvernance des agents IA : une couche plus étroite, consacrée aux agents autonomes qui agissent sur les systèmes. Elle traite des identités d'agents, des droits délégués, des jetons et des journaux d'actions.

Une entreprise peut encadrer finement deux agents internes sans savoir quels 30 outils d'IA ses salariés utilisent. Des référentiels publiés aident à structurer la couche transverse. Le NIST AI Risk Management Framework, publié le 26 janvier 2023 et destiné à un usage volontaire, organise le travail en fonctions Govern, Map, Measure et Manage. La norme ISO/IEC 42001:2023 définit les exigences d'un système de management de l'intelligence artificielle (AIMS), construit comme les autres normes de systèmes de management, telle ISO/IEC 27001. En France, les recommandations de sécurité de l'ANSSI pour les systèmes d'IA générative et les recommandations de la CNIL sur l'IA complètent utilement ces référentiels.

Exemples et cas d'usage

Une fintech de 250 salariés veut une charte IA applicable avant le prochain questionnaire de sécurité d'un grand client. Le premier inventaire recense 19 outils d'IA, dont le même assistant de rédaction payé trois fois par des équipes différentes, et aucun responsable désigné pour la plupart. Le chantier de gouvernance de l'IA suit alors les briques ci-dessus : un outil validé par besoin, un responsable pour chacun, des règles de données écrites dans la politique et une revue trimestrielle des usages et des dépenses.

Corma prend en charge l'inventaire et le suivi : la plateforme découvre les outils d'IA utilisés, shadow AI comprise, recense licences, coûts et renouvellements, suit les dépenses IA et mène des revues d'accès avec preuves d'audit, pour que chaque revue trimestrielle parte de données à jour.

Concepts associés

FAQ

Que comprend un cadre de gouvernance de l'IA ?

Un inventaire des outils d'IA, un circuit de validation, des règles sur les données, des responsables nommés, un suivi des usages et des coûts, et un cycle de revue. Des référentiels comme le NIST AI RMF et ISO/IEC 42001 aident à le structurer.

Le NIST AI RMF est-il obligatoire ?

Non. Le NIST AI RMF 1.0, publié le 26 janvier 2023, est destiné à un usage volontaire.

Qu'est-ce que la norme ISO/IEC 42001 ?

ISO/IEC 42001:2023 est la norme internationale qui définit les exigences d'un système de management de l'intelligence artificielle (AIMS), c'est-à-dire les processus qu'une organisation met en place pour gouverner son usage de l'IA.

Qui porte la gouvernance de l'IA dans une PME ou une ETI ?

En général un petit groupe : la DSI ou le RSSI pour les outils et les accès, le juridique ou le DPO pour les règles de données, la finance pour les dépenses, avec une personne responsable du registre IA.

Demander une démo