Cinq niveaux, trois domaines — pour les organisations qui doivent savoir où en est réellement leur gouvernance de l'IA générative, et ce qu'exigerait l'étape suivante.
La plupart des organisations encadrent l'IA générative comme un risque d'approvisionnement : on rédige une politique, un comité l'approuve, le document est classé. Le modèle décrit ici part du constat que cette approche ne fonctionne pas — et ne peut pas fonctionner, parce que l'objet à encadrer ne reste pas immobile.
Les systèmes génératifs sont émergents. Leurs capacités changent d'une version à l'autre, leurs modes de défaillance se découvrent à l'usage plutôt qu'à la conception, et les usages que le personnel en fait ne sont pas ceux qui ont été approuvés. Un contrôle statique rédigé pour le système du trimestre dernier encadre un système qui n'existe plus.
La thèse de l'article est donc que la gouvernance doit devenir une capacité organisationnelle qui s'adapte — ce qu'il nomme le passage du contrôle statique à une capacité réflexive. Et une capacité, comme toute autre, se développe par étapes que l'on peut décrire et évaluer.
Une précision d'emblée : le CCAIE ne vend actuellement aucune évaluation fondée sur ce modèle. Contrairement au Protocole OctopusEN, ce modèle ne provient pas d'un document-cadre de la Fondation : c'est l'article évalué par les pairs qui fait autorité.
Cinq niveaux répartis sur trois domaines. L'article décrit les niveaux et les domaines séparément ; ce qui distingue, par exemple, une intendance des modèles de niveau 3 d'un garde-fou stratégique de niveau 3 n'est pas encore écrit. C'est le travail qui reste à faire.
Le modèle divise la gouvernance en trois domaines habituellement pilotés par des personnes différentes, dans des parties différentes de l'organisation, qui se croisent rarement. Les nommer séparément constitue l'essentiel de sa valeur pratique : cela rend visible celui qu'on a négligé.
Intendance des modèles (Model Stewardship) — la surveillance technique sur tout le cycle de vie, de l'acquisition au retrait : diligence raisonnable avant l'adoption, fiches de modèle et de jeux de données, encadrement du réglage fin avec les experts du domaine dans le processus plutôt que consultés après coup, puis audits et suivi du rendement une fois le système en service.
Alignement opérationnel (Operational Alignment) — la gouvernance là où le travail se fait réellement : des protocoles explicites d'interaction humain–IA, des boucles de rétroaction assez solides pour faire remonter la dérive et les préoccupations du personnel, de la transparence sur les endroits où un système est utilisé, et une littératie critique en IA répartie dans l'organisation plutôt que concentrée chez quelques spécialistes.
Garde-fous stratégiques (Strategic Guardrails) — la couche institutionnelle : des instances dotées d'un mandat réel — comités d'éthique, conseils d'usage de l'IA —, la détection des biais, ce que l'article appelle l'alignement de trajectoire (anticiper l'évolution d'une capacité déployée, et pas seulement ce qu'elle fait aujourd'hui), et le dialogue avec la clientèle, les autorités réglementaires et la société civile.
L'article est direct sur la raison d'être des trois : « La gouvernance ne peut se limiter à un comité d'éthique. Elle doit être une préoccupation à l'échelle de l'entreprise, à plusieurs niveaux, englobant les plans technique, organisationnel et institutionnel. »
Chaque domaine évolue selon les mêmes cinq étapes.
Quatre capacités traversent les domaines et les niveaux, et s'approfondissent à mesure que l'organisation mûrit.
Évaluez les trois domaines séparément, et attendez-vous à ce qu'ils divergent. Le schéma courant dans les organisations de taille moyenne : une intendance des modèles de niveau 3 — parce que les TI en sont responsables et ont l'habitude de la discipline du cycle de vie — à côté d'un alignement opérationnel de niveau 1, parce que personne n'est responsable de ce que le personnel fait réellement de ces outils au quotidien. Une organisation qui annonce un seul indice global de maturité a généralement effacé le constat en faisant une moyenne.
Deux mises en garde. Un niveau est une description, pas une cible : le niveau 5 n'est pas la bonne réponse pour toute organisation, et une petite entreprise avec trois usages approuvés peut se situer correctement — et durablement — au niveau 3. Et une cote de maturité est une affirmation comme une autre. La nôtre est qu'une affirmation sans mesure de référence n'est pas une preuve : cela vaut pour la maturité en gouvernance exactement comme pour le rendement d'un projet d'automatisation.
L'article décrit cinq niveaux et trois domaines, et indique que les quatre capacités se déploient à travers les deux. Il ne contient pas de matrice complète : nulle part n'est décrit ce à quoi ressemble un alignement opérationnel de niveau 2 par opposition à une intendance des modèles de niveau 2.
C'est précisément cette distinction qui transformerait un modèle conceptuel en instrument d'évaluation, et l'écrire relève du travail appliqué plutôt que théorique : il faut observer de vraies organisations à chaque étape, dans chaque domaine, et consigner ce qui les distingue réellement. C'est le prochain travail de recherche naturel pour un centre appliqué, et c'est celui que la Fondation entend publier.
D'ici là, ce modèle est un vocabulaire de diagnostic et non une grille de cotation. C'est une limite réelle, et nous préférons l'énoncer plutôt que de laisser la forme de la grille suggérer une précision que la source ne permet pas.
Publié par la Fondation CCAIE, le volet non commercial du Centre canadien pour l'entrepreneuriat en IA. La Fondation CCAIE détient les partenariats universitaires, la recherche appliquée et les cadres de référence publiés, et n'accepte aucun mandat commercial. Lorsqu'un cadre publié par la Fondation est mis en œuvre par un fournisseur commercial — y compris un fournisseur dans lequel le directeur de la Fondation détient un intérêt — cette relation est divulguée à même le document.