Décider la règle, pas seulement vérifier celle des autres
Le responsable de la gouvernance possède les règles : ce qui peut être construit, sur quelles données, avec quelle validation, et comment on en apporte la preuve ensuite. Ce qui distingue ce métier de la conformité tient en une phrase et change tout : la conformité vérifie par rapport à une règle extérieure qui existe déjà, la gouvernance doit aussi décider la règle interne là où aucun texte ne tranche. Or l’essentiel des questions posées dans une organisation appartient à cette seconde catégorie. Faut-il une relecture humaine sur cette sortie, ce type de données peut-il partir chez ce fournisseur, ce projet relève-t-il d’une catégorie sensible : aucune loi ne répond directement, et quelqu’un doit trancher. Ce quelqu’un doit avoir un nom et un pouvoir réel, faute de quoi le dispositif produit des documents et aucune décision. Sa réussite se mesure à une seule chose : l’organisation peut-elle dire, à la demande, ce que ses systèmes font et sur quelle base.
Responsable de la gouvernance IA, en bref
Métier émergent| En une phrase | Possède les règles : ce qui peut être construit, sur quelles données, avec quelle validation, et comment on en apporte la preuve ensuite. |
|---|---|
| Jugé sur | Le fait que l’organisation puisse dire, à la demande, ce que font ses systèmes et sur quelle base. |
| Échoue quand | La gouvernance devient un guichet plutôt qu’un service, et les équipes la contournent. |
| Confondu avec | La conformité, qui vérifie par rapport à une règle extérieure ; la gouvernance doit aussi décider la règle interne. |
Un travail réel, dont le périmètre varie assez d’un employeur à l’autre pour que l’intitulé seul n’apprenne pas grand-chose. Aucun chiffre de rémunération : voir notre méthode.
Le travail réel, dans l’ordre
L’inventaire. Retrouver ce qui tourne déjà, sans esprit de sanction, parce qu’une recherche perçue comme une enquête ne remonte rien. On cherche quelles données entrent, quelle décision sort, qui s’en sert, et ce qui se passerait si la sortie était fausse.
La classification. Par le coût d’une erreur et par le moyen de la détecter, et non par la technologie employée. Trois niveaux suffisent ; les grilles à sept catégories existent et personne ne s’en sert au moment de décider.
Les règles. Peu nombreuses et applicables : une trace de ce qui a été décidé, un jeu d’évaluation maintenu, une frontière écrite sur les données, un chemin d’escalade nommé. Ce sont les quatre qui tiennent en production.
L’arbitrage. La partie quotidienne du métier, et celle qui décide de sa crédibilité. Une question posée doit recevoir une réponse en jours et non en semaines, sans quoi les équipes cesseront de poser des questions.
Pourquoi les équipes contournent
Une gouvernance contournée ne l’est presque jamais par mauvaise volonté. Elle l’est parce qu’elle coûte plus cher à respecter qu’à éviter, et deux facteurs produisent ce coût.
Le délai. Une réponse en six semaines sur un projet qui en dure douze revient à supprimer le projet. Les équipes concluent qu’il vaut mieux avancer et régulariser ensuite, ce qui est rationnel et exactement ce que le dispositif voulait éviter.
L’unilatéralité des réponses. Une instance qui ne sait dire que non cesse d’être consultée. Une instance qui propose une autre façon de faire quand elle refuse reste consultée, parce qu’elle apporte quelque chose.
La conséquence pratique est qu’une gouvernance se conçoit comme un service avec un engagement de délai, et non comme un guichet. C’est un choix d’organisation avant d’être un choix de règles.
Les règles qui tiennent, et celles qui cèdent
La validation humaine systématique appliquée à tout est la règle la plus rassurante à écrire et la moins durable. Soit elle rend le système plus lent que le travail manuel et il est abandonné, soit les relectures deviennent formelles en trois semaines et la garantie n’existe plus que sur le papier.
L’interdiction générale d’une catégorie d’outils déplace l’usage hors du champ de l’organisation plutôt qu’elle ne le supprime, ce qui aggrave le risque qu’elle prétendait traiter.
Les règles qui tiennent sont structurelles : une trace produite pendant le projet, un jeu d’évaluation rejoué, une frontière sur les catégories de données plutôt que sur les noms d’outils, qui changent tous les six mois. Elles sont peu nombreuses, elles se vérifient, et elles ne dépendent pas de la bonne volonté quotidienne de chacun.
La question qui définit la réussite
Une seule question mesure ce métier, et elle peut être posée à tout moment : l’organisation peut-elle dire ce que ses systèmes font, sur quelles données, validés par qui et évalués comment.
Une organisation qui sait répondre en une journée dispose d’une gouvernance réelle, quel que soit le volume de ce qu’elle a écrit. Une organisation qui a produit une politique de quarante pages et met trois semaines à répondre n’en a pas, et c’est la situation la plus courante.
