Deuxième impératif : rendre la propriété explicite avec une matrice RACI appliquée au cycle de vie
La plupart des organisations documente leur gouvernance IA, mais les responsabilités se fragmentent lorsque le leadership demande : « Qui possèdera ceci une fois que nous nous serons développés à plus grande échelle ? ». Seule la moitié des organisations surveille activement les biais dans les réponses d'IA, et seul un tiers d'entre elles surveille le contenu préjudiciable, tandis que la plupart surveillent la précision. Pas parce que les dirigeantes et les dirigeants ne s’en soucient pas, mais parce que la responsabilité de la traçabilité des preuves n’a jamais été conçue de bout en bout, surtout une fois que les déploiements précoces deviennent la norme opérationnelle.
Les premiers déploiements peuvent paraître d’une simplicité trompeuse. Une petite équipe s'occupe de tout : données, modèles, résultats et surveillance. La responsabilité est clairement définie, car elle est concentrée au même endroit. Puis vient le déploiement à grande échelle, et les responsabilités se fragmentent entre plusieurs équipes, plateformes et partenaires. La responsabilité s’estompe à mesure que les enjeux et l’échelle augmentent. Dans un premier temps, les responsabilités, qu’il s’agisse de la gestion de la provenance, du suivi des résultats, de l’approbation du déploiement à grande échelle ou de l’intervention en cas d’incident, sont précisément définies. Toutefois, à mesure que l’organisation se développe, tout devient plus flou.
C’est à partir de cet instant que le risque augmente, non pas parce que le déploiement n'est plus supervisé, mais parce que le processus devient orphelin lors des transitions. Les équipes marketing, techniques et de gestion des risques peuvent chacune avancer de manière isolée, mais sans propriété explicite entre les phases, l’effort ne se convertit pas en élan. L’organisation ralentit précisément quand elle tente de prendre de la vitesse.
Les organisations qui réussissent leur déploiement à grande échelle établissent intentionnellement les responsabilités, phase par phase. Celles qui échouent n’ont généralement pas pris de décisions explicites à ce sujet. En réalité, personne n’est explicitement responsable de la traçabilité des preuves (métriques, contrôles, surveillance) une fois que l'entreprise passe d'une phase pilote à une capacité opérationnelle.
Les partenaires externes amplifient le problème. Quand l’IA dépend de données, modèles ou plateformes de diffusion tiers, les questions liées à la responsabilité se multiplient rapidement. Qui est responsable de la provenance des données ? Qui surveille les tests et la fiabilité des modèles ? Qui détient la responsabilité de la réponse quand un client signale du contenu IA problématique ?
Une matrice RACI appliquée au cycle de vie déplace l’attention de la documentation de gouvernance vers la propriété opérationnelle, garantissant que la responsabilité ne se fragmente pas dès lors qu'un pilote est déployé à grande échelle. Le tableau ci-dessous illustre comment la responsabilité et la redevabilité doivent se transférer à mesure que les initiatives passent de l’intention à la preuve, puis à la décision de se déployer à grande échelle et enfin à l’exploitation durable, afin que la propriété soit intégrée dans le parcours, et non renégociée à chaque point de contrôle.