La gouvernance de l'IA est passée du cadre des politiques à celui de la gestion des risques opérationnels. Selon une nouvelle étude primaire menée par le cabinet d'analyse BARC, l'IA est déjà exploitée en production dans 97 % des organisations. Pourtant, la plupart des programmes de gouvernance restent peu aboutis : deux tiers des organisations ont déjà connu des incidents liés à l'IA.
L'étude du BARC intitulée « The State of Data and AI Governance » s'appuie sur une enquête mondiale menée auprès de responsables des données, de l'IA, des technologies de l'information et des dirigeants d'entreprise. Elle met en évidence ce qui distingue les « leaders de l'IA » des « rest s » du marché, et identifie les mesures permettant de transformer la gouvernance d'un simple exercice de conformité en un modèle opérationnel garantissant une évolution à grande échelle de l'IA en toute confiance.
La gouvernance de l'IA est passée du cadre des politiques à celui de la gestion des risques opérationnels. Selon une nouvelle étude primaire menée par le cabinet d'analyse BARC, l'IA est déjà exploitée en production dans 97 % des organisations. Pourtant, la plupart des programmes de gouvernance restent peu aboutis : deux tiers des organisations ont déjà connu des incidents liés à l'IA.
L'étude du BARC intitulée « The State of Data and AI Governance » s'appuie sur une enquête mondiale menée auprès de responsables des données, de l'IA, des technologies de l'information et des dirigeants d'entreprise. Elle met en évidence ce qui distingue les « leaders de l'IA » des « rest s » du marché, et identifie les mesures permettant de transformer la gouvernance d'un simple exercice de conformité en un modèle opérationnel garantissant une évolution à grande échelle de l'IA en toute confiance.
Les politiques ne permettent de réduire les risques que lorsqu'elles sont intégrées sous forme de contrôles dans les flux de travail d'IA en production. Sans cela, les organisations sont confrontées aux difficultés suivantes :
L'étude met en évidence une lacune majeure : 62 % des équipes chargées de la gouvernance concentrent leurs contrôles sur la couche « données », tandis que les contrôles portant sur la couche « modèles » ne concernent que 45 % d'entre elles et ceux portant sur la couche « infrastructure » 43 %. Une gouvernance de l'IA aboutie relie les contrôles portant sur les données, les applications, les modèles et l'infrastructure, au lieu de se limiter à des points de contrôle isolés.
Pour les organisations européennes, le fossé se creuse plus tôt. 40 % des personnes interrogées dans la région EMEA citent la qualité insuffisante des données comme l’un des principaux obstacles à la gouvernance des données et de l’IA, contre 15 % en Amérique du Nord. 35 % mentionnent le cloisonnement des données (Amérique du Nord : 17 %). Seules 30 % des organisations de la région EMEA disposent de politiques officielles en matière de souveraineté pour le traitement et le stockage des données d’IA, contre 56 % en Amérique du Nord. L’étude explique ce que cela implique pour les prochaines étapes.