Intelligence artificielle, technologies émergentes et société de demain
La gouvernance des risques à l’ère de l’intelligence artificielle
L’intelligence artificielle transforme la rapidité et l’ampleur des décisions, mais ne supprime pas la responsabilité. Une gouvernance efficace commence par la définition de la décision à soutenir, des éléments probants nécessaires et des conséquences d’une erreur.
Commencer par la décision
Un modèle qui résume un document interne ne crée pas la même exposition qu’un système utilisé pour la tarification, l’acceptation des clients, le filtrage des sanctions ou l’allocation du capital. La gouvernance doit donc classer les cas d’usage selon leur impact sur les clients, leur importance financière, leur degré d’automatisation, la sensibilité des données et la réversibilité des décisions.
Construire une chaîne de preuves
Chaque système important nécessite une chaîne traçable reliant les données et les hypothèses aux résultats, à leur examen et à la décision finale. La validation doit examiner l’exactitude, la stabilité, les limites, les biais, la sécurité et les performances dans des situations défavorables réalistes. La supervision humaine n’est effective que si la personne chargée du contrôle dispose des compétences, du temps, des preuves et de l’autorité nécessaires pour rejeter le résultat.
Surveiller les résultats
L’approbation ne marque pas la fin de la gouvernance. Les organisations doivent suivre les performances, les décisions dérogatoires, les incidents, la dérive des données et les effets sur les clients. Toute modification importante du modèle, du fournisseur, des données ou du processus doit déclencher une réévaluation. Une solution de repli sûre est indispensable lorsque les performances deviennent inacceptables.