Inteligencia artificial, tecnologías emergentes y sociedad del futuro
La gobernanza del riesgo en la era de la inteligencia artificial
La inteligencia artificial cambia la velocidad y el alcance de las decisiones, pero no elimina la responsabilidad. Una gobernanza eficaz comienza por definir la decisión que se apoya, las pruebas necesarias y las consecuencias de un error.
Empezar por la decisión
Un modelo que resume un documento interno no genera la misma exposición que un sistema utilizado para fijar precios, aceptar clientes, realizar controles de sanciones o asignar capital. Por tanto, la gobernanza debe clasificar los casos de uso según su impacto en los clientes, importancia financiera, grado de automatización, sensibilidad de los datos y reversibilidad.
Construir una cadena de evidencias
Cada sistema significativo necesita una cadena trazable desde los datos y las hipótesis hasta el resultado, su revisión y la decisión final. La validación debe examinar la exactitud, la estabilidad, las limitaciones, los sesgos, la seguridad y el desempeño en situaciones adversas realistas. La supervisión humana solo es efectiva cuando quien revisa dispone de conocimientos, tiempo, pruebas y autoridad para rechazar el resultado.
Supervisar los resultados
La aprobación no es el final de la gobernanza. Las organizaciones deben supervisar el desempeño, las decisiones que se apartan del modelo, los incidentes, la deriva de los datos y los resultados para los clientes. Los cambios sustanciales en el modelo, el proveedor, los datos o el proceso deben dar lugar a una nueva evaluación. Es esencial contar con una alternativa segura cuando el desempeño resulte inaceptable.