Gobernanza de IA

Sistema de políticas, responsabilidades, controles, evidencias y revisiones mediante el que una organización decide cómo puede utilizar, adquirir, desarrollar y supervisar IA durante todo su ciclo de vida. En una organización, «Gobernanza de IA» debe entenderse como una pieza del sistema de gobierno, no como una etiqueta aislada. Su utilidad práctica está en delimitar qué objeto se gobierna, qué responsabilidades existen, qué controles son necesarios y qué evidencias permiten demostrar que las decisiones se han tomado y revisado con criterio.

Se utiliza para establecer quién puede decidir sobre un uso de IA, qué controles debe superar, qué evidencias conserva y cuándo vuelve a revisarse. Puede materializarse en inventarios, responsables, políticas, matrices de riesgo, controles, registros y flujos de seguimiento.

Importa cuando una organización necesita decidir si un uso de IA puede implantarse, mantenerse o modificarse y debe poder justificar esa decisión. Es especialmente relevante cuando cambian la finalidad, el proveedor, los datos, el alcance, la clasificación o los riesgos asociados a gobernanza de IA.

No debe utilizarse como sinónimo de «Sistema de gestión de IA». Este último se refiere a conjunto estructurado de políticas, objetivos, responsabilidades y procesos mediante el que una organización gestiona de forma continua sus actividades relacionadas con IA. «Gobernanza de IA» tiene un alcance distinto y debe conservarse como concepto propio para evitar decisiones o búsquedas ambiguas.

Una empresa establece que todo nuevo uso de IA debe registrarse, clasificarse, tener responsable, controles asignados y fecha de revisión antes de entrar en producción.