Gestión de riesgos de IA

Proceso continuo de identificar, analizar, evaluar, tratar, vigilar y revisar riesgos derivados del desarrollo, adquisición, despliegue o uso de IA. En una organización, «Gestión de riesgos de IA» debe entenderse como una pieza del sistema de gobierno, no como una etiqueta aislada. Su utilidad práctica está en delimitar qué objeto se gobierna, qué responsabilidades existen, qué controles son necesarios y qué evidencias permiten demostrar que las decisiones se han tomado y revisado con criterio.

En la práctica, gestión de riesgos de IA se documenta dentro del inventario o sistema de gobernanza y se vincula con responsables, controles, evidencias y fechas de revisión. Debe quedar claro qué decisión depende de este concepto y qué documento o registro permite comprobarla.

Importa cuando una organización necesita decidir si un uso de IA puede implantarse, mantenerse o modificarse y debe poder justificar esa decisión. Es especialmente relevante cuando cambian la finalidad, el proveedor, los datos, el alcance, la clasificación o los riesgos asociados a gestión de riesgos de IA.

No debe utilizarse como sinónimo de «Control». Este último se refiere a medida, regla, validación o procedimiento diseñado para prevenir, detectar, limitar o corregir un riesgo o para asegurar que se cumple un requisito. «Gestión de riesgos de IA» tiene un alcance distinto y debe conservarse como concepto propio para evitar decisiones o búsquedas ambiguas.

En el registro de riesgos se identifica que un asistente puede inventar referencias jurídicas; se valora probabilidad e impacto, se asignan controles y se revisa el riesgo residual.