Supervisión humana

Medidas que permiten a personas con competencia y autoridad comprender, vigilar e intervenir en el funcionamiento de un sistema de IA cuando resulte necesario. En el AI Act tiene un sentido normativo específico para sistemas de alto riesgo. En una organización, «Supervisión humana» debe entenderse como una pieza del sistema de gobierno, no como una etiqueta aislada. Su utilidad práctica está en delimitar qué objeto se gobierna, qué responsabilidades existen, qué controles son necesarios y qué evidencias permiten demostrar que las decisiones se han tomado y revisado con criterio. Cuando el término tiene significado normativo, la definición operativa interna debe conservar la terminología de la norma aplicable y documentar cualquier interpretación utilizada en el procedimiento de la organización.

En la práctica, supervisión humana se documenta dentro del inventario o sistema de gobernanza y se vincula con responsables, controles, evidencias y fechas de revisión. Debe quedar claro qué decisión depende de este concepto y qué documento o registro permite comprobarla.

Importa cuando una organización necesita decidir si un uso de IA puede implantarse, mantenerse o modificarse y debe poder justificar esa decisión. Es especialmente relevante cuando cambian la finalidad, el proveedor, los datos, el alcance, la clasificación o los riesgos asociados a supervisión humana.

No debe utilizarse como sinónimo de «Humano en el proceso». Este último se refiere a diseño en el que una persona revisa, valida, corrige o autoriza antes de que el sistema complete una acción. Es un patrón operativo y no equivale automáticamente a la supervisión humana exigida por una norma. «Supervisión humana» tiene un alcance distinto y debe conservarse como concepto propio para evitar decisiones o búsquedas ambiguas.

Un sistema propone una decisión, pero el revisor dispone de información suficiente para entender sus límites, rechazar la salida y detener la actuación cuando sea necesario.

Art. 14 del Reglamento (UE) 2024/1689 para los sistemas de IA de alto riesgo, sin perjuicio de otros deberes de intervención humana que puedan resultar aplicables.