Humano en el proceso

Diseño en el que una persona revisa, valida, corrige o autoriza antes de que el sistema complete una acción. Es un patrón operativo y no equivale automáticamente a la supervisión humana exigida por una norma. «Humano en el proceso» describe una parte de la lógica operativa del trabajo. Conviene documentarlo antes de automatizar, porque permite distinguir pasos, entradas, decisiones, responsables, excepciones y resultados. La automatización mejora un proceso cuando reduce trabajo innecesario sin ocultar reglas ni eliminar los puntos de control que siguen siendo necesarios.

Se incorpora una intervención humana cuando una salida automática necesita revisión, autorización, corrección o decisión antes de producir un efecto relevante.

Importa cuando el trabajo pasa por varias personas o sistemas, existen esperas o excepciones, o se plantea automatizar una parte del flujo. Hacer explícito humano en el proceso evita que la implementación técnica sustituya decisiones de proceso que aún no se han resuelto.

No debe utilizarse como sinónimo de «Supervisión humana». Este último se refiere a medidas que permiten a personas con competencia y autoridad comprender, vigilar e intervenir en el funcionamiento de un sistema de IA cuando resulte necesario. En el AI Act tiene un sentido normativo específico para sistemas de alto riesgo. «Humano en el proceso» tiene un alcance distinto y debe conservarse como concepto propio para evitar decisiones o búsquedas ambiguas.

La IA redacta una respuesta, pero una persona debe aprobarla antes de enviarla al cliente porque puede producir consecuencias jurídicas o reputacionales.