Sistema de IA de alto riesgo

Sistema de IA que entra en la clasificación de alto riesgo del AI Act y queda sometido a requisitos y obligaciones específicos. No equivale a cualquier uso que una organización considere importante o sensible. En una organización, «Sistema de IA de alto riesgo» debe entenderse como una pieza del sistema de gobierno, no como una etiqueta aislada. Su utilidad práctica está en delimitar qué objeto se gobierna, qué responsabilidades existen, qué controles son necesarios y qué evidencias permiten demostrar que las decisiones se han tomado y revisado con criterio. Cuando el término tiene significado normativo, la definición operativa interna debe conservar la terminología de la norma aplicable y documentar cualquier interpretación utilizada en el procedimiento de la organización.

En la práctica, sistema de IA de alto riesgo se documenta dentro del inventario o sistema de gobernanza y se vincula con responsables, controles, evidencias y fechas de revisión. Debe quedar claro qué decisión depende de este concepto y qué documento o registro permite comprobarla.

Importa cuando una organización necesita decidir si un uso de IA puede implantarse, mantenerse o modificarse y debe poder justificar esa decisión. Es especialmente relevante cuando cambian la finalidad, el proveedor, los datos, el alcance, la clasificación o los riesgos asociados a sistema de IA de alto riesgo.

No debe utilizarse como sinónimo de «Prácticas de IA prohibidas». Este último se refiere a usos y prácticas de IA que el AI Act prohíbe en los supuestos definidos por su artículo 5. Constituyen una categoría distinta de los sistemas de alto riesgo. «Sistema de IA de alto riesgo» tiene un alcance distinto y debe conservarse como concepto propio para evitar decisiones o búsquedas ambiguas.

Una organización quiere implantar IA para seleccionar candidatos. Antes de contratarla, comprueba si el uso entra en una categoría de alto riesgo y qué obligaciones se activan.

Art. 6 y anexos I y III del Reglamento (UE) 2024/1689.