Ultrafalsificación

Término oficial español del AI Act para contenido de imagen, audio o vídeo generado o manipulado por IA que se asemeja a personas, objetos, lugares, entidades o sucesos reales y puede inducir a creer que es auténtico. En una organización, «Ultrafalsificación» debe entenderse como una pieza del sistema de gobierno, no como una etiqueta aislada. Su utilidad práctica está en delimitar qué objeto se gobierna, qué responsabilidades existen, qué controles son necesarios y qué evidencias permiten demostrar que las decisiones se han tomado y revisado con criterio. Cuando el término tiene significado normativo, la definición operativa interna debe conservar la terminología de la norma aplicable y documentar cualquier interpretación utilizada en el procedimiento de la organización.

En la práctica, ultrafalsificación se documenta dentro del inventario o sistema de gobernanza y se vincula con responsables, controles, evidencias y fechas de revisión. Debe quedar claro qué decisión depende de este concepto y qué documento o registro permite comprobarla.

Importa cuando una organización necesita decidir si un uso de IA puede implantarse, mantenerse o modificarse y debe poder justificar esa decisión. Es especialmente relevante cuando cambian la finalidad, el proveedor, los datos, el alcance, la clasificación o los riesgos asociados a ultrafalsificación.

No debe utilizarse como sinónimo de «IA generativa». Este último se refiere a iA capaz de generar contenido nuevo como texto, imagen, audio, vídeo, código o estructuras de datos a partir de instrucciones y contexto. «Ultrafalsificación» tiene un alcance distinto y debe conservarse como concepto propio para evitar decisiones o búsquedas ambiguas.

Una empresa publica un vídeo sintético en el que una persona parece decir algo que nunca dijo y aplica la información exigible para identificar el contenido como generado o manipulado artificialmente.

Art. 3 y art. 50.4 del Reglamento (UE) 2024/1689. La terminología española «ultrafalsificación» debe leerse con la corrección de errores publicada en 2025.