Gobernanza, riesgo y cumplimiento de IA
AI Act / Regulation (EU) 2024/1689
Reglamento de la Unión Europea que establece normas armonizadas para sistemas y modelos de IA, incluidas prohibiciones, requisitos de alto riesgo, transparencia, modelos de uso general, gobernanza, supervisión y cumplimiento.
Ver definición completaIA, modelos y agentes
Guardrails
Controles aplicados a entradas, salidas o acciones de un sistema de IA para imponer límites, validaciones, políticas y condiciones de seguridad o negocio.
Ver definición completaRAG, datos e integraciones
Reranker
Modelo o componente que vuelve a ordenar los resultados recuperados según su relevancia para una consulta antes de entregarlos al modelo generativo.
Ver definición completaRAG, datos e integraciones
Embedding
Representación numérica del significado o características de un contenido que permite comparar elementos por proximidad semántica.
Ver definición completaGobernanza, riesgo y cumplimiento de IA
Authorised representative
Persona física o jurídica establecida en la Unión que acepta un mandato escrito de un proveedor para cumplir determinadas obligaciones y procedimientos del AI Act en su representación.
Ver definición completaProducto digital y diseño funcional
Functional requirement
Comportamiento o capacidad que el sistema debe ofrecer: qué debe poder hacer, con qué entradas, para quién y con qué resultado.
Ver definición completaProducto digital y diseño funcional
Non-functional requirement
Condición de calidad o restricción del sistema, como seguridad, rendimiento, disponibilidad, privacidad, accesibilidad, mantenibilidad o límites de operación.
Ver definición completaSeguridad y privacidad
Data residency
Lugar o región en la que un proveedor almacena o procesa determinados datos. No equivale por sí sola a cumplir las reglas sobre transferencias internacionales, acceso remoto o retención.
Ver definición completaGobernanza, riesgo y cumplimiento de IA
Deployer
Persona u organización que utiliza un sistema de IA bajo su propia autoridad en una actividad no meramente personal. Es la denominación jurídica española del AI Act para el rol llamado deployer.
Ver definición completaIA, modelos y agentes
Structured outputs
Respuestas generadas conforme a una estructura o esquema definido, por ejemplo JSON válido, para que puedan ser procesadas de forma fiable por software.
Ver definición completaGobernanza, riesgo y cumplimiento de IA
AI system
En el AI Act, sistema basado en una máquina que opera con distintos niveles de autonomía y que, a partir de entradas y objetivos, infiere cómo generar resultados como predicciones, contenidos, recomendaciones o decisiones que pueden influir en entornos físicos o virtuales.
Ver definición completaGobernanza, riesgo y cumplimiento de IA
High-risk AI system
Sistema de IA que entra en la clasificación de alto riesgo del AI Act y queda sometido a requisitos y obligaciones específicos. No equivale a cualquier uso que una organización considere importante o sensible.
Ver definición completaGobernanza, riesgo y cumplimiento de IA
AI Management System
Conjunto estructurado de políticas, objetivos, responsabilidades y procesos mediante el que una organización gestiona de forma continua sus actividades relacionadas con IA.
Ver definición completaGobernanza, riesgo y cumplimiento de IA
Human oversight
Medidas que permiten a personas con competencia y autoridad comprender, vigilar e intervenir en el funcionamiento de un sistema de IA cuando resulte necesario. En el AI Act tiene un sentido normativo específico para sistemas de alto riesgo.
Ver definición completaProcesos, automatización y trazabilidad
Traceability
Capacidad de reconstruir qué ocurrió en un proceso: quién intervino, qué datos se usaron, qué decisiones se tomaron, qué sistema actuó y qué resultado quedó registrado.
Ver definición completaIA, modelos y agentes
Tracing
Registro detallado de la ejecución de una tarea de IA, incluidos pasos, llamadas a herramientas, tiempos y resultados, útil para depuración, evaluación y auditoría técnica.
Ver definición completaGobernanza, riesgo y cumplimiento de IA
Deepfake
Término oficial español del AI Act para contenido de imagen, audio o vídeo generado o manipulado por IA que se asemeja a personas, objetos, lugares, entidades o sucesos reales y puede inducir a creer que es auténtico.
Ver definición completaGobernanza, riesgo y cumplimiento de IA
AI use
Aplicación concreta de un sistema, modelo o funcionalidad de IA a una finalidad, proceso, tarea o decisión dentro de una organización. Es la unidad práctica que conviene inventariar y gobernar.
Ver definición completaIA, modelos y agentes
Tool calling
Capacidad de un modelo o agente para invocar herramientas externas, como APIs, buscadores, bases de datos o sistemas internos, para obtener información o realizar acciones.
Ver definición completaIA, modelos y agentes
Context window
Cantidad máxima de información que un modelo puede tener disponible simultáneamente para una tarea o conversación, incluidos instrucciones, historial, documentos y resultados de herramientas.
Ver definición completa