Reglas de control

Controles aplicados a entradas, salidas o acciones de un sistema de IA para imponer límites, validaciones, políticas y condiciones de seguridad o negocio. «Reglas de control» pertenece al funcionamiento o diseño de sistemas de IA y no debe interpretarse como una garantía de exactitud, autonomía o seguridad por sí misma. Su comportamiento real depende del modelo, los datos, el contexto, las instrucciones, las herramientas disponibles y los controles que rodean a la aplicación. Por eso debe evaluarse en la tarea concreta y no solo por la etiqueta tecnológica.

En una aplicación de IA, reglas de control se configura y prueba sobre casos reales. La práctica adecuada es observar cómo afecta a la calidad de la salida, registrar los fallos relevantes y combinarlo con límites, evaluaciones y revisión cuando la tarea lo requiera.

Importa al diseñar, evaluar o depurar una funcionalidad basada en modelos, especialmente cuando la calidad varía entre casos o el sistema puede ejecutar acciones. Entender reglas de control permite decidir qué debe medirse, limitarse o revisarse.

No debe utilizarse como sinónimo de «Control». Este último se refiere a medida, regla, validación o procedimiento diseñado para prevenir, detectar, limitar o corregir un riesgo o para asegurar que se cumple un requisito. «Reglas de control» tiene un alcance distinto y debe conservarse como concepto propio para evitar decisiones o búsquedas ambiguas.

Un guardrail bloquea una acción si el usuario no tiene permiso y exige confirmación cuando el agente intenta enviar información fuera de la organización.