Evaluaciones de IA

Pruebas sistemáticas para medir calidad, fiabilidad, seguridad o cumplimiento de un modelo o sistema de IA frente a criterios y casos definidos. «Evaluaciones de IA» pertenece al funcionamiento o diseño de sistemas de IA y no debe interpretarse como una garantía de exactitud, autonomía o seguridad por sí misma. Su comportamiento real depende del modelo, los datos, el contexto, las instrucciones, las herramientas disponibles y los controles que rodean a la aplicación. Por eso debe evaluarse en la tarea concreta y no solo por la etiqueta tecnológica.

Las evals convierten la calidad en casos y métricas repetibles: exactitud de extracción, cumplimiento de formato, tasa de alucinación, recuperación correcta de fuentes o éxito de una tarea agentiva.

Importa al diseñar, evaluar o depurar una funcionalidad basada en modelos, especialmente cuando la calidad varía entre casos o el sistema puede ejecutar acciones. Entender evaluaciones de IA permite decidir qué debe medirse, limitarse o revisarse.

No debe utilizarse como sinónimo de «Aseguramiento de calidad». Este último se refiere a conjunto de actividades y controles destinados a prevenir y detectar defectos y verificar que el producto cumple requisitos funcionales, de calidad y de seguridad. «Evaluaciones de IA» tiene un alcance distinto y debe conservarse como concepto propio para evitar decisiones o búsquedas ambiguas.

Un conjunto de 200 casos conocidos comprueba si una nueva versión mantiene exactitud de extracción, citas correctas y formato esperado antes del despliegue.