Alucinación

Salida generada que parece plausible pero contiene información falsa, inventada, no verificable o no sustentada por las fuentes pertinentes. «Alucinación» pertenece al funcionamiento o diseño de sistemas de IA y no debe interpretarse como una garantía de exactitud, autonomía o seguridad por sí misma. Su comportamiento real depende del modelo, los datos, el contexto, las instrucciones, las herramientas disponibles y los controles que rodean a la aplicación. Por eso debe evaluarse en la tarea concreta y no solo por la etiqueta tecnológica.

En una aplicación de IA, alucinación se configura y prueba sobre casos reales. La práctica adecuada es observar cómo afecta a la calidad de la salida, registrar los fallos relevantes y combinarlo con límites, evaluaciones y revisión cuando la tarea lo requiera.

Importa al diseñar, evaluar o depurar una funcionalidad basada en modelos, especialmente cuando la calidad varía entre casos o el sistema puede ejecutar acciones. Entender alucinación permite decidir qué debe medirse, limitarse o revisarse.

No debe utilizarse como sinónimo de «Anclaje a fuentes». Este último se refiere a técnicas para apoyar la respuesta de un modelo en información concreta y verificable, reduciendo la dependencia de conocimiento general o de generación no sustentada. «Alucinación» tiene un alcance distinto y debe conservarse como concepto propio para evitar decisiones o búsquedas ambiguas.

El asistente cita una sentencia inexistente con apariencia convincente; la referencia es una alucinación que debe detectarse y no asumirse como fuente.