¿Sabías que algunas IAs “alucinan” información?

En el mundo de la inteligencia artificial, especialmente en los modelos de lenguaje, existe un fenómeno conocido como alucinaciones, que ocurre cuando una IA genera respuestas que suena coherentes y seguras, pero que en realidad son incorrectas, imprecisas o completamente inventadas. Esto no sucede porque la IA “mienta” o tenga intención de engañar, sino porque su forma de funcionar se basa en predecir la palabra más probable a partir del contexto, no en verificar la veracidad de la información como lo haría un humano.

Estas alucinaciones aparecen cuando el modelo no tiene datos suficientes, cuando la pregunta es ambigua o cuando se le pide información muy específica o poco común. En lugar de responder “no lo sé”, la IA intenta completar el patrón aprendido durante su entrenamiento, lo que puede llevarla a crear fechas, nombres, referencias o explicaciones que parecen creíbles, pero que no existen. Este comportamiento es una consecuencia directa de cómo las redes neuronales aprenden a partir de grandes volúmenes de texto, capturando relaciones estadísticas entre palabras más que hechos objetivos.

Por esta razón, las alucinaciones representan uno de los mayores retos actuales en la IA. Para reducirlas, los investigadores trabajan en técnicas como modelos con verificación externa, búsqueda de información en tiempo real, entrenamiento con retroalimentación humana y sistemas que indiquen explícitamente el nivel de certeza de una respuesta. Y recuerda, no siempre la IA tiene la razón. 

Referencia: 

Ji, Z., Lee, N., Frieske, R., Yu, T., Su, D., Xu, Y., ... & Fung, P. (2023). Survey of hallucination in natural language generation. ACM computing surveys, 55(12), 1-38.