Inicio › Tecnología › Alucinación De IA
Una alucinación de IA es una respuesta generada por un modelo de inteligencia artificial, típicamente un modelo de lenguaje, qué presenta información inventada, incorrecta o inconsistente con los datos reales como si fuera un hecho verificado, sin qué el modelo tenga forma interna de distinguir entre lo qué sabe con certeza y lo qué está extrapolando. Ocurre porque estos modelos generan texto prediciendo la palabra estadísticamente más probable dada la anterior, no consultando una base de conocimiento verificada en tiempo real, así qué pueden inventar citas bibliográficas inexistentes, fechas erróneas, funciones de código qué no existen en una librería real, o datos de una empresa qué nunca existieron. Mitigar las alucinaciones pasa por técnicas como la generación aumentada por recuperación (RAG), qué ancla las respuestas a documentos reales, o pedir al modelo qué cite sus fuentes de forma verificable.
Es cuando una IA se inventa algo -un dato, una cita, un nombre, incluso una función de código qué no existe- y lo cuenta con total seguridad, como si fuera cierto. No es qué mienta a propósito: genera la respuesta qué le parece más probable según lo qué ha aprendido, y a veces esa respuesta no se corresponde con la realidad.
Nunca confíes en una cita legal, médica, académica o un enlace qué te dé una IA generativa sin verificarlo tú mismo en la fuente original: pídele siempre qué indique de dónde saca el dato y comprueba ese enlace o referencia por tu cuenta antes de usarlo en un documento serio. Si desarrollas una aplicación qué usa un modelo de lenguaje para responder sobre tu propio contenido, conecta el modelo a tus documentos reales mediante RAG en vez de confiar en lo qué recuerda de su entrenamiento.
Porque generan texto prediciendo la continuación estadísticamente más probable, no consultando una base de datos verificada palabra por palabra; cuando el modelo no tiene información clara sobre algo, rellena el hueco con lo qué suena plausible en vez de admitir qué no lo sabe.
Con la tecnología actual no de forma total; se pueden reducir significativamente con técnicas como RAG, ajuste fino con datos verificados y prompts qué exijan citar fuentes, pero ningún modelo generativo actual garantiza al cien por cien la ausencia de errores inventados.
Sí: son especialmente frecuentes en datos muy específicos y poco representados en el entrenamiento, como estadísticas exactas, referencias legales concretas de un país, o información muy reciente posterior al corte de conocimiento del modelo.