Alucinaciones de la IA: el dato inventado que suena perfecto
Se llama alucinación a un dato que la IA se inventa y presenta con el mismo aplomo que uno cierto: una cifra, una fecha, una ley o una cita que no existen. Las alucinaciones de la IA generativa no avisan ni suenan raras. Suenan bien, y por eso cuelan.
Qué es una alucinación
En la Correduría Buen Puerto, una correduría de seguros, alguien pregunta a un chat de IA si cierta póliza de hogar cubre los daños por agua desde el primer día. La respuesta llega redactada como un párrafo de las condiciones: que sí. En las condiciones no pone eso. Nadie ha mentido; la IA ha escrito lo que sonaba a póliza. Y en seguros, un dato así sale caro.
No la confundas con un dato anticuado. Ahí la IA repite algo que fue verdad. La alucinación no lo fue nunca.
Por qué ocurre
Un modelo de lenguaje escribe eligiendo la palabra más probable, una detrás de otra. No consulta nada ni distingue «lo sé» de «me suena». Cuando le falta el dato no deja un hueco: pone la frase más verosímil.
Tipos de alucinaciones
- Datos inventados. Una cifra, un plazo, un nombre.
- Fuentes que no existen. Una sentencia, un artículo o un enlace de aspecto impecable.
- Mezclas. Dos cosas ciertas unidas en una falsa: la cobertura de una póliza con el plazo de otra.
Ya ha habido abogados sancionados por presentar sentencias que una IA se había inventado. Por eso el asunto pesa tanto en los despachos de abogados.
Cómo evitar alucinaciones
- Dale los documentos. Que conteste con una base de conocimiento delante; es lo que se llama RAG.
- Pide la fuente. Un dato sin documento detrás es una suposición.
- Déjale decir «no lo sé». Si se le exige contestar siempre, contestará siempre.
- Revisa lo que importa. Cifras, plazos y nombres, antes de mandarlos a nadie.
¿Existe una IA sin alucinaciones?
No. Existen maneras de reducirlas y, sobre todo, de detectarlas: una respuesta con la fuente al lado se comprueba en un minuto. Una sin fuente hay que creérsela.
Cuatro frases. ¿Cuál se ha inventado?
Marca las que te suenen falsas y compruébalo. Aquí cada frase lleva su veredicto para que se vea bien; en un producto, lo normal es que las fuentes vayan debajo de la respuesta entera.
Una IA resume la póliza de hogar
Marca las frases que creas inventadas.
- La franquicia es de 150.Está en el documentoCondiciones particulares
- Cubre daños por agua desde el primer día.Sin fuente: inventadaLas condiciones hablan de daños por agua, pero no de plazos.
- El aviso de siniestro debe darse en siete días.Está en el documentoCondiciones generales
- Incluye asistencia en viaje en toda Europa.Sin fuente: inventadaNingún documento menciona la asistencia en viaje.
- Condiciones particulares.pdf
- Condiciones generales.pdf
Dos frases salen de aquí. Las otras dos, de ningún sitio.
Se abren al comprobar. Hasta entonces, solo tienes cómo suena cada frase.
Sin las fuentes, las cuatro sonaban igual de bien.
Un «no lo sé» bien dicho
Para lo que es propio de tu empresa, Flipa busca en tus documentos antes de afirmar y tiene instrucción de no rellenar con conocimiento general. Las fuentes consultadas van debajo de cada respuesta, no frase a frase, y lo que no sabe queda apuntado. Aun así puede equivocarse: lo que escribe es un borrador.
- Si el dato no está, lo dice sin rodeos.
- Deja el tema anotado para que alguien lo complete.
- Cada fuente se abre para leer el documento.
Dudas razonables sobre las alucinaciones
¿Qué son las alucinaciones de la IA?
Respuestas falsas o sin respaldo que una IA da con total naturalidad: un dato, una fecha o una cita que no existen. El nombre es una metáfora. La máquina no ve visiones: completa un texto con lo que le parece más probable.
¿Por qué la IA se inventa cosas?
Porque está hecha para escribir texto verosímil, no para comprobar hechos. Si no tiene el dato, no se calla salvo que se le haya indicado: sigue la frase con lo que encaja.
¿Cómo evitar las alucinaciones de una IA en el trabajo?
Con cuatro costumbres: darle los documentos de los que debe sacar la respuesta, exigirle la fuente, permitirle decir «no lo sé» y revisar cifras, plazos y nombres antes de usarlos. Ninguna las elimina. Juntas las dejan en algo manejable.
¿Existe alguna IA sin alucinaciones?
No. Las hay que inventan menos, porque consultan documentos y enseñan de dónde sale cada respuesta. Desconfía de quien prometa cero errores.
¿Cómo detecto que una respuesta es inventada?
Por el estilo no se nota. Pregunta de dónde sale el dato y abre la fuente: si no hay documento detrás, trátalo como una suposición. Sospecha más de lo muy concreto, como una cifra redonda, un artículo de ley o una cita literal.
Sigue por aquí
¿Cuándo fue la última vez que una IA te dijo «no lo sé»?
Una que sabe callarse a tiempo merece más confianza que una que siempre tiene respuesta.
Pide acceso