Qué significa realmente 'alucinación' cuando una IA le responde
Un término que escuchará seguido al usar asistentes de IA, explicado sin tecnicismos: qué es una alucinación, por qué ocurre y cómo revisar una respuesta antes de confiar en ella.
5 min de lectura
Una palabra rara para algo bastante simple
Cuando alguien habla de que una inteligencia artificial 'alucina', no quiere decir que la máquina vea cosas ni que esté descompuesta. Se refiere a algo mucho más cotidiano: el asistente le entrega una respuesta que suena segura, ordenada y convincente, pero que contiene datos falsos o inventados. Puede ser una fecha equivocada, una ley que no existe, un libro que nadie escribió o una receta con una cantidad imposible.
En mis clases de smartphone y seguridad, esta es una de las primeras palabras que explico, porque cambia la manera de leer cualquier respuesta. Quien piensa que un asistente de IA es como una enciclopedia tiende a creerle todo. Quien entiende qué es una alucinación lo trata como a una persona muy conversadora y simpática: útil para conversar y ordenar ideas, pero a quien conviene preguntarle '¿y cómo lo sabe?' antes de tomar decisiones importantes.
Por qué ocurre: el asistente completa, no consulta
Un asistente de IA no busca la respuesta en un libro guardado ni en una ficha con datos verificados. Lo que hace es construir el texto palabra por palabra, escogiendo en cada paso la continuación que le parece más probable según todo lo que aprendió leyendo enormes cantidades de escritos. Es parecido a cuando usted termina de memoria un refrán que alguien empezó: suena bien, encaja, pero nadie comprobó que sea exacto.
Por eso el asistente rara vez dice 'no lo sé'. Prefiere completar la frase de forma razonable. Si usted le pregunta por un trámite poco común, por una persona poco conocida o por una cifra muy específica, hay más posibilidades de que rellene los huecos con algo que parece verdadero. No lo hace con mala intención: simplemente así funciona, y conocerlo le ahorra más de un mal rato.
Señales de que una respuesta merece una segunda mirada
No existe una señal infalible, pero con la práctica se aprende a desconfiar a tiempo. Las respuestas con números muy exactos, nombres propios, citas textuales, direcciones, montos o referencias a leyes y artículos concretos son las que más conviene revisar. También las que llegan demasiado redondas, sin ningún matiz, para una pregunta que en la vida real tiene excepciones.
Otra señal es que el asistente cambie de versión. Si usted repite la misma pregunta con otras palabras y obtiene una respuesta distinta, al menos una de las dos está fallando. En los talleres les pido a los alumnos que hagan justo ese ejercicio: preguntar dos veces lo mismo y comparar. Casi siempre aparece alguna diferencia, y esa diferencia es la pista de dónde hay que verificar con más cuidado.
- Cifras, fechas y montos muy precisos
- Nombres de leyes, libros o personas poco conocidas
- Respuestas distintas ante la misma pregunta
- Tono totalmente seguro en un tema con excepciones
Cómo revisar una respuesta paso a paso
El método que enseño es corto y no requiere conocimientos técnicos. Primero, separe lo que es opinión o redacción de lo que es un dato. Un borrador de carta o una lista de ideas no necesita verificación rigurosa; un horario, un requisito de un trámite o una dosis sí. Segundo, tome ese dato y búsquelo en la fuente oficial: el sitio de la institución, el documento original o un llamado directo.
Tercero, pídale al propio asistente que le indique de dónde sacó la información, y trate esa respuesta con la misma cautela, porque también puede inventarla. Cuarto, si el tema es delicado, como dinero, salud o asuntos legales, use la IA solo para entender el problema y formular preguntas, y deje la decisión para una persona o un organismo que pueda responder por lo que dice.
- Distinga redacción de datos concretos
- Contraste el dato en la fuente oficial
- Desconfíe de las 'fuentes' que el propio asistente cita
- En temas delicados, use la IA solo para preparar preguntas
Cómo preguntar para que se equivoque menos
La forma de preguntar influye. Una consulta vaga como 'cuénteme sobre pensiones' invita a que el asistente rellene con generalidades. En cambio, si usted aporta contexto, pide que separe lo que sabe de lo que supone, y le permite responder 'no tengo información suficiente', las respuestas suelen ser más sobrias y más fáciles de revisar.
También ayuda pedir tareas acotadas. Redactar un correo con los datos que usted mismo le entrega es un trabajo en el que el asistente casi no puede inventar, porque la información ya está en la conversación. Pedirle, en cambio, que recuerde de memoria un reglamento es el terreno donde más se equivoca. Mientras más material propio le dé, menos espacio queda para las invenciones.
- Dé contexto y datos propios
- Pida que diga cuando no está seguro
- Prefiera tareas de redacción u orden
Un ejemplo de clase, con calma
En una sesión reciente, una alumna le pidió a un asistente el horario de atención de un servicio público de su comuna. La respuesta fue clara, con días y horas detalladas. Le sugerimos aplicar el método: buscar el sitio oficial. El horario real era distinto, y nadie se molestó ni se asustó; simplemente comprobamos cómo funciona la herramienta.
Después le pedimos al mismo asistente que redactara un mensaje para ese servicio, usando el horario correcto que ella misma le entregó. El resultado fue excelente. Esa diferencia resume el curso de inteligencia artificial: la herramienta es muy buena escribiendo y ordenando, y poco confiable como fuente única de datos. Saber en cuál de los dos papeles la está usando es la mitad de la habilidad.
Una alucinación no es un fallo misterioso, sino una consecuencia de cómo se construyen estas respuestas: el asistente completa texto, no consulta un archivo verificado. Con tres hábitos, distinguir redacción de datos, contrastar lo importante en la fuente oficial y darle contexto propio, puede aprovechar la IA con tranquilidad y sin sorpresas desagradables. Aprender a dudar un poco no resta utilidad a la herramienta; la vuelve mucho más segura de usar.
Rodrigo Valenzuela
Instructor de smartphone y seguridadIngeniero en informática especializado en seguridad básica para usuarios no técnicos. Le gusta traducir lo complejo a lenguaje simple.