Las alucinaciones de un modelo de lenguaje son respuestas que suenan correctas pero no lo son. El sistema afirma un dato que no existe, cita una política que nadie escribió o inventa un plazo con total seguridad. No hay engaño, porque el modelo no sabe que se equivocó. La causa está en su diseño: predice la continuación más probable de un texto, no consulta una base de datos. Cuando le falta el dato, la continuación más probable sigue siendo una frase bien formada. Para un negocio eso no es una curiosidad técnica, ya que un precio inventado genera un reclamo y una garantía inventada genera un problema legal. Aquí verás por qué ocurren, las seis medidas que las acotan en un asistente de empresa cómo medirlas con conversaciones reales y qué tres decisiones tomar por escrito antes de abrir el canal.

¿Qué son las alucinaciones de la IA?

Las alucinaciones de un modelo de lenguaje son respuestas que suenan correctas pero no lo son. El sistema afirma un dato que no existe, cita una política que nadie escribió o inventa un plazo con total seguridad. No hay engaño: el modelo no sabe que se equivocó.

La razón está en cómo funciona por dentro. Un modelo de lenguaje predice la continuación más probable de un texto, no consulta una base de datos. Es decir, está optimizado para producir algo plausible, no algo verificado. Cuando le falta el dato, la continuación más probable sigue siendo una frase bien formada, y ahí aparece el invento.

Para un negocio esto no es una curiosidad técnica. Un asistente que inventa un precio genera un reclamo; uno que inventa una condición de garantía genera un problema legal. Por eso las alucinaciones se tratan como un riesgo operativo, con controles, y no como un defecto que se arregla esperando un modelo mejor.

¿Por qué ocurren?

Las causas habituales son cinco, y cada una se corrige distinto:

• No tiene el dato. La información nunca estuvo en su entrenamiento ni se le entregó en la consulta.
• La pregunta es ambigua. El modelo rellena lo que falta con lo que le parece más probable.
• La fuente está desactualizada. Responde con la tarifa del año pasado porque es la que conoce.
• Se le pide un formato rígido. Si le exiges una tabla de diez filas y solo hay seis datos, completa las otras cuatro.
• La instrucción premia responder siempre. Cuando no se le autoriza a decir «no lo sé», dice cualquier cosa.

La quinta es la más frecuente en implementaciones reales y la más fácil de arreglar. Mucha gente escribe instrucciones que exigen amabilidad y resolución, sin dejar una salida honesta. En cambio, un asistente al que se le permite admitir que no tiene el dato alucina mucho menos.

¿Cómo se controlan en un asistente de empresa?

No existe un interruptor que las apague, aunque sí una combinación de medidas que baja mucho el riesgo. Estas son las que aplicamos, ordenadas por efecto:

La primera medida es la de mayor impacto y tiene nombre propio: recuperación de documentos antes de responder. Cómo se monta está en qué es RAG. La cuarta es la que más se olvida: mientras el precio viva en una captura de pantalla, el asistente siempre podrá dar uno viejo.

¿En qué casos duelen más?

No todas pesan igual. Conviene saber dónde una respuesta inventada pasa de molestia a problema, porque ahí van los controles más estrictos:

• Precios y descuentos. Un monto inventado se convierte en una discusión con el cliente, o en una venta a pérdida.
• Plazos de entrega. Prometer para el martes algo que sale el viernes genera un reclamo seguro.
• Garantías y devoluciones. Son condiciones contractuales, de modo que una invención puede obligar a la empresa.
• Información médica o legal. Aquí ninguna respuesta automática debería salir sin revisión.
• Disponibilidad y stock. Es el caso donde más alucinaciones aparecen, porque el dato cambia cada hora.

En esos cinco temas la regla que usamos es la misma: el asistente consulta el sistema en vivo o no responde. Si no hay integración posible, deriva. Las alucinaciones en estos puntos cuestan más que la demora de pasar la conversación a una persona.

¿Cómo se miden las alucinaciones?

Se miden revisando conversaciones reales, no con una sensación. El método que funciona es simple y no requiere herramientas especiales.

Primero, arma un banco de preguntas con las dudas que de verdad llegan, incluidas las incómodas. Segundo, incluye a propósito preguntas cuya respuesta no está en tus documentos: ahí se ve si el asistente admite el límite o inventa. Tercero, revisa cada respuesta marcando tres estados: correcta, incompleta o inventada. Y cuarto, repite el mismo banco después de cada cambio, para comparar contra la misma vara.

Ese segundo punto es el que más información da. Un asistente que acierta en lo que sabe pero inventa en lo que no sabe es más peligroso que uno impreciso, porque nadie desconfía de él. Para el marco conceptual, la documentación de referencia sobre alucinaciones de la IA resume bien las causas y los métodos de mitigación.

¿Qué asumir antes de abrir el canal?

Conviene decidir tres cosas por escrito antes de que el asistente hable con un cliente. Qué temas no toca nunca, aunque tenga el dato. Qué pasa cuando no sabe: deriva, agenda o toma el recado. Y quién revisa las conversaciones cada semana.

Con esas tres decisiones el riesgo deja de ser difuso y se vuelve manejable. Sin ellas, el proyecto depende de la suerte. El resto del criterio de implementación lo vemos en la guía de chatbots para empresas.

En Aigenza limitamos los agentes a la documentación del cliente, exigimos cita de fuente y dejamos por escrito qué deriva a una persona. Puedes ver el enfoque en chatbot con inteligencia artificial.

En resumen, las alucinaciones de la IA no se eliminan: se acotan con fuente propia, permiso de decir «no lo sé» y revisión semanal. Un asistente que admite su límite vale mucho más que uno que siempre responde.

Preguntas frecuentes

¿Los modelos nuevos ya no alucinan?

Alucinan menos que los anteriores, aunque el problema no desaparece, porque es parte de cómo generan texto. Por eso los controles siguen siendo necesarios incluso con los modelos más recientes.

¿Puedo prohibirle que invente?

Puedes reducirlo mucho con instrucciones claras y una fuente acotada. Sin embargo, una instrucción sola no basta: hace falta además que el dato correcto esté disponible cuando responde.

¿Qué hago si un cliente recibió un dato falso?

Corrige con el cliente primero y después busca la conversación para ver de dónde salió. Casi siempre el origen es un documento viejo que nadie retiró, de modo que la solución es de contenido.

¿Conviene avisar que atiende una IA?

Sí, y además baja el riesgo. Cuando la persona sabe que habla con un asistente, verifica lo importante y acepta mejor el traspaso a un humano.