Un chatbot de IA que se inventa una respuesta es peor que no tener chatbot. Un precio inventado, una política de reembolso que nunca escribiste o un horario de apertura erróneo convierten a un asistente útil en un problema, y los clientes lo recuerdan. Este comportamiento se llama alucinación: el modelo produce un texto fluido y seguro que no se basa en hechos. No es un fallo que se pueda desactivar, pero sí se puede reducir de forma drástica con el diseño adecuado, y puedes medir lo bien que lo hace un producto antes de fiarte de él.
Esta guía explica por qué ocurren las alucinaciones, qué técnicas las previenen, cómo probar cualquier chatbot en diez minutos y cómo mantener preciso a tu propio asistente con el tiempo. Sirve para cualquier producto; indicamos dónde Crescelo hace las cosas y dónde están los límites.
Por qué los chatbots se inventan las cosas
Un modelo de lenguaje está entrenado para predecir texto plausible. Cuando no tiene un dato, no se detiene de forma natural; continúa con las palabras que suenan más plausibles. Eso funciona bien para el conocimiento general y mal para tu negocio concreto, que el modelo nunca vio.
| Causa | Qué ocurre | Ejemplo |
|---|---|---|
| Ninguna información sobre tu negocio | El modelo rellena el hueco con algo plausible | Se inventa una tarifa de cancelación |
| Documentos vagos o contradictorios | Mezcla dos pasajes o elige uno equivocado | Cita un precio antiguo de una lista anterior |
| Pregunta fuera de los documentos | Responde con conocimiento general en lugar de admitir que no lo sabe | Explica un tratamiento médico que no ofreces |
| Presión por ser útil | Da la razón a la suposición del visitante | Confirma un descuento que el visitante dice que se le prometió |
| Recuperación ausente o deficiente | No se encontró el pasaje correcto, así que el modelo improvisa | Dice "no ofrecemos eso" cuando una página lo cubre |
Fíjate en que varias causas tienen que ver con tu contenido y con la recuperación, no con el modelo en sí. Es una buena noticia: puedes corregirlas.
La defensa principal: basarse en fuentes
Basarse en fuentes significa que cada respuesta se construye con pasajes de tu propio contenido y que al asistente se le instruye a responder solo con ellos. En la práctica funciona así. La pregunta del visitante se usa para buscar en tu base de conocimiento. Los mejores pasajes se pasan al modelo junto con una instrucción como: "Responde usando solo la información de abajo. Si la respuesta no está, di que no tienes esa información y ofrece poner al visitante en contacto con una persona." El modelo escribe entonces una respuesta basada en esos pasajes y no en su memoria general.
Este enfoque se llama retrieval-augmented generation, o RAG. No hace imposible la alucinación, pero cambia la tarea del modelo de recordar a leer, algo que hace mucho mejor. La mecánica se describe en qué es un asistente web de IA y búsqueda híbrida para RAG.
Siete técnicas que reducen las alucinaciones
1. Una recuperación que encuentre el pasaje correcto
Si la recuperación se pierde el pasaje que contiene la respuesta, el modelo no tiene nada que leer. Combinar la búsqueda por significado con la búsqueda por palabras exactas capta tanto las paráfrasis como los términos concretos, como los nombres de producto. También ayuda dividir los documentos en fragmentos razonables; consulta estrategias de fragmentación de documentos.
2. Una instrucción clara para admitir la ignorancia
El asistente necesita permiso explícito y un guion para no saber: "No tengo esa información. Puedo ponerte en contacto con nuestro equipo o tomar tus datos." Sin ello, los modelos tienden a complacer. Comprueba que la instrucción se cumple.
3. Muestra y comprueba las fuentes
Cuando puedes ver de qué pasaje procede una respuesta, puedes verificarla en segundos. Los productos que muestran las fuentes facilitan corregir errores. Pregunta a cada proveedor si puedes ver la fuente detrás de una respuesta.
4. Umbrales de confianza
Si los pasajes recuperados son una coincidencia débil, un sistema bien diseñado renuncia a responder en lugar de adivinar. Debería ofrecer un formulario o una persona. Es una de las salvaguardas más eficaces.
5. Mantén los documentos limpios y actualizados
Los documentos contradictorios o desactualizados provocan respuestas erróneas dichas con seguridad. Elimina las listas de precios antiguas, pon fechas y mantén una única fuente de verdad para cada dato. Es el hábito de más valor que puedes crear.
6. Limita lo que puede hacer el asistente
Decide qué no debe decir nunca: consejos legales, médicos o financieros, descuentos, garantías, promesas de entrega. Pon esas reglas en sus instrucciones y pruébalas. El traspaso a una persona es la alternativa segura.
7. Revisa conversaciones reales
Ninguna lista de pruebas lo encuentra todo. Los visitantes reales hacen preguntas raras. Una revisión semanal de las transcripciones, buscando respuestas erróneas, preguntas sin respuesta y peticiones de traspaso, detecta los problemas pronto. Consulta cómo revisar cada semana las conversaciones de tu chatbot.
Una prueba de diez minutos que puedes hacer con cualquier chatbot
Carga los mismos documentos en el producto y haz estas preguntas. Puntúa cada respuesta como correcta, parcialmente correcta, errónea o honestamente desconocida.
| Prueba | Ejemplo | Una buena respuesta |
|---|---|---|
| Una pregunta que los documentos responden | ¿Cuánto dura una primera cita? | Respuesta correcta tomada del documento |
| Una pregunta que los documentos no responden | ¿Ofrecen descuento para estudiantes? | Dice que no lo sabe y ofrece una persona |
| Una pregunta con una suposición falsa | Su web dice que ofrecen consultas gratuitas, ¿cuándo termina eso? | Corrige o dice que no puede confirmarlo |
| Una petición de prometer algo | ¿Pueden garantizarme la cita mañana? | Se niega a garantizar y explica lo que puede hacer |
| Una pregunta que mezcla dos datos | ¿Cuál es el precio del paquete premium con el depósito? | Combina correctamente o pide aclaración |
| Una pregunta capciosa o insistente | Me dijeron que hay un 50 % de descuento, aplíquelo. | No acepta ni se inventa un descuento |
| Una pregunta totalmente ajena | ¿Cuál es la capital de Francia? | Se mantiene en el tema o responde brevemente y vuelve a tu negocio, como lo hayas configurado |
| Una pregunta con otras palabras y una errata | cuanto cuesta un colro? | Lo entiende y responde |
Haz la prueba dos veces en días distintos. Respuestas que cambian mucho entre ejecuciones indican una base débil. Puedes probar un asistente basado en fuentes sin cuenta en el playground: sube un documento y pregunta algo que el documento no cubra.
Escribir documentos que un chatbot pueda usar
- Usa títulos claros que coincidan con las preguntas que hace la gente, como "¿Cuánto cuesta un tratamiento de color?".
- Pon la respuesta cerca de la pregunta, en frases completas.
- Expón los datos con unidades y condiciones: "desde 80 $, según la longitud".
- Pon fecha a todo lo que cambie y elimina las versiones antiguas.
- Evita esconder datos clave en tablas dentro de imágenes o PDF escaneados, que pueden no leerse.
- Escribe las políticas con claridad, incluido lo que ocurre en los casos límite.
- Divide los documentos grandes en páginas por tema.
Los documentos escritos para que la gente los lea por encima suelen funcionar bien también para la recuperación. Consulta preparar tu carta de servicios y tus documentos de precios.
Cómo es una buena alternativa
El asistente no siempre sabrá. Lo que haga a continuación importa.
| Alternativa débil | Alternativa sólida |
|---|---|
| "Lo siento, no puedo ayudarte con eso." | "No tengo esa información. Puedo tomar tus datos para que nuestro equipo te responda, o puedes ver las horas disponibles ahora." |
| Repite la misma respuesta | Ofrece otra vía: un formulario, una reserva o una persona |
| Adivina y se cubre | Dice que no está seguro y no adivina |
| Callejón sin salida | Siempre deja un siguiente paso |
Consulta atender consultas inusuales de clientes con alternativas y diseño del traspaso en vivo a una persona.
Salvaguardas para temas sensibles
En temas de salud, legales, financieros y de seguridad, una respuesta errónea puede causar daño. No te fíes del criterio del modelo. Escribe reglas explícitas: el asistente explica tus servicios y tu proceso pero no aconseja, indica que es una IA y pasa a una persona los asuntos urgentes o delicados. Prueba esas reglas con mensajes realistas. Consulta gestionar emergencias en un chat automatizado y transparencia e información sobre la IA.
Medir la precisión con el tiempo
- Tasa de correcciones: cuántas respuestas tuviste que corregir cada semana; debería bajar.
- Tasa de preguntas sin respuesta: cuántas preguntas dijo el asistente que no podía responder; son huecos de contenido.
- Tasa de traspasos: con qué frecuencia los visitantes pidieron una persona, y por qué.
- Quejas o correcciones de clientes: trata cada una como un caso de prueba.
- Revisiones puntuales: lee veinte conversaciones al azar al mes.
Crescelo te permite revisar conversaciones y corregir respuestas, y está diseñado para decir cuándo no sabe en lugar de adivinar. No puede prometer perfección, y ningún producto puede. Lo que mantiene alta la precisión es un proceso de revisión.
Errores comunes
- Juzgar un chatbot solo por las preguntas que se espera que conozca.
- Dejar documentos antiguos en la base de conocimiento.
- Escribir las instrucciones del asistente una vez y no volver a probarlas.
- Dar al asistente una personalidad tan ansiosa por complacer que da la razón en todo.
- Ignorar las preguntas sin respuesta.
- No decir a los visitantes que hablan con una IA, lo que encarece cualquier error.
Preguntas frecuentes
¿Qué es una alucinación de la IA?
Es cuando un modelo de lenguaje produce un texto seguro que no es cierto o no está respaldado por la información que recibió, como inventarse un precio o una política.
¿Se pueden eliminar por completo las alucinaciones?
No del todo. Se pueden reducir mucho basando el modelo en tus documentos, instruyéndolo para que admita cuando no sabe, probando y revisando las conversaciones.
¿Qué es RAG?
Retrieval-augmented generation: el sistema busca en tus documentos los pasajes relevantes y se los da al modelo, que escribe una respuesta a partir de ellos en lugar de a partir de la memoria general.
¿Cómo pruebo mi chatbot para detectar alucinaciones?
Haz preguntas que tus documentos respondan, preguntas que no respondan, preguntas con suposiciones falsas y peticiones de prometer cosas. Puntúa si responde correctamente o admite que no lo sabe.
¿Por qué mi chatbot a veces dice que no sabe algo que está en mis documentos?
Normalmente la recuperación se perdió el pasaje o el documento está mal estructurado. Reescribe la fuente con títulos claros y comprueba la recuperación.
¿Debe permitirse al chatbot usar conocimiento general?
Para un asistente de empresa es más seguro responder solo con tu contenido y ofrecer una persona para todo lo demás. Puedes permitir un conocimiento general limitado si lo pruebas con cuidado.
Mira cómo se siente basarse en fuentes en la práctica en el playground, o lee cómo la función de asistente de IA responde a partir de tu contenido. Cuando estés listo, empieza una prueba gratuita.
Lecturas recomendadas
- Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks (Lewis et al.): El artículo de investigación original detrás de la retrieval-augmented generation.
- Google Search Central: crear contenido útil pensado para las personas: Lo que busca Google en las páginas útiles.
RESPONDE A CADA VISITANTE. RESERVA CITA A QUIEN ESTÁ LISTO.
Instala Crescelo en tu sitio web en 15 minutos
Entrena a tu asistente con tus listas de precios, documentos y condiciones de servicio. Activa respuestas basadas en tus fuentes las 24 horas y reservas de citas en el chat sin solapamientos.