Un tribunal canadiense rechazó el argumento de que un chatbot es "una entidad separada". Lo que diga tu bot lo dice tu empresa. Así se reduce el riesgo.
En febrero de 2024, un tribunal de Columbia Británica (Canadá) resolvió el caso Moffatt v. Air Canada. El chatbot de la aerolínea le había dicho a un pasajero que podía pedir una tarifa con descuento por duelo después de viajar. No era así. Air Canada argumentó que el chatbot era una entidad legal separada, responsable de sus propios actos. El tribunal lo rechazó: "Debería ser obvio para Air Canada que es responsable de toda la información de su sitio web" (traducción nuestra), y ordenó pagar CAD 812,02 (McCarthy Tétrault; CTV News). La suma es pequeña. La lección para cualquier chatbot con IA para empresas, no.
Qué es RAG en inteligencia artificial, explicado sin tecnicismos
Un chatbot genérico responde con lo que "aprendió" en internet. Un chatbot con RAG (generación aumentada por recuperación) primero busca en tus documentos (manuales, políticas, catálogos, preguntas frecuentes) y luego redacta la respuesta apoyado en lo que encontró. Por eso es la base de un chatbot que responde con documentos de la empresa: habla de tus precios y tus políticas, no de los de otro.
Por qué aún puede equivocarse (las alucinaciones de la IA)
- El documento puede estar desactualizado o ser ambiguo.
- El sistema puede recuperar el fragmento equivocado.
- El modelo puede completar con algo que suena bien pero no está en el documento.
Un estudio de Stanford y Yale evaluó herramientas jurídicas comerciales basadas en RAG que se promocionaban como libres de alucinaciones. Con las versiones de 2024, alucinaron entre el 17 % y el 33 % de las veces: menos que un modelo general, pero no cero (Magesh et al.). Los proveedores cuestionaron la metodología, pero el punto central se sostiene: RAG reduce, no elimina.
¿Quién responde si el chatbot se equivoca?
La empresa. El caso Air Canada lo dejó claro: "No hace ninguna diferencia si la información viene de una página estática o de un chatbot" (traducción nuestra). En Colombia no encontramos un caso equivalente. Lo que sí existe es la Circular Externa 002 de 2024 de la SIC, con lineamientos para tratar datos personales en sistemas de IA bajo el principio de responsabilidad demostrada (Portafolio). La explicamos en Protección de datos e inteligencia artificial: lo que la SIC ya exige. La conclusión práctica es la misma: lo que diga tu bot lo dice tu marca.
5 controles para que tu chatbot no invente
- Base documental curada y vigente. El bot responde con documentos aprobados y con fecha; lo viejo se retira.
- Permiso para decir "no sé". Si no encuentra respaldo suficiente, lo dice y ofrece otra vía.
- Cita la fuente. Indica de qué documento sale la respuesta, para que el cliente o tu equipo puedan verificar.
- Pruebas antes de salir. Un banco de preguntas reales, con respuestas esperadas, que se repite cada vez que cambia algo.
- Paso a una persona. Temas sensibles (precios especiales, reclamos, datos personales) escalan a tu equipo con el historial.
Estos controles aplican igual si el bot vive en tu web o es un chatbot para WhatsApp. Si además vendes por ese canal, mira cómo reunir WhatsApp, Instagram y TikTok en una sola bandeja.
Dónde conviene un chatbot con IA (y dónde no)
Conviene cuando hay muchas preguntas repetitivas con respuesta documentada: horarios, requisitos, estado de un trámite, políticas de cambio, características de un producto o preguntas internas sobre manuales y procedimientos.
No conviene dejarlo solo cuando la respuesta exige criterio o tiene consecuencias legales o económicas importantes: reclamos, excepciones a una política, precios negociados, diagnósticos o asesoría jurídica. Ahí el bot debe recoger la información y pasar el caso a una persona.
Cómo probarlo antes de salir: el banco de preguntas
- Reúne 50 a 100 preguntas reales de tus canales: correos, WhatsApp, llamadas transcritas.
- Escribe la respuesta correcta de cada una y el documento que la respalda.
- Incluye preguntas trampa: temas que no están en tus documentos, para comprobar que el bot dice "no sé".
- Corre el banco y revisa respuesta por respuesta: correcta, incompleta, inventada.
- Repite el banco cada vez que cambies documentos, precios o políticas.
Lleva el registro de los resultados. Esa es tu evidencia de control frente a tus clientes y, si llega a hacer falta, frente a una autoridad.
Qué preguntarle a tu proveedor
- ¿De qué documentos responde el bot y quién decide cuáles entran y cuándo se actualizan?
- ¿Qué hace cuando no encuentra respaldo suficiente? Pídele que te lo muestre en vivo.
- ¿Puede indicar de qué documento sale cada respuesta?
- ¿Cómo se prueba antes de salir a producción y cada cuánto se repite la prueba?
- ¿Qué temas pasan automáticamente a una persona y con qué información?
- ¿Dónde se almacenan tus documentos y las conversaciones? ¿Se usan para entrenar modelos de terceros?
Si la respuesta a todo es "nuestro sistema no se equivoca", ya tienes una respuesta.
Un buen chatbot sabe cuándo pasar el caso
Un buen chatbot no es el que promete no equivocarse nunca. Es el que se equivoca poco, lo admite y le pasa el caso a una persona a tiempo. Conoce el Chatbot de IA con RAG de TUBISNES y pregúntanos cómo lo probamos antes de salir a producción: Contacto.
Preguntas frecuentes
¿Qué es un chatbot RAG y en qué se diferencia de ChatGPT?
Un chatbot RAG busca primero en los documentos de tu empresa (manuales, políticas, catálogos) y responde apoyado en ellos. Un asistente general como ChatGPT responde con su conocimiento general, sin tus políticas ni tus precios. Por eso RAG es la base de un chatbot con IA para empresas.
¿Un chatbot con RAG puede inventar respuestas?
Puede, aunque mucho menos que un modelo general. IBM explica que RAG reduce el riesgo de alucinaciones, pero no hace a un modelo a prueba de errores. Por eso hay que sumar controles: documentos vigentes, permiso para decir "no sé", citas a la fuente, pruebas y paso a una persona.
¿Quién responde si el chatbot da información equivocada?
La empresa. En el caso Moffatt v. Air Canada (2024), un tribunal canadiense rechazó que el chatbot fuera una entidad separada y obligó a la aerolínea a pagar. En Colombia aplica la Circular 002 de 2024 de la SIC sobre IA y datos personales. Consulta a tu asesor jurídico para tu caso.
¿Qué pasa si el chatbot no encuentra la respuesta en mis documentos?
Un chatbot bien configurado lo dice abiertamente y ofrece otra vía: dejar el caso a un asesor, agendar una llamada o enviar el enlace correcto. Pide al proveedor que te muestre ese comportamiento en la demo con preguntas que no estén en tus documentos.
¿Puedo usar un chatbot con RAG en WhatsApp?
Sí. El mismo motor que responde con tus documentos puede atender en tu web o como chatbot para WhatsApp, siempre que se conecte a través de la plataforma oficial de WhatsApp Business. Los controles contra errores deben ser los mismos en todos los canales.
¿Mis documentos se usan para entrenar modelos públicos?
Según TUBISNES, la información se procesa en entornos aislados y no se usa para entrenar modelos de lenguaje públicos. Pide que esto quede por escrito en el contrato, junto con dónde se almacenan los datos y quién tiene acceso, en línea con la Ley 1581 de 2012.