Arquitecturas RAG Corporativas en Burgos — Haz que la IA conozca tu empresa al detalle

Cuando un empleado pregunta al sistema RAG "¿cuál es el protocolo de actuación ante una reclamación de cliente?", el sistema hace dos cosas: primero, busca en la base de documentos de la empresa los fragmentos más relevantes sobre ese tema (retrieval); segundo, usa un modelo de lenguaje para generar una respuesta clara y contextual basada en esos fragmentos (generation). El resultado es una respuesta precisa basada en los documentos reales de la empresa, no en el conocimiento general del modelo.

Los modelos de IA como ChatGPT o Claude conocen el mundo hasta su fecha de corte de entrenamiento, pero no conocen los procedimientos internos de tu empresa, tu catálogo de productos actualizado, tus contratos con proveedores o tus políticas específicas. El RAG resuelve esto: conecta el modelo de IA con tu base de documentos interna para que pueda responder preguntas usando esa información específica, en lugar de responder con conocimiento genérico.

El fine-tuning consiste en reentrenar el modelo con datos de la empresa para que "aprenda" la información específica. Es caro, requiere grandes volúmenes de datos estructurados, y hay que volver a hacerlo cada vez que cambia la información. El RAG no modifica el modelo: conecta un modelo estándar con una base de documentos actualizable. Es más eficiente, más económico, y la base de conocimiento se puede actualizar en tiempo real sin reentrenar el modelo.

Los términos de uso de ChatGPT y de otras IAs públicas contemplan diferentes niveles de privacidad según el plan contratado. En los planes gratuitos y básicos, las conversaciones pueden ser revisadas por el equipo de OpenAI y usadas para mejorar los modelos. Incluso en los planes empresariales con mayores garantías de privacidad, los datos salen de la infraestructura de la empresa y residen en los servidores de un tercero en EE.UU., lo que puede incumplir políticas internas o regulaciones sectoriales específicas.

Con una arquitectura RAG privada, el modelo de IA puede ser el mismo que usa ChatGPT (GPT-4 a través de la API de OpenAI con procesamiento de datos en la UE o directamente mediante contratos de empresa) o puede ser un modelo de código abierto como Llama 3 o Mistral desplegado localmente en la infraestructura de la empresa. En ambos casos, los documentos de la empresa nunca salen de la infraestructura controlada.

El RGPD exige que los datos personales de los ciudadanos de la UE sean procesados con garantías adecuadas. Un sistema RAG on-premise (en los servidores de la empresa) o en VPC (Virtual Private Cloud en centros de datos europeos) garantiza que los datos no salen de la UE y que el control del acceso es total. Esta configuración también es relevante para empresas sujetas a regulaciones sectoriales específicas como el sector financiero, el sanitario o el de defensa.

El primer paso es inventariar todos los documentos que deben formar parte de la base de conocimiento del sistema RAG: manuales técnicos, normativas, procedimientos internos, políticas de empresa, fichas de producto, contratos tipo, FAQs del equipo de atención al cliente, y cualquier otra documentación que el sistema deba ser capaz de consultar. La calidad y completud de esta base de documentos determina directamente la calidad de las respuestas del sistema.

La base de datos vectorial es el componente técnico central del RAG: almacena los documentos en forma de vectores numéricos (embeddings) que representan el significado semántico de cada fragmento de texto. Cuando el usuario hace una pregunta, el sistema busca los vectores más similares semánticamente a la pregunta y recupera los fragmentos correspondientes.

El modelo de lenguaje que genera las respuestas puede ser un modelo accesible vía API con garantías de privacidad (OpenAI con contrato empresarial con datos en la UE, o Anthropic Claude con acuerdo de procesamiento de datos en Europa) o un modelo open-source desplegado localmente (Llama 3, Mistral, Phi) que no envía ningún dato fuera de la infraestructura de la empresa. La elección depende de los requisitos de privacidad, el presupuesto y la capacidad de infraestructura disponible.

Todo el sistema RAG (base de datos vectorial, modelo de IA si es local, capa de API y la interfaz de usuario) se despliega en la infraestructura controlada por la empresa: un servidor on-premise en las instalaciones o un VPS/VPC en un proveedor europeo. Configuramos los accesos seguros mediante HTTPS con autenticación, los backups de la base vectorial, y la monitorización del sistema para garantizar la disponibilidad.

Empresas industriales, de construcción, sanitarias o reguladas de Burgos tienen decenas o cientos de documentos de procedimientos, normativas y manuales técnicos que el equipo necesita consultar con frecuencia. Un sistema RAG convierte esa documentación en una base de conocimiento consultable de forma conversacional: en lugar de buscar en carpetas, el técnico pregunta al sistema y recibe la respuesta exacta con la referencia al documento fuente.

El equipo de atención al cliente necesita acceso rápido a información precisa sobre productos, precios, políticas de devolución, plazos de entrega y FAQs. Un RAG conectado al catálogo de productos y a la documentación de atención al cliente permite al equipo responder cualquier consulta del cliente en segundos, con la información más actualizada, sin tener que buscar en múltiples fuentes.

El departamento de RRHH gestiona una gran cantidad de documentación (contratos tipo, políticas de empresa, manuales de empleado, convenios colectivos, procedimientos de RRHH) que los empleados consultan con cierta frecuencia. Un RAG de RRHH permite a los empleados consultar sus derechos y obligaciones, los procedimientos internos y las políticas de la empresa de forma autónoma, reduciendo la carga del departamento de RRHH en consultas repetitivas.

Los comerciales de empresas con catálogos extensos o con productos técnicamente complejos necesitan acceso rápido a fichas de producto, comparativas con competidores, argumentarios de venta y políticas de precios. Un RAG comercial permite al vendedor, mientras está en una reunión con un cliente, consultar rápidamente información técnica o comercial específica sin tener que interrumpir la reunión para buscarlo en el sistema.

Inventariamos toda la documentación disponible, evaluamos los formatos (PDF, Word, Excel, HTML, bases de datos) y definimos los documentos que deben incluirse en la primera versión del sistema. También definimos la arquitectura técnica: tipo de base de datos vectorial, modelo de IA, tipo de despliegue e interfaz de consulta.

Procesamos los documentos: los convertimos a texto plano si están en formatos no procesables, los dividimos en chunks (fragmentos de tamaño óptimo para la recuperación semántica), generamos los embeddings de cada chunk y los cargamos en la base de datos vectorial. Esta fase puede durar entre 1 y 3 semanas según el volumen y la complejidad de la documentación.

Configuramos el pipeline RAG completo: la búsqueda semántica en la base vectorial, la recuperación de contexto relevante, la generación de respuesta con el modelo de IA, y la capa de API que conecta todo el sistema. Desarrollamos la interfaz de consulta: puede ser un chat web integrado en las herramientas del equipo, una extensión de Slack o Teams, o una API que se integra con el software que ya usa la empresa.

Con el sistema implementado, realizamos pruebas con preguntas reales del equipo para evaluar la calidad de las respuestas: precisión, completud, correcta citación de fuentes y comportamiento ante preguntas sin respuesta en la base de conocimiento. Ajustamos los parámetros del sistema (chunk size, número de fragmentos recuperados, prompts del sistema) según los resultados de las pruebas antes del despliegue definitivo en producción.