En los últimos años, la adopción de modelos de lenguaje de gran tamaño (LLMs) ha crecido considerablemente en diversas industrias, impulsada por el avance de la inteligencia artificial. Sin embargo, para ampliar las capacidades de estos modelos y aprovechar información actualizada y específica de cada sector, es fundamental integrar fuentes de datos externas. En este sentido, la Generación Aumentada por Recuperación (RAG) ha surgido como una estrategia eficaz para enfrentar estos desafíos.
RAG consiste en buscar información relevante en bases de datos o documentos existentes a partir de la entrada del usuario, incorporando dicha información en la solicitud del LLM. Esto permite generar respuestas más precisas y contextualizadas, lo que se traduce en aplicaciones que van desde el uso de documentación técnica en desarrollo de productos hasta la atención al cliente y sistemas de toma de decisiones fundamentados en datos recientes.
La implementación de RAG ofrece un valor significativo tanto a los proveedores de software como servicio (SaaS) como a sus usuarios. Los proveedores pueden aprovechar una arquitectura multi-tenant, que les permite ofrecer servicios a múltiples clientes desde una sola base de código. A medida que estos inquilinos utilizan el servicio, sus datos se acumulan, protegidos por controles de acceso y aislamiento adecuados. Incorporar capacidades de inteligencia artificial mediante LLMs en este contexto permite personalizar los servicios de IA según los datos específicos de cada cliente.
Un claro ejemplo de esta tendencia se observa en los centros de atención telefónica basados en SaaS. Al acumular registros históricos de consultas y manuales de productos de cada cliente, se generan bases de conocimiento específicas. Mediante un sistema RAG, el LLM puede proporcionar respuestas precisas utilizando estas fuentes, lo que resulta en interacciones altamente contextualizadas que no se lograrían con asistentes de IA estándar. Así, RAG se consolida como un elemento clave para ofrecer experiencias de IA personalizadas, fortaleciendo la diferenciación y el valor de los servicios ofrecidos.
Sin embargo, la utilización de datos específicos de clientes mediante RAG también plantea retos en términos de seguridad y privacidad. La principal preocupación radica en establecer una arquitectura segura que asegure el aislamiento de datos entre distintos inquilinos, evitando filtraciones o accesos no autorizados. En entornos multi-tenant, la seguridad de los datos es un aspecto crítico que impacta la confianza y competitividad de los proveedores de SaaS.
Para facilitar la implementación de RAG, Amazon ha introducido Amazon Bedrock Knowledge Bases. Este servicio utiliza OpenSearch como base de datos vectorial y ofrece dos opciones: Amazon OpenSearch Service y Amazon OpenSearch Serverless, cada una con diferentes características y modelos de permisos que permiten crear entornos multi-tenant. La combinación de JSON Web Token (JWT) y Control de Acceso Basado en Atributos (FGAC) ofrece un enfoque para establecer patrones de aislamiento de inquilinos, asegurando una eficiente gestión del acceso y aislamiento de datos.
El uso de bases de datos y autenticación mediante JWT garantiza el aislamiento de datos en OpenSearch Service, estableciendo una separación clara de permisos. Además, la implementación de RAG permite la búsqueda de información relevante a partir de las consultas de los usuarios, mejorando la calidad y pertinencia de las respuestas proporcionadas por los LLM.
A medida que RAG se vuelve más común en el sector SaaS, los retos asociados a la gestión de datos multi-tenant continúan requiriendo soluciones innovadoras y seguras que no solo protejan información sensible, sino que también maximicen la utilidad de los sistemas de inteligencia artificial. Estos avances representan un paso significativo en la evolución del software y los servicios en la nube, donde la personalización y la seguridad son más críticas que nunca.
