Las empresas que operan en el campo del Software como Servicio (SaaS) y gestionan múltiples inquilinos se enfrentan a un desafío crucial: cómo extraer información significativa de vastas colecciones de documentos sin incurrir en costos excesivos. Estos problemas son comunes, ya que los enfoques tradicionales a menudo resultan en gastos innecesarios relacionados con recursos de almacenamiento y procesamiento que no se utilizan de manera eficiente. La falta de una estrategia adecuada puede afectar tanto la eficiencia operativa como la rentabilidad de las organizaciones.
Los sistemas convencionales de Recuperación Aumentada por Generación (RAG) tienden a consumir recursos valiosos manteniendo embeddings de documentos que nunca son consultados. Esto genera costos de almacenamiento elevados y reduce la efectividad del sistema. Además, los sistemas diseñados para manejar un gran número de inquilinos pequeños o medianos pueden superar los umbrales de estructura de costos e infraestructura, requiriendo a veces implementaciones aisladas para garantizar la separación de datos de cada inquilino. Por si fuera poco, la naturaleza transitoria de muchos proyectos significa que los datos pueden ocupar espacio en sistemas que podrían ser aprovechados por otros inquilinos activos.
Para abordar estos retos, se ha propuesto una solución innovadora: una base de conocimiento justo a tiempo que optimiza el consumo de recursos mediante un procesamiento inteligente de documentos. Esta nueva metodología implica que los documentos solo se procesan cuando realmente son necesarios, con una eliminación automática de recursos no utilizados, permitiendo a las organizaciones ampliar sus repositorios de documentos sin incrementar de manera desproporcionada los costos de infraestructura.
Este enfoque incluye una arquitectura multi-inquilino y límites configurables, facilitando a los proveedores de servicios ofrecer modelos de precios escalonados mientras preservan la estricta separación de datos. La expiración automática de documentos, gestionada a través del Tiempo de Vida (TTL), garantiza que el sistema se mantenga centrado en contenido relevante, mientras que la actualización del TTL para documentos de acceso frecuente optimiza el rendimiento general del sistema. También se incluyen restricciones sobre la cantidad de archivos que cada inquilino puede agregar y la frecuencia de las consultas en un conjunto específico de archivos.
Diseñada con tecnologías serverless, esta solución busca reducir la carga operativa y ofrecer escalabilidad automática, permitiendo que los equipos se enfoquen en la lógica del negocio en lugar de en la gestión de la infraestructura. La organización de documentos en grupos, con filtrado basado en metadatos, mejora la efectividad de las consultas, proporcionando resultados más relevantes y manteniendo la seguridad de los datos entre inquilinos.
En resumen, la propuesta de una base de conocimiento justo a tiempo ha transformado la gestión de documentos entre múltiples inquilinos al procesar únicamente aquellos que son consultados, logrando así reducir el consumo innecesario de recursos en comparación con los sistemas RAG tradicionales. Esta implementación, que utiliza tecnologías avanzadas como Amazon Bedrock y OpenSearch Serverless, crea un sistema ágil y eficiente que se adapta a las necesidades dinámicas de los proveedores SaaS.
