Amazon ha lanzado recientemente Amazon Bedrock Agents, una herramienta que permite a las empresas desarrollar aplicaciones de inteligencia artificial generativa de manera ágil, capaz de realizar tareas complejas en variados sistemas y fuentes de datos. Este avance se presenta en un contexto donde, en ciertas regiones y sectores regulados, las normativas de protección de datos han hecho necesario que los servicios de IA generativa se integren en la nube con datos que se mantengan en las instalaciones de las organizaciones.
Para satisfacer esta necesidad, AWS ha ampliado la funcionalidad de Amazon Bedrock Agents, incorporando servicios híbridos y de borde, como AWS Outposts y AWS Local Zones. Esta ampliación facilita la creación de aplicaciones basadas en un modelo de generación aumentada por recuperación (RAG) que utilizan datos locales, una solución particularmente relevante para organizaciones que deben procesar o almacenar información sensible, tal como datos personales identificables (PII).
La combinación de estos servicios híbridos y de borde no solo brinda escalabilidad y flexibilidad, típicas de la nube de AWS, sino que también permite a las empresas mantener la capacidad de procesamiento local y de baja latencia, lo que es fundamental para un adecuado cumplimiento normativo. La estructura para implementar estas soluciones se clasifica en dos patrones principales: el RAG completamente local y el RAG híbrido. En el primer caso, se usa una instancia local alojada en un rack de Outposts para gestionar el modelo de lenguaje grande (LLM) y las bases de datos de conocimiento, asegurando que la información sensible no salga de las instalaciones. En el enfoque híbrido, se permite la operación de modelos de IA en diversas ubicaciones, combinando el uso de la nube con entornos locales, garantizando que los datos regulados se mantengan dentro de límites específicos.
El uso de Amazon Bedrock Agents permite la creación y configuración de agentes autónomos que facilitan la interacción con modelos, fuentes de datos y aplicaciones de software. Un ejemplo práctico de esta funcionalidad se observa en un chatbot de servicio al cliente de un minorista de calzado, que utiliza una base de conocimiento local para responder a preguntas específicas sobre la fabricación de zapatos, mientras que las consultas generales son gestionadas a través de la infraestructura en la nube.
AWS reafirma su compromiso de ayudar a las organizaciones a implementar soluciones de IA generativa que cumplan con las regulaciones de privacidad y seguridad, habilitándolas para aprovechar la innovación sin comprometer sus datos sensibles. La posibilidad de ejecutar modelos cerca de los dispositivos y usuarios finales no solo mejora la latencia, sino que también fortalece la privacidad, impulsando así la eficiencia operativa y el cumplimiento normativo.
