Hoy se han presentado los nuevos modelos de razonamiento de NVIDIA: Llama 3.3 Nemotron Super 49B V1 y Llama 3.1 Nemotron Nano 8B V1, que ya están disponibles a través de Amazon Bedrock Marketplace y Amazon SageMaker JumpStart. Estos avances permiten a las organizaciones desarrollar y escalar eficazmente sus ideas de inteligencia artificial generativa en la plataforma AWS.
Uno de los aspectos más destacados de estos modelos es la integración de los micronservicios de inferencia NVIDIA NIM, que facilitan el despliegue de soluciones de IA generativa mediante servicios gestionados de AWS. Esto permite a los desarrolladores integrar aplicaciones de IA con facilidad, utilizando solo un comando o unas pocas líneas de código.
El modelo Llama 3.3 Nemotron Super 49B V1 destaca por su optimización, utilizando una técnica de Búsqueda de Arquitectura Neuronal (NAS), lo que reduce su huella de memoria y mejora la eficiencia. Este modelo es capaz de gestionar contextos de hasta 128,000 tokens, lo que resulta ideal para tareas complejas como la generación aumentada de datos y la invocación de herramientas. Por otro lado, el Llama 3.1 Nemotron Nano 8B V1, aunque más compacto, ofrece capacidades similares, permitiendo ser utilizado localmente.
Amazon Bedrock Marketplace proporciona una plataforma unificada y segura donde las organizaciones pueden acceder a modelos de IA, facilitando la búsqueda de soluciones que se ajusten a sus necesidades específicas. Los modelos están diseñados para una variedad de aplicaciones, que van desde la elaboración de contenidos hasta la clasificación de información.
Para utilizar estos modelos, los interesados solo deben suscribirse a ellos en Amazon Bedrock y seguir unos simples pasos para su despliegue, pudiendo realizar inferencias directamente en la consola de Bedrock o a través del SDK de SageMaker.
La introducción de los modelos Llama 3.3 y Llama 3.1 marca un avance significativo en la capacidad de las empresas para implementar soluciones sofisticadas de inteligencia artificial. Gracias a la infraestructura escalable de AWS, las organizaciones tienen la oportunidad de adoptar rápidamente estas tecnologías de vanguardia, transformando sus aplicaciones de IA.
