En un avance significativo en el ámbito de la inteligencia artificial, Inception Labs ha revelado que los modelos de fundación Mercury y Mercury Coder ya están disponibles en el Amazon Bedrock Marketplace y en Amazon SageMaker JumpStart. Esta novedad promete facilitar a los desarrolladores la implementación de estos modelos, permitiéndoles construir, experimentar y escalar sus aplicaciones de IA generativa de manera responsable en la infraestructura de Amazon Web Services (AWS).
Los modelos Mercury se presentan como una familia de modelos de lenguaje basados en difusión, destacándose por su rapidez en la generación de texto y su habilidad para mantener una alta calidad en las salidas. A diferencia de los modelos convencionales que generan texto de forma secuencial, los modelos Mercury permiten la creación de múltiples tokens de manera paralela, lo que resulta en velocidades de inferencia notoriamente más rápidas, alcanzando hasta 1,100 tokens por segundo en GPUs NVIDIA H100.
Una de las características más sobresalientes de los modelos Mercury Coder es su capacidad para generar código de alta calidad en varios lenguajes de programación, incluyendo Python, Java y JavaScript. Además, ofrecen un sólido rendimiento en tareas de completado y edición de código, con soporte para longitudes de contexto que alcanzan hasta 32,768 tokens, ampliables a 128,000 tokens mediante enfoques de extensión de contexto.
La plataforma Amazon Bedrock Marketplace juega un papel crucial en la democratización del acceso a estas avanzadas capacidades de IA, al ofrecer una amplia gama de modelos y una experiencia unificada y segura para su integración. Esto permite a las organizaciones escalar de forma eficaz, utilizando configuraciones de escalabilidad a través de endpoints gestionados.
Para acceder a los modelos Mercury, los usuarios deben seguir un proceso sencillo que incluye explorar el catálogo de modelos, seleccionar el deseado y suscribirse. Una vez realizado este proceso, pueden probar las capacidades del modelo en el entorno de Amazon Bedrock.
Por otro lado, SageMaker JumpStart ofrece un servicio completamente gestionado que proporciona modelos de fundación para diferentes casos de uso, facilitando la implementación ágil de aplicaciones de aprendizaje automático. Con el uso de SageMaker Studio, los desarrolladores pueden descubrir y desplegar los modelos Mercury de manera efectiva.
La llegada de estos modelos se espera que transforme la manera en que las empresas aprovechan la inteligencia artificial, mejorando tanto la velocidad como la calidad en el desarrollo de aplicaciones generativas. Con la introducción de Mercury, se consolida aún más el panorama de la IA generativa en la nube, ofreciendo herramientas poderosas para diversas necesidades industriales.
