Amazon ha dado un paso significativo en el ámbito de la inteligencia artificial con el lanzamiento de su sistema SageMaker HyperPod, diseñado para permitir que las organizaciones aprovechen al máximo el rendimiento de las GPUs NVIDIA Blackwell en un solo sistema. Este avance promete ser un hito en la innovación en IA, ofreciendo un poder de procesamiento impresionante que llega a 360 petaflops en cálculos de punto flotante denso (FP8) y 1.4 exaflops en cálculos de punto flotante disperso (FP4).
Los nuevos P6e-GB200 UltraServers, basados en la arquitectura NVIDIA GB200 NVL72, proporcionan un rendimiento excepcional para el desarrollo y la implementación de modelos de inteligencia artificial que alcanzan mil billones de parámetros. Esta integración de los servidores Ultra con el ambiente de entrenamiento distribuido de SageMaker HyperPod permitirá a las empresas escalar rápidamente el desarrollo de modelos, minimizar el tiempo de inactividad y simplificar el proceso que va desde el entrenamiento hasta el despliegue a gran escala.
La estructura de los P6e-GB200 UltraServers conecta 36 CPUs NVIDIA Grace con 72 GPUs Blackwell dentro de un único dominio NVLink, lo que proporciona un acceso inigualable a recursos de computación. La arquitectura permite acceder a hasta 72 GPUs Blackwell en un solo dominio NVLink, lo que mejora notablemente el rendimiento y la eficiencia en la formación de modelos de inteligencia artificial.
Además, esta solución se distingue por su red de alto rendimiento, que ofrece hasta 130 TBps de ancho de banda NVLink de baja latencia entre las GPUs, mejorando la comunicación en tareas de inteligencia artificial a gran escala. Los UltraServers también son capaces de soportar hasta 405 TB de almacenamiento NVMe SSD local, optimizando el entrenamiento de modelos mediante un rápido acceso a los datos.
La combinación de SageMaker HyperPod con los P6e-GB200 UltraServers representa un avance crucial hacia un entrenamiento y despliegue más ágiles y eficientes, especialmente para los modelos de IA generativa más avanzados. Esto resulta especialmente beneficioso para aquellas organizaciones que gestionan múltiples equipos y proyectos, garantizando una máxima utilización de la infraestructura y reduciendo costos operativos.
Los interesados pueden acceder a las capacidades de UltraServer mediante planes de entrenamiento flexibles, disponibles en la zona local de AWS en Dallas. Aquellas organizaciones que deseen maximizar sus esfuerzos en inteligencia artificial pueden registrarse en la consola de SageMaker para comenzar a explorar esta nueva tecnología.
