Amazon ha lanzado SageMaker HyperPod, una infraestructura innovadora diseñada para optimizar el entrenamiento y la inferencia de modelos de aprendizaje automático (ML) a gran escala. Esta solución busca simplificar las complicaciones vinculadas con la construcción y optimización de la infraestructura de ML, logrando reducir el tiempo de entrenamiento hasta en un 40%.
SageMaker HyperPod facilita la creación de clústeres persistentes con resiliencia interna, otorgando un control profundo sobre la infraestructura. Esto permite a los usuarios acceder a las instancias de Amazon Elastic Compute Cloud (EC2) a través de SSH, optimizando tareas relacionadas con el desarrollo y despliegue de modelos, como el entrenamiento y los ajustes finos. La plataforma puede gestionar clústeres de cientos o incluso miles de aceleradores de inteligencia artificial, todo mientras se adhiere a las políticas de seguridad y normas operativas de grandes empresas.
Una de las características más destacadas de esta plataforma es su compatibilidad con Amazon Elastic Kubernetes Service (EKS) y la incorporación reciente de la «provisión continua». Este enfoque incrementa la escalabilidad de los clústeres, permitiendo provisiones parciales y actualizaciones en tiempo real, así como un escalado concurrente que ofrece a las organizaciones una flexibilidad sin precedentes en sus operaciones.
Además, SageMaker HyperPod permite el uso de Amazon Machine Images (AMIs) personalizadas, facilitando la preconfiguración de pilas de software, agentes de seguridad y dependencias específicas. Esta capacidad es especialmente útil para empresas que requieren entornos especializados conforme a sus estándares operativos y de seguridad.
Con la provisión continua, los equipos de ML pueden comenzar a entrenar y desplegar modelos utilizando los recursos computacionales disponibles, mientras la plataforma gestiona la provisión de los recursos solicitados en segundo plano. Esto reduce significativamente los tiempos de espera.
La incorporación de AMIs personalizadas brinda a las organizaciones un control granular, alineando sus entornos de ML con los estándares de seguridad corporativa y los requisitos de software, lo que acelera las iniciativas de inteligencia artificial y minimiza la sobrecarga operativa.
En resumen, las innovaciones introducidas en SageMaker HyperPod potencian la escalabilidad y personalización de la infraestructura de ML, ofreciendo a las empresas herramientas avanzadas para optimizar sus procesos de desarrollo en un entorno en constante evolución.
