Amazon ha presentado una innovadora funcionalidad en su plataforma de inteligencia artificial, SageMaker AI, permitiendo ahora el ajuste fino de modelos GPT-OSS mediante recetas de SageMaker HyperPod y trabajos de entrenamiento. Este lanzamiento se enmarca dentro de una serie de actualizaciones enfocadas en optimizar el uso de estos modelos para el razonamiento estructurado en múltiples idiomas.
En la primera entrega, se mostró cómo ajustar modelos GPT-OSS utilizando las bibliotecas de código abierto de Hugging Face en combinación con SageMaker. Con esta nueva función, las recetas de SageMaker HyperPod proporcionan una solución sencilla y rápida para iniciar el entrenamiento y la optimización de modelos de inteligencia artificial, como Llama de Meta y Mistral. Estas recetas vienen con configuraciones predefinidas y validadas, que simplifican la creación de entornos de entrenamiento distribuidos, garantizando un rendimiento y escalabilidad de nivel empresarial.
La implementación se basa en el uso de SageMaker HyperPod para llevar a cabo trabajos de ajuste fino, gestionando la orquestación a través de Amazon Elastic Kubernetes Service (EKS). Para aprovechar al máximo esta funcionalidad, las organizaciones deben establecer un entorno de desarrollo local con credenciales de AWS y preparar varias instancias del tipo ml.p5.48xlarge.
El ajuste fino implica la preparación de un conjunto de datos adecuado, como el dataset «HuggingFaceH4/Multilingual-Thinking», que está diseñado para realizar ejemplos de razonamiento en diversos idiomas. Después de la tokenización y preparación de los datos, se pueden usar las recetas para iniciar el trabajo de ajuste fino, seguido de la implementación del modelo entrenado en un endpoint de SageMaker para su evaluación.
Los especialistas subrayan que la plataforma SageMaker no solo optimiza la capacitación de modelos mediante recursos temporales, sino que también proporciona un entorno persistente para el desarrollo continuo a través de HyperPod, lo que permite a las organizaciones experimentar con modelos de manera más efectiva.
El despliegue final de los modelos ajustados se realiza mediante contenedores optimizados en Amazon Elastic Container Registry (ECR), lo que asegura que las aplicaciones tengan acceso a los recursos necesarios para ejecutar inferencias en tiempo real. SageMaker también ofrece la capacidad de traducir configuraciones y preparar variables para lograr un rendimiento óptimo.
Esta nueva funcionalidad abre un horizonte prometedor para que organizaciones de diferentes tamaños puedan aprovechar al máximo el potencial de los modelos de lenguaje grande, facilitando el ajuste y despliegue de modelos personalizados de forma accesible. Los desarrolladores interesados en esta tecnología pueden encontrar guías y recursos en los repositorios de GitHub de Amazon, donde se ofrecen ejemplos y documentación detallada.
