Impulsa Tu Entrenamiento y Evaluación de LLM con las Innovadoras Herramientas de IA Generativa de SageMaker

Elena Digital López

Amazon ha lanzado dos nuevas plantillas de interfaz de usuario, llamadas Text Ranking y Question and Answer, para mejorar la experiencia de los clientes de SageMaker AI. Estas herramientas están destinadas a optimizar la calidad de los modelos de lenguaje al permitir la recopilación de comentarios específicos y estructurados de los usuarios.

La plantilla Text Ranking ofrece la posibilidad a los anotadores humanos de clasificar las respuestas generadas por un modelo de lenguaje grande (LLM) según criterios personalizados, como relevancia, claridad o precisión factual. Este proceso es fundamental para ajustar los modelos utilizando Reinforcement Learning from Human Feedback (RLHF), lo que mejora la alineación de las respuestas del modelo con las preferencias del usuario. Por su parte, la plantilla Question and Answer facilita la creación de pares de preguntas y respuestas de alta calidad a partir de texto proporcionado, lo que sirve como datos de demostración para el Supervised Fine-Tuning (SFT), ayudando a los modelos a responder con mayor precisión en entradas similares.

Para beneficiarse de estas plantillas, los usuarios deben acceder a la consola de SageMaker AI, donde se ha incorporado una nueva categoría de Generative AI. Desde esta interfaz, es posible configurar trabajos de etiquetado al especificar la ubicación del manifiesto de entrada y la ruta de salida.

El uso de la plantilla Text Ranking incluye la provisión de un archivo JSON detallado que describe el contenido a clasificar, permitiendo así una evaluación estructurada. Las respuestas anotadas se almacenan en un bucket de S3 elegido por el usuario, lo que facilita la evaluación continua del modelo.

En cuanto a la plantilla Question and Answer, permite a los anotadores generar preguntas y respuestas pertinentes a partir de pasajes de texto. Esta herramienta también ofrece un formato flexible y una función de coincidencia codificada por colores, ayudando a los anotadores a identificar rápidamente las secciones relevantes del texto.

Además de la interfaz gráfica, los usuarios disponen de una API de Creación de Trabajos de Etiquetado, que permite configurar trabajos de clasificación de forma programática, lo que añade flexibilidad e integración en flujos de trabajo existentes.

Con estas innovaciones, Amazon SageMaker AI busca empoderar a sus usuarios para crear conjuntos de datos de alta calidad de manera más eficiente, facilitando el entrenamiento y la evaluación de modelos de lenguaje que satisfagan mejor las necesidades y preferencias de los usuarios.