En la actualidad, la inteligencia artificial generativa está en pleno auge, dando lugar al desarrollo constante de nuevos modelos de lenguaje de gran tamaño (LLMs). Uno de los más destacados es Amazon Nova, un modelo de fundación que combina inteligencia avanzada con un rendimiento costo-efectivo incomparable, disponible exclusivamente a través de Amazon Bedrock. Desde su lanzamiento en 2024, muchos profesionales de la inteligencia artificial, incluidos equipos de Amazon, han comenzado a trasladar sus cargas de trabajo de modelos anteriores a Amazon Nova.
Sin embargo, la migración entre diferentes modelos de fundación puede ser un reto, especialmente porque las indicaciones que funcionaban en el modelo original no siempre producen los mismos resultados en Amazon Nova. A esto se suma la necesidad de optimizar los prompts, una tarea que Amazon Bedrock facilita mediante una herramienta que permite su optimización automática. Este proceso es fundamental ya que uno de los principales desafíos es garantizar que el rendimiento después de la migración sea igual o, preferiblemente, superior al anterior. Para lograrlo, es esencial realizar una evaluación exhaustiva del modelo y comparar el rendimiento, así como optimizar los prompts para alinear o superar los resultados obtenidos con la carga de trabajo previa.
Para facilitar esta transición, se ha desarrollado un paradigma de migración que incluye un proceso continuo de evaluación del modelo, generación de prompts y optimización de datos. Este enfoque evalúa el rendimiento del modelo antes de la migración y optimiza los prompts del modelo Nova de manera iterativa mediante conjuntos de datos proporcionados por los usuarios. Ha demostrado su eficacia en diversas tareas, incluyendo resumen de texto, clasificación multinivel y respuesta a preguntas, utilizando la metodología conocida como Generación Aumentada por Recuperación (RAG).
La migración de cargas de trabajo generativas a Amazon Nova exige un enfoque estructurado que enfatiza la evaluación del modelo antiguo y la optimización de los nuevos prompts. El flujo de trabajo se organiza en cuatro pasos claves: evaluación del modelo fuente, actualización automática de la estructura y lenguaje de los prompts, y pruebas para validar el rendimiento en un entorno de producción.
Adicionalmente, se presenta una metodología específica para la optimización de prompts a través de Amazon Bedrock, la cual permite refinar la interacción entre los desarrolladores de AWS y los modelos de fundación. Esta optimización no solo busca mejorar la interacción, sino que también se centra en maximizar el rendimiento de los LLMs mediante ajustes según métricas definidas por el usuario.
Los resultados de implementar este proceso han mostrado mejoras significativas en el rendimiento de las tareas evaluadas. En el caso del modelo Amazon Nova Lite, se registró una mejora de rendimiento que pasó del 77.75% al 83.25%, y tras un ajuste adicional de optimización, la precisión alcanzó el 87.75%.
Las lecciones extraídas durante el diseño de esta solución dejan claro que contar con un conjunto de datos de alta calidad y relevancia, así como definir métricas adecuadas para el caso de uso específico es crucial. Además, adoptar un enfoque iterativo en la optimización contribuye a maximizar el rendimiento general del modelo. Esta metodología no solo se aplica a la migración hacia Amazon Nova, sino que también puede ser útil en otros procesos de migración de modelos, permitiendo a las organizaciones mejorar sus capacidades en inteligencia artificial generativa de manera efectiva.
