Mistral AI ha presentado recientemente su nuevo modelo de lenguaje, Mistral-Small-3.2-24B-Instruct-2506, diseñado para mejorar el seguimiento de instrucciones y reducir errores de repetición. Este modelo se caracteriza por contar con 24 mil millones de parámetros optimizados y ya está disponible para los clientes a través de Amazon SageMaker JumpStart y el Amazon Bedrock Marketplace.
El Mistral-Small-3.2 para mejorar su predecesor, presenta mejoras significativas. Según informes de Mistral, el nuevo modelo sigue instrucciones con una precisión del 84.78%, superando el 82.75% de la versión anterior. Además, ha conseguido reducir las respuestas repetitivas a la mitad, bajando del 2.11% al 1.29% en lo que respecta a generaciones infinitas. Una de las adiciones notables es una plantilla de llamadas a funciones más robusta que facilita las interacciones con APIs estructuradas. También destaca por su capacidad para procesar tanto texto como imágenes, lo que permite realizar tareas diversas, incluyendo la comprensión de documentos y la generación de contenido visual.
Este modelo es especialmente relevante para aplicaciones empresariales que operan en AWS, donde la confianza y precisión son factores críticos. Con un contexto que abarca 128,000 tokens, el Mistral-Small-3.2 puede manejar documentos extensos y mantener la coherencia en conversaciones prolongadas.
SageMaker JumpStart, un servicio completamente gestionado, permite a los usuarios acceder a modelos de vanguardia para una variedad de aplicaciones, tales como redacción de contenido, generación de código y recuperación de información. Ahora es posible desplegar modelos de Mistral a través del entorno de Amazon SageMaker Studio o utilizando el SDK de Python.
Para aquellos que deseen utilizar este modelo a través del Amazon Bedrock Marketplace, solo es necesario seleccionar Mistral-Small-3.2-24B-Instruct-2506 en el catálogo de modelos de la consola, configurar el nombre del endpoint y elegir el tipo de instancia. Se recomienda optar por instancias basadas en GPU para optimizar el rendimiento.
Adicionalmente, el modelo ha mostrado un rendimiento destacable en tareas que requieren razonamiento sobre figuras complejas, como el análisis de datos económicos, lo que resalta su utilidad en una amplia gama de aplicaciones.
Con el lanzamiento del Mistral-Small-3.2-24B-Instruct-2506, Mistral AI reafirma su compromiso de ofrecer herramientas avanzadas para desarrolladores y empresas que buscan aprovechar el potencial de la inteligencia artificial en sus operaciones.
