Impulsando la Eficiencia y la Velocidad en el Procesamiento de Datos de Reclamaciones con Amazon Nova Micro y Amazon Nova Lite

Elena Digital López

Amazon continúa ampliando su impacto mundial en el comercio electrónico, afectando la vida de millones de clientes, empleados y proveedores. Este crecimiento, sin embargo, trae consigo la necesidad de gestionar riesgos y abordar reclamaciones relacionadas con la compensación de trabajadores, incidentes de transporte y otras cuestiones de seguros. En este contexto, los gestores de riesgos desempeñan un papel crucial en la supervisión del ciclo de vida de las reclamaciones, generando en promedio 75 documentos por cada caso, lo que complica su gestión.

Recientemente, un equipo interno de Amazon desarrolló una innovadora solución impulsada por inteligencia artificial para optimizar el procesamiento de datos asociados a estas reclamaciones. Este sistema es capaz de generar resúmenes estructurados de menos de 500 palabras, lo que mejora la eficiencia del proceso manteniendo una alta precisión. Sin embargo, los desarrolladores enfrentaron retos en cuanto a los altos costos de inferencia y tiempos de procesamiento que variaban entre 3 y 5 minutos por reclamación, complicados aún más al añadir documentos nuevos.

Ante estos desafíos, el equipo exploró modelos de la Fundación Amazon Nova como alternativas. Las pruebas de rendimiento revelaron que los modelos de Amazon Nova, especialmente el modelo Nova Lite, no solo igualan, sino que superan en rendimiento a otros modelos avanzados, ofreciendo costos significativamente más bajos y mayor velocidad. En efecto, Amazon Nova Lite se ha demostrado ser dos veces más rápido y un 98% más económico que el modelo actual en uso.

El proceso de resumen de reclamaciones inicia con un procesamiento de datos en bruto mediante AWS Glue, seguido por el almacenamiento de la información en Amazon S3. Posteriormente, los trabajos de resumen se gestionan a través de Amazon SQS, y los resúmenes se generan mediante AWS Lambda utilizando modelos de base en Amazon Bedrock. Este enfoque permite filtrar los datos irrelevantes y enfocarse en lo que realmente es importante, optimizando tanto los costos como el rendimiento.

La evaluación de los modelos de Amazon Nova ha manifestado mejoras notables en la velocidad de inferencia y en la eficiencia de costos, proporcionando un mayor margen para el diseño de modelos complejos y la calibración de computación de prueba. Además, la diferencia de latencia entre los modelos de Amazon Nova y otros competidores se amplía en documentos de contexto largo, haciendo que estos modelos sean una opción más atractiva para manejar documentos extensos.

En conclusión, esta iniciativa destaca la capacidad de Amazon para innovar en la gestión de reclamaciones, ofreciendo una solución viable para organizaciones que enfrentan el procesamiento de grandes volúmenes de documentación compleja, mejorando la calidad del servicio y reduciendo los costos operativos simultáneamente.