Optimización de Asistentes de IA Empresariales: Cómo Crypto.com Mejora la Eficiencia con Razonamiento LLM y Retroalimentación

Elena Digital López

Crypto.com ha dado un paso significativo en la mejora de sus servicios al implementar un asistente basado en inteligencia artificial generativa, utilizando las avanzadas tecnologías de Amazon Web Services (AWS). Este nuevo sistema está diseñado para optimizar la experiencia de sus 140 millones de usuarios, que se encuentran distribuidos en 90 países.

La complejidad de los asistentes de inteligencia artificial modernos ha aumentado considerablemente. Aparte de responder a preguntas simples, se espera que realicen acciones significativas y respeten las políticas de la empresa. Para afrontar estos retos, Crypto.com ha optado por la arquitectura modular, que permite dividir el sistema en componentes especializados que operan de manera independiente, pero que colaboran para ofrecer un servicio cohesivo.

Un aspecto vital en esta evolución es la ingeniería de prompts, que se refiere a la elaboración de instrucciones precisas que guían las respuestas de los modelos de lenguaje. Este proceso es crucial en entornos empresariales donde la exactitud y la confiabilidad son fundamentales. La implementación de ciclos de retroalimentación es un elemento clave que permite a los modelos aprender de sus errores y ajustar sus respuestas según sea necesario.

El enfoque innovador de emparejar modelos de lenguaje grandes (LLMs) con mecanismos externos de retroalimentación ha demostrado ser efectivo. Esta técnica permite que los modelos corrijan sus salidas y se adapten a situaciones desafiantes, lo que mejora su eficacia. Por ejemplo, un asistente de inteligencia artificial que responde a consultas sobre límites de crédito puede inicialmente omitir pasos de verificación necesarios. Sin embargo, gracias a un sistema de crítica, puede aprender a incluir estos procedimientos importantes.

La función de estos mecanismos de retroalimentación no solo se limita a la corrección de errores; también ayuda a los LLMs a desarrollar una comprensión más compleja de las instrucciones. Con el tiempo y a través de múltiples iteraciones de retroalimentación, los modelos pueden ajustar sus estrategias, anticipando malentendidos y modificando su enfoque.

El equipo de Crypto.com ha transformado un conjunto básico de instrucciones en un sistema robusto que mejora constantemente gracias a la retroalimentación. Durante las pruebas, se registró un aumento notable en la tasa de precisión, que pasó del 60% al 94%, lo que valida la eficacia de su enfoque de optimización iterativa.

Este desarrollo demuestra cómo los asistentes de inteligencia artificial pueden evolucionar de sistemas estáticos a herramientas dinámicas y auto-mejorables. De cara al futuro, será esencial continuar refinando los mecanismos de retroalimentación y las técnicas de ingeniería de prompts para crear sistemas de asistencia de IA cada vez más sofisticados y confiables.