En su búsqueda constante por mejorar la eficiencia y eficacia de sus procesos internos, Amazon ha implementado un innovador asistente de chat en su plataforma Amazon Bedrock. Este desarrollo se centra en la utilización de la inteligencia artificial generativa para optimizar el tiempo de respuesta a las consultas de los clientes en sus operaciones financieras, específicamente en las áreas de Cuentas por Pagar y Cuentas por Cobrar.
Anteriormente, los analistas responsables de estas áreas enfrentaban un proceso arduo cada vez que recibían solicitudes de clientes. La falta de acceso inmediato a la información necesaria obligaba a los analistas, especialmente a los más nuevos, a contactar a expertos y revisar una extensa documentación de políticas, lo que se traducía en tiempos de respuesta que podían extenderse por horas o incluso días.
Con la implementación del nuevo asistente de chat basado en un modelo de lenguaje grande (LLM), los analistas ahora pueden ofrecer respuestas rápidas en el mismo hilo de comunicación, disminuyendo drásticamente los tiempos de espera para resolver las inquietudes de los clientes. El sistema se apoya en un pipeline de generación aumentada por recuperación (RAG), el cual recupera documentos pertinentes de una base de conocimientos y utiliza un modelo de lenguaje para generar respuestas precisas a partir de la información recuperada.
La efectividad del asistente está respaldada por una base de conocimientos gestionada a través de Amazon OpenSearch Service y un modelo de generación de respuestas proporcionado por Amazon Bedrock. Asimismo, incluye un motor de validación diseñado para asegurar la validez y seguridad de las respuestas, evitando errores o interpretaciones incorrectas.
Durante las primeras etapas de desarrollo, la exactitud del asistente no superaba el 49%. Para mejorar esta cifra, Amazon implementó múltiples estrategias como la segmentación semántica de documentos y la ingeniería de prompts, lo que incrementó la precisión de las respuestas al 86%.
Este avance subraya un cambio significativo en la manera en que Amazon está integrando tecnologías de inteligencia artificial generativa para optimizar sus procesos internos. Con esta iniciativa, la compañía ha logrado no solo reducir los tiempos de respuesta, sino también incrementar la eficiencia operativa, posicionándose a la vanguardia en el uso de inteligencia artificial en el ámbito financiero. A través de revisiones y mejoras continuas, Amazon sigue enfrentando y superando los desafíos del procesamiento automatizado de lenguaje, reafirmando su liderazgo en este campo.
