Optimiza las Recomendaciones de Inicio Rápido con vLLM en AWS Trainium

Los sistemas de recomendación se enfrentan a un desafío conocido como el «cold start», que se manifiesta no solo en la incorporación de nuevos usuarios o ítems, sino también en la falta de señales personalizadas desde un inicio. Cuando un usuario llega por primera vez o se presenta contenido nuevo, carece de un historial de comportamiento que permita al motor de recomendaciones prever sus intereses. Esta carencia resulta en la inclusión de los nuevos usuarios en segmentos genéricos amplios, afectando negativamente las tasas de clics y conversiones. Sin un sistema optimizado, hay riesgo de que los usuarios se alejen antes de que el sistema tenga la oportunidad de aprender sus preferencias.

Para superar esta problemática, se ha ideado una solución que genera perfiles de interés detallados desde el primer día. Utilizando modelos de lenguaje de gran escala, es posible sintetizar ricas representaciones de usuarios y artículos sin requerir semanas de datos de interacción. Esta metodología transforma un inicio frío en una experiencia más receptiva y personalizada.

La solución diseñada emplea chips de Amazon EC2 Trainium, optimizando la implementación de modelos a través de contenedores de aprendizaje profundo (DLC) con el AWS Neuron SDK. Este enfoque permite a los ingenieros de aprendizaje automático probar diferentes configuraciones de modelos de lenguaje y encoders, facilitando iteraciones rápidas en métricas de recomendación sin necesidad de modificar el código del modelo base.

Para el desarrollo de esta innovación, se utilizó el conjunto de datos de reseñas de libros de Amazon, que proporciona reseñas de usuarios reales y metadatos de miles de libros. Este recurso permite simular situaciones de «cold start», donde un nuevo usuario solo cuenta con una reseña inicial. Al implementar un modelo de lenguaje que enriquezca el perfil del usuario, se pueden inferir subtemas relacionados que este podría disfrutar.

El siguiente paso en el proceso consiste en convertir tanto los intereses expandidos como el catálogo de libros en vectores comparables mediante el uso de codificadores, como Google T5. Se analiza cómo diferentes tamaños de estos codificadores influyen en la calidad de las coincidencias, llevando a cabo búsquedas rápidas a través de índices FAISS.

En instancias posteriores, se mide la calidad de las recomendaciones, revelando que al incrementar el tamaño de los modelos, las señales generadas se vuelven más discriminativas. Este análisis permite a los desarrolladores encontrar la combinación óptima de modelos y codificadores que maximiza el rendimiento sin incurrir en costos elevados.

Con miras al futuro, se espera implementar estos modelos en un entorno de producción, garantizando que los perfiles de usuario enriquecidos estén listos para conectarse con una mayor cantidad de contenido. Esta iniciativa no solo demuestra el potencial transformador de la tecnología de aprendizaje automático en los sistemas de recomendación, sino que también promete mejorar la experiencia del usuario desde su primer contacto con la plataforma.