En los últimos dos años, las empresas han enfrentado la creciente necesidad de desarrollar metodologías efectivas para priorizar proyectos de inteligencia artificial generativa. Con una amplia variedad de aplicaciones, el desafío radica en evaluar el valor empresarial en función del costo, el esfuerzo requerido y diversos aspectos que influyen en el éxito de estos proyectos. Un aspecto crucial a considerar son las «alucinaciones» de la IA generativa, que representan decisiones erróneas por parte de los agentes, junto con el contexto regulatorio que evoluciona rápidamente. Para abordar sistemáticamente estas preocupaciones, se sugiere incorporar prácticas de IA responsable en los métodos de priorización.
El marco de trabajo de Amazon Web Services (AWS) define la IA responsable como la práctica de diseñar, desarrollar y utilizar tecnología de inteligencia artificial con el objetivo de maximizar los beneficios y minimizar los riesgos asociados. Este marco establece ocho dimensiones clave: equidad, explicabilidad, privacidad y seguridad, controlabilidad, veracidad y robustez, gobernanza y transparencia. En las etapas críticas del ciclo de vida del desarrollo de IA generativa, es esencial que los equipos evalúen daños potenciales y riesgos en cada una de estas dimensiones, implementando medidas de mitigación y realizando una supervisión continua.
La aplicación de la IA responsable a lo largo del ciclo de desarrollo es especialmente relevante para los proyectos de IA generativa, debido a la naturaleza novedosa de los riesgos que pueden surgir. Tener en cuenta la IA responsable desde el principio brinda una visión más clara del riesgo del proyecto y el esfuerzo necesario para mitigar esos riesgos, lo que puede disminuir la posibilidad de incurrir en costos adicionales si se descubren problemas más adelante.
Aunque muchas empresas cuentan ya con sus propios métodos de priorización, se destaca el uso de la metodología WSJF (Weighted Shortest Job First) del sistema Escaled Agile. Esta metodología calcula la prioridad mediante la fórmula: Prioridad = (costo del retraso) / (tamaño del trabajo). El costo del retraso se mide en términos de valor comercial, que incluye no solo el valor directo sino también la urgencia y las oportunidades adyacentes. Por su parte, el tamaño del trabajo evalúa el esfuerzo necesario para ejecutar el proyecto, considerando costos de desarrollo e infraestructura.
Para ilustrar estos conceptos, se pueden comparar dos proyectos de IA generativa: uno que utiliza un modelo de lenguaje grande para generar descripciones de productos y otro que usa un modelo de texto a imagen para crear visuales de campañas publicitarias. Un análisis inicial, sin considerar la IA responsable, podría hacer que el segundo proyecto parezca más atractivo, dado su carácter urgente. Sin embargo, al aplicar un enfoque de evaluación de riesgos que incluya las dimensiones de IA responsable, el primer proyecto podría revelar una menor complejidad y costos de mitigación, sugiriendo que, tras este análisis riguroso, podría ser la opción más adecuada para llevar a cabo.
Por lo tanto, es crucial que las empresas comiencen a desarrollar políticas de IA responsable y a adoptar prácticas adecuadas para los proyectos de IA generativa. Esta adecuación no solo influye en las decisiones de priorización, sino que también es fundamental para evitar costos innecesarios y para mantener la confianza del cliente en un entorno regulativo cada vez más exigente.
