Desde el lanzamiento de Chat-GPT, la inteligencia artificial (IA) ha ocupado un lugar central en los debates globales, generando un intenso intercambio sobre sus promesas y peligros. Este fenómeno ha desencadenado diversas iniciativas, como la orden ejecutiva sobre IA del gobierno de Biden y la implementación de principios rectores internacionales para el desarrollo de IA generativa, además de influir en el recién aprobado AI Act en Europa. En este contexto, el gobierno británico organizó el AI Safety Summit en 2023, seguido por el AI Seoul Summit en 2024, y ahora se prepara para el AI Action Summit, que tendrá lugar en París, organizado por Francia.
A medida que líderes de estado y directores ejecutivos llegan a la capital francesa para participar en este evento, surgen preocupaciones sobre su efectividad. Aunque el gobierno de Francia ha calificado el summit como un «momento clave» para definir la gobernanza futura de la inteligencia artificial, un análisis más profundo de su agenda evidencia una narrativa distinta. El enfoque del summit en las posibles contribuciones económicas de la IA y la falta de distinción entre modelos de lenguaje grandes y la toma de decisiones automatizada sugieren que se están descuidando las múltiples maneras en que los sistemas de IA podrían ser utilizados de forma indebida, amenazando derechos fundamentales y exacerbando problemas ecológicos.
La agenda del evento presenta un panorama simplista que ignora las complejidades de la IA y los riesgos que esta conlleva. Por ejemplo, no se han programado paneles enfocados en la discriminación o la sostenibilidad, lo que deja ver un desequilibrio en el enfoque del summit. Este desequilibrio se refleja también en el perfil de los conferenciantes, donde predominan los representantes de la industria sobre los líderes de la sociedad civil.
A medida que varias organizaciones de la sociedad civil llevan a cabo eventos paralelos para abordar estas cuestiones, la falta de un diálogo inclusivo y representativo en el summit pone en duda su potencial como plataforma para debatir políticas globales efectivas. Esta situación se vuelve especialmente preocupante dado el papel que Europa afirma tener en la gobernanza de la IA, a través del AI Act, considerado el primer marco legal del mundo que aborda los riesgos asociados con esta tecnología.
Sin embargo, la efectividad del AI Act para fomentar una IA centrada en el ser humano y confiable sigue siendo incierta. Las potentes ambiciones por incluir salvaguardias de derechos fundamentales pueden verse comprometidas por excepciones relacionadas con la seguridad nacional y la aplicación de la ley, que podrían debilitar las garantías existentes, especialmente en contextos de alto riesgo como migración y seguridad pública.
Aún más preocupante es el escaso enfoque en los derechos humanos en el despliegue de la IA, particularmente en aplicaciones de gran impacto. Aunque se tocan algunas preocupaciones sobre derechos humanos en ciertas sesiones, el evento no logra posicionar claramente cómo sus objetivos se alínean con el cumplimiento de las garantías internacionales en este ámbito.
En un contexto donde la IA gubernamental se integra en estrategias nacionales de desarrollo tecnológico, es crucial que los países enfrenten la brecha de IA sin replicar los daños que se han observado hasta ahora. En un momento en que se vive una carrera armamentista de IA a nivel global, no se requiere mayor entusiasmo hacia la tecnología; en cambio, es necesario fomentar debates basados en evidencias que examinen la centralización del poder que confiere la IA y que consideren los efectos reales de sus sistemas. Sin embargo, parece que el AI Action Summit no será el lugar idóneo para llevar a cabo este tipo de conversación.
