Los gobiernos de América Latina están incrementando el uso de sistemas algorítmicos para tomar decisiones que tienen un impacto directo en la vida de las personas, desde la determinación de elegibilidad para ayudas sociales hasta la predicción de crímenes. Un reciente informe publicado por la Electronic Frontier Foundation (EFF) explora los retos que el uso de inteligencia artificial (IA) plantea para los derechos humanos en la región, y presenta un marco operativo basado en la legislación internacional sobre derechos humanos.
Este informe, titulado «Estándares interamericanos y uso estatal de la IA para determinaciones que afectan derechos en América Latina: Implicaciones de derechos humanos y marco operativo», ofrece directrices sobre cómo las instituciones estatales deben proceder al adoptar sistemas de IA y toma de decisiones automatizada. Destaca la necesidad de garantizar que estas tecnologías respeten las normas de derechos humanos establecidas en la Convención Americana sobre Derechos Humanos y otros instrumentos internacionales.
Según el documento, varias instituciones estatales en países como Colombia y Brasil ya están implementando sistemas basados en IA que pueden tener serias repercusiones sobre los derechos de los ciudadanos. En Colombia, por ejemplo, los ciudadanos deben someterse a una clasificación algorítmica llamada Sisbén para acceder a programas de protección social; este sistema mide el nivel de pobreza y vulnerabilidad de las personas. En Brasil, el sistema de vigilancia Córtex ha sido criticado por su falta de controles adecuados y por su capacidad para cruzar diversas bases de datos gubernamentales.
La EFF ha expresado su preocupación ante la opacidad de estos sistemas, la cual dificulta que los individuos afectados comprendan cómo se toman las decisiones que impactan sus vidas. Además, advierte que estas tecnologías tienden a acentuar las desigualdades preexistentes, afectando desproporcionadamente a las comunidades marginadas sin ofrecer mecanismos adecuados para la restitución de sus derechos.
El informe subraya la importancia de la transparencia en todo el proceso de implementación de la IA, instando a los gobiernos a comunicar claramente el funcionamiento de estos sistemas, los tipos de datos utilizados y el modo en que se toman las decisiones. También insiste en la necesidad de garantizar un debido proceso que permita a los individuos impugnar decisiones automatizadas potencialmente injustas.
Asimismo, el informe destaca la relevancia de la participación pública. Argumenta que los grupos más vulnerables deben tener voz en el desarrollo y uso de estos sistemas, y que la participación no debe ser un mero acto formal, sino un proceso integral que incluya auditorías independientes y evaluaciones de impacto en derechos humanos.
Con la creciente influencia de la IA en la toma de decisiones gubernamentales, el informe de la EFF es un llamado urgente a adoptar un enfoque centrado en los derechos humanos en la implementación de estas tecnologías. Este enfoque busca no solo respetar los derechos fundamentales, sino también promover una gobernanza democrática y equitativa en la región.