En un momento en que la inteligencia artificial (IA) se encuentra cada vez más presente en la toma de decisiones automatizadas, surgen serias preocupaciones sobre su impacto en la equidad y la justicia social. Diversas instituciones, incluidos propietarios de viviendas, compañías de seguros y entidades de control migratorio como ICE, están utilizando algoritmos para influir en aspectos cruciales de la vida de las personas. Desde la concesión de viviendas hasta la aprobación de tratamientos médicos y la vigilancia de individuos en procesos migratorios, estas decisiones automatizadas pueden tener consecuencias drásticas. Asimismo, los empleadores recurren a la IA para determinar despidos y anticipar comportamientos laborales como la intención de formar sindicatos o de renunciar.
Consciente de estas problemáticas, Colorado ha dado un paso significativo al aprobar en 2024 la Ley de Inteligencia Artificial (AI Act), que regula los sistemas de IA considerados de «alto riesgo». Estos sistemas afectan decisiones vitales relacionadas con el acceso a la educación, el empleo, créditos y servicios de salud, entre otros. La ley busca establecer un marco de transparencia y debido proceso, así como evaluaciones del impacto que genera el uso de estos sistemas.
Un aspecto clave de la nueva legislación es que tanto los desarrolladores como los usuarios de sistemas de IA deben informar al público sobre su funcionamiento, el origen de los datos utilizados y las medidas adoptadas para mitigar daños potenciales. Además, se otorga a los individuos el derecho de conocer las razones detrás de las decisiones que les afectan y de corregir errores en la información utilizada.
Sin embargo, la ley también presenta limitaciones. Su aplicación depende en gran medida del abogado general del estado, lo que limita la capacidad de las personas para hacer valer sus derechos mediante acciones legales directas. Expertos en la materia han sugerido la inclusión de un «derecho privado a la acción» que permitiría a los individuos demandar a empresas que violen sus derechos en relación con la IA. También se ha señalado que la disposición que establece un «supuesto refutable» de cumplimiento para las empresas que utilizan sistemas de IA podría dificultar futuras reclamaciones por discriminación.
Ante este panorama, aunque Colorado se posiciona como un líder en la regulación del uso de la inteligencia artificial, es imperativo que la legislación sea fortalecida y que otros estados sigan este modelo. El objetivo es garantizar que los sistemas de decisión automatizados no sigan privando injustamente a las personas de oportunidades en áreas esenciales como el empleo y la atención médica. La lucha por un uso responsable y equitativo de la tecnología está apenas comenzando.
