La Casa Blanca ha revelado su nuevo «Plan de Acción sobre la IA», centrado en lo que se ha denominado «IA woke». Este concepto se refiere a los modelos de lenguaje que proporcionan información que no coincide con las políticas del actual gobierno en temas como el cambio climático y la equidad de género. Uno de los objetivos clave del plan es regular la generación de contenido que contenga racismo, sexismo o discursos de odio.
En conjunto con esta iniciativa, se ha implementado una orden ejecutiva titulada «Prevención de la IA Woke en el Gobierno Federal». Este documento exige que las empresas tecnológicas que reciben contratos federales demuestren que sus modelos de lenguaje están libres de lo que se catalogan como «sesgos ideológicos», especialmente en cuestiones de diversidad, equidad e inclusión. Sin embargo, esta censura podría limitar el desarrollo de estos modelos como herramientas de expresión y acceso a información, en lugar de mejorar su precisión y fiabilidad.
El problema de los sesgos en la inteligencia artificial no es reciente. Muchos modelos discriminan a grupos raciales y de género debido a los patrones aprendidos de los conjuntos de datos utilizados en su entrenamiento. Si esos datos contienen prejuicios, la IA tiende a replicarlos. Por ejemplo, las herramientas de «policía predictiva», que se basan en datos de arrestos, suelen recomendar un mayor nivel de vigilancia en comunidades predominantemente negras, perpetuando injusticias históricas.
Los modelos generativos también enfrentan esta problemática. Investigaciones han demostrado que ciertos modelos de lenguaje asocian a personas de color con actividades delictivas de manera desproporcionada. Estudios revelan que el 80% de las imágenes generadas de prisioneros representan a personas con piel más oscura, mientras que más del 90% de las imágenes de jueces son masculinas, a pesar de que las mujeres constituyen el 34% de estos puestos en la realidad.
La inexactitud de la IA no es el único desafío. Cuando las agencias gubernamentales utilizan sistemas sesgados para la toma de decisiones, las repercusiones pueden afectar de manera significativa a las personas involucradas, impactando aspectos como su libertad, acceso a recursos financieros y atención médica. La reciente administración ha señalado un aumento en el uso de estos modelos dentro de las agencias, lo que podría reforzar injusticias sistémicas.
Es vital establecer salvaguardias adecuadas para evitar que las entidades gubernamentales adopten herramientas de IA que perpetúen sesgos. La administración actual ha debilitado regulaciones diseñadas para proteger los derechos civiles, lo que aumenta las posibilidades de abusos relacionados con la IA. Además, sus nuevas normativas podrían influir en las empresas para que desarrollen modelos menos efectivas y accesibles al público.
Expertos y organizaciones de derechos digitales han expresado su oposición al uso de algoritmos en decisiones críticas, enfatizando la necesidad de proteger los derechos de los ciudadanos frente a determinaciones que podrían estar influenciadas por modelos de aprendizaje automático sesgados.
