Un nuevo proyecto de ley en Utah está generando un debate significativo sobre el uso de inteligencia artificial (IA) en la redacción de informes policiales. La propuesta, conocida como S.B. 180, se presentará ante el pleno del Senado y establece que las fuerzas del orden deberán revelar si un informe ha sido elaborado total o parcialmente mediante IA generativa. Además, requerirá que las agencias policiales desarrollen políticas específicas sobre el uso de esta tecnología, incluyendo la obligación de señalar en los informes generados por IA.
La presentación de esta legislación responde a la creciente adopción de software de IA en el ámbito policial. Un ejemplo de ello es Axon, una empresa líder en tecnología para la policía, que ha introducido un producto llamado Draft One. Este sistema utiliza audio de cámaras corporales para facilitar la redacción de informes. Sin embargo, defensores de la privacidad y derechos civiles han expresado su preocupación, argumentando que una simple advertencia en los informes no es suficiente para proteger a la ciudadanía de los riesgos asociados con el uso de IA en este contexto.
Uno de los principales desafíos radica en la capacidad de la IA para comprender correctamente el lenguaje humano. Los expertos advirtieron que, al igual que en la moderación de contenido online, estos sistemas pueden fallar en la interpretación de dialectos, jerga y metáforas, lo que podría conllevar a errores que alteren el contenido de los informes, especialmente en situaciones críticas.
Además, el uso de IA en la redacción de informes podría desdibujar la responsabilidad de los oficiales. En situaciones donde un informe contenga información exagerada o falsa, un oficial podría excusarse alegando que cualquier error es atribuible a la IA, creando así una desconexión que pone en riesgo la rendición de cuentas y la búsqueda de la verdad en las investigaciones penales.
Ante la falta de supervisión y regulación en el avance de esta tecnología, algunas jurisdicciones ya están tomando medidas. Por ejemplo, en el Condado de King, Washington, los fiscales han solicitado a los agentes evitar el uso de IA para redactar informes policiales, con la preocupación de que esto afecte el sistema de justicia penal.
Con estas inquietudes en mente, la discusión sobre el uso de IA en la policía resalta la urgente necesidad de establecer una mayor transparencia. A medida que la tecnología continúa desarrollándose, es probable que otros estados también evalúen legislaciones similares para regular su implementación en el ámbito policial y judicial.
