El gobernador de California, Gavin Newsom, ha firmado recientemente el proyecto de ley S.B. 524, que establece un marco regulatorio destinado a aumentar la transparencia en el uso de informes policiales generados por inteligencia artificial (IA). Esta legislación cuenta con el apoyo de la Electronic Frontier Foundation (EFF), que ha expresado preocupaciones sobre las empresas que desarrollan estas tecnologías para la elaboración de informes policiales.
La nueva ley exige que las fuerzas del orden indiquen si han utilizado herramientas de IA en la elaboración de informes, ya sea de forma total o parcial. Asimismo, prohíbe a los proveedores la venta o el intercambio de la información que las agencias policiales comparten con estos sistemas.
Entre los aspectos destacados de esta legislación se encuentra la obligación de los departamentos de policía de conservar todas las versiones de los informes. Esto permitirá a jueces, defensores y auditores diferenciar entre las secciones redactadas por policías y las generadas por software. Este requisito podría suponer un desafío para el popular producto Draft One de Axon, que no está diseñado para registrar las ediciones y autorías de los documentos. Para cumplir con la ley, las fuerzas del orden deberán persuadir a Axon para que adapte su aplicación o asumir la responsabilidad de documentar los cambios realizados en los informes.
La EFF ha manifestado su intención de monitorear el cumplimiento de esta normativa por parte de los departamentos de policía. Con la aprobación de esta legislación, California se convierte en el segundo estado de EE. UU. en abordar la problemática tras la implementación de una ley similar en Utah. La falta de claridad sobre cómo las agencias policiales utilizan la tecnología ha dificultado que el público entienda el alcance de la IA en la redacción de informes. Con esto en mente, la EFF ha lanzado una guía para facilitar la presentación de solicitudes de acceso a documentos públicos relacionados con esta cuestión.
No obstante, persisten preguntas sobre la posible violación de las leyes de retención de registros por parte de productos como Draft One y sobre el impacto de los informes generados por IA en el sistema de justicia penal. Se considera necesario desarrollar regulaciones más estrictas, e incluso evaluar la prohibición del uso de IA generativa en este ámbito. Sin embargo, la aprobación de S.B. 524 se percibe como un avance positivo y se espera que otros estados sigan el ejemplo de California y Utah para establecer legislaciones más rigurosas.
