El legislativo de California ha dado un paso importante al aprobar el proyecto de ley S.B. 524, que busca regular el uso de inteligencia artificial en la redacción de informes policiales. La atención ahora se centra en la decisión del gobernador Gavin Newsom, quien debe firmar la ley para que esta pueda implementarse.
La necesidad de una regulación clara se vuelve evidente ante el creciente uso de tecnologías basadas en inteligencia artificial en el ámbito policial. Estas herramientas, aunque prometedoras, pueden comprometer aspectos críticos como la transparencia y la precisión de la información generada, un hecho que ha generado preocupación entre defensores públicos y profesionales del sistema judicial.
Una de las empresas líderes en este sector, Axon, ha lanzado su producto denominado Draft One, que utiliza tecnología avanzada y cámaras portátiles para redactar informes. Sin embargo, esta solución presenta serios inconvenientes, ya que puede omitir matices importantes en la comunicación, incluidos aspectos culturales y de lenguaje. A pesar de que se espera que los oficiales revisen las versiones generadas por la IA, es probable que muchos confíen incondicionalmente en el software, lo que podría resultar en errores significativos.
El fiscal de King County, Washington, ya ha tomado medidas concretas al prohibir el uso de Draft One por su falta de fiabilidad, señalando una creciente preocupación sobre la precisión y la confianza en estos sistemas. Además, existe el riesgo de que se produzcan deshonestidades en los informes, permitiendo que los oficiales se excusen si su testimonio difiere del relato generado por la IA, lo que podría dificultar la rendición de cuentas.
Un estudio reciente ha indicado que Draft One es capaz de eludir la transparencia requerida, ocultando de manera intencionada qué partes de un informe fueron escritas por un oficial y cuáles por la inteligencia artificial. Esta falta de claridad debe abordarse con urgencia.
La reciente aprobación del S.B. 524 proporciona una oportunidad crucial para que California, siguiendo el ejemplo de otros estados como Utah, establezca regulaciones claras en este ámbito. La ley estipula que cada informe redactado por IA debe incluir un aviso en cada página y conservar el primer borrador, lo que permitirá a partes interesadas como abogados defensores o jueces, discernir entre las contribuciones humanas y las generadas por máquinas. También exige que los oficiales firmen y verifiquen la veracidad de los informes y prohíbe la venta de información policial a terceros por parte de proveedores de IA.
Estas reformas son un paso necesario hacia un uso más responsable y transparente de la inteligencia artificial en el campo policial. En este contexto, el producto Draft One de Axon no sería compatible con los nuevos estándares, obligando a la empresa a realizar modificaciones significativas.
Los defensores de la transparencia hacen un llamado a la población para que se unan en exigir al gobernador Newsom que firme el S.B. 524 y impulse un futuro más transparente en el uso de la inteligencia artificial en la policía.
