Activistas de la Electronic Frontier Foundation (EFF) han hecho un llamado a los legisladores de California para que aprueben el proyecto de ley S.B. 524, impulsado por el senador Jesse Arreguín. Esta iniciativa se presenta como un paso fundamental hacia un control más efectivo del uso de la inteligencia artificial generativa en la generación de informes policiales.
El proyecto de ley incluye varios puntos clave. En primer lugar, exige que todos los informes elaborados mediante inteligencia artificial incluyan un aviso que indique que han sido redactados total o parcialmente por un ordenador. Además, establece la necesidad de conservar el primer borrador de estos documentos, lo que facilitaría a abogados defensores, jueces y otras entidades auditoras identificar las secciones escritas por la IA y aquellas que corresponden al oficial de policía. Asimismo, se estipula que los agentes deben firmar y verificar que han leído los informes y que la información contenida es correcta. Por último, se prohíbe a los proveedores de inteligencia artificial vender o compartir la información que las agencias policiales suministran a estos sistemas.
Estas reformas, consideradas como sentido común, son imprescindibles en un contexto donde los mecanismos de supervisión enfrentan serias dificultades para detectar el uso de IA en el ámbito policial. Un caso emblemático es la herramienta Draft One de Axon, que, al no cumplir con los requisitos de este proyecto de ley, podría verse obligada a modificar su producto para aumentar su transparencia.
Draft One utiliza grabaciones de audio de cámaras corporales para generar informes policiales narrativos mediante inteligencia artificial. Sin embargo, existen preocupaciones sobre cómo esta tecnología maneja aspectos como el sarcasmo, comentarios fuera de contexto o interacciones con personas que no hablan inglés. Otro desafío significativo es la falta de trazabilidad entre las secciones de un informe redactadas por humanos y aquellas generadas por IA. Además, el diseño de la herramienta no permite almacenar diferentes versiones del borrador, lo que podría facilitar que un oficial se deslinde de responsabilidades al argumentar que fue la IA, y no él, quien cometió un error.
Ante la creciente penetración de esta tecnología en el sector, es esencial que los legisladores implementen regulaciones que rijan los informes policiales generados por inteligencia artificial. Axon, como uno de los principales proveedores de cámaras corporales en Estados Unidos, tiene el potencial de expandir esta práctica en muchas agencias, lo que hace aún más urgente la regulación.
La efectividad y precisión de los informes generados por IA continúan bajo análisis, al igual que su repercusión en el sistema de justicia penal. Aunque el S.B. 524 no abordará todos los problemas vinculados al uso de la inteligencia artificial en este ámbito, sí constituye un primer paso importante hacia el control de una tecnología que aún no cuenta con suficientes mecanismos de rendición de cuentas. Por ello, se hace un apremiante llamado a los legisladores californianos para que aprueben el S.B. 524.
