La reciente inclusión de tecnologías basadas en inteligencia artificial (IA) en el sistema de justicia penal ha desencadenado preocupaciones significativas en el ámbito policial y judicial. Este fenómeno ha sido ampliamente detallado en un informe presentado por la Electronic Frontier Foundation (EFF) dentro de la publicación anual «The State of Criminal Justice 2024» de la Asociación Americana de Abogados.
El informe resalta cómo herramientas habilitadas por IA, tales como el reconocimiento facial, los lectores de matrículas y los sistemas de detección de disparos, están siendo implementadas por diversas fuerzas de seguridad. Aunque estas tecnologías prometen mejorar la eficacia policial, han propiciado una vigilancia invasiva que compromete la privacidad individual. El uso erróneo de estas herramientas ha conducido a detenciones incorrectas y sentencias injustas debido a falsos positivos. La capacidad para integrar estos flujos de datos con registros públicos y sistemas de rastreo por geolocalización está permitiendo la creación de perfiles profundamente detallados de personas, sean o no objeto de una investigación.
El uso de IA para formular inferencias y establecer conexiones, a menudo en base a procesos opacos, ha suscitado críticas sobre su impacto negativo en el debido proceso y los derechos civiles. Recomiendan cautela en la adopción de estas tecnologías, subrayando que son promovidas intensamente por compañías tecnológicas. Según Beryl Lipton de EFF, la IA facilita invasiones masivas a la privacidad y podría institucionalizar desigualdades sociales y abusos de poder. Lipton enfatiza la necesidad de una evaluación crítica de su impacto en las libertades civiles y los derechos de privacidad dentro del sistema judicial.
La publicación que aborda estas cuestiones, «The State of Criminal Justice 2024», está disponible tanto en formato físico como digital para aquellos interesados en profundizar en los desafíos y avances tecnológicos que enfrenta el sistema de justicia penal en la actualidad.
