Un nuevo proyecto de ley, respaldado por varios senadores, busca imponer severas restricciones al uso de chatbots de inteligencia artificial (IA) al exigir verificaciones de edad para todos los usuarios y prohibir el acceso a estas herramientas para menores de 18 años. La propuesta, conocida como el GUARD Act, también contempla penas penales severas para las plataformas que promuevan o soliciten comportamientos perjudiciales. Aunque los objetivos iniciales parecen razonables, críticos advierten que este proyecto podría dar lugar a un régimen de vigilancia y censura que alteraría drásticamente la forma en que se interactúa en internet, especialmente entre los jóvenes.
El GUARD Act se presenta como una medida de seguridad infantil, pero se traduce en un mandato de «controles de edad» que podría aplicarse a casi todos los chatbots dirigidos al público, desde asistentes de servicio al cliente hasta herramientas de búsqueda. Como resultado, numerosas empresas de IA se verían obligadas a recopilar datos sensibles de identificación, lo que afectaría negativamente la libertad de expresión en línea, interferiría con la privacidad y limitaría el acceso de los adolescentes a herramientas digitales esenciales para su vida diaria.
Otro aspecto preocupante del proyecto de ley es la falta de consideración por parte de los padres, ya que simplemente bloquearía a los menores de todas las plataformas de IA. Si un sistema de verificación de edad determina que un usuario es menor de 18 años, se le negará completamente el acceso, lo que plantea serias dudas sobre la ausencia de un mecanismo de consentimiento parental y la falta de un proceso de apelación en caso de errores en la estimación de edad.
El impacto del GUARD Act no se limita a los jóvenes, ya que todas las plataformas deberán validar la edad de los usuarios. Esto requiere la implementación de sistemas de verificación que recopilen información identificativa, lo que plantea riesgos significativos para la privacidad. Históricamente, estos sistemas han sido vulnerables a ataques cibernéticos, poniendo en peligro la identidad de millones de usuarios.
Además, las definiciones vagas de «chatbot de IA» y «compañero de IA» en el proyecto de ley generan alarma. Estas definiciones tan amplias podrían abarcar casi todos los sistemas capaces de generar respuestas «humanas», lo que podría llevar a las empresas a restringir el acceso de menores a herramientas educativas y de servicio al cliente, limitando su desarrollo y el acceso a información crucial.
Los defensores de esta legislación argumentan que su objetivo es proteger a los menores, pero en realidad podría tener el efecto contrario, reemplazando la orientación parental con mandatos gubernamentales y estableciendo una infraestructura de vigilancia masiva en lugar de mejorar el control sobre la privacidad. La combinación de definiciones imprecisas y las multas severas, que podrían alcanzar hasta los 100,000 dólares por infracción, incentivará a las plataformas a restringir aún más el acceso a sus servicios.
En conclusión, aunque la seguridad en línea de los jóvenes es un tema complejo, el GUARD Act ofrece una solución drástica que podría perjudicar tanto la libertad de expresión como la privacidad en la red. Es crucial que los legisladores reconsideren esta propuesta y enfoquen sus esfuerzos en políticas que promuevan la transparencia y la privacidad integral para todos los usuarios.
