El avance de la inteligencia artificial (IA) está llevando a las máquinas a niveles de autonomía sin precedentes, lo que plantea una necesidad urgente de mayor transparencia y explicabilidad. En un reciente panel de expertos, profesionales destacados del sector discutieron las implicaciones de la confianza en los sistemas de IA autónomos. Entre ellos se encontraban Keshavan Seshadri de Prudential Financial y Pankaj Agrawal de LinkedIn, quienes abordaron los desafíos y oportunidades que presenta esta tecnología en rápida evolución.
Saradha Nagarajan, ingeniera de datos en Agilent Technologies, enfatizó que la confianza es un elemento crucial para la explicabilidad de la IA. Según su perspectiva, entender el funcionamiento interno de los modelos de IA es fundamental para fomentar la adaptabilidad y confianza en sus predicciones. Asimismo, destacó la necesidad de establecer pautas éticas claras y mecanismos de auditoría que sean aplicables tanto antes como después de la implementación de estas tecnologías.
Pankaj Agrawal complementó esta visión al señalar que, en sectores altamente regulados, la transparencia se vuelve vital. Propuso que los sistemas de IA deben estar sometidos a un control que asegure que sus decisiones se alineen con un conjunto definido de normas éticas y operativas, un aspecto especialmente crítico en aplicaciones de alto riesgo.
Desde una perspectiva diferente, Dan Chernoff, científico de datos en Parallaxis, sugirió que el enfoque ético debe vincularse más a la gobernanza y la alineación con normas que a consideraciones éticas en sí mismas. Chernoff afirmó que es esencial poder rastrear las decisiones de una IA hasta sus datos de entrada, lo que permite evaluar posibles errores y determinar sus causas.
Keshavan Seshadri analizó la influencia de regulaciones como la Ley de IA de la UE en la forma en que la industria maneja el riesgo. Propuso que los diseñadores de sistemas de IA deben mapear las decisiones tomadas por los agentes de la IA en función de niveles de riesgo definidos, lo que les permitirá identificar sesgos y crear sistemas más seguros.
La discusión también puso de manifiesto la relevancia de la colaboración interfuncional en el desarrollo de IA responsable. Se destacó que la creación de sistemas de IA que cumplan con altos estándares éticos es una tarea colectiva que requiere la participación activa de líderes de producto, equipos de seguridad y otros colaboradores.
Finalmente, los expertos coincidieron en que el diseño específico del dominio es clave. Para los sectores regulados, es necesario adoptar un enfoque que ajuste tanto las entradas como las salidas de los sistemas de IA, asegurando que se alineen con políticas y restricciones adecuadas. Este enfoque permitirá la creación de sistemas más confiables, cuyo diseño refleje las necesidades y particularidades de cada sector.
