El 24 de abril de 2025, a las 12 p.m. EST, se celebrará un seminario web enfocado en los retos emergentes de seguridad que enfrentan las aplicaciones impulsadas por inteligencia artificial generativa. Este evento se erige como una oportunidad fundamental para que empresas y profesionales de la ciberseguridad se mantengan al tanto de las amenazas que surgen, sobre todo aquellas relacionadas con ataques de inyección de mensajes.
A medida que las organizaciones buscan integrar la inteligencia artificial generativa en sus operaciones, los atacantes han comenzado a desarrollar métodos innovadores para explotar los modelos de lenguaje, lo que conlleva riesgos significativos como la filtración de datos sensibles y la elusión de medidas de seguridad. En este panorama, es vital que las empresas entiendan la mecánica de estos ataques y las estrategias disponibles para resguardar sus aplicaciones de GenAI.
El seminario, que contará con la participación de Rob Truesdell, Chief Product Officer de Pangea, ofrecerá un análisis detallado sobre las amenazas ligadas a la inyección de mensajes. Durante la presentación, se abordarán diversos temas, desde las técnicas de inyección directa e indirecta hasta ejemplos concretos de ataques en el mundo real que ilustran la gravedad de estos riesgos. Asimismo, se discutirá qué medidas están implementando los proveedores de modelos de lenguaje para defenderse contra estas amenazas.
Además, el evento esclarecerá la diferencia entre amenazas internas y externas, mostrando cómo los adversarios pueden manipular los modelos de GenAI desde dentro y fuera de las organizaciones. Los participantes obtendrán información sobre estrategias de mitigación de riesgos, incluyendo prácticas recomendadas en ingeniería y seguridad que pueden ayudar a prevenir, detectar y responder a intentos de inyección de mensajes. También se proporcionarán pautas para evaluar la efectividad de los mecanismos destinados a detectar estos ataques.
Destinado especialmente a líderes en seguridad, ingenieros de inteligencia artificial y equipos de producto, este seminario web busca ofrecer las herramientas necesarias para comprender y mitigar los riesgos asociados con aplicaciones de IA en un entorno cada vez más hostil. Dada la creciente preocupación por las implicaciones de la ciberseguridad en el desarrollo y uso de tecnologías de inteligencia artificial, se anticipa una alta participación en este evento.
