Hoy se ha dado a conocer la vista previa de «Acciones en Edge», una nueva función experimental del navegador que permite a los usuarios utilizar modelos modernos de agentes informáticos para realizar diversas tareas. Esta iniciativa busca probar y avanzar en la investigación de esta tecnología, e invita a un selecto grupo de usuarios a explorar sus posibilidades, al mismo tiempo que se reconoce los riesgos asociados.
La seguridad de los usuarios se sitúa como una prioridad para la empresa, que colabora estrechamente con la comunidad de investigación en inteligencia artificial y seguridad. Estamos viendo el desarrollo de enfoques innovadores para mitigar riesgos, que incluirán la implementación de mecanismos de defensa robustos contra potenciales ataques, como las inyecciones de comandos. Este tipo de ataques ha crecido en sofisticación y es motivo de preocupación desde la llegada de los asistentes de IA, ya que pueden manipular las instrucciones de los modelos y exponer datos confidenciales.
En respuesta a estos desafíos, se han presentado diversas estrategias de defensa, que van desde la limitación de entradas no confiables hasta la detección de desviaciones en las tareas solicitadas por el usuario. En esta fase inicial del proyecto, se han bloqueado accesos a sitios considerados riesgosos y se han implementado protecciones alineadas con la tecnología Microsoft Defender SmartScreen, que ya protege a millones de usuarios de fraudes y malware.
Adicionalmente, la función «Acciones en Edge» está probando técnicas avanzadas para monitorear su propio comportamiento y detectar desviaciones que puedan comprometer la seguridad del usuario. Esta supervisión incluye verificaciones de relevancia y solicitudes de autorización para interacciones que involucren información sensible.
La iniciativa también establece límites a las acciones del sistema con datos peligrosos, restringiendo interacciones con configuraciones avanzadas del navegador e impidiendo el acceso a información crítica como contraseñas y datos de formularios.
Con esta vista previa, la empresa busca obtener retroalimentación de la comunidad para mejorar tanto la seguridad como la funcionalidad de «Acciones en Edge». La colaboración se facilitará a través de un canal de Discord habilitado para que los usuarios compartan sus experiencias y sugerencias. La compañía se muestra optimista sobre el potencial de esta tecnología y reitera su compromiso con la seguridad en el entorno digital.
