Amazon ha presentado Amazon Bedrock Guardrails, una innovadora herramienta diseñada para establecer salvaguardias configurables que faciliten la creación de aplicaciones de inteligencia artificial generativa de confianza a gran escala. Esta nueva tecnología incorpora medidas de seguridad y privacidad que son compatibles con diversos modelos base, tanto los que se encuentran disponibles en Amazon Bedrock como aquellos que operan fuera de su plataforma. Gracias a la API independiente ApplyGuardrail, las organizaciones pueden implementar políticas de IA responsable de forma ágil y escalable.
Bedrock Guardrails incluye seis salvaguardias fundamentales, que abarcan filtros de contenido, temas prohibidos, filtros de palabras, controles sobre información sensible, opciones de contextualización y Checks de Razonamiento Automatizado. Estos mecanismos están diseñados para prevenir contenido no deseado y asegurar que las interacciones de IA se alineen con las políticas responsables de cada empresa.
Uno de los principales retos que enfrentan las organizaciones es encontrar un equilibrio entre los controles de seguridad y los distintos requisitos de rendimiento y lenguaje que surgen según las aplicaciones. Para abordar este desafío, Amazon ha implementado un sistema de niveles de salvaguardia que permite a las empresas elegir las medidas adecuadas en función de sus necesidades específicas. Por ejemplo, instituciones del sector financiero pueden optar por protecciones integrales y multilingües para asistentes de IA dirigidos al cliente, mientras que pueden usar salvaguardias más rápidas y específicas para herramientas de análisis interno.
Las nuevas opciones de salvaguardia se dividen en dos categorías principales: el «nivel clásico,» que mantiene el comportamiento actual de las Guardrails de Amazon Bedrock, y un «nivel estándar» que ofrece soporte multilingüe para más de 60 idiomas, además de mejoras en la detección de contenido potencialmente dañino.
La implementación de estos niveles de seguridad busca optimizar la protección en función del contexto de uso. Las empresas pueden seleccionar configuraciones mixtas para varias políticas de control, lo que les permite adoptar un enfoque más personalizado para cada aplicación.
En cuanto a la evaluación de resultados, se aconseja crear conjuntos de datos de prueba que incluyan ejemplos tanto seguros como dañinos, junto con casos límite, para medir la efectividad de las guardrails. El uso de la API ApplyGuardrail permite a las organizaciones verificar el funcionamiento de las salvaguardias sin incurrir en costos adicionales asociados a la respuesta de modelos de lenguaje de gran tamaño.
A medida que la adopción de la inteligencia artificial continúa en aumento, la introducción de los niveles de salvaguardia en Amazon Bedrock Guardrails marca un paso significativo en la oferta de herramientas que ayudan a las empresas a desarrollar aplicaciones innovadoras, éticas y confiables que se alineen con sus valores y regulaciones, lo que a su vez fortalece la confianza del usuario.
