En el contexto actual de los negocios, las empresas están optimizando sus operaciones de inteligencia artificial al dividir sus funciones en equipos especializados. Esta estrategia tiene como objetivo mejorar el desarrollo y la implementación de modelos de IA. Actualmente, los equipos de investigación de IA se encargan de la creación y perfeccionamiento de los modelos a través de diversas técnicas de entrenamiento. Por otro lado, los equipos de hospedaje gestionan el despliegue de estos modelos en distintos entornos, tales como desarrollo, validación y producción.
Para facilitar este proceso, Amazon ha lanzado la herramienta Amazon Bedrock Custom Model Import. Esta utilidad permite a los equipos de hospedaje importar y servir modelos personalizados basados en arquitecturas reconocidas, como Meta Llama 2 y Mistral, a un coste bajo demanda. Con esta funcionalidad, los equipos pueden integrar modelos que contienen pesos en el formato de Hugging Face safetensors desde Amazon SageMaker o Amazon S3, lo que propicia una colaboración más fluida con los modelos base existentes de Amazon Bedrock.
No obstante, uno de los grandes retos en este ecosistema es el acceso a los artefactos de modelo que se alojan en diferentes cuentas de AWS. Generalmente, los resultados obtenidos del entrenamiento, como los pesos del modelo, se almacenan en S3 en la cuenta del equipo encargado de la investigación. Esto implica que el equipo de hospedaje necesita acceder a esos artefactos para llevar a cabo el despliegue. Aquí es donde cobra importancia la capacidad de Amazon Bedrock Custom Model Import para facilitar el acceso entre cuentas, permitiendo configuraciones directas entre los buckets de S3 y las cuentas de hospedaje. Esto no solo optimiza el flujo operativo, sino que también garantiza la seguridad de los datos.
Un caso práctico de esta colaboración exitosa se observa en Salesforce, donde el equipo de plataforma de IA ha resaltado que esta funcionalidad ha simplificado la configuración y reducido significativamente la carga operativa, manteniendo al mismo tiempo los modelos seguros en su ubicación original.
Para asegurar la máxima eficiencia y minimizar los riesgos, se sugiere seguir una serie de pasos que incluyan la obtención de permisos apropiados entre los roles de IAM y la configuración de políticas de recursos tanto en los buckets de S3 como en las claves de AWS KMS. Estas configuraciones son fundamentales no solo para que el equipo de hospedaje acceda a los modelos requeridos, sino también para garantizar que cada equipo mantenga su autonomía y los controles de seguridad necesarios.
Este enfoque dual de segmentar equipos y optimizar accesos se está estableciendo como un estándar dentro de las organizaciones que desean aprovechar al máximo las capacidades de la inteligencia artificial, al mismo tiempo que aseguran un alto nivel de seguridad y eficiencia operativa.
