Fiddler AI, una empresa líder en el ámbito de la observabilidad y la seguridad de la inteligencia artificial, está trabajando incansablemente para hacer del mundo un lugar mejor. En el reciente Generative AI Summit llevado a cabo en Washington D.C., Nick Nolan, gerente de ingeniería de soluciones en Fiddler AI, compartió información sobre las iniciativas de la compañía en el campo de la inteligencia artificial y su compromiso con el desarrollo de aplicaciones responsables.
La misión de Fiddler AI se centra en construir la confianza en los sistemas de IA, abordando áreas críticas como la creación de aplicaciones de IA responsables y la garantía de que los usuarios obtengan respuestas justas y confiables al interactuar con estas tecnologías. A medida que la inteligencia artificial avanza, en especial en la generación de contenido, es previsible que surjan nuevas políticas destinadas a regular la gobernanza, el riesgo y el cumplimiento, lo que es fundamental para proteger a los consumidores de resultados dañinos o sesgados.
Para guiar a las empresas en el uso responsable de la inteligencia artificial, Fiddler AI desarrolla su enfoque en tres áreas importantes: monitoreo, seguridad y gobernanza. Su plataforma de observabilidad permite a las empresas realizar un seguimiento exhaustivo de las métricas asociadas a modelos de lenguaje de gran tamaño (LLM) y de aprendizaje automático, generando alertas cuando estas métricas caen por debajo de niveles establecidos. Además, la plataforma proporciona evidencia de auditoría, un componente esencial para cumplir con las regulaciones vigentes.
A medida que más empresas adoptan LLM, enfrentan retos significativos, como la necesidad de supervisar estos modelos en entornos reales. La solución de Fiddler, denominada Guardrails, no solo aborda esta necesidad, sino que también ofrece tiempos de respuesta inferiores a 100 milisegundos, garantizando implementación segura en los entornos de trabajo de los clientes.
El compromiso de Fiddler con prácticas responsables de IA incluye un monitoreo continuo en busca de sesgos y equidad. Su plataforma alertará en tiempo real sobre comportamientos sesgados y generará automáticamente la evidencia de auditoría necesaria para cumplir con las normativas regulatorias.
Un ejemplo concreto del impacto positivo de Fiddler se refleja en su colaboración con Integral Ad Science (IAS), donde la plataforma de Fiddler mejoró la supervisión de modelos de aprendizaje automático y facilitó el cumplimiento regulatorio, lo que resultó en un ahorro considerable en costos de monitoreo y una aceleración significativa en la velocidad de lanzamiento de productos.
Con un enfoque creciente en la privacidad de los datos, Fiddler ha establecido un marco robusto de seguridad que asegura el cumplimiento de las regulaciones de protección de datos. La empresa está comprometida a manejar todas las interacciones y datos en conformidad con las leyes de privacidad y estándares industriales actuales.
Mirando hacia el futuro, Fiddler AI tiene planes para expandir su liderazgo en la observabilidad de IA, centrándose en el desarrollo de capacidades avanzadas y recursos educativos que impulsarán una gobernanza efectiva en el uso de esta tecnología, ayudando a las empresas a implementar modelos de IA que no solo sean rentables, sino también responsables y equitativos para todos.
