PowerSchool, reconocido proveedor de software educativo en la nube, ha lanzado recientemente PowerBuddy™, un innovador asistente de inteligencia artificial que tiene como objetivo apoyar a más de 60 millones de estudiantes en más de 90 países. Esta herramienta se integra en diversas plataformas educativas, facilitando la interacción entre los estudiantes y sus redes de apoyo. Sin embargo, uno de los principales desafíos ha sido implementar un sistema de filtrado de contenido que garantice la seguridad de los estudiantes, especialmente en entornos donde muchos de ellos son menores de edad.
Para abordar esta problemática, PowerSchool ha desarrollado una solución personalizada de filtrado de contenido utilizando Amazon SageMaker AI. Este sistema ha sido diseñado para identificar y bloquear contenido perjudicial, como el acoso escolar o el discurso de odio, sin interferir en debates académicos legítimos. Así, asegurar que un examen histórico no sea erróneamente clasificado como contenido violento se convierte en una prioridad.
La solución presenta un conjunto robusto de características, abarcando desde la preparación de los datos hasta la arquitectura de inferencia. Mediante técnicas de adaptación de bajo rango (LoRA), el equipo ajustó el modelo Llama 3.1 8B para su funcionamiento específico en este contexto. Las pruebas realizadas han demostrado que el sistema presenta un 93% de precisión en la identificación de contenidos dañinos, con un índice bajo de falsos positivos de menos del 3.75%, lo que representa un avance significativo en comparación con soluciones genéricas.
Este enfoque personalizado no solo se ha mostrado más efectivo que otras alternativas, sino que también ha incrementado la confianza en el uso de herramientas de inteligencia artificial en las aulas. La recolección continua de retroalimentación y las pruebas A/B han permitido realizar ajustes en tiempo real para mantener y mejorar la eficacia del filtrado de contenido.
Con el crecimiento de la integración de PowerBuddy en otros productos de PowerSchool, la empresa planea adaptar aún más su modelo de filtrado, buscando siempre un balance entre innovación educativa y la seguridad del estudiante. El objetivo final es construir un entorno de aprendizaje seguro y accesible que permita a los estudiantes desarrollarse sin miedo a la exposición a contenidos dañinos.
