Los administradores tecnológicos de los distritos escolares se enfrentan cada vez más a problemas de rendición de cuentas cuando las herramientas de inteligencia artificial toman decisiones erróneas o inexplicables. En muchos casos, las organizaciones educativas carecen de visibilidad sobre los datos subyacentes utilizados para entrenar los modelos implementados, las versiones específicas del software en ejecución o las dependencias de terceros integradas en las herramientas externas.

Para abordar este punto ciego operativo y normativo, los responsables tecnológicos de los distritos están estudiando la adopción de una lista de materiales de IA (AIBOM, por sus siglas en inglés). Adaptando el marco consolidado de la lista de materiales de software (SBOM) procedente de la seguridad de la cadena de suministro de software, una AIBOM detalla los componentes, las fuentes de datos y la arquitectura que sustentan una aplicación de IA, ofreciendo a las instituciones una mayor capacidad de supervisión a la hora de evaluar errores del sistema y resultados algorítmicos.