Les administrateurs informatiques des districts scolaires sont de plus en plus confrontés à des défis de responsabilité lorsque les outils d'intelligence artificielle prennent des décisions erronées ou inexplicables. Dans bien des cas, les établissements d'enseignement manquent de visibilité sur les données sous-jacentes utilisées pour entraîner les modèles déployés, les versions logicielles précises en cours d'exécution ou les dépendances tierces intégrées aux outils tiers.

Pour remédier à cet angle mort opérationnel et réglementaire, les responsables technologiques des districts étudient l'adoption d'une nomenclature d'IA (AIBOM ou AI Bill of Materials). Adaptant le cadre établi de la nomenclature logicielle (SBOM pour Software Bill of Materials) issu de la sécurité de la chaîne logistique logicielle, un AIBOM détaille les composants, les sources de données et l'architecture alimentant une application d'IA afin d'offrir aux institutions une supervision plus claire lors de l'évaluation des erreurs système et des résultats algorithmiques.