IT-Verantwortliche in Schulbezirken sehen sich zunehmend mit Fragen der Verantwortlichkeit konfrontiert, wenn Werkzeuge mit künstlicher Intelligenz fehlerhafte oder nicht nachvollziehbare Entscheidungen treffen. In vielen Fällen fehlt Bildungseinrichtungen der Einblick in die zugrunde liegenden Trainingsdaten der eingesetzten Modelle, die konkret ausgeführten Softwareversionen oder die in Drittanbieter-Tools eingebetteten Komponenten Dritter.

Um diese betriebliche und regulatorische Leerstelle zu schließen, prüfen IT-Leitungen in den Schulverwaltungen die Einführung einer KI-Stückliste (AI Bill of Materials, AIBOM). In Anlehnung an das etablierte Konzept der Software-Stückliste (Software Bill of Materials, SBOM) aus der Software-Lieferkettensicherheit schlüsselt eine AIBOM die Komponenten, Datenquellen und die Architektur einer KI-Anwendung auf. Dies verschafft Einrichtungen eine bessere Kontrollmöglichkeit bei der Bewertung von Systemfehlern und algorithmischen Ergebnissen.