Une étude du Center for Universal Education de la Brookings Institution alerte sur le fait que les risques liés à l'intelligence artificielle générative en classe dépassent actuellement ses bénéfices lorsque les outils automatisés se substituent aux tâches cognitives fondamentales. S'appuyant sur un an de groupes de discussion et d'entretiens menés auprès de 500 élèves, parents et membres de la communauté éducative, ces conclusions avertissent qu'un recours prématuré aux agents conversationnels (chatbots) peut atrophier l'esprit critique fondamental et la vérification des sources avant même que les apprenants n'aient développé des habitudes d'analyse autonomes.

Le rapport souligne que les outils d'IA doivent enrichir et non supplanter la réflexion des élèves, ce qui exige que ces derniers acquièrent d'abord des compétences d'évaluation de base. Dans des dispositifs pédagogiques concrets, tels que des ateliers structurés de rédaction journalistique ou des modules d'investigation sur les médias, les apprenants sont amenés à vérifier des faits bruts, à repérer le langage émotionnellement chargé et à évaluer directement la crédibilité des sources d'information, plutôt que de déléguer leurs recherches à des interfaces automatisées.

Pour les enseignants qui doivent concilier compétences numériques et outils automatisés, ces résultats indiquent qu'enseigner la formulation de requêtes (prompts) sans apprentissage sous-jacent de la vérification des faits, de l'éthique et de l'analyse indépendante risque de former des consommateurs d'information passifs plutôt que des esprits capables de résoudre des problèmes complexes.