Résumé :
Microsoft a annoncé de nouvelles normes de sécurité et de confidentialité en matière d'intelligence artificielle dans les écoles avec l'American Federation of Teachers (AFT) et sa filiale new-yorkaise, le New York City Union of Teachers (UFT). En vertu de l'accord, les districts scolaires qui adoptent les normes peuvent insérer dans leurs contrats des dispositions qui les rendront juridiquement contraignantes, notamment en ne pas utiliser les données des élèves ou des enseignants pour former des modèles d'IA, en minimisant la collecte de données, en fournissant un langage clair aux familles sur le fonctionnement des outils, en interdisant le déploiement de produits compagnons d'IA et en mettant en œuvre un examen humain des décisions « à haut risque ».
Peu de temps avant l'introduction de cet accord, deux grands districts scolaires publics de New York et de Los Angeles ont annoncé qu'ils interdiraient temporairement les outils d'IA à de nombreux étudiants pendant un an afin d'évaluer l'utilisation raisonnable de ces outils sur le campus et les mesures de protection de sécurité nécessaires. Alors que les parents et certains éducateurs s'inquiètent de plus en plus de l'introduction de l'IA dans les écoles et de l'augmentation du temps d'écran pour les élèves, Microsoft espère apparemment réduire la possibilité d'un durcissement supplémentaire des politiques des districts scolaires grâce à de nouvelles règles contraignantes.
À partir de novembre prochain, les districts scolaires auront la possibilité d'ajouter ces conditions aux accords de partenariat Microsoft nouveaux ou existants sans avoir à renégocier l'intégralité du contrat. L'une des principales exigences de l'accord est que Microsoft ne doit pas utiliser les données des étudiants et des enseignants pour la formation de modèles ; dans le même temps, l’entreprise doit limiter la quantité de données brutes collectées et expliquer clairement aux familles d’étudiants comment ses produits d’IA traitent et utilisent les informations pertinentes.
La Fédération américaine des enseignants s'est longtemps montrée prudente quant à l'introduction de technologies éducatives dans les écoles, mais elle n'a pas complètement rejeté la coopération avec les entreprises technologiques pour aider les éducateurs à faire face au développement rapide de l'IA. Randy Weingarten, président de l'organisation, a soutenu en mai que les appareils à écran devraient être interdits aux élèves de troisième année et que les outils d'IA destinés aux élèves ne devraient pas être utilisés avant le collège. Cependant, l'AFT a également annoncé précédemment la création d'un centre de formation en IA pour les éducateurs, recevant un financement total de 23 millions de dollars d'Anthropic, Microsoft et OpenAI.
En parlant de l'accord avec Microsoft, Weingarten a déclaré que les termes étaient "solides comme le roc" et nécessaires car "aucune autre agence, y compris le gouvernement fédéral, n'est intervenue pour faire le travail qui devait vraiment être fait". Elle estime que face aux risques provoqués par l’IA sur les campus, le secteur de l’éducation ne peut pas se contenter d’exprimer son mécontentement, mais doit prendre des mesures décisives ; tout engagement dépourvu de force exécutoire n'est qu'une « liste de souhaits ».
Commentaires