Microsoft impose des limites à l'utilisation de l'IA dans les écoles pour des raisons de confidentialité

C'est quelque chose qui s'applique initialement aux États-Unis, donc le Satya Nadella a nommé le document comme Norme nationale de sécurité et de confidentialité de l'IA. Et, comme on peut le voir dans l'annonce elle-même, l'accord intervient à un moment où les familles et les enseignants manifestent une méfiance croissante envers le rôle de ces outils dans les salles de classe, notamment en ce qui concerne la protection des données des mineurs.

La pression des grandes écoles

Le pacte n’est pas conclu de manière isolée. À peine une semaine plus tôt, les grands districts scolaires comme ceux de New York et Los Angeles ont annoncé des suspensions temporaires de l'utilisation des outils d'intelligence artificielle dans leurs classes, dans le but d'analyser les risques posés par la technologie et d'imposer une sécurité adéquate avant de reprendre leur utilisation parmi les étudiants.

Ce mouvement s'ajoute aux plaintes manifestées par les syndicats et les associations familiales concernant l'impact de ces outils sur les mineurs, un climat qui aurait conduit Microsoft à offrir des garanties concrètes s'il voulait que ses produits restent présents dans les salles de classe américaines. On constate que l'entreprise a choisi d'établir par écrit un cadre que les centres pourraient utiliser dans leurs contrats, même si le document ne précise pas si ces conditions seront ultérieurement étendues à d'autres fournisseurs de technologies éducatives. La coïncidence des dates, à peine une semaine entre les suspensions de New York et de Los Angeles et l'annonce de la norme nationale, suggère que cet accord intervient en réponse au malaise manifesté par ces districts.

Ce qui va changer dans les contrats des centres éducatifs

Depuis Novembreles districts scolaires des États-Unis peuvent inclure les conditions incluses dans cette norme nationale dans leurs contrats avec les fournisseurs de technologie. Cela convertit le dix principes en un outil ayant un poids contractuel pour les écoles, et non seulement un engagement volontaire de l'entreprise.

Il faut garder à l’esprit que Microsoft n’a pas détaillé publiquement, pour le moment, le contenu complet de chacun des dix points ni quelles catégories spécifiques de données étudiants sont exclues du traitement par l’IA. Ce qui ressort est l’objectif général du pacte : donner aux centres éducatifs la possibilité d’exiger le respect des plateformes qui traitent des informations sur les mineurs, dans un contexte où le manque de transparence sur l’utilisation de ces données a alimenté la méfiance des enseignants et des familles.

Il n'est pas non plus précisé si le non-respect de l'un des dix principes entraînerait automatiquement des conséquences contractuelles ou si chaque école devait le négocier au cas par cas avec son fournisseur. Ce que la norme établit, c'est le moment à partir duquel ces conditions peuvent faire partie des formalités administratives habituelles entre les districts scolaires et les entreprises de technologie éducative : Novembre.

Pourquoi les syndicats d’enseignants ont joué un rôle clé

L'accord est signé directement avec les principaux syndicats d'enseignants aux États-Unis, un acteur qui, ces dernières années, a gagné en poids dans les décisions concernant la technologie qui entrera dans les salles de classe. Leur implication explique en partie pourquoi le document se concentre sur la protection de l’enfance et pas seulement sur les questions de performance ou d’efficacité pédagogique de l’IA.

Pour les syndicats, disposer de cette norme signifie disposer d'un cadre de référence qu'ils pourraient invoquer lors de futures négociations avec d'autres fournisseurs de technologie, au-delà de Microsoft, même si l'accord ne le précise pas. Il n’existe aucune trace de l’époque où les syndicats exigeaient des garanties sur le traitement des données des étudiants, même si la méfiance à l’égard des familles et des enseignants semble être le moteur direct de ce pacte.

L'entrée en vigueur de la norme en Novembre Ce sera le moment où les districts scolaires pourront commencer à vérifier, contrat par contrat, si un fournisseur d'intelligence artificielle respecte les garanties convenues avec les syndicats d'enseignants.