Microsoft a confirmé que les photos eiinstructions que nous téléchargeons sur Copilot éditer des images peut être utilisé pour « améliorer nos produits et appliquer notre code de conduite ». Derrière cette phrase se cachent des centaines d'entrepreneurs humains qui reçoivent les images originales non censurées, avec leurs visages visibles, pour décider quelle édition d'IA correspond le mieux à l'invite de chaque utilisateur.
Nous vous expliquons comment cela fonctionne : lorsque nous téléchargeons une photo pour la modifier, Copilot envoie l'image originale, l'invite et deux versions retouchées à un réviseur humain, afin qu'il puisse choisir celle qui correspond le mieux aux instructions. C'est une tâche de qualité technique et non de modération. « Les visages apparaissent toujours non censurés, et de nombreuses incitations sont de nature sexuelle et de consentement douteux », a déclaré l'un des critiques, qui a requis l'anonymat parce que son contrat lui interdit de parler à la presse.
Des entrepreneurs sans filtre face à des invites intimes
Les guides internes ne laissent aucune place au doute moral : ils demandent aux évaluateurs de se fier à leur instinct et, en cas de doute, de se fier à la première impression. La tâche se limite à comparer quelle édition répond le mieux à l'invite, sans obligation d'arrêter le travail ou de signaler un contenu problématique au-delà d'un avis interne spécifique.
Parmi les exemples qui ont émergé figurent des demandes visant à raccourcir les jupes, à agrandir les seins, à placer des personnes dans des positions sexuelles et des séries entières de photos de jupes hautes, ainsi que des invites pro-anorexie et un lot de huit images sous la jupe de quelqu'un, qu'un critique a signalé comme étant un « contenu dangereux ». L'un d'eux a demandé sur le tableau d'affichage interne de l'entreprise sous contrat : « Qui rédige ces invites et qui décide que générer du porno est ce que Copilot fait maintenant ? Au moins une des entreprises qui emploient ces évaluateurs est Prolifiquequi n'a pas répondu aux demandes de commentaires.
La relance de Copilot et son impact
La découverte intervient quelques jours seulement après que Microsoft a présenté, le 25 septembre 2026, une reformulation complète de Copilot : un hub Home qui intègre Cowork et Office, une section Code pour créer des applications avec des instructions en langage naturel, et Autopilot (anciennement Scout), son premier agent permanent. Satya NadellaPDG de l'entreprise, a comparé l'arrivée de ces outils sur le lieu de travail à l'émergence du PC.
Jacob Andreou, vice-président exécutif de Copilot, a déclaré que le risque de l'IA qui inquiète le plus Microsoft est la diffusion : la diffusion massive de la technologie dans l'économie. Il a également rejeté les préoccupations de sécurité d'Anthropic concernant le déplacement de documents sensibles vers des appareils locaux. L'annonce a fait grimper le titre de Microsoft de près de 4 % et a conduit Goldman Sachs à prévoir un bénéfice par action supérieur à 35 $ pour l'exercice 2030. Les abonnements à l'assistant Premium ont atteint 30 millions, soit une hausse de dix millions en trois mois : 3,3 % des 450 millions d'abonnés commerciaux de Microsoft 365.
La zone grise de l'AI Act et le cas d'OpenAI
La Commission européenne a commencé à exiger le respect de la loi sur l'IA le 2 août 2026 : les chatbots doivent être identifiés comme des systèmes automatisés, les deepfakes doivent avoir une étiquette visible et les contenus générés par une machine doivent porter des marques lisibles par d'autres systèmes, avec des sanctions pouvant aller jusqu'à 15 millions d'euros ou 3 % du chiffre d'affaires mondial.
Les interdictions explicites sur les contenus sexuels non consensuels, incluses dans le paquet d'amendements AI Omnibus, n'entreront en vigueur que le 2 décembre 2026, ce qui laisse le double flux de données dans ce processus dans une zone grise : la photo de l'utilisateur, avec le visage non censuré, et l'invite, qui peut révéler l'intention de la personne qui l'a écrit.
Le cas Copilot n'est pas isolé : nous observons un schéma similaire dans OpenAI, où un programme interne appelé Projet Lily Des centaines d'entrepreneurs lisent de vraies conversations ChatGPT, les résument et les notent de un à sept. Un recours collectif déposé en septembre en Californie accuse l'entreprise de ne pas avoir clairement averti qu'une personne pourrait lire ces conversations.
FAQ sur la confidentialité de Microsoft Copilot L'article 50 de la loi IA, en vigueur depuis le 2 août 2026, exige que les chatbots soient identifiés comme des systèmes automatisés, que les deepfakes portent une étiquette visible et que les contenus générés ou manipulés par une machine comportent des marques lisibles par d'autres systèmes.
Prolific fait partie des entreprises qui, selon des documents internes divulgués, emploient des sous-traitants chargés d'examiner et de comparer les images éditées par Copilot. La société n'a pas répondu aux demandes de commentaires sur ce processus.
Project Lily est un programme OpenAI interne dans lequel des centaines d'entrepreneurs lisent de vraies conversations ChatGPT, les résument et évaluent les réponses du système de un à sept. Un recours collectif déposé en septembre en Californie accuse la société de ne pas avoir clairement averti les utilisateurs de cet examen humain.
Qu’exige l’article 50 de la loi sur l’IA des entreprises d’intelligence artificielle ?
Qu’est-ce que Prolific et quel est son rapport avec Microsoft Copilot ?
Qu'est-ce que Project Lily, le programme OpenAI lié au cas Copilot ?