Un nouveau scandale vient de secouer à Meta, la mégacorporation fondée par Mark Zuckerberg, après avoir révélé qu'ils ont répondu à plusieurs célébrités dans leurs chatbots sans leur consentement exprès. En fait, la controverse implique des chiffres tels que Taylor Swift, Scarlett Johansson, Selena Gomez et Anne Athaway, dont le nom, l'apparence et la voix ont été utilisés dans les réseaux sociaux d'objectif tels que Facebook, WhatsApp et Instagram.
Mais au-delà du scandale des médias qui implique des célébrités, la chose la plus nocive dans ce cas est que certains de ces robots ont généré des conversations et un contenu de nature sexuelle. Quelque chose qui a provoqué la réaction des avocats des personnes touchées et de l'Union SAG-AFTRA. Cependant, le scandale ne s'arrête pas ici, et ils ont également utilisé la voix et l'apparence de l'acteur Walker Scobell, seulement 16 ans. Ce qui implique qu'ils ont même traversé la barrière minoritaire.
Ces robots ont été développés par les deux utilisateurs et par employés de l'entreprise. Autrement dit, ce n'était pas une décision ou un « bug », mais une décision qui a adopté les filtres d'un appartement. Quelque chose auquel l'entreprise a tenté de répondre avec de nouvelles mesures.
Taylor Swift ou Anne Hathaway, parmi les personnalités volées
Le scandale a commencé lorsque la Reuters Agency, dans une enquête publiée sur Agost0 29, a rapporté que sur des plateformes telles que Facebook, Instagram et WhatsApp, plusieurs bots d'IA ont créé des versions numériques de célèbre sans leur consentement. Parmi les principales figures touchées figuraient Taylor Swift, Scarlett Johansson, Anne Hathaway ou Selena Gomez. Ces robots ont non seulement reproduit l'apparence et la voix originale des artistes, mais ont interagi avec les utilisateurs par le biais de messages sexuels controversés. Quelque chose qui a été emmené à l'extrême avec la génération d'images photoréalistes non autorisées des actrices. En fait, ces chatbots faisaient des insinuations sexuelles et ont même invité les utilisateurs à rester avec eux, comme s'ils étaient les actrices eux-mêmes.
Compte tenu de cela, Meta a reconnu ses échecs dans les mécanismes de contrôle et a assuré que bon nombre de ces robots ont été éliminés après la publication du rapport.
Pour contextualiser les implémentations légales, Mark Lemley, professeur de droit de la propriété intellectuelle à l'Université de Stanford, a expliqué à Reuters que le droit de la publicité californienne (siège principal de la méta) interdit à un nom ou à l'image de quelqu'un à des fins commerciales. Quelque chose que la cible n'a pas rempli.
Cependant, les irrégularités éthiques et morales se sont intensifiées lorsqu'il a été découvert que certains de ces robots utilisaient des images et Voix de mineurscomme c'est le cas de l'acteur Walker Scobell, 16. Tout cela dans l'intention d'établir des chats avec le contenu des adultes. L'origine de ces informations, selon les Reuters lui-même, nous le trouvons dans une filtration de documents internes. En eux, ils ont montré que les chatbots avaient maintenu des pourparlers avec des suggestions extrêmement sensibles même avec des enfants. Quelque chose qui a provoqué une alarme entre la société et le Sénat américain, qui a déjà commencé ses propres recherches
| Nom | Type de contenu généré | Âge (statut) |
|---|---|---|
| Taylor Swift | Conversations et images sexuelles | Adulte |
| Anne Hathaway | Insinuations sexuelles et invitations aux rencontres | Adulte |
| Scarlett Johansson | Invitations à des réunions et conversations inappropriées | Adulte |
| Selena Gomez | Réplication de la voix et de l'apparence pour les interactions non autorisées | Adulte |
| Walker Scobell | Images sans T -Shirt et conversations inappropriées | 16 ans (mineur) |
La réponse finale
Pour sa part, le géant de la Silicon Valley a répondu avec l'élimination des robots problématiques, ainsi que l'annonce des mises à jour de ses politiques et de sa formation en IA. Tout afin d'éviter la reproduction du contenu des adultes et de protéger les mineurs. En outre, la société a déclaré qu'elle formait ses systèmes pour éviter des problèmes tels que la romance, le suicide ou les autolation dans les discussions avec les mineurs.
Malgré cela, la nouvelle a transgressé le secteur technologique et a atteint le secteur législatif américain, en fait, la nécessité d'une réglementation plus stricte pour protéger l'image publique et les utilisateurs mineurs et les utilisateurs mineurs.