YouTube commence à utiliser l’IA pour interdire les utilisateurs toxiques

C’est quelque chose qui se produit depuis de nombreuses années et qui peut être étendu à une multitude de plateformes Internet qui permettent la publication de commentaires. Les utilisateurs, au moins une partie d’entre eux, utilisent cette fonctionnalité pour libérer leur haine et rage. C’est quelque chose qu’ils font à travers des commentaires toxiques qui ne sont pas voulus par la plateforme ou par le reste, mais qui continuent d’être rendus publics.

Les responsables de sites Web comme le populaire YouTube veulent mettre fin à tout cela au plus vite. Pour y parvenir, ils mettent en place certaines mesures que nous avons pu voir au cours des dernières années. Si nous nous concentrons sur le site Web de vidéo en streaming susmentionné, une nouvelle fonctionnalité très intéressante vient d’être lancée. Il faut tenir compte du fait que ces commentaires toxiques et haineux sur YouTube ont été un casse-tête pour l’entreprise. De plus, cela s’étend à la fois aux créateurs de contenu et aux visiteurs du site Web.

Une tentative a été faite pour endiguer cette situation avec des fonctions qui ont été lancées pour tenter d’y mettre un terme. Eh bien, maintenant, le service de streaming introduit une nouvelle fonctionnalité plus radicale contre les utilisateurs qui publient ce type de texte offensant. Pour vous donner une idée de ce dont nous parlons, il est clair de mentionner que le Plate-forme il informera plus clairement les personnes qui les publient et agissent.

Concrètement, la plateforme de vidéo en streaming enverra désormais une notification aux personnes dont les commentaires abusifs ont été supprimés par violer les règles du web.

Voici comment YouTube bloquera les commentaires offensants

Bien sûr, dans le cas où la notification est reçue et que des commentaires abusifs continuent d’être publiés, des mesures plus strictes seront prises. En fait, le service interdira à cet utilisateur de publier d’autres commentaires au cours des prochaines 24 heures. Qui plus est, l’entreprise responsable nous dit avoir testé cette fonction avant de la lancer désormais. Ainsi, grâce à ces tests, ils ont pu vérifier de première main que le notifications et les délais d’attente ont donné de bons résultats.

Il faut tenir compte du fait que l’avertissement préalable est disponible en anglais et en espagnol, bien qu’il soit prévu que tout cela soit étendu à d’autres langues. Il est clair que ce déménagement sera effectué afin de protéger les créateurs de contenu et leurs visiteurs. De cette façon, ceux qui tentent de souiller négativement la communauté par leurs commentaires seront pénalisés comme décrit. Par conséquent, cette fonction offrira un notification et sanction claires ceux dont les commentaires ont été supprimés pour avoir enfreint les politiques d’utilisation et qui sont des récidivistes.

Parallèlement, dans le cas où un utilisateur considérerait que son commentaire a été injustement supprimé, il pourra le notifier. Ce que nous ne savons toujours pas, c’est si YouTube les restaurera après avoir étudié les plaintes. A tout cela, il faut ajouter que la plateforme ne cesse de travailler pour améliorer ses systèmes de détection des commentaires malveillants à l’aide du IA.