Malgré des mesures prises ces dernières années, ces contenus circulent toujours en masse.
Deux rapports accablent YouTube concernant la présence de vidéos haineuses et misogynes sur sa plateforme. Malgré des mesures prises ces dernières années, ces contenus circulent toujours en masse.
Un premier rapport du cabinet d’analyse Bot Sentinel est sorti le 13 septembre, suivi d’un deuxième du Center for Countering Digital Hate, le 23 septembre. Les deux rapports se penchent sur la présence de contenus haineux et misogynes sur YouTube en étudiant les vidéos et les chiffres d’audience de ces chaînes.
Le rapport du Center for Countering Digital Hate affirme que « la misogynie est bien présente sur YouTube », et « les vidéos poussant à la désinformation, à la haine et aux complots purs et simples visant les femmes sont souvent monétisées ». Pour arriver à cette conclusion, le rapport se base sur des mots-clés précis et a analysé les tendances de ceux-ci sur le web.
Le Center for Countering Digital Hate ne s’est pas uniquement concentré sur YouTube. Le rapport se penche sur les contenus appelés “Incels”. Ce terme est l’abréviation de « involuntary celibate » ou célibataire involontaire. Ce sont des individus se définissant comme masculinistes et expliquant leur célibat à cause de la haine des femmes envers les hommes. Selon le rapport, ce type de contenus posté sur YouTube a été visionné 24,2 millions de fois. Plusieurs chaînes comme Incel TV sont pointées par le rapport alors que YouTube aurait refusé de la supprimer malgré la pression publique et ses 25.000 abonnés.
Un deuxième rapport vise YouTube
Quelques jours plus tôt, un autre rapport mené par le cabinet d’analyse Bot Sentinel est sorti. Bot Sentinel est une plate-forme qui utilise l’apprentissage automatique et l’intelligence artificielle pour analyser les contenus d’Internet et repérer ceux qui peuvent être problématiques. Le cabinet s’est concentré sur 29 chaînes YouTube pour identifier les contenus.
Le rapport estime que 22 des chaines analysées cumulent 441 millions de vues. Une chaine est particulièrement visée, ThatUmbrellaGuy qui cumule plus de 116 millions de vues. Là encore, YouTube aurait refusé de prendre des mesures. Le rapport pointe également des chaines comme celle de Trevor Coult MC “raciste, misogyne, transphobe” qui opère sur la plateforme depuis 11 ans, sans aucune sanctions de la part de YouTube.
Bot Sentinel rapporte également des faits de harcèlement à l’encontre de célébrités comme Meghan Markle ou Amber Heard. Au moins 29 chaînes YouTube monétisent des contenus haineux et diffamatoires ou menaçants envers Meghan Markle.
Monétisation
Le rapport souligne ainsi que cinq chaînes ont reçu un total de 42.000 dollars par mois de la plateforme alors qu’elles diffusent des discours haineux visant Meghan Markle.
Christopher Bouzy, le fondateur de Bot Sentinel, a assuré auprès de Rolling Stone avoir signalé à de multiples reprises ces vidéos à YouTube sans que jamais celles-ci ne soient supprimées. Seuls deux vidéos et des commentaires ont été bannis à la suite de ces signalements. Bouzy pointe le fait que « beaucoup des responsables de ces chaînes ne feraient pas ce qu’ils font si YouTube ne les récompensait pas”.
La plateforme a récemment banni l’influenceur en ligne Andrew Tate, connu pour ses écarts misogyne, après avoir amassé des millions de revenus publicitaires. « D’autres chaînes suivent une idéologie similaire, postent régulièrement et utilisent la plateforme pour accroître leur audience », conclut le rapport du Center for Countering Digital Hate. Certaines chaînes continuent également à télécharger le contenu d’Andrew Tate via YouTube Shorts, les formats courts de la plateforme.
YouTube assure faire son possible
Interrogé par Tech&Co, Charles Savreux, chargé de la communication de YouTube France, affirme que la plateforme a bien connaissance de ces rapports mais avance ne pas savoir « de quelle manière ceux-ci ont été fait ni quelle méthodologie a été utilisée”. Il met des chiffres en avant. Selon la plateforme, au premier trimestre de 2021, 235.000 vidéos et 200 millions de commentaires ont été supprimés pour violation des politiques sur la haine et le harcèlement.
Dans son processus de modération, YouTube a pour règle de le faire par étapes. “Cela peut aller de la démonétisation de la vidéo, à la soumettre à une limite d’âge, aux mineurs par exemple, à la réduction de sa viralité, à la suppression de la vidéo voire de la chaîne en cas d’enfreintes répétées à nos conditions d’utilisation”, explique Charles Savreux.
En 2019, YouTube a mis à jour des mesures pour lutter contre le harcèlement et les contenus haineux sur sa plateforme. Celle-ci compte avant tout sur les membres de la communauté YouTube pour signaler les contenus et commentaires qui leur paraissent inappropriés. Mais aussi sur les 20.000 modérateurs partout dans le monde.
Les chaines signalées par Bot Sentinel sont-elles passées sous les radars? “Il y a des vidéos qui peuvent nous échapper. C’est un défi technologique et humain compte tenu de la masse de contenus qui est diffusé sur notre plateforme chaque jour”. Charles Savreux assure que la plateforme fait tout son possible pour réduire au maximum la présence de ces chaînes. En ce qui concerne la monétisation de ces chaînes, il affirme « que la plupart ne sont pas monétisées, que Youtube travaille avec les annonceurs et que ce n’est évidemment pas dans l’intérêt de la plateforme de monétiser ces contenus ».
Interdire à ces chaînes d’être diffusées pose également la question de la liberté d’expression. Pour Charles Savreux, il est difficile, en tant que plateforme, de placer le curseur pour déterminer ce qui relève ou non de la liberté d’expression.
