TikTok va détecter plus aisément les vidéos qui flirtent avec les règles de sa politique intérieure. Le réseau social chinois vient d’annoncer, dans une note de blog, la mise à jour de ses algorithmes de détection des vidéos sexuellement suggestives.
Des contenus « difficiles à identifier«
Le but affiché est de « favoriser une expérience appropriée […] pour les mineurs« . En clair, la plateforme va réduire l’exposition du jeune public à certaines vidéos « limites » au regard du règlement de la plateforme. Sont notamment concernés « la nudité implicite, le contenu sensuel« , et l’ensemble des contenus ne convenant pas « à un public de moins de 13 ans. » Ainsi, les vidéos détectées par les algorithmes de TikTok comme potentiellement suggestives seront bannies du feed « Pour toi » des utilisateurs de moins de 13 ans.
« Bien que la technologie soit plus avancée pour détecter la nudité manifeste, il y aura toujours des contenus limites qui seront plus difficiles à identifier par nos systèmes. Nous continuons d’expérimenter de multiples approches pour faire appliquer nos politiques dans ce domaine« , assure le réseau social.
Au début de l’année 2022, l’application avait déjà mis en place un système de catégorisation des contenus. Les vidéos plus « matures » ou « complexes » n’étaient plus recommandées aux utilisateurs de 13 à 17 ans, dont les comptes sont classés comme « adolescents« . La mise en place précédente de cet outil aurait empêché la recommandation de plus d’un million de vidéos « ouvertement suggestives » au cours des 30 premiers jours de décembre 2022, selon la plateforme.
Des algorithmes entraînés en deep learning
Pour détecter plus efficacement les contenus sexuellement « explicites, suggestifs ou limites », le réseau social se base sur le machine learning. En d’autres termes, les algorithmes de TikTok ont été alimentés par une flopée de vidéos suggestives, ont appris à reconnaître les principales caractéristiques du contenu, et sont désormais capables d’identifier les clips qui reproduisent ces schémas. Par ailleurs, l’application va prochainement offrir la possibilité aux créateurs d’imposer une limite d’âge sur leurs vidéos, comme c’était déjà le cas avec les lives.
Cette mise à jour des algorithmes intervient quelques semaines après le lancement de poursuites contre l’application aux États-Unis. Todd Rokita, procureur républicain de l’État de l’Indiana, accusait l’application d’exposer « activement nos enfants à la consommation de drogues, à l’abus d’alcool, à des blasphèmes et à des contenus sexuellement explicites à un jeune âge. » Todd Rokita mettait directement en cause le programme de recommandations des contenus du réseau social.
« Nous intégrons le bien-être des jeunes dans nos politiques, nous limitons les fonctionnalités en fonction de l’âge, nous donnons aux parents des outils et des ressources et nous continuons à investir dans de nouvelles façons de profiter du contenu en fonction de l’âge ou du confort familial« , avait alors réagi TikTok.
