Musk a fait le ménage, mais probablement pas au bon endroit. L’arrivée du propriétaire de Tesla à la tête du réseau social s’est accompagnée d’une vague de licenciements. Problème, l’un des services de modération de Twitter les plus sensibles est touché de plein fouet. D’après les révélations de Bloomberg, l’équipe de Twitter chargée de la lutte contre l’exploitation sexuelle des enfants a été réduite de moitié, “laissant derrière elle une équipe squelettique débordée”, selon une source du média.
Toujours selon Bloomberg, le service serait aujourd’hui constitué de moins de 10 spécialistes, responsables d’examiner et de transmettre des rapports sur des cas d’exploitation sexuelle d’enfants. Au début de l’année, l’équipe était constituée de près de 20 personnes déjà débordées. Avant même les départs (forcés), les employés étaient extrêmement sollicités, travaillant de longues heures pour traiter les demandes d’utilisateurs et les cas juridiques.
Constituée d’anciens agents des forces de l’ordre et d’experts de la sécurité des enfants, l’équipe avait pour mission de mettre fin à la diffusion de documents relatifs à l’exploitation sexuelle des enfants, d’identifier et relever les cas de manipulation psychologique de mineurs — appelée grooming — mais également de stopper les contenus et représentations cherchant à faire passer l’attirance pour les mineurs pour une identité ou une orientation sexuelle.
Des IA c’est bien, des humains c’est mieux
La semaine dernière, le nouveau patron de Twitter a twitté que “« réprimer l’exploitation des enfants est la priorité n°1 » et invité les utilisateurs à « répondre dans les commentaires [s’ils voient] quelque chose que Twitter doit aborder« . Et si certains hashtags associés à l’exploitation sexuelle des mineurs ont disparu depuis son arrivée, les choix d’Elon Musk risque d’avoir de lourdes conséquences sur la modération de son réseau social.
Bien qu’il soit aidé par des intelligences artificielles pour détecter les contenus illégaux, l’être humain et son analyse sont irremplaçables. Tout d’abord, car une intelligence artificielle n’est pas capable d’analyser avec précision les cas de grooming, mais également parce qu’une IA n’est pas un bon témoin dans une enquête judiciaire. D’autant plus que certaines parties du globe vont être plus impactées que d’autres : la perte de spécialistes européens et singapouriens “constituera un défi particulier” afin de maintenir “de l’ordre sur les marchés non anglophones”, toujours selon les sources de Bloomberg.
La fonte des effectifs d’une équipe aussi importante intervient alors que l’Union européenne et le Royaume-Uni prévoient un durcissement des réglementations imposées aux plateformes numériques concernant la protection des utilisateurs, et par extension des mineurs. Avec le Digital Services Act (ou DSA), les grandes entreprises devront être très méticuleuses quant à la sécurité de leur public, sous peine d’amendes importantes pouvant aller jusqu’à 6 % de leur chiffre d’affaires mondial, voire d’une interdiction d’opérer sur le Vieux Continent en cas d’infractions répétées.
Cette saignée dans l’équipe luttant contre l’exploitation sexuelle est perçue à plus d’un titre comme un signal alarmant, le réseau social risquant de devenir de moins en moins sécurisé, notamment pour les plus jeunes.
