Réguler pour mieux contrôler ? La China’s Cyberspace Administration, le régulateur chinois de l’Internet, s’inquiète de l’utilisation croissante de la technologie deepfake pour propager de fausses informations. Dans un communiqué relayé par The Register, le gouvernement chinois précise le cadre d’application des nouvelles règles.
Un règlement plus politique que technologique
Le règlement en la matière entrera en vigueur le 10 janvier 2023. Ce dernier vise à “promouvoir les valeurs fondamentales socialistes, à sauvegarder la sécurité nationale et les intérêts publics sociaux et à protéger les droits et intérêts légitimes des citoyens, des personnes morales et d’autres organisations”. Un vaste programme qui s’inscrit dans l’utilisation en hausse ces dernières années des deepfakes pour relayer des photographies, vidéos ou sons modifiés. Pour rappel, les contenus du genre sont générés à partir de données compilées par une intelligence artificielle. Le système peut alors reproduire quasi parfaitement la voix ou le visage d’une personne et lui faire prononcer n’importe quelle phrase.
Le règlement stipule l’interdiction de l’usage du deepfake afin de “se livrer à des activités interdites par les lois et règlements administratifs”. Cette disposition vise à limiter la fraude répandue dans le pays, mais pourrait faire l’objet d’une interprétation élargie pour censurer des contenus politiquement incorrects. Pour utiliser l’image d’une personne avec un deepfake, cette dernière doit avoir donné sa permission explicite. De même, les contenus générés artificiellement doivent faire l’objet d’un message d’avertissement destiné aux internautes. “La génération de visages humains et de scènes réalistes immersives qui génèrent ou modifient de manière significative le contenu de l’information doivent être marqués de manière bien visible pour éviter toute confusion ou erreur d’identification du public”, explicite le règlement.
Un audit de sécurité exigé
Toutes les utilisations de deepfake ne sont, en revanche, pas interdites. Leader dans plusieurs secteurs technologiques clés, Pékin est conscient qu’une interdiction pure et simple pourrait nuire à son industrie. Ainsi, la création d’un contenu deepfake est autorisée après “une évaluation de la sécurité” lors “du lancement de nouveaux produits, de nouvelles applications ou de nouvelles fonctions avec des attributs d’opinion publique ou des capacités de mobilisation sociale”, fait savoir le régulateur.
Dans le même temps, les sociétés à l’origine de ces produits technologiques devront, comme elles en ont déjà l’habitude, collaborer avec le régime de Pékin. Ces nouvelles règles devraient donc permettre, selon la China’s Cyberspace Administration, de “promouvoir le développement sain des services d’information sur Internet et maintenir une bonne écologie du cyberespace”.
Une régulation vitale pour Pékin
Selon Emmie Hine du Groupe de gouvernance numérique d’Oxford et Luciano Floridi du département d’études juridiques de l’université de Bologne (Italie), la régulation du deepfake était nécessaire, voire vitale pour les autorités chinoises. “Pour un gouvernement qui dépend de sa capacité à contrôler les informations mises à la disposition de ses citoyens, le contenu deepfake représente une menace existentielle”, expliquaient les chercheurs dans Nature Machine Intelligence.
Et de préciser : “Un seul faux post peut être censuré ou officiellement discrédité. Cependant, une hypothétique fausse théorie du complot soutenue par des photographies, des vidéos et des documents truqués numériquement ne peut pas être contrée aussi facilement. Même lorsque le contenu est supprimé d’Internet, il reste dans l’esprit des gens.” Un nouveau règlement qui vient s’ajouter à une flopée de lois visant à contrôler d’une main de fer l’Internet chinois.
