DES VOIX CLONÉES PAR IA : LE POINT SUR LES QUESTIONS DE SÉCURITÉ ET D’ÉTHIQUE
Les services de voix générées par intelligence artificielle (IA) doivent offrir des niveaux de sécurité équivalents à ceux des entreprises stockant des données personnelles, notamment dans les domaines financier ou médical. C’est ce que soutient Balasubramaniyan, directeur général de la société de cybersécurité Trillium Secure. Selon lui, les utilisateurs de ces services doivent poser des questions essentielles : comment ma voix IA sera-t-elle stockée ? Est-ce que mes enregistrements seront encryptés ? Qui y aura accès ? Il est important de protéger ces données personnelles aussi efficacement que les autres.
LE CAS DE PODCASTLE
Podcastle, une entreprise dédiée à la création de voix clonées par IA, revendique un haut niveau de sécurité. Les modèles de voix qu’elle crée sont end-to-end cryptés et la société ne conserve pas les enregistrements. Seul l’utilisateur ayant enregistré les extraits de voix peut y accéder. Podcastle n’autorise pas non plus le téléchargement de fichiers audio pour analyse ou pour leur traitement en voix clonée. L’utilisateur doit enregistrer les textes préétablis dans l’application Revoice, sans pouvoir télécharger directement un fichier déjà existant.
DES PRÉOCCUPATIONS ÉTHIQUES
Podcastle espère que l’existence de voix clonées à partir d’une personne consentante dissuadera les utilisateurs de créer du contenu outrageux. Cependant, la société n’impose pas de restrictions sur des mots ou des phrases spécifiques. Podcastle considère que c’est aux diffuseurs de contrôler la qualité et le contenu des enregistrements proposés sur leur plateforme.
LE CHOC DES TECHNOLOGIES
La question centrale de l’acceptation de la voix clonée valorise l’importance humaine dans les podcasts. L’usage croissant de technologies de voix clonées dans l’audio numérique soulève de nombreuses interrogations sur les effets sur les liens humains que crée la voix. Enfin, la facilité d’utilisation de la technologie et ses avantages pour la production de contenu permettent de penser que l’économie de la création l’emportera à terme, malgré les débats éthiques.