LA CHINE PROPOSE DES GUIDELINES STRICTES POUR L’IA GÉNÉRATIVE
Le régulateur numérique le plus haut placé en Chine a proposé cette semaine de nouvelles directives audacieuses qui interdisent aux modèles de langage de grande envergure tels que ChatGPT de générer du contenu jugé subversif pour le pouvoir étatique ou encourageant le renversement du système politique communiste du pays. Selon des experts interrogés par Gizmodo, ces nouvelles directives marquent les signes les plus clairs de l’enthousiasme de la Chine pour étendre son appareil de censure en ligne à la nouvelle ère de l’intelligence artificielle générale.
L’administration chinoise du cyberespace a publié un projet de directive qui exige que les développeurs d’IA qui souhaitent opérer en Chine soumettent leurs produits à une vérification de sécurité gouvernementale avant leur sortie et garantissent que tout contenu généré par l’IA est clairement étiqueté. Les chatbots devront vérifier l’identité des utilisateurs, et leurs créateurs seront obligés de s’assurer que le contenu servi par l’IA est factuel et ne discrimine pas les utilisateurs en fonction de leur race, leur ethnicité, leur croyance, leur pays, leur région ou leur genre.
Bien que la plupart de ces mesures semblent en ligne avec les appels des experts en sécurité de IA dans d’autres pays, les directives divergent nettement sur les questions de contenu politique potentiellement subversif. La Chine veut imposer des mesures strictes largement en accord avec sa réglementation actuelle qui modère les discours sur les réseaux sociaux.
Des partenariats étroits avec le président Xi Jinping ?
Les critiques de l’administration du cyberespace chinoise (CAC) pensent que les liens étroits de l’agence avec le Président Xi Jinping la rendent directement impliquée dans les demandes de censure émanant des plus hauts niveaux du pouvoir. Ils considèrent que les interdictions proposées par la CAC sur les contenus qui promeuvent le terrorisme ou l’extrémisme pourraient être utilisées pour réprimer les dissidents politiques ou les groupes marginalisés tels que la minorité musulmane ouïghoure du pays.
Caster craint que les nouvelles directives de la Chine sur l’IA générale puissent conduire à une répression des articles étrangers traduits par chatbots ou de suggestions sur la façon dont les internautes pourraient utiliser des VPN ou d’autres outils pour contourner le filtre de contenu du « Grand Firewall » de la Chine.
Les chatbots américains et chinois pourraient exister dans des réalités alternatives
Les régulateurs chinois ont exprimé des craintes quant à une éventuelle interférence politique attribuée aux chatbots d’IA américains. En février, Tencent et Ant Group auraient bloqué les utilisateurs qui tentent d’accéder à OpenAI’s ChatGPT, que les régulateurs ont averti de pouvoir « diffuser de fausses informations ». Bien que ChatGPT soit bloqué en Chine, les utilisateurs de WeChat et d’autres applications partageaient apparemment des échanges avec le modèle après avoir utilisé des VPN. Certaines des réponses fournies par ChatGPT, selon The Guardian, auraient été perçues par les autorités chinoises comme étant « conformes à la propagande politique du gouvernement américain ».
De l’autre côté du Pacifique, les législateurs américains expriment des inquiétudes similaires concernant les modèles d’IA chinois. S’exprimant lors d’un événement Axios le mois dernier, le président républicain de la commission de sélection de la Chine de la Chambre, Mike Gallagher, a décrit les modèles d’IA chinois comme des armes que les responsables gouvernementaux pourraient utiliser pour parfaire un « État de surveillance techno-totalitaire orwellien ». Cela peut sembler stupide, et c’est le cas, mais d’autres faucons plus respectés de la Chine, comme l’ancien PDG de Google, Eric Schmidt, ont également déclaré que les États-Unis devaient faire « tout ce qui est nécessaire » pour remporter la course à l’IA contre la Chine.
Les restrictions imposées aux chatbots étrangers interviennent alors que des marques locales comme Baidu et Alibaba rivalisent pour proposer leurs propres alternatives similaires. Baidu a présenté sa propre alternative, baptisée Ernie Bot, au cours d’une démonstration préenregistrée le mois dernier. Elle présente des similitudes avec les modèles d’OpenAI, mais les critiques ont noté que le concurrent de Baidu semblait avoir du mal avec la logique de base. En interne, Baidu a travaillé jour et nuit, s’efforçant de faire en sorte qu’Ernie soit capable de remplir des fonctions de base. Le modèle de Tongyi Qianwen plus récemment libéré par Alibaba excelle dans l’écriture de poèmes dans plusieurs langues et dans la résolution de problèmes mathématiques de base, mais rencontre également des problèmes pour les questions de logique élémentaire.
