Des experts du domaine de l’intelligence artificielle, y compris Elon Musk, propriétaire de Twitter et fondateur de SpaceX et de Tesla, ont envoyé une lettre ouverte appelant à une pause de six mois dans le développement de systèmes d’IA générative à la suite du lancement récent de ChatGPT 4 par OpenAI, citant les risques potentiels pour la société et l’humanité.
La pétition, publiée sur le site Futureoflife.org, réclame un moratoire jusqu’à la mise en place de systèmes de sécurité, y compris de nouvelles autorités réglementaires dédiées, la surveillance des systèmes d’IA, des techniques pour aider à distinguer le réel de l’artificiel et des institutions capables de gérer les « perturbations économiques et politiques dramatiques (en particulier pour la démocratie) que l’IA provoquera ». L’appel a été signé par des personnalités qui ont déjà publiquement exprimé leurs craintes envers des IA incontrôlables qui surpasseraient l’être humain, dont le fondateur de Tesla et l’auteur de « Sapiens », Yuval Noah Harari.
Des préoccupations ont été exprimées quant au potentiel de manipulation de l’IA pour perturber les démocraties et la société en général. Des inquiétudes ont été soulevées quant à l’impact énorme des laboratoires d’IA qui cherchent à développer des cerveaux numériques toujours plus puissants, que personne – pas même leurs créateurs – ne peut comprendre, prédire ou contrôler de manière fiable.
Les laboratoires d’IA doivent donc être réglementés pour éviter que les machines inondent les canaux d’information de propagande et de mensonges, et pour éviter que tous les emplois, y compris les plus gratifiants, soient automatisés. Il faut éviter de développer des esprits non humains qui pourraient un jour être plus nombreux, plus intelligents, nous rendre obsolètes et nous remplacer. Il faut éviter de perdre le contrôle de notre civilisation.
La pétition souligne la nécessité de prendre le temps de ralentir la course commerciale en cours et d’en discuter au niveau mondial, comme nous l’avons fait pour l’énergie et les armes nucléaires. Le fondateur d’OpenAI, Sam Altman, concepteur de ChatGPT, a déclaré être « un peu effrayé » par sa création s’il était utilisé pour de « la désinformation à grande échelle ou des cyberattaques ».
En plus d’Elon Musk, Yoshua Bengio, pionnier canadien de l’IA, Steve Wozniak, cofondateur d’Apple, des membres du laboratoire d’IA de Google DeepMind, le patron de Stability AI Emad Mostaque, concurrent d’OpenAI, ainsi que des experts en IA et universitaires américains, ingénieurs cadres de Microsoft, un allié d’OpenAI, ont tous signé la pétition. Il est essentiel de mettre en place des mesures de sécurité pour protéger la société et l’humanité avant de poursuivre le développement de systèmes d’IA générative.
