DEMANDE DE MORATOIRE SUR L’AVANCEMENT DES SYSTÈMES D’INTELLIGENCE ARTIFICIELLE CAPABLES DE CONTRÔLER LE MONDE
Plus de 1 000 dirigeants technologiques, chercheurs et autres ont signé une lettre ouverte exhortant à un moratoire sur le développement des systèmes d’intelligence artificielle les plus puissants. Cette demande intervient alors que les préoccupations concernant les risques liés à la prise de décision autonome par les machines ont été plusieurs fois soulevées.
La lettre, publiée par le Future of Life Institute (FLI), appelle à la mise en place d’un moratoire sur les systèmes d’intelligence artificielle qui ont la capacité de prendre des décisions autonomes et irrévocables qui pourraient avoir un impact significatif sur la vie humaine ou l’environnement.
Ces technologies sont appelées « systèmes d’intelligence artificielle générale » (AGI) et sont considérées comme étant capables de rivaliser avec l’intelligence humaine. Les signataires de la lettre affirment que « les technologies AGI ont le potentiel de transformer les systèmes économiques, sociaux et politiques, et même de générer un changement radical dans la relation entre les humains et la nature ».
Ils soulignent également que si ces systèmes d’IA sont développés sans réglementation ou prudence appropriée, ils pourraient être détournés ou utilisés à des fins malveillantes, comme la création d’armes autonomes.
La lettre fait suite à une résolution similaire adoptée par le Parlement européen en 2018, demandant à la Commission européenne de proposer une législation sur les robots et l’IA en vue de garantir la sécurité et la transparence de ces technologies.
Le FLI, une organisation à but non lucratif financée par des donateurs privés, a commencé à recueillir des signatures pour sa lettre ouverte en janvier. Parmi les signataires figurent le physicien Stephen Hawking, le cofondateur d’Apple Steve Wozniak et le philosophe Noam Chomsky.
Le FLI, qui a également publié une série de rapports sur les risques liés à l’AGI, a déclaré qu’il espérait que la lettre encourageait les gouvernements et les entreprises à réfléchir de manière approfondie à la manière dont ces technologies sont développées et réglementées.
L’appel à un moratoire sur l’avancement de l’IA est une mesure radicale, mais il reflète les préoccupations croissantes concernant l’augmentation de la puissance de l’intelligence artificielle. Alors que les technologies d’IA continuent à se développer, la question de savoir comment elles peuvent être réglementées et utilisées de manière responsable devient de plus en plus urgente. La réponse pourrait avoir un impact significatif sur la vie humaine et l’avenir de notre planète.
