OpenAI a récemment lancé une série de plugins pour son modèle de langage géant, GPT-3, permettant à des développeurs tiers d’ajouter des fonctionnalités à l’intérieur de l’API. Mais certains experts expriment des préoccupations quant aux risques d’applications basées sur ces plugins. Guo, le fondateur de LangChain, une plate-forme open source utilisant des modèles de langage pour aider les utilisateurs à apprendre une langue, craint que le lancement des plugins ne torpille les efforts des projets open source similaires. Les plugins pourraient également présenter des risques tels que des e-mails frauduleux ou du spam, selon Emily Bender, professeur de linguistique à l’Université de Washington.
Dan Hendrycks, directeur du Centre pour la sécurité de l’IA, pense que les plugins rendent les modèles de langage plus risqués dans un contexte où OpenAI, Google et Microsoft tentent activement de réduire leur responsabilité en matière d’IA. Hendrycks redoute également que d’autres fabricants de modèles de langage décident de suivre l’exemple d’OpenAI et de proposer leurs propres plugins, malgré les risques associés. Bien que la sélection actuelle soit limitée, la concurrence pourrait pousser OpenAI à élargir sa gamme de plugins et cela pourrait faciliter certaines activités illégales.
Ali Alkhatib, directeur par intérim du Centre pour l’éthique des données appliquées à l’Université de San Francisco, pense également que la mise en place de plugins pour des interrogatoires en langage naturel pourrait présenter des vulnérabilités non découvertes et potentiellement dangereuses qui pourraient faciliter le « jailbreak » des systèmes. Il estime que les plugins ont des implications à long terme, notamment pour les sociétés qui cherchent à utiliser de nouvelles technologies pour le conseil ou le soutien social.
Les ajouts de nouvelles fonctionnalités aux programmes d’IA présents sur Internet pourraient également entraîner des conséquences imprévues, a déclaré Kanjun Qiu, PDG de Generally Intelligent, une société d’IA spécialisée dans les agents automatisés. Par exemple, un chatbot pourrait réserver un vol trop cher ou être utilisé pour distribuer du spam, ce qui soulève des questions sur la responsabilité des utilisateurs. Toutefois, Qiu pense également que l’utilité des programmes d’IA connectés à Internet signifie que leur évolution ne peut être arrêtée.
