Un mème qui fait référence au Shoggoth, une créature cauchemardesque issue de l’univers de H. P. Lovecraft, circule de plus en plus parmi les experts de l’intelligence artificielle comme ChatGPT. France 24 a mené une enquête auprès de plusieurs experts sur le sens de cette représentation qui est utilisée pour mettre en garde contre les chatbots. En matière d’IA, ne dites pas « C’est kafkaïen » mais plutôt « C’est lovecraftien ». Howard Phillips Lovecraft, le maître de la littérature horrifique du début du XXe siècle, se retrouve mêlé au débat sur les avantages et les risques des robots conversationnels tels que ChatGPT, a découvert le quotidien américain The New York Times, dans un article publié mardi 30 mai.
Le Shoggoth, créature difforme du panthéon des déités lovecraftiennes, a été invoqué par une partie de la communauté des chercheurs en intelligence artificielle pour symboliser les risques liés à une mauvaise utilisation des Chatbots. Ils ont fait de ce monstre aux 1 001 tentacules la pièce maîtresse d’un mème, détournements en série d’une image propagés sur Internet, apparu d’abord sous la plume électronique de « Tetraspace » sur Twitter en décembre 2022, un mois après la sortie de ChatGPT. Ce visuel représente un blob difforme, dessiné rapidement et censé être le Shoggoth, qui tient à bout de tentacules une sorte de masque en forme de smiley. L’image a rapidement fait le tour des forums spécialisés dans la recherche sur l’IA et a largement été relayée sur les réseaux sociaux. Des tote-bags (sacs fourre-tout) à l’effigie du « ChatGPT Shoggoth » ont été créés par des internautes, tandis que d’autres ont élaboré des stickers à la gloire de ce monstre.
Le mème a même réussi à sortir du cercle plutôt restreint des experts en IA lorsqu’Elon Musk, le patron controversé de Twitter, a retweeté une version de cette image à ses 141 millions d’abonnés fin février. Au départ, l’utilisation du Shoggoth était censée souligner que l’agent conversationnel ChatGPT « représente quelque chose qui pense d’une manière que les humains ne comprennent pas et qui est totalement différente de la façon dont nous réfléchissons », a souligné « Tetraspace », interrogé par le New York Times.
Pour la plupart des experts interrogés par France 24, les chatbots comme ChatGPT et compagnie peuvent être comparés à un monstre informe car « on n’a pas toujours conscience de tout ce qu’il y a dedans, et certaines choses qui s’y trouvent sont très laides et effrayantes ». En effet, ces IA n’ont pas été entraînées « uniquement avec Wikipedia ou des informations fiables et sourcées de médias sérieux. Ils ont eu accès à tout Internet, qui contient aussi le pire de l’humanité », souligne-t-on.
Sans supervision, ces chatbots peuvent donc « générer des contenus très inappropriés », note Maria Liakata, professeure en traitement automatique du langage à l’Institut Alan Turing de Londres. C’est ainsi que Tay, l’agent conversationnel lancé par Microsoft sur Twitter en 2016, avait rapidement sombré dans le racisme le plus débridé. Dans cette optique, le Shoggoth permet de rappeler le coût humain de la ruée vers l’eldorado de l’IA.
Mais il ne faut pas non plus faire dire tout et n’importe quoi à ce mème. « L’un des problèmes avec ce genre de visuel est qu’il est vague et peut donc aboutir à des interprétations erronées », regrette Maria Liakata. En somme, il est un danger d’apparence plus anodine qui, si on n’y prend garde, n’est pas forcément moins effrayant.
