Brider une intelligence artificielle est-il le meilleur moyen pour éviter qu’elle ne dérape ? Microsoft ne semble pas avoir trouvé d’autre choix pour son agent conversationnel intégré à Bing. La firme de Redmond a annoncé vendredi 17 février de nouvelles limitations pour ChatGPT dans son moteur de recherche.
Cinq échanges par session
Comme nous l’avions constaté ces derniers jours, le chatbot du nouveau Bing pouvait paraître étrange. L’IA aurait également exprimé des sentiments proches de la tristesse, rapportaient de nombreux utilisateurs sur les réseaux sociaux. « Le modèle essaie parfois de répondre ou de réfléchir sur le ton dans lequel on lui demande de fournir des réponses, ce qui peut conduire à un style que nous n’avions pas prévu« , expliquait alors Microsoft, qui travaillait à une correction.
Les développeurs semblent aujourd’hui avoir identifié des moyens de remédier à la dérive du chatbot. Le nouveau Bing va désormais « concentrer » ses réponses pour éviter que le contexte d’une discussion trop longue ne vienne perturber la réflexion de l’IA. L’agent conversationnel sera donc bridé à cinq échanges par session. Les internautes seront ensuite invités à en démarrer une nouvelle. Enfin, Microsoft annonce le plafonnement à 50 interactions journalières avec le chabot, soit un total de dix sessions.
« À la fin de chaque session de chat, le contexte doit être effacé pour que le modèle ne soit pas déboussolé. Il suffit de cliquer sur l’icône en forme de balai à gauche de la boîte de recherche pour prendre un nouveau départ« , explique Microsoft.
Une solution alternative en développement ?
Dans son communiqué, la société affirme que la majorité des recherches peuvent aboutir en moins de cinq échanges avec l’IA. Au-delà de 15 interactions, les réponses de l’intelligence artificielle seraient trop conformes, et n’apporteraient aucune plus-value à l’utilisateur, constataient les experts de Microsoft lors de leur dernier point de situation. Concentrer les réponses en sessions de cinq interactions devrait ainsi améliorer la pertinence générale. Les ingénieurs du groupe semblent toutefois plancher sur une solution alternative plus pratique permettant d’éviter le bridage artificiel du service.
« Nous étudierons la possibilité d’étendre les plafonds des sessions de chat afin d’améliorer encore les expériences de recherche et de découverte« , explique Microsoft. En pleine phase de test, le nouveau Bing n’est pas disponible pour l’ensemble des internautes. Le moteur de recherche remanié sera accessible publiquement une fois les essais terminés.
