Les dessous de la modération de ChatGPT. OpenAI est accusé d’avoir fait appel à Sama, une société d’IA qui aurait employé des travailleurs kényans sous-payés pour développer l’éthique de son agent conversationnel, selon une enquête du Time publiée mercredi 18 janvier.
Des textes extrêmes
À l’image de Facebook, Google, Meta ou Microsoft, les développeurs de ChatGPT ont fait appel à la société Sama pour identifier, classer, et étiqueter des contenus textuels choquants. Un étiquetage nécessaire pour le bon apprentissage du chatbot, afin de filtrer les corpus textuels inappropriés. Une procédure vitale pour éviter que l’IA ne reproduise des propos toxiques. Or, pour emmagasiner des connaissances, le modèle a été entraîné sur une grande partie des informations disponibles sur Internet jusqu’en 2021 (apprentissage profond). Les algorithmes ont ainsi pu récupérer des données textuelles des bas-fonds du Web, jusqu’aux pages les plus obscures.
Abus sexuels sur des enfants, bestialité, meurtre, suicide, torture, automutilation, inceste… Les travailleurs kényans de Sama auraient dû lire et comprendre des textes extrêmes envoyés par OpenAI et les étiqueter pour que l’organisation californienne soit en mesure de développer un détecteur intégré à ChatGPT.
« C’était de la torture«
« C’était de la torture. Vous allez lire un certain nombre de déclarations de ce genre tout au long de la semaine. Au moment où l’on arrive au vendredi, vous êtes perturbé d’avoir pensé à cette image », confie au Time un ex-travailleur kényan de Sama, traumatisé après avoir lu la description d’un homme ayant des relations sexuelles avec un chien en présence d’un jeune enfant. Pour les employés bouleversés mentalement par ce travail, la société prévoyait simplement des séances avec des conseillers en « bien-être ».
Dans son enquête, le Time révèle également la précarité supposément promue par Sama dans le cadre des trois contrats passés avec OpenAI. Les petites mains de ChatGPT auraient été rémunérées entre 1,32 et 2 $ de l’heure, selon l’ancienneté et la performance. Les accords entre les deux entreprises stipulaient pourtant un tarif horaire de 12,50 $.
Une fin de collaboration mouvementée
Une collaboration qui se serait terminée de façon précipitée après une nouvelle commande d’OpenAI. En février 2022, des images sexuelles et violentes ont été commandées à Sama pour alimenter un outil interne d’éthique en IA. Un premier lot de 1400 images aurait été livré, dont plusieurs classées en catégorie « C4 » pour « abus sexuel sur enfant », selon le Time. L’accord entre les deux sociétés s’est rapidement terminé, Sama évoquant des « instructions supplémentaires » faisant référence à « certaines catégories illégales » demandées par OpenAI.
« Nous avons engagé Sama dans le cadre de notre travail continu pour créer des systèmes d’IA plus sûrs et prévenir les sorties nuisibles. Nous n’avons jamais eu l’intention de collecter un quelconque contenu de la catégorie C4. Ce contenu n’est pas nécessaire pour alimenter nos filtres de préformation et nous demandons à nos employés de l’éviter activement« , a réagi de son côté la startup californienne.
Concernant la rémunération des travailleurs kényans, OpenAI renvoie la balle à Sama et dit prendre « très au sérieux la santé mentale » de ses employés et de ses sous-traitants. Pour sa part, l’entreprise spécialisée dans la modération de contenus évoque des salaires entre 1,46 et 3,74 $ de l’heure après impôts. « Le tarif de 12,50 $ pour le projet couvre tous les coûts, comme les dépenses d’infrastructure, ainsi que le salaire et les avantages sociaux des associés ainsi que des analystes d’assurance qualité et chefs d’équipe entièrement dédiés », assure un porte-parole.
