Une récente enquête du Time dévoile comment OpenAI a réussi à peaufiner son célèbre chatbot, ChatGPT. L'entreprise dirigée par Sam Altman aurait fait appel à des travailleurs kenyans payés moins de 2 dollars de l'heure pour pour tester son outil d'intelligence artificielle et le rendre moins « toxique ».


Culture Numérique est disponible sur Spotify - Apple Podcasts - Deezer - Google Podcasts - Acast.

Des travailleurs payés moins de 2 dollars de l'heure pour améliorer ChatGPT

Au moment de sa sortie en novembre, ChatGPT a été salué comme « l'une des innovations technologiques les plus impressionnantes de 2022 ». En effet, ses capacités sont impressionnantes. Ce chatbot alimenté par l'intelligence artificielle est capable de générer du texte sur tous les sujets. En une semaine, l'outil d'OpenAI il comptait plus d'un million d'utilisateurs. Une véritable réussite pour Sam Altman et ses équipes. Même Microsoft serait sur le point d'investir 10 milliards de dollars dans l'outil.

Selon l'enquête du Time, cette réussite n'est pas le fruit du seul génie de la Silicon Valley. OpenAI aurait fait appel à des travailleurs kenyans par le biais d'une entreprise externe. Des travailleurs payés moins de 2 dollars de l'heure, dont le rôle était vital pour OpenAI. Pour commercialiser et publier ChatGPT, il était indispensable que l'outil soit « respectueux » et ne débite pas trop de remarques violentes, sexistes et racistes. ChatGPT a été entraîné sur des centaines de milliards de mots extraits d'Internet. C'est cet ensemble de données qui est à l'origine des impressionnantes capacités linguistiques du bot.

Comme les propos toxiques sont très nombreux sur le web, il fallait absolument les identifier et les purger. Même une équipe de centaines d'humains aurait mis des décennies à parcourir manuellement cet énorme ensemble de données. Voilà pourquoi OpenAI a décidé de s'inspirer des pratiques des géants des réseaux sociaux, comme Facebook, en détectant les propos toxiques, comme les discours haineux, afin de les retirer de la plateforme. OpenAI a fait appel à Sama, une entreprise qui emploie des travailleurs au Kenya et qui se présente comme étant « spécialisée dans l'IA éthique ».

Plusieurs autres géants de la Silicon Valley, dont Google, Meta et Microsoft, ont également travaillé avec Sama. L'entreprise affirme avoir « contribué à sortir plus de 50 000 personnes de la pauvreté ». Pour purger son intelligence artificielle, OpenAI a envoyé des dizaines de milliers de paquets de données à cette entreprise à partir de novembre 2021. Les « étiqueteurs de données » employés par Sama recevaient un salaire net compris entre 1,32 et 2 dollars de l'heure.

D'après un porte-parole de Partnership on AI, un groupe d'organisations spécialisées dans l'intelligence artificielle auquel appartient OpenAI, « malgré le rôle fondamental joué par ces professionnels de l'enrichissement des données, un nombre croissant de recherches révèle les conditions de travail précaires auxquelles ces travailleurs sont confrontés. Cela est certainement lié aux efforts déployés pour cacher la dépendance de l'IA à cette main-d'œuvre ».