Ceux qui ont rendu ChatGPT poli ne figurent sur aucune frise

En janvier 2023, TIME a publié une enquête sur la façon dont OpenAI a rendu ChatGPT moins toxique. À partir de novembre 2021, OpenAI a envoyé des dizaines de milliers d'extraits de texte à Sama, une entreprise de sous-traitance qui emploie des travailleurs au Kenya. Des personnes devaient y étiqueter des descriptions de violence, de discours haineux et d'abus sexuels. Selon TIME, ces étiqueteurs touchaient entre 1,32 et 2 dollars environ de l'heure.

La raison de ce travail est assez simple. GPT-3, le modèle sur lequel ChatGPT a été construit, avait été entraîné sur des centaines de milliards de mots récupérés sur internet, et TIME explique qu'il avait tendance à lâcher des propos violents, sexistes et racistes. Personne ne pouvait nettoyer ces données à la main. OpenAI a donc construit un second modèle chargé de repérer les textes toxiques, et un tel modèle n'apprend qu'à partir d'exemples qu'un humain a déjà lus et étiquetés. Ce détecteur a ensuite été intégré à ChatGPT pour filtrer ses réponses avant qu'elles n'arrivent à l'utilisateur.

TIME a consulté des documents internes, dont des fiches de paie, et interrogé quatre employés de Sama. Le magazine fait état de trois contrats d'environ 200 000 dollars au total, signés fin 2021. Environ trois douzaines de travailleurs étaient répartis en équipes : abus sexuels, discours haineux, violence. Trois d'entre eux ont dit qu'on attendait d'eux 150 à 250 passages par journée de neuf heures. Les employés juniors touchaient un salaire de base de 21 000 shillings kényans par mois, soit environ 170 dollars, plus une prime d'environ 70 dollars liée à la nature explicite du travail.

Les quatre employés ont dit que ce travail les avait marqués psychologiquement, et que les séances de « bien-être » étaient rares et inutiles. L'un d'eux a raconté à TIME avoir eu des visions récurrentes après un seul passage. « C'était de la torture », a-t-il dit.

OpenAI et Sama ont toutes deux répondu, et leurs réponses figurent dans l'article. Lisez-les en regard des témoignages des travailleurs.

Ce qui me frappe, c'est la question de savoir qui l'on retient. Toutes les frises chronologiques de l'IA ont la même distribution : Turing, l'équipe de Dartmouth, Deep Blue, AlphaGo, ChatGPT. Les personnes qui ont lu le pire de ce qui s'écrit sur internet pour qu'un chatbot cesse de le répéter n'apparaissent sur aucune. Pourtant, sans leur travail, ChatGPT serait resté un produit aussi difficile que GPT-3.

C'est une vieille histoire, et je ne m'appuie que sur l'enquête de TIME. Je n'ai pas vérifié ce qui s'est passé depuis début 2023.

Si vous utilisez ChatGPT au travail, le refus poli que vous obtenez quand vous lui demandez quelque chose d'odieux vient en partie de leur travail. Autant savoir à qui on le doit.