Une interface interne, une conversation ChatGPT affichée en clair, et une note à donner entre 1 et 7. La personne qui lit n’est pas salariée d’OpenAI : elle est recrutée par un intermédiaire, payée à l’heure, et la discussion qu’elle parcourt vient d’un utilisateur qui ignore probablement sa présence.
L’information vient d’une enquête de 404 Media, appuyée sur des documents internes ayant fuité et sur le témoignage de plusieurs relecteurs. Le programme a un nom de code interne : Project Lily. Ces évaluateurs seraient des centaines à noter les réponses du modèle. L’un d’eux, basé en Amérique du Nord, dit gagner plus de 50 dollars de l’heure. Le recrutement passe par la société Crossing Hurdles, le paiement par Mercor, spécialisée dans l’entraînement de modèles.
Une note de 1 à 7 pour le ton, pas pour les faits
La consigne donnée aux relecteurs ne porte pas d’abord sur la justesse factuelle. Elle vise deux travers précis : l’excès de flatterie et l’imitation trop appuyée du comportement humain. Autrement dit, le fameux « excellente question ! » et la familiarité un peu collante que beaucoup d’utilisateurs reprochent aux assistants.
Ces notes ne finissent pas dans un rapport trimestriel. Elles alimentent la boucle d’entraînement connue sous le nom de RLHF (apprentissage par renforcement à partir de retours humains) : les préférences exprimées par les évaluateurs servent à entraîner un modèle de récompense, qui oriente ensuite le comportement de l’assistant sur des millions de réponses à venir. Un jugement de goût entre dans le système à un bout, une inflexion de personnalité en sort à l’autre.
La flagornerie n’a pas de test automatique
Une erreur de calcul se teste. Une citation inventée se vérifie. Le ton, lui, échappe aux vérificateurs : il n’existe aucune fonction qui renvoie « vrai » quand une réponse est trop flatteuse. Il faut quelqu’un pour trouver qu’elle sonne faux.
Le métier existe déjà ailleurs, sous un autre nom : le panel de dégustation de l’agroalimentaire. On ne mesure pas au laboratoire si une recette est trop sucrée pour le public visé, on convoque des goûteurs, on collecte leurs scores, on ajuste la formule. Le comportement d’un assistant conversationnel se règle de la même manière, à cette différence près que la matière dégustée est faite d’échanges réels, écrits par des gens qui pensaient parler à une machine.
L’anonymisation s’arrête où commence votre texte
OpenAI applique un filtre de confidentialité avant relecture et reconnaît qu’il peut se tromper. La limite est structurelle : un filtre retire ce qui ressemble à un identifiant, une adresse, un numéro. Il ne retire pas ce que vous racontez. Le nom de votre employeur glissé dans un mail à reformuler, le diagnostic recopié pour comprendre une ordonnance, le montant d’un litige, tout cela reste dans le corps du message, que le relecteur doit lire en entier pour le noter.
Parmi les conversations soumises à évaluation figuraient des demandes explicites de confidentialité adressées au modèle : l’utilisateur écrivait à sa machine de garder le contenu pour elle, et un humain l’a lu. Interrogé par 404 Media, un relecteur dit ne pas croire que ces utilisateurs se savaient lus.
« Improve the model for everyone » est coché d’avance
Le dispositif n’est pas caché au sens strict. Une page d’aide d’OpenAI, en ligne depuis au moins 2023 et très peu retouchée depuis, indique que du personnel autorisé et des prestataires peuvent consulter des données d’utilisateurs pour améliorer les performances des modèles, et déconseille d’y saisir des informations sensibles. Reste qu’une FAQ enfouie n’informe personne.
Côté interface, tout repose sur cette option, activée par défaut. La formulation évoque une contribution à un bien commun, pas une autorisation de lecture par un tiers rémunéré. Le calcul se comprend : une demande de consentement explicite ferait s’effondrer le volume de données disponibles pour l’entraînement.
La pratique dépasse largement OpenAI. Anthropic a confirmé faire relire des réponses de Claude par des humains, pour les utilisateurs ayant laissé actif le réglage correspondant, après suppression des éléments de compte comme les adresses e-mail. Google indique dans Gemini qu’un sous-ensemble de conversations passe entre les mains de relecteurs, dissocié du compte avant transmission et conservé jusqu’à trois ans. Aucun assistant grand public n’échappe à cette étape, et le réglage qui la commande ne porte le même nom nulle part.
Désactiver la collecte ne rattrape pas l’historique
Trois leviers restent côté utilisateur :
- désactiver « Improve the model for everyone » dans les paramètres de données ; le choix ne vaut que pour les conversations suivantes, ce qui est déjà parti à l’entraînement y reste ;
- basculer en conversation temporaire pour tout échange qui touche un client, un contrat, une question de santé ou une rémunération ;
- traiter la zone de saisie comme un canal partagé : ce qui ne passerait pas dans un ticket d’assistance n’a pas sa place dans un prompt.
La règle se durcit dès que le compte sert à un usage professionnel. Les offres entreprise reposent sur des engagements contractuels distincts, et un abonnement grand public n’a pas à servir de rampe d’accès aux données d’un client. La distinction se perd vite quand le même onglet sert aux deux usages dans la même journée.
La politesse empressée qu’on reproche à ces assistants est un paramètre comme un autre, ajusté à la main, note après note, par des lecteurs payés à l’heure sur des dialogues authentiques. Le savoir ne rend pas l’outil moins utile ; il change ce qu’on accepte d’y déposer. Une industrie a besoin de vos mots pour corriger les siens, et la zone de saisie n’a jamais été le confessionnal qu’elle imite.
