La version que défend Meta est limpide : en confiant sa modération à de grands modèles de langage (LLM), l’entreprise gagne en précision. Moins d’erreurs, plus d’infractions détectées, des coûts en chute libre. Difficile de s’en plaindre.
Sauf que ses propres salariés racontent une autre histoire. Et ce qu’ils décrivent ne relève pas du détail technique : c’est la question de ce qu’on accepte de perdre quand le filtre devient une boîte probabiliste.
Les chiffres qui ferment le débat
Les données avancées par l’entreprise sont calibrées pour clore la discussion. Depuis mars, ses modèles de langage commettraient 13 % d’erreurs en moins que des modérateurs humains pour appliquer les règles de contenu, tout en repérant 10 % d’infractions supplémentaires. La moitié des demandes de modération seraient déjà traitées par LLM en 2025, avec un objectif de plus de 90 % pour certains types de contenu d’ici la fin de l’année.
L’argument technique tient debout. Là où les classifieurs de machine learning classiques calaient sur l’ironie, le second degré ou une langue qui évolue, un modèle de langage saisit mieux la nuance et couvre davantage d’idiomes. Selon le Financial Times, qui a révélé l’ampleur du virage, l’opération devrait faire économiser des milliards par an. Meta conteste l’argument du coût et préfère parler de qualité.
C’est précisément là que le consensus se forme un peu vite : on lit ces pourcentages comme un verdict, alors qu’ils ne mesurent qu’une partie du problème.
Ce qu’un taux d’erreur moyen ne dit pas
Un modèle qui se trompe 13 % moins « en moyenne » peut très bien se tromper davantage là où ça compte. Les employés cités le disent sans détour : les modèles continuent de supprimer ou d’invisibiliser (shadow-ban) des contenus parfaitement anodins, et la supervision humaine ne suit pas le rythme d’un déploiement aussi rapide.
Une moyenne lisse les cas difficiles. Or la modération vit dans les cas difficiles : la satire politique, le témoignage cru d’une victime, le terme militant qu’un modèle lit comme une insulte. Un gain global de précision peut parfaitement coexister avec une dégradation sur ces poches sensibles, celles où une suppression à tort fait le plus de dégâts. Le chiffre agrégé ne les voit pas.
Et contrairement à un humain, un modèle ne lève pas la main pour signaler qu’il hésite. Il tranche, avec le même aplomb sur un cas évident et sur un cas qu’il n’aurait jamais dû arbitrer seul.
Un modèle entraîné sur le rétroviseur
Le point le plus instructif est passé presque inaperçu. En coulisses, Meta opère un changement de modèle : après s’être appuyé sur Gemini, de Google, l’entreprise aurait demandé à ses équipes de basculer vers son propre modèle de fondation, baptisé Muse Spark.
Or ce modèle est entraîné sur les décisions passées des modérateurs humains. Cela paraît vertueux : on apprend de l’expertise accumulée. En réalité, c’est figer le passé. Les biais des arbitrages d’hier, les angles morts culturels, les règles appliquées de travers un jour de surcharge deviennent la vérité statistique de demain. Le modèle n’apprend pas à mieux juger : il apprend à reproduire des jugements, défauts compris.
Pire, la boucle se referme. À mesure que les humains s’effacent, surtout les sous-traitants externes déjà touchés par les licenciements, il reste de moins en moins de monde pour produire les décisions de référence qui corrigeraient le modèle. On automatise une fonction de jugement en supprimant ceux dont le jugement servait de garde-fou.
Ce que cache le réglage d’un seuil
Tout se joue dans le passage de l’humain qui doute à la machine qui calcule. Un modérateur peut escalader un cas, demander un avis, refuser de trancher. Un LLM produit une probabilité et applique un seuil. Déplacer ce seuil d’un cran, c’est arbitrer en silence entre laisser passer des contenus problématiques et censurer des contenus légitimes, à l’échelle de milliards de publications.
Ce réglage n’est pas neutre, et il n’est pas public. C’est une décision de politique éditoriale déguisée en paramètre technique. Le virage de Meta ne pose donc pas la question « le modèle est-il plus précis que l’humain ? », mais celle-ci : qui décide de ce qu’on accepte de rater, et au nom de quoi ?
Ce que ce précédent installe
Au-delà de Meta, le cas vaut leçon de méthode pour toute décision à fort enjeu qu’on confie à un modèle de langage. Un gain de précision moyen ne dit rien de la queue de distribution, là où les erreurs coûtent le plus. Un modèle entraîné sur l’historique reconduit les biais de cet historique. Et retirer l’humain de la boucle assèche la matière même qui permettrait de corriger la machine.
Meta n’invente pas un problème : elle le rend visible à une échelle inédite. La modération par LLM va se généraliser, parce que l’économie la rend irrésistible. Meta n’est d’ailleurs pas pionnière : dès 2023, OpenAI proposait déjà d’utiliser GPT-4 pour modérer les contenus, tout en prévenant elle-même du risque de biais hérités de l’entraînement. Reste à décider si on l’assume comme un choix politique, supervisé et auditable, ou si on la laisse passer pour un simple réglage d’ingénierie. Sur ce terrain, le silence des seuils est plus inquiétant que le bruit des erreurs.
