OpenAI vient de publier un rapport sur des comptes liés à la Chine qui se servaient de ChatGPT pour monter une campagne d’influence aux États-Unis. L’histoire semble simple : un pays manipule l’opinion, l’éditeur du modèle l’attrape. Mais regardez de plus près, et un vertige s’installe.
Car l’outil qui a servi à fabriquer la propagande est exactement celui qui a servi à la débusquer. ChatGPT contre ChatGPT. Le serpent se mord la queue.
Ce que les comptes chinois ont vraiment demandé à la machine
Le rapport décrit deux groupes distincts. Le premier, baptisé en interne « Data Center Bandwagon », a demandé à ChatGPT de produire des arguments en anglais et des images, jusqu’à des bandes dessinées, expliquant comment les data centers (centres de données) d’IA font grimper la demande d’électricité et donc les factures des ménages américains.
Ces utilisateurs, vraisemblablement basés en Chine, se faisaient passer pour des Américains d’horizons variés et publiaient sur les réseaux sociaux le texte et les visuels générés. Selon le rapport, ils appartiendraient à l’équipe réseaux sociaux d’une entreprise privée chinoise travaillant pour des clients d’administrations locales. Détail savoureux : ils auraient téléversé dans le chatbot (agent conversationnel) un fichier décrivant leurs objectifs et leur stratégie pour créer de faux comptes sans se faire repérer. Ils ont confié leur plan de dissimulation à l’outil qu’ils utilisaient pour mentir.
Le second groupe générait des commentaires et des images critiquant les droits de douane et la politique technologique américaine, avec une consigne précise donnée au modèle : écrire en anglais, italien, japonais et chinois traditionnel pour viser des audiences taïwanaises, et surtout garder Xi Jinping hors des images.
L’arroseur arrosé, ou l’éditeur juge et partie
Voilà le vrai point de bascule. OpenAI ne se contente pas de vendre l’outil : elle s’érige aussi en gardienne de son bon usage. L’entreprise détecte, classe en « clusters » (regroupements), nomme, publie. Elle joue le rôle du procureur sur une scène de crime où l’arme du délit porte son propre logo.
Ce n’est pas un détail moral, c’est une position structurelle. Quand le fournisseur d’une technologie devient aussi son principal organe de surveillance, qui surveille le surveillant ? Le rapport est crédible, documenté, utile. Mais il émane de la seule partie qui a intérêt à montrer qu’elle maîtrise sa créature. La transparence affichée et l’autopromotion deviennent difficiles à distinguer. Et OpenAI n’est pas seule dans cette posture : Anthropic publie régulièrement ses propres rapports sur les usages malveillants de Claude, tandis que le Google Threat Intelligence Group documente l’abus de Gemini par des acteurs étatiques. Tout le secteur endosse désormais ce double rôle de vendeur et de gardien.
Pour celui qui orchestre l’IA au quotidien, la leçon est concrète : les outils que vous déployez tiennent un journal. Chaque requête laisse une trace, chaque intention téléversée devient une pièce à conviction potentielle. Les opérateurs chinois l’ont appris à leurs dépens.
Une campagne qui a échoué, et c’est presque rassurant
Soyons honnêtes sur l’efficacité réelle. OpenAI le reconnaît : ces campagnes n’ont pas décollé et n’ont guère déplacé l’opinion. La raison est instructive. Les opérateurs ont surfé sur des sujets déjà brûlants et largement débattus en ligne.
Et le sujet de la facture d’électricité n’a rien d’inventé. D’après des données relayées par la presse, dans les zones proches des data centers, la facture mensuelle d’électricité aurait grimpé jusqu’à 267 % en cinq ans, leur appétit énergétique dépassant l’offre disponible. La désinformation la plus retorse n’est pas celle qui ment, c’est celle qui prend appui sur un fait vrai.
- Le mensonge ne portait pas sur les faits, mais sur l’identité des locuteurs : de faux Américains attisant un débat américain réel.
- L’objectif n’était pas de convaincre par l’argument, mais d’occuper l’espace en simulant un consensus populaire.
- L’arme n’était pas un contenu spectaculaire, mais le volume et l’anonymat industrialisés par la génération automatique.
OpenAI résume l’enjeu sans détour : ce qui compte, c’est que des opérateurs ont tenté de s’insérer discrètement dans un débat américain en cours tout en cachant qui ils étaient et ce qui les motivait. La menace n’est pas le message. C’est le masque.
Pourquoi un chatbot américain plutôt que DeepSeek ?
C’est la question que pose, sans y répondre, le rapport lui-même. Des opérateurs vraisemblablement chinois ont choisi un outil américain plutôt qu’un modèle chinois comme DeepSeek. « Nous ne sommes pas en mesure de déterminer ce qui a motivé ce choix », admet OpenAI.
Cet aveu d’ignorance en dit long. Peut-être ChatGPT produit-il un anglais plus naturel. Peut-être inspire-t-il davantage confiance pour passer inaperçu. Peut-être l’outil dominant attire-t-il mécaniquement les usages les plus problématiques, comme une serrure célèbre attire les crocheteurs.
Cette zone d’ombre dessine le vrai paradoxe du moment. Plus un modèle devient un standard mondial, plus il sert à tout : à informer comme à manipuler, à construire comme à saper. Et plus son éditeur se retrouve sommé d’arbitrer les usages de sa propre invention, sans recul, sans tiers, sans contre-pouvoir établi.
Reste à savoir qui, demain, tiendra le rapport sur OpenAI elle-même : si l’outil qui fabrique et l’outil qui surveille ne font qu’un, à qui revient-il de fermer la boucle ?
