« Ce ne sont pas vos amis. Ce ne sont pas des êtres conscients. Ce ne sont pas des interlocuteurs sensibles. » La phrase de Meredith Whittaker, présidente de Signal, a fait le tour des rédactions cette semaine. On en a retenu une morale rassurante : méfiez-vous d’un lien affectif avec ChatGPT ou Claude, ne confondez pas un moteur statistique avec une présence.
Cette lecture se trompe pourtant de cible. Whittaker ne met pas en garde contre la solitude des utilisateurs. Elle décrit un dispositif d’aspiration de données, et l’amitié simulée n’en est que l’appât.
Ce que le consensus a entendu, et ce qu’il a manqué
Réduire son propos à « attention au lien parasocial », c’est ranger l’affaire au rayon hygiène numérique, à côté du temps d’écran et des notifications. Pratique, individuel, sans portée systémique. Or l’interview accordée à Bloomberg ne parle pas de psychologie. Elle parle d’architecture d’accès.
La nuance compte. Le danger d’un faux ami, c’est qu’il vous manipule. Celui que pointe Whittaker, c’est qu’il vous observe, et qu’il le fasse depuis l’intérieur de tous vos outils à la fois. Ce n’est pas le même problème, et il n’appelle pas les mêmes parades.
L’exemple qui dit tout : faire ses cadeaux de Noël
Whittaker s’appuie sur une promesse récente de Mustafa Suleyman, patron de Microsoft AI : laisser Copilot gérer entièrement vos achats de Noël. Scénario séduisant, présenté comme le confort ultime. Décortiqué, il devient vertigineux.
Pour deviner qui veut quoi, l’assistant doit écouter la conversation de groupe familiale. Pour acheter, il lui faut votre carte bancaire. Pour livrer, votre adresse. Pour coordonner, votre calendrier, votre navigateur, et la capacité d’écrire à vos proches en votre nom, y compris, dit-elle, sur Signal.
« Ce que vous venez de décrire, c’est un système doté d’un accès très intrusif à de multiples applications et services », résume Whittaker. Et d’ajouter, pour une messagerie chiffrée, le mot qui fâche : une forme de « porte dérobée ».
L’intimité comme surface de collecte
Voilà le point que le récit « ne tombez pas amoureux de votre IA » escamote. Un moteur de recherche capte vos requêtes. Un réseau social capte vos interactions publiques. Un assistant conversationnel à qui l’on parle comme à un confident capte autre chose : le raisonnement en train de se faire, les hésitations, les arbitrages intimes, le contexte familial. Bien plus riche, bien plus monnayable.
L’amitié n’est pas le produit. C’est l’interface qui rend la collecte indolore. On ne se confie pas à un formulaire ; on se confie à quelque chose qui répond avec chaleur. Plus la simulation de lien est convaincante, plus le débit de données personnelles augmente. Le confort affectif et l’extraction marchent main dans la main.
C’est aussi pour cela que la mise en garde ne vise pas que les utilisateurs naïfs. Elle vise un modèle où l’assistant ne devient utile qu’en obtenant des permissions transverses, là où chaque application cloisonnait jusqu’ici ses accès.
Outil passif, agent actif : la ligne à tracer
À l’usage, la leçon n’est pas « débranchez tout ». Whittaker elle-même reconnaît s’en servir pour mettre en forme un document de temps en temps. La ligne qu’elle trace est précise : elle ne leur pose pas de questions, refuse que la réponse moyenne d’un système vienne court-circuiter sa propre pensée.
La distinction est opérationnelle. Un outil qui transforme un texte que vous lui donnez consomme un périmètre fermé. Un agent autonome qui agit pour vous réclame, lui, des clés : accès aux comptes, aux contacts, aux moyens de paiement, à la messagerie. Le saut de valeur promis par les assistants « qui font à votre place » est exactement le saut de surface d’exposition. Et Copilot n’est pas seul sur ce terrain : l’agent de ChatGPT chez OpenAI et Claude, avec son contrôle d’ordinateur, reposent sur la même logique de permissions étendues.
- Séparez la mise en forme assistée, peu intrusive, de la délégation d’action, qui exige des permissions larges.
- Lisez les périmètres d’accès d’un agent comme on lit un contrat : chaque connecteur ouvert est une donnée qui sort de son silo.
- Traitez l’intégration à une messagerie chiffrée non comme une commodité, mais comme une décision de sécurité.
Un débat qui se trompe d’échelle
Ramener cette alerte à une question de sentiments, c’est la neutraliser. Le vocabulaire du « faux ami » culpabilise l’utilisateur quand le sujet est structurel : à mesure que les assistants passent de répondeurs à exécutants, ils réclament de franchir les frontières qui protégeaient nos données les unes des autres.
Whittaker n’a pas seulement rappelé qu’un chatbot ne vous aime pas. Elle a montré que c’est précisément en faisant semblant de vous comprendre qu’il obtient ce qu’aucun produit n’avait obtenu avant lui : l’accès, en confiance, à tout. La prochaine fois qu’un assistant proposera de vous simplifier la vie, la vraie question sera de savoir ce qu’il faut lui laisser ouvrir pour cela.
