L’essentiel
- Anthropic assume une doctrine paradoxale : rester en tête de la course à l’IA pour mieux en contenir les risques.
- L’entreprise, valorisée près de 1 000 milliards de dollars, compte désormais l’armée américaine parmi ses clients.
- En interne, dirigeants et employés se décrivent comme « les gentils », gardiens responsables d’une technologie jugée inévitable.
On résume souvent Anthropic d’une phrase : voilà le laboratoire qui prêche la prudence tout en poussant les modèles d’IA toujours plus loin, une contradiction vivante entre le discours sur les risques et la conquête commerciale. L’histoire est commode, elle oppose les paroles aux actes.
Le problème, c’est qu’elle se trompe de cible. Quand on écoute vraiment l’entreprise, la contradiction s’évapore : Anthropic n’a jamais opposé sûreté et expansion, elle les a soudées. Reste alors une question autrement plus gênante que celle de sa sincérité : la mécanique de pouvoir que son discours légitime.
La sûreté comme permis d’expansion
La position d’Anthropic repose sur deux convictions, exposées sans détour par d’anciens employés. D’abord, l’IA serait la technologie la plus transformatrice de l’histoire humaine, et son avènement, inévitable : reste seulement à savoir s’il mène à la catastrophe ou à la prospérité. Ensuite, le monde s’en porterait mieux si Anthropic demeurait à la frontière de la course.
De ce postulat découle tout le reste. Accumuler du capital, de la puissance de calcul, des talents de recherche, de l’influence politique : non pas une fin, mais « le prix à payer » pour accomplir la mission, assurer une transition sûre vers une IA transformatrice. Le raisonnement est circulaire, et c’est ce qui le rend si efficace. Plus l’entreprise grandit, plus elle se dit légitime à grandir.
Dario Amodei, son PDG, le formule crûment dans un échange diffusé sur les pages carrière de l’entreprise : « Il faut trouver le moyen d’être réellement compétitif, de mener l’industrie dans certains cas, et pourtant de faire les choses en sécurité. Si vous y parvenez, l’attraction gravitationnelle que vous exercez est énorme. » L’aveu est limpide : la sécurité n’est pas qu’un garde-fou, c’est un levier de domination.
L’analogie de la forêt et son angle mort
Helen Toner, directrice exécutive du Center for Security and Emerging Technology de Georgetown et ancienne administratrice du conseil d’OpenAI, propose une image parlante. L’IA puissante serait une forêt remplie de trésors magiques et de monstres dangereux. Tous les villageois s’y précipitent, attirés par le butin. Anthropic, lui, veut s’enfoncer plus loin que quiconque dans la forêt, tout en investissant massivement pour dompter les monstres.
« Ce qui distingue Anthropic, c’est qu’ils disent : les gens vont dans la forêt de toute façon, autant qu’on y aille en premier », résume-t-elle. « C’est très explicitement leur stratégie : construire l’IA de pointe pour être un acteur sérieux à la table, capable de parler des risques et de pousser des garde-fous raisonnables. » Puis cette précision qui en dit long : « C’est juste une stratégie assez étrange pour que les gens aient du mal à l’entendre. »
L’analogie est séduisante. Son angle mort aussi. Car elle suppose que celui qui s’enfonce le plus loin dans la forêt est aussi le mieux placé pour décider quels monstres méritent d’être domptés, et lesquels relâchés sur le marché. Qui valide ce jugement ? Personne, sinon le marcheur lui-même.
« Les gentils » : un statut qu’on ne s’attribue pas seul
En interne, deux sources le confirment, dirigeants et employés se désignent comme « les gentils », les intendants responsables de la technologie. Le contre-modèle est nommé : Sam Altman et OpenAI, et dans une moindre mesure Meta et le xAI d’Elon Musk, servent d’exemples repoussoirs qui définissent en creux le sens des responsabilités d’Anthropic.
L’entreprise est née en 2021 de la défection d’anciens d’OpenAI, qui avaient perdu foi dans la capacité de la direction à conduire l’IA dans le monde en toute sécurité. Ce geste fondateur irrigue encore sa culture. Mais se définir contre OpenAI ne fait pas de vous le gardien légitime du reste. La vertu auto-proclamée n’est pas une institution. L’argument n’a d’ailleurs rien d’unique : la charte d’OpenAI, le contre-modèle désigné, pose noir sur blanc que « pour traiter efficacement l’impact de l’IA sur la société », il faut « rester à la pointe des capacités ». Le même raisonnement, presque mot pour mot, chez le repoussoir.
Trois pouvoirs dans la même main
Pour l’ingénieur qui branche un agent sur Claude, qui bâtit un RAG (génération augmentée par récupération) sur ces API ou qui confie un pan de son infrastructure à un seul fournisseur, la question n’est pas théorique. Quand le même acteur définit la frontière technique, vend l’accès aux modèles, et fixe ce qui relève de la sûreté, il concentre trois pouvoirs que rien n’oblige à séparer.
Cela mérite quelques réflexes concrets. Surveillez la dépendance : un modèle dont le fournisseur arbitre seul les usages « sûrs » peut restreindre demain ce qu’il autorise aujourd’hui. Diversifiez vos points d’appui plutôt que de tout miser sur un seul laboratoire. Et lisez les engagements de sécurité pour ce qu’ils sont aussi : des arguments commerciaux, vendus à des clients qui incluent désormais l’armée américaine.
Le débat public s’enferme dans un faux procès : Anthropic est-il sincère ? Probablement, et c’est sans importance. La sincérité d’un acteur ne remplace pas un contre-pouvoir. Tant que la mission de sécurité reste indissociable du moteur d’expansion, c’est l’entreprise qui écrit les règles du jeu auquel elle joue. Et un arbitre qui joue, même de bonne foi, reste un arbitre qu’on ne contrôle pas.
Mon avis
Je ne doute pas une seconde de la bonne foi d’Anthropic, et c’est exactement ce qui me dérange. Une mission de sécurité qui justifie une accumulation illimitée de puissance n’a aucun mécanisme d’arrêt : il n’existe pas de seuil où l’entreprise dirait « assez de pouvoir, la sûreté est atteinte ». Je parie qu’on regardera cette doctrine dans cinq ans comme on regarde aujourd’hui le « don’t be evil » de Google : une promesse sincère, devenue le vernis d’un empire. Le contre-pouvoir ne viendra pas de l’intérieur d’un labo, aussi vertueux soit-il, mais d’institutions extérieures qui tardent à exister.
