Anthropic a publié un billet pour couper court aux spéculations sur sa position à l’égard des modèles à poids ouverts (des modèles dont les paramètres sont librement téléchargeables). Dario Amodei y écrit noir sur blanc que son entreprise n’a jamais plaidé pour leur interdiction. Le démenti est net. La liste de mesures qui l’accompagne, elle, va beaucoup plus loin qu’une mise en garde.
Il y a quelques jours, nous expliquions ici pourquoi interdire la distillation (entraîner un modèle en copiant les réponses d’un modèle plus avancé) profiterait surtout à la Chine. Le dossier a avancé depuis : les autorités américaines étudient des mesures qui compliqueraient l’usage de modèles chinois à poids ouverts par les entreprises du pays, une lettre ouverte signée par un grand nombre d’acteurs de la tech s’y oppose frontalement, et Anthropic, longtemps désigné comme l’inspirateur de ces restrictions, est sorti du bois. Le compte officiel de l’entreprise a relayé le billet en évoquant, précisément, « beaucoup de spéculations » sur ses intentions.
Un démenti net, puis une liste de demandes
Amodei coche toutes les cases du désaveu. Anthropic n’a jamais défendu une interdiction des modèles à poids ouverts. Les modèles dépourvus de capacités dangereuses sont, écrit-il, un bien public. Interdire aux entreprises américaines d’utiliser des modèles chinois ne réglerait rien, puisque les acteurs malveillants ne sont pas, par définition, des sociétés américaines en règle. Une telle mesure protégerait surtout les laboratoires américains de la concurrence, ce qui n’a jamais été son objectif.
Puis vient la liste des demandes : des tests de sûreté obligatoires pour tout modèle puissant, quelles que soient son origine et sa licence, un durcissement des contrôles à l’export sur les puces, et une action contre la distillation industrielle, qui permettrait à la Chine de contourner en partie ces restrictions en se comportant en passager clandestin de la recherche américaine. Les modèles moins performants issus des startups et des laboratoires académiques seraient exemptés. Sur ce dernier point, Amodei estime voir un consensus se former.
Une obligation de test trie sans jamais dire non
Les deux options se ressemblent peu sur le papier et beaucoup dans leurs effets. Une interdiction est un acte politique daté, visible, contestable devant un juge, réversible avec un changement de majorité. Une obligation d’évaluation, elle, ne refuse rien à personne : elle déplace le coût de la publication.
Or ce coût n’est pas réparti également. Une batterie d’évaluations conduite avant chaque publication de poids suppose une équipe dédiée, un budget de calcul et une personnalité juridique capable de signer une attestation. Un laboratoire industriel absorbe cela sans broncher. Un collectif qui publie des poids sur un dépôt public n’a ni les moyens ni le statut pour le faire. Le tri s’opère alors sans que le mot interdiction soit jamais prononcé.
Reste le seuil. Exempter les « modèles moins puissants » suppose une ligne, une métrique pour la tracer et un rythme de révision. Aucun de ces trois éléments n’est posé aujourd’hui. Celui qui les fixera décidera, dans les faits, de ce qui peut encore se publier librement.
Deux scénarios catastrophe, et une étude qui fissure l’argument
Amodei en décrit deux. Le premier : des États autoritaires, la Chine en tête, disposant de modèles supérieurs à ceux des États-Unis, avec les conséquences militaires et policières que cela implique. Le second : le détournement de modèles puissants vers des attaques informatiques ou biologiques. Les laboratoires savent, par leurs propres données d’usage, que ces tentatives existent déjà sur les modèles fermés.
Les poids ouverts aggravent le problème pour deux raisons difficiles à contester : aucun garde-fou ne tient durablement dans des paramètres que chacun peut réentraîner, et une diffusion est irréversible, puisqu’on ne rappelle pas des poids déjà téléchargés. Sur le volet biologique, Amodei décrit une asymétrie sévère : une capacité offensive s’exerce en quelques semaines, une défense se construit en années.
C’est là que la démonstration se fragilise. Une étude de l’UK AI Security Institute, l’institut britannique chargé de la sécurité de l’IA, situe à quelques mois le retard des modèles ouverts sur les modèles de pointe en cybersécurité. Si l’écart se compte en mois, le danger décrit tient moins aux poids ouverts qu’à l’état de l’art lui-même, fermé compris, avec un simple décalage de calendrier. Amodei a d’ailleurs alerté par le passé sur les capacités de ses propres modèles, des avertissements qui ont contribué à justifier des restrictions américaines. Sa cohérence est réelle. Elle coupe simplement dans les deux sens.
Unsloth déplace le débat sur le terrain de la légitimité
La réponse la plus révélatrice est venue d’Unsloth, un outil open source d’entraînement et d’affinage de modèles. Signataire de la lettre Open Weights, l’équipe a justifié son choix en une phrase : l’avenir de l’IA devrait être façonné par tous, pas contrôlé par une poignée d’acteurs, et chacun devrait pouvoir entraîner et exécuter des modèles sur sa propre machine. Pas un mot sur les virus ni sur les attaques informatiques.
Ce silence est un calcul lucide. Répondre sur le terrain du danger, c’est accepter la charge de la preuve, la métrique et le calendrier de l’adversaire. Répondre sur celui de la légitimité, c’est poser une autre question : qui décide. Les deux camps argumentent sur des plans qui ne se croisent jamais, ce qui explique qu’aucun ne parvienne à réfuter l’autre depuis des mois.
S’ajoute le soupçon d’intérêt, que les critiques ne se privent pas de formuler : dévaloriser les poids ouverts revient à écarter une concurrence nettement moins chère. Le soupçon vaut pour tout le monde. Plusieurs médias rapportent qu’un autre grand laboratoire américain, signataire de la même lettre, continuerait par ailleurs à faire campagne contre les poids ouverts. Signer une tribune ne coûte pas cher.
La conformité arrivera avant l’interdiction
Si votre production repose sur des poids ouverts, le verbe interdire a désormais peu de chances d’apparaître dans un texte officiel. Ce qui vous concerne, c’est le seuil de capacité qui déclenchera l’obligation de test, et la manière dont l’origine d’un modèle entrera dans l’équation. Un dispositif de ce type ne bloque pas un déploiement : il exige de savoir quels poids tournent où, de documenter leur provenance et de justifier un choix. Autrement dit, un inventaire et une traçabilité que peu d’équipes tiennent aujourd’hui, et une solution de repli identifiée avant d’en avoir besoin.
Amodei a raison sur un point factuel : personne n’a formellement proposé d’interdire les modèles à poids ouverts. C’est précisément pour cela que le débat sur l’interdiction est celui qu’il est confortable de gagner. La partie se joue ailleurs, sur le niveau de capacité à partir duquel publier des paramètres deviendra un acte réglementé. Ce seuil n’existe pas encore. Il s’écrit en ce moment.
