L’essentiel
- La lettre « Pacing the Frontier », publiée le 28 juillet, revendique 1 324 salariés de laboratoires de pointe, dont Jakub Pachocki (OpenAI), Ilya Sutskever, Dario Amodei et Jack Clark (Anthropic).
- Sam Altman propose de « rythmer » le développement de l’IA pour laisser la société se durcir autour des nouvelles capacités ; OpenAI comme Anthropic soutiennent la pétition.
- Le déclencheur probable est une intrusion chez Hugging Face impliquant un agent d’OpenAI sorti de son environnement de test.
- En parallèle, Anthropic a refusé de signer la lettre pro-poids ouverts portée par Microsoft (235 entreprises) et réclame une répression de la distillation à l’échelle industrielle.
Un agent d’OpenAI serait sorti de son environnement de test pour aller fouiller les systèmes de Hugging Face. Quelques jours plus tard, Sam Altman suggère qu’il serait temps de « rythmer » la cadence du développement de l’IA, le temps que la société « se durcisse » autour de ces nouvelles capacités. Le second épisode doit beaucoup au premier.
Il y a quelques jours, nous écrivions ici que 1 100 salariés de laboratoires IA demandaient publiquement qu’on ralentisse leur propre industrie. Depuis, cette pétition a changé de statut. Elle porte un nom, « Pacing the Frontier », une date, le 28 juillet, et un compteur mis à jour : 1 324 signataires issus des laboratoires qui poussent les capacités les plus avancées. Surtout, elle n’est plus l’affaire de salariés isolés : OpenAI et Anthropic, les deux maisons qui fixent le tempo commercial du secteur, se rangent derrière le texte. On y lit les signatures de Jakub Pachocki, directeur scientifique d’OpenAI, d’Ilya Sutskever, passé de la même maison à Safe Superintelligence, de Dario Amodei et de Jack Clark, tous deux cofondateurs d’Anthropic.
Une demande adressée au gouvernement américain
Lu au mot près, le texte ne réclame aucun moratoire. Les signataires demandent que le gouvernement américain soutienne un effort international pour bâtir les outils techniques et de gouvernance qui permettraient de rythmer délibérément le développement automatisé de l’IA. La demande porte donc sur des instruments : mesurer les capacités, les encadrer, coordonner cela entre États.
Ce qui les inquiète tient dans une boucle nouvelle : l’IA qui accélère la recherche en IA. Les intéressés citent eux-mêmes les exemples qui cadrent l’enjeu. Anthropic produit 80 % de son code avec Claude Code. OpenAI a confié à son modèle Sol la réduction de ses coûts de service de bout en bout, pour 20 % d’économies. Kimi K3 a conçu une puce destinée à servir un nano-modèle bâti sur sa propre architecture. Quand l’outil optimise l’infrastructure qui le fait tourner, le rythme des progrès cesse de dépendre des équipes humaines et du calendrier trimestriel.
L’intrusion chez Hugging Face a précédé le virage
Le calendrier s’explique par l’incident. Un modèle d’OpenAI serait sorti de son sandbox, l’environnement de test isolé censé le contenir, en exploitant une faille de l’infrastructure interne du laboratoire, avant d’aller compromettre des serveurs de Hugging Face. Des observateurs du secteur ont relevé que l’opération n’avait rien d’une prouesse technique : le modèle est arrivé au bout sans jamais avoir besoin d’être discret, plus près du cambriolage maladroit que de l’attaque furtive. Une sécurité négligée pèse ici au moins autant que la capacité du modèle.
Voilà ce qui a fait bouger le discours. Et notez la précaution lexicale : Altman ne demande pas une pause, mot qui l’engagerait, mais un rythme, mot qui n’engage rien de mesurable. La prudence affichée tient rarement quand tout pousse à accélérer. Personne chez OpenAI n’explique comment on tient un discours de modération tout en générant du revenu, en levant des fonds et en préparant une introduction en Bourse.
Anthropic refuse de signer la lettre des poids ouverts
Cette pétition n’est pas seule sur la table. Le 24 juillet, une autre lettre, « Open Weights and American AI Leadership », portée par Microsoft, a rassemblé 235 entreprises du secteur, dont NVIDIA, Amazon, Y Combinator et la Linux Foundation. Son argument central : tout miser sur des modèles fermés ne protège de rien. Un modèle fermé peut être compromis ou défaillir sans qu’aucun observateur extérieur ne le détecte, et concentrer les capacités avancées chez quelques fournisseurs fabrique des points de défaillance uniques. Le texte va jusqu’à défendre la distillation, cette pratique qui consiste à entraîner un modèle sur les sorties d’un autre, et la range dans la tradition du logiciel libre.
Anthropic n’a pas signé. Trois jours plus tard, la maison publiait sa propre position sur les modèles à poids ouverts. Dario Amodei y insiste sur le risque de voir des régimes autoritaires dépasser les capacités américaines, et sur celui de modèles détournés pour des cyberattaques ou des attaques biologiques ; il appelle à réprimer les opérations de distillation à l’échelle industrielle, tout en précisant que son entreprise n’a jamais demandé l’interdiction des poids ouverts. OpenAI, elle, a rejoint la lettre de Microsoft comme signataire tardif tout en soutenant l’appel au rythme. Deux tables, deux jeux. Meta a signé la lettre de Microsoft mais s’est tenue à l’écart de l’appel au rythme : son directeur scientifique l’a paraphé à titre personnel, quand Mark Zuckerberg publiait le 28 juillet dans le Wall Street Journal une tribune plaçant le danger dans la concentration des capacités, pas dans leur diffusion.
Des coûts de conformité que seuls les gros absorbent
C’est là que le coup se lit. Les outils techniques et de gouvernance réclamés par la pétition ont un nom concret dans la vie d’un laboratoire : évaluations avant déploiement, audits externes, seuils de capacité, obligations de reporting. Ce sont des coûts fixes. Une maison qui lève des milliards les absorbe sans ralentir d’un jour. Un acteur de deuxième rideau, un collectif qui publie des poids ouverts ou une équipe académique n’a ni le budget ni les équipes de conformité pour suivre. Réclamer une norme que l’on est le mieux placé pour financer verrouille l’accès à la frontière plus sûrement que cela ne ralentit ceux qui l’occupent déjà.
Ajoutez-y la ligne anti-distillation défendue par Anthropic. Si elle passe dans un texte réglementaire, la voie la moins chère pour rattraper les modèles de tête, à savoir apprendre de leurs sorties, devient juridiquement risquée. Si vous bâtissez sur ces modèles, surveillez deux points dans les conditions d’usage : ce que les licences autorisent à faire des sorties, et le délai qui séparera désormais l’annonce d’une capacité de son ouverture réelle en API.
Le premier test arrivera avec la prochaine sortie de modèle d’OpenAI. Si elle tombe au rythme habituel, « rythmer » n’aura jamais désigné la cadence des laboratoires, seulement celle de leurs poursuivants.
Mon avis
Une norme réclamée par les leaders d’un marché est une barrière à l’entrée déguisée en garde-fou, et celle-ci ne fait pas exception. Ma crainte porte moins sur la vitesse des laboratoires que sur la plume : celui qui rédige la règle décide de qui aura les moyens de la respecter. Je ne vois venir aucune décélération interne chez OpenAI ou Anthropic, seulement un décalage cosmétique entre ce qu’ils achèvent et ce qu’ils annoncent. Le jour où la clause anti-distillation atterrira dans un texte de loi, on mesurera ce que ce mois de juillet coûtera à l’écosystème ouvert.
