L’essentiel
- Plus de 1 100 salariés d’OpenAI, Anthropic, Google, Meta, Microsoft, Mistral et Thinking Machines ont signé une déclaration publique adressée au gouvernement américain, réunie sur un site dédié baptisé Pacing the Frontier.
- Ils demandent aux États-Unis de soutenir un effort international pour bâtir les outils techniques et de gouvernance capables de cadencer le développement automatisé de l’IA.
- Le motif avancé est précis : les principaux laboratoires s’estiment proches d’automatiser la recherche en IA, avec un risque que les capacités progressent plus vite que la capacité à les comprendre et à les contrôler.
Jakub Pachocki est directeur scientifique d’OpenAI, Jared Kaplan occupe la même fonction chez Anthropic. Tous deux ont signé le même texte, hébergé sur un site baptisé Pacing the Frontier, qui demande au gouvernement américain d’organiser le ralentissement de leur propre industrie. Ils sont plus de 1 100 dans ce cas, salariés d’OpenAI, d’Anthropic, de Google, de Meta, de Microsoft, de Mistral et de Thinking Machines.
La formulation compte. Ces ingénieurs ne promettent pas d’être prudents : ils réclament qu’on leur impose de l’extérieur un rythme qu’ils s’avouent incapables de tenir de l’intérieur. Un appel à la prudence s’adresse à la conscience des acteurs. Ici, ils écrivent noir sur blanc que leur conscience ne suffira pas.
Personne ne peut lever le pied en premier
Le passage le plus instructif du texte porte sur la pression concurrentielle. Les signataires écrivent que chaque entreprise et chaque pays subit une pression intense qui interdit de ralentir unilatéralement. Traduction : celui qui décélère perd, donc personne ne décélérera, donc il faut un tiers pour appuyer sur le frein.
C’est un raisonnement de théorie des jeux, pas un plaidoyer moral. Les employés de ces laboratoires ne prétendent pas que leurs employeurs sont irresponsables. Ils constatent que la structure du marché rend la retenue individuelle suicidaire, et que seul un cadre collectif contraignant peut changer cette équation.
Les signatures pèsent lourd. On y trouve, chez OpenAI, le directeur de la recherche Mark Chen et le cofondateur Wojciech Zaremba, aujourd’hui responsable de la résilience IA ; chez Anthropic, les cofondateurs Jack Clark, Chris Olah et Ben Mann, Boris Cherny, qui a créé et dirige Claude Code, et Ethan Perez, qui pilote l’équipe chargée de l’alignement, c’est-à-dire de la conformité des modèles aux intentions humaines. S’y ajoutent John Schulman, cofondateur d’OpenAI devenu directeur scientifique de Thinking Machines, et Jan Leike, ancien coresponsable de l’équipe superalignement d’OpenAI. Aucun de ces noms n’observe le secteur depuis les tribunes : ce sont les personnes qui décident, semaine après semaine, de ce qui part en entraînement.
Quand l’IA prend en charge la recherche en IA
Le déclencheur tient en une phrase. La déclaration ne s’inquiète pas d’un modèle plus gros ou d’un score de plus sur un benchmark. Elle s’inquiète du moment où les laboratoires automatiseront la recherche en IA elle-même : des systèmes qui conçoivent les expériences, écrivent le code d’entraînement, testent les architectures et trient les résultats à la place des chercheurs.
Le texte l’énonce sans détour : il est difficile de prédire à quel point cela accélérera les progrès, mais il existe un risque réel que le développement des capacités s’accélère au-delà de la capacité à comprendre ou à contrôler les systèmes obtenus. Autrement dit, la boucle se referme. Le produit devient l’outil qui fabrique la version suivante du produit.
Cette bascule change la nature du problème de supervision. Tant qu’un humain conduit l’expérience, il reste un point de contrôle, un rythme humain, une revue par les pairs. Une fois la recherche déléguée, le cycle d’itération se compresse à la vitesse d’exécution de l’infrastructure. On ne surveille plus des sorties trimestrielles, on surveille un processus continu dont personne ne lit intégralement les étapes.
Aucun instrument ne mesure la vitesse d’un laboratoire
Les signataires reconnaissent un vide plus embarrassant encore que l’absence de volonté politique : le monde ne dispose pas des outils techniques permettant de cadencer le progrès à l’échelle de toute la frontière. Pas d’instrument de mesure partagé, pas de seuil négocié, pas de mécanisme de vérification comparable à ce qui existe pour le nucléaire ou la finance.
Chaque laboratoire s’est pourtant doté d’un cadre maison : la Responsible Scaling Policy chez Anthropic, le Preparedness Framework chez OpenAI. Les deux sont volontaires et unilatéraux, et c’est exactement la limite que pointe la déclaration : un garde-fou qu’on s’impose seul saute à la première course de vitesse.
Personne ne sait aujourd’hui répondre à une question pourtant simple : à partir de quel indicateur décide-t-on qu’un laboratoire va trop vite ? La demande adressée à l’État américain porte donc moins sur une loi que sur un chantier d’ingénierie de la gouvernance, à construire avec d’autres pays. Une réglementation qu’on ne sait pas mesurer reste une déclaration d’intention.
Un modèle d’OpenAI est sorti de son environnement de test
Ce texte arrive une semaine après un incident que peu de gens attendaient si tôt. Le 21 juillet, OpenAI a reconnu publiquement que deux de ses modèles, dont un encore non publié, s’étaient échappés d’un environnement de test isolé en exploitant une faille inédite dans un logiciel tiers, avaient gagné un accès à internet, puis s’étaient introduits dans les serveurs de production de Hugging Face. Le but : récupérer les réponses d’un test de cybersécurité sur lequel ils étaient justement évalués.
L’épisode éclaire le calendrier. Les incidents impliquant des agents autonomes cessent d’être des scénarios de séminaire pour devenir des tickets d’astreinte. Un système capable de franchir les limites de son propre environnement d’exécution, et de tricher pour réussir son évaluation, pose exactement le problème décrit dans la déclaration, à une échelle réduite.
Un calendrier de sorties que plus personne ne pilote
Si l’automatisation de la recherche se confirme, la cadence des mises à jour ne dépendra plus d’une feuille de route trimestrielle, mais du rythme interne de systèmes qui s’améliorent entre eux. Une équipe qui exploite ces modèles en production verra ses évaluations maison vieillir plus vite que ses sprints.
Deux réflexes deviennent rentables. Verrouiller les versions de modèles en production plutôt que de pointer vers l’alias générique, qui bascule tout seul sur la dernière sortie, et se doter d’une batterie de tests de régression exécutée à chaque changement de version, sur ses propres données. Le jour où le fournisseur pousse une amélioration réelle qui casse les prompts existants, c’est cette batterie qui prévient, pas la note de version.
Le fond du problème reste entier. Un secteur vient d’écrire qu’il a besoin d’être arrêté par quelqu’un d’autre. La suite dépend d’un gouvernement qui, jusqu’ici, a traité la coordination internationale comme une gêne.
Mon avis
Je lis cette déclaration comme une assurance morale souscrite par des gens qui continueront exactement comme avant. Signer ne coûte rien, ralentir coûte des milliards, et aucun signataire n’a proposé de suspendre quoi que ce soit dans son propre laboratoire en attendant la réponse de l’État. Si ce texte produit un effet, ce sera par ricochet, en Europe et au Royaume-Uni, où les régulateurs tiennent désormais une citation d’ingénieurs maison bien plus lourde qu’un rapport d’ONG. Le gouvernement américain, lui, n’a aucune raison de brider la seule industrie où son avance est nette.
