L’essentiel
- Plus de vingt chercheurs, dont Geoffrey Hinton, Yoshua Bengio et Jakub Pachocki, directeur scientifique d’OpenAI, cosignent un rapport sur le risque d’« explosion d’intelligence ».
- Selon les auteurs, l’IA écrit déjà l’essentiel du code dans les entreprises qui la conçoivent et pourrait automatiser toute la chaîne de R&D en IA d’ici quelques années.
- Ils demandent aux décideurs publics une visibilité bien plus grande sur cette automatisation, sans fixer de seuil d’arrêt mesurable.
- Le laboratoire chinois Zhipu a, de son côté, lancé une boucle d’auto-amélioration dite « externe ».
Jakub Pachocki est le directeur scientifique d’OpenAI. Cette semaine, il a apposé son nom sous un texte qui décrit, en creux, ce que son propre laboratoire est en train de construire.
Le rapport, publié par un programme de l’université de Cambridge et cosigné par plus de vingt chercheurs dont Geoffrey Hinton et Yoshua Bengio, avance sa thèse avec une prudence calculée : « Bien qu’une grande incertitude demeure, l’automatisation de la R&D en IA pourrait bientôt en déclencher une », écrivent les auteurs à propos d’une explosion d’intelligence, cet emballement où chaque génération de modèles accélère la conception de la suivante.
Le signataire et l’employeur
Que Hinton et Bengio signent, personne ne s’en étonne. Les deux lauréats du prix Turing alertent depuis des années, depuis le monde académique, sans produit à livrer au trimestre suivant. La signature de Pachocki pèse autrement : elle vient de l’intérieur du laboratoire qui mène la course.
Il avait déjà prévenu qu’aucun laboratoire n’avait résolu l’alignement (le fait qu’un modèle poursuive bien les objectifs voulus par ses concepteurs) assez solidement « pour continuer à passer à l’échelle de manière responsable, à vitesse maximale, encore très longtemps ». La phrase vise tout le secteur. Elle vise d’abord la maison qui l’emploie.
Mettez-la en regard de la position officielle d’OpenAI, publiée une semaine plus tôt. L’entreprise y réclamait un cadre mondial pour l’amélioration autonome récursive, sous leadership américain, tout en affirmant que cette autonomie totale n’existe pas aujourd’hui. L’employeur parle au futur et propose d’écrire les normes. Son chercheur parle de « bientôt » et doute que la société suive. Deux horloges tournent dans le même bâtiment.
Des années sur le papier, des mois dans les dépôts de code
Un seul point de l’alerte n’est pas présenté comme une projection : les systèmes d’IA écrivent déjà la majeure partie du code dans les entreprises qui les développent. Le rapport s’appuie notamment sur des données d’Anthropic, dont le cofondateur Jack Clark figure parmi les signataires : la part du code approuvé écrite par l’IA y est passée de quelques pour cent début 2025 à plus de 80 % en mai 2026.
Le reste relève de l’anticipation. Toute la chaîne de recherche, des expériences à l’analyse des résultats, pourrait être automatisée d’ici quelques années, et des progrès qui prennent habituellement des années se compresseraient en quelques mois.
Les risques listés découlent de cette compression. Une société qui ne suit plus le rythme. Un contrôle sur une IA surhumaine qui glisse. Des équilibres de pouvoir entre États, entre entreprises et gouvernements, qui s’érodent, parce que le premier à refermer la boucle garde une avance difficile à rattraper.
Vous utilisez un agent de programmation dans votre éditeur ? Vous pratiquez la version artisanale du même mouvement. L’écart porte sur l’échelle et sur la cible : dans un laboratoire de pointe, le code que l’agent écrit sert à entraîner l’agent suivant.
Zhipu, ou la boucle qui n’attend pas le cadre
Pendant que les signataires demandent de la visibilité, le laboratoire chinois Zhipu a lancé une boucle d’auto-amélioration récursive qualifiée d’« externe ». Son équipe a confié à un agent construit sur son modèle GLM-5.3 l’analyse et l’optimisation de l’infrastructure qui fait tourner ses propres modèles, jusqu’à une partie des modifications de code. Le modèle améliore la machine qui l’exécute.
Les signataires plaident pour qu’on regarde avant d’accélérer ; Zhipu accélère et laisse regarder ceux qui le voudront. OpenAI propose que les États-Unis fixent les normes mondiales, avec des instituts de sécurité nationaux, le CAISI (le centre américain chargé des standards de sécurité de l’IA) et l’ISO. Zhipu, lui, n’apparaît dans aucun de ces dispositifs.
Cette asymétrie fragilise l’argument de la prudence unilatérale. Un laboratoire qui ralentit seul ne ralentit pas le secteur : il recule simplement dans le classement.
Visibilité réclamée, seuil introuvable
Le rapport demande aux décideurs publics « beaucoup plus de visibilité » sur l’automatisation de la recherche en IA. La proposition d’OpenAI va un cran plus loin sur le papier : méthodes de mesure partagées, rapports d’incidents, supervision humaine des activités de recherche automatisée. Aucun des deux textes ne dit à partir de quelle valeur on s’arrête.
Quelle part d’expériences lancées sans humain dans la boucle ? Quel facteur d’accélération entre deux générations de modèles ? Quel taux de code mergé sans relecture ? Sans seuil nommé, la visibilité revient à installer une caméra au-dessus d’une autoroute sans limitation de vitesse.
La question se pose aussi à votre échelle. Si vos équipes confient des pull requests entières à des agents, fixez dès maintenant l’indicateur qui déclenche une revue obligatoire : proportion de commits non relus, nombre d’itérations autonomes par tâche, tests modifiés par l’agent lui-même. Les laboratoires n’ont pas encore publié le leur. Rien ne vous empêche d’avoir le vôtre avant eux.
Le texte signé par Pachocki a le mérite de nommer le mécanisme. Il laisse ouverte la seule donnée qui permettrait de le contrôler : combien de la recherche d’OpenAI tourne déjà sans humain aux commandes.
Mon avis
Une alerte sans seuil chiffré protège surtout ceux qui la signent : elle les couvre sans les engager. Si le directeur scientifique d’OpenAI pense vraiment que la vitesse maximale n’est plus tenable longtemps, le test est simple : qu’OpenAI publie la part de sa propre R&D déjà confiée à des agents, et le niveau auquel elle s’engage à lever le pied. Tant que ce chiffre reste interne, je lis ce texte comme une assurance de réputation. Et pendant ce temps, Zhipu a déjà démarré.
Sources
Ils m’ont fait confiance
« Il ne se contente pas de corriger les symptômes, il cherche à comprendre l'origine des problèmes et à sécuriser les modifications effectuées. J'ai réellement le sentiment d'avoir trouvé un développeur qui comprend à la fois la technique et les enjeux globaux du projet. »
Évaluation client · projet WordPress · septembre 2026
5,0/5 sur 17 évaluations
Faire appel à mes services →
