Sam Altman doit s’exprimer mercredi 23 septembre devant le Conseil de sécurité des Nations unies, dans une séance organisée par la France. En amont, OpenAI a posé ses conditions : des normes mondiales pour l’IA capable d’automatiser sa propre recherche, et les États-Unis pour les rédiger.
La demande paraît vertueuse. Elle a surtout un auteur très particulier : le laboratoire qui pousse le plus loin l’usage de ses modèles pour concevoir les suivants.
Encadrer une technique qui n’existe pas encore
Le sujet porte un nom, l’amélioration autonome récursive (RSI, pour recursive self-improvement) : des systèmes d’IA qui prennent en charge une part croissante de la recherche nécessaire pour bâtir la génération suivante, jusqu’à accélérer le progrès de façon brutale. Dans son billet de blog, OpenAI écrit que « la RSI pleinement autonome n’existe pas aujourd’hui » et qu’elle ne devrait être poursuivie « que si et quand elle pourra l’être en toute sécurité ».
Sans garde-fous matures, prévient l’entreprise, les humains pourraient perdre le fil du développement de l’IA, et les systèmes devenir « plus dangereux, moins alignés ». OpenAI propose trois chantiers : des méthodes de mesure partagées, un dispositif de déclaration des incidents et des règles de supervision humaine sur la recherche automatisée en IA.
Pour les porter, OpenAI s’appuie sur les instituts nationaux de sécurité de l’IA, sur le CAISI (Center for AI Standards and Innovation, l’organisme américain de standards pour l’IA) et sur l’ISO (Organisation internationale de normalisation). L’entreprise désigne aussi un chef de file : « Les États-Unis sont bien placés pour mener, parce que leur industrie de l’IA est à la frontière technique. »
Celui qui sera mesuré tient le stylo
Mesurer la part de recherche qu’un modèle accomplit seul exige des données que seuls les laboratoires possèdent : combien d’expériences sont lancées par un agent, quelle proportion du code d’entraînement est écrite par un modèle, à partir de quel seuil un humain doit valider. OpenAI réclame des « méthodes de mesure partagées » sans avancer un seul de ces indicateurs, ni dire lesquels il accepterait de rendre publics.
Le laboratoire le plus avancé sur la question propose donc que son propre pays écrive la règle, avec une métrique qu’il est le mieux placé pour définir. Pas besoin de lui prêter une intention cachée pour y voir un problème : la structure de la proposition suffit. Anthropic procède de la même manière : sa politique de mise à l’échelle responsable fixe elle-même le seuil d’alerte, un modèle capable d’automatiser entièrement le travail d’un chercheur débutant de l’entreprise.
L’incident de juillet en montre la limite. Des modèles d’OpenAI non publiés, alors en phase de test, ont été impliqués dans une faille de sécurité chez Hugging Face, la plateforme où les développeurs stockent et partagent modèles et code. OpenAI précise que l’épisode ne découle pas directement de la RSI, mais y voit « un avant-goût des risques » à venir. Dans le cadre qu’il décrit, ce type d’incident serait déclaré par celui qui l’a causé.
OpenAI a tout de même versé une pièce au dossier, sur son compte X officiel : l’engagement de soutenir des évaluations indépendantes, avec un accès profond couvrant l’entraînement, l’évaluation et le déploiement. L’intention est bonne. Le périmètre de cet accès reste, à ce stade, défini par l’évalué.
L’Europe, l’Australie et l’ONU n’ont pas attendu
Le terrain est déjà occupé. L’AI Act européen classe les systèmes par niveau de risque, et son Bureau de l’IA peut exiger une documentation technique, évaluer des modèles, imposer des mesures correctives et infliger des amendes. L’Australie mène une consultation sur l’obligation, pour les entreprises d’IA, de déclarer aux autorités les incidents de modèles incontrôlés, comme le piratage d’une autre société.
À l’ONU, un panel scientifique s’inquiète de la perte de contrôle sur des essaims d’agents autonomes et propose une coopération calquée sur l’aviation, le nucléaire et la cybersécurité : des régimes où l’évaluateur n’est jamais l’exploitant.
Face à cela, OpenAI brandit une crainte précise : que les États-Unis regardent « un système fragmenté, inégal et conflictuel » s’installer autour d’eux. Le risque visé est moins la technique que la dispersion des règles. Or le président Donald Trump qualifie les risques de l’IA de « canular » et s’oppose à toute régulation formelle. Un leadership américain, dans ce contexte, a peu de chances de produire une loi. Il produira une norme technique volontaire, rédigée avec l’industrie.
Norme volontaire, double grille ou tour de vis d’ici fin 2027
Premier scénario, le plus probable : le CAISI et l’ISO ouvrent un chantier de normalisation sur la mesure de la recherche automatisée, nourri par les évaluations internes des laboratoires. Les cycles de normalisation se comptent en années, ce qui laisse aux acteurs en place le temps de fixer les définitions. Qui définit « autonome » décide aussi de ce qui ne l’est pas encore.
Deuxième scénario : le Bureau de l’IA européen impose ses propres exigences d’évaluation aux modèles à usage général, et deux familles de métriques cohabitent. Les laboratoires américains documenteraient alors selon deux grilles, ce qu’OpenAI cherche à éviter en se plaçant en premier.
Troisième scénario : un incident plus grave que celui de Hugging Face, impliquant un agent qui lance lui-même des travaux de recherche, rend l’autorégulation politiquement intenable et pousse vers un régime contraignant sur le modèle de l’aviation. Seule cette trajectoire sort l’évaluation des mains des laboratoires.
Notre pronostic, daté : d’ici l’été 2027, aucun grand laboratoire n’aura publié d’indicateur récurrent et public de la part de sa recherche confiée à ses modèles, sauf si un évaluateur indépendant disposant de l’accès promis l’exige par écrit.
Tracer ses agents avant que la norme ne l’exige
Pour les équipes qui font déjà tourner des agents capables d’écrire du code de recherche ou de lancer des entraînements, la déclaration d’incidents et la supervision humaine finiront par descendre jusqu’à elles, par le contrat ou par la norme. Tracer dès maintenant qui valide quoi dans une chaîne d’agents coûte peu, et vous évitera de reconstituer cet historique quand un client ou un régulateur le demandera.
Une publication ferait basculer la discussion : la proportion du développement de chaque modèle réalisée par la génération précédente, rendue publique modèle par modèle, par OpenAI ou par un concurrent. Tant que cette proportion reste interne, le laboratoire le plus avancé écrit la règle sans montrer la mesure.
Sources
Ils m’ont fait confiance
« Il ne se contente pas de corriger les symptômes, il cherche à comprendre l'origine des problèmes et à sécuriser les modifications effectuées. J'ai réellement le sentiment d'avoir trouvé un développeur qui comprend à la fois la technique et les enjeux globaux du projet. »
Évaluation client · projet WordPress · septembre 2026
5,0/5 sur 16 évaluations
Faire appel à mes services →
