L’essentiel
- OpenAI a fermé fin juillet son équipe Preparedness, chargée d’évaluer si ses modèles pouvaient présenter des risques graves ou catastrophiques.
- Ses chantiers sur les risques biologiques et cyber ont été répartis entre des équipes déjà en place ; Dylan Scandinaro, qui dirigeait l’unité, travaille désormais sur l’auto-amélioration récursive.
- Plusieurs personnes de la sécurité ont quitté l’entreprise, dont Chloe Bakalar, responsable de l’éthique, et Joshua Achiam.
Fin juillet, OpenAI a fermé l’équipe dont le métier consistait à chercher ce qui pouvait très mal tourner. Aucune annonce publique : l’information est ressortie par voie de presse, plusieurs semaines plus tard, sur la foi de sources internes.
L’unité s’appelait Preparedness. Son mandat : évaluer si les modèles d’OpenAI pouvaient présenter des risques graves, voire catastrophiques, avant leur mise en production. Ses travaux sur les risques biologiques et cyber ont été redistribués à des équipes déjà existantes.
Une équipe dissoute, un veto qui s’évapore
La justification tient en une phrase, portée par le cofondateur Greg Brockman : la sécurité serait désormais « plus étroitement » intégrée au développement des modèles. Sur le papier, l’argument séduit. Plutôt qu’un contrôle en bout de chaîne, une vigilance partout, tout le temps.
Il suffit pourtant de regarder l’organigramme. Une équipe dédiée possède un nom, un budget, une personne responsable et surtout un point d’arrêt : elle peut produire un avis qui contredit le calendrier commercial. Répartie entre des équipes produit, la même compétence devient une ligne de plus dans un backlog déjà saturé, arbitrée par des gens dont l’objectif est de livrer.
Diluer une fonction, c’est lui retirer voix au chapitre. Plus personne n’a à signer le refus.
Les départs disent où penche le rapport de force
La fermeture ne tombe pas dans un climat neutre. Plusieurs personnes de la sécurité ont quitté l’entreprise ces dernières semaines, dont Chloe Bakalar, responsable de l’éthique, et Joshua Achiam. En interne, une source décrit un « sentiment persistant de responsabilité et d’effroi » face à ce que fait, ou ne fait pas, OpenAI sur ce terrain.
Le signal le plus parlant tient peut-être à la réaffectation de Dylan Scandinaro, à la tête de Preparedness jusqu’à sa dissolution : le sujet est maintenant l’auto-amélioration récursive, ces systèmes capables de s’optimiser eux-mêmes et d’entraîner d’autres modèles. La compétence n’a donc pas quitté l’entreprise. C’est son pouvoir de blocage qui a changé de nature, en glissant d’une fonction d’audit vers une expertise consultative sur un risque plus lointain.
Le piratage autonome n’a pas servi de coup d’arrêt
Des salariés ont pris la parole publiquement, en particulier après un incident de piratage autonome impliquant Hugging Face. L’un d’entre eux espérait que l’entreprise y voie un « coup de semonce », un avertissement assez sérieux pour resserrer les procédures au lieu de les alléger.
C’est l’inverse qui s’est joué à quelques semaines d’intervalle : un incident bien réel, des prises de parole internes, puis la suppression de l’équipe chargée d’anticiper précisément ce type de scénario. La séquence se lit sans effort : la contrainte a sauté juste après avoir prouvé son utilité.
La cadence de sortie contre le droit d’alerte
Dans une course où le rythme des sorties est devenu l’arme principale, une fonction capable de retarder un lancement coûte très cher. Elle n’a même pas besoin d’opposer un veto pour peser : il suffit qu’un rapport d’évaluation existe, écrit, daté et signé, pour qu’une décision de mise sur le marché devienne discutable après coup.
Reverser ce travail dans les équipes qui construisent les modèles règle le problème avec élégance. L’évaluation ne disparaît pas, elle cesse d’être un objet séparé et opposable. On gagne en fluidité ce qu’on perd en traçabilité. La fluidité se compte en semaines gagnées sur un lancement, la traçabilité en capacité à prouver plus tard qui savait quoi.
Les autres laboratoires ne prennent pas la même direction : Anthropic a réécrit sa Responsible Scaling Policy en février 2026 pour y ajouter une feuille de route de sécurité et des rapports de risque publiés, et Google DeepMind en est à la version 3.1 de son Frontier Safety Framework. Chez eux, l’évaluation reste un document distinct, daté et public.
Votre évaluation interne devient le dernier filet
Pour une entreprise qui déploie ces modèles, une évaluation menée par une équipe séparée avait une vertu simple : elle ne dépendait pas de celles et ceux qui avaient intérêt à livrer. Quand la fonction devient transversale, sa production se distingue moins nettement d’un argumentaire produit.
La conséquence est très concrète. Vos propres tests d’acceptation, vos scénarios d’attaque, vos limites d’usage sur les agents autonomes : ce filet ne peut plus être traité comme redondant avec celui du fournisseur. Il devient le seul dont vous maîtrisez le mandat, et le seul que personne, chez OpenAI, ne peut réorganiser à votre place.
Une question n’a toujours pas de réponse publique : qui signe, désormais, quand une évaluation conclut qu’un modèle ne doit pas sortir. Tant que ce nom manque, la sécurité intégrée au développement se prend sur parole.
Mon avis
Le jour où un modèle d’OpenAI causera un dommage sérieux, personne dans la maison n’aura eu à signer un refus, et c’est exactement le bénéfice de l’opération. Je ne crois pas au hasard de calendrier : on ne supprime pas une équipe d’évaluation quelques semaines après un incident autonome, on la renforce, sauf si elle gênait autre chose. Ma lecture est qu’OpenAI a troqué un contre-pouvoir interne contre de la vitesse, en pariant que personne n’ira réclamer la trace écrite. Le calcul tient jusqu’au jour où un régulateur demande qui savait, et à quelle date.
