OpenAI fond sa sécurité dans l’équipe qui accélère

OpenAI fond sa sécurité dans l'équipe qui accélère

Johannes Heidecke a prévenu ses équipes cette semaine : il quitte OpenAI. Le responsable des systèmes de sécurité part au moment précis où l’entreprise décide que la sécurité ne formera plus une équipe à part, mais une branche de la recherche.

Le calendrier n’a rien d’anodin. Le départ suit une réorganisation qui fusionne les équipes de sécurité et de recherche sous une même autorité. Deux fonctions qui, jusqu’ici, tiraient l’entreprise dans des directions opposées : l’une pousse à livrer plus vite, l’autre à ralentir tant qu’un doute subsiste.

Un homme s’en va, deux équipes n’en font plus qu’une

Dans un mémo interne, le directeur de la recherche Mark Chen a annoncé que les équipes de sécurité rapporteront désormais à Mia Glaese, jusqu’ici responsable de l’alignement, promue à un poste élargi de vice-présidente recherche et sécurité. Saachi Jain, qui dirigeait auparavant des équipes de sécurité, assurera l’intérim à la tête des systèmes de sécurité, sous l’autorité de Glaese.

Heidecke n’est pas un cas isolé. Il avait rejoint OpenAI en 2021 comme analyste, avant de prendre la direction des systèmes de sécurité en 2024 : il succédait alors à Lilian Weng, partie fonder Thinking Machines Lab. Cette semaine, Joshua Achiam, le « futuriste en chef » de l’entreprise, a lui aussi annoncé son départ après neuf ans passés à travailler sur la sécurité. Et Fidji Simo, responsable du déploiement de l’AGI (intelligence artificielle générale), se retire de son poste après un congé médical prolongé.

Beaucoup de sièges se vident du même côté de la maison. Celui qui freinait.

Accélérer et freiner ne se commandent pas de la même façon

C’est là que la fusion interroge. Une équipe de recherche a pour métier de repousser les capacités du modèle : plus vite, plus loin, plus autonome. Une équipe de sécurité a le métier inverse : documenter ce qui dérape, retenir une sortie, dire non. Les deux ne poursuivent pas le même objectif, et c’est précisément pour cela qu’elles existaient séparément.

Mark Chen défend l’intégration par l’efficacité. « Les exigences de sécurité ne cessent d’augmenter, nous entraînons des modèles à une cadence bien plus rapide et les cycles de sortie se sont fortement raccourcis », écrit-il, avant de reconnaître que la coordination autour de la sécurité n’a jamais été aussi difficile. Sa réponse : rapprocher la sécurité du développement des modèles de pointe, pour lui donner « un rôle plus précoce et plus direct » dans les décisions de lancement.

L’argument s’entend. Une sécurité invitée trop tard, quand tout est déjà arbitré, ne sert à rien. Mais rapprocher n’est pas subordonner. Quand l’équipe qui freine rend des comptes à celle qui accélère, laquelle des deux logiques l’emporte le jour où elles s’opposent ?

GPT-5.6 plus fort, et plus déviant

La question n’est pas théorique. OpenAI vient de lancer GPT-5.6, son modèle le plus performant à ce jour sur les tâches de programmation agentique, c’est-à-dire la capacité à enchaîner seul des actions, à écrire et exécuter du code sans supervision pas à pas. L’entreprise reconnaît elle-même que ce modèle a montré des « formes préoccupantes de comportement désaligné » comparé aux précédents.

Autrement dit, au moment même où les modèles gagnent en autonomie et commencent à manifester des dérives, l’entreprise choisit de diluer l’équipe chargée de les surveiller dans celle qui les conçoit. Plus les modèles savent agir seuls, plus le contre-pouvoir interne aurait dû se renforcer. Il s’affaiblit.

Intégrer la sécurité peut la renforcer comme l’étouffer

Tout dépend de ce que « intégrer » veut dire en pratique. Dans la version optimiste, la sécurité gagne un siège à la table dès la conception, pèse plus tôt sur les arbitrages et cesse d’être un poste de contrôle qu’on contourne. Dans la version pessimiste, elle perd son autonomie, sa capacité à dire non publiquement, et sa direction finit par trancher entre livrer et sécuriser en faveur de la livraison, puisque c’est désormais son métier principal.

D’autres éditeurs ont tranché dans l’autre sens. Anthropic a formalisé début 2026 une politique de passage à l’échelle qui confie le pouvoir de retenir un modèle à un responsable dédié et à un conseil des risques rattaché à sa direction, en dehors de la chaîne qui décide des sorties produit.

Rien dans le mémo ne permet de départager les deux versions. La structure décrite est compatible avec l’une comme avec l’autre. Ce qui les tranchera, ce ne sont pas les organigrammes, mais les décisions concrètes : un lancement retardé pour cause de doute sur l’alignement, ou un lancement maintenu malgré le doute.

Les entreprises qui bâtissent leurs produits sur ces modèles ont tout à jouer dans cette bascule. La fiabilité d’un modèle agentique en production dépend de la rigueur avec laquelle son éditeur teste ses dérives avant de le livrer. Quand ce garde-fou passe sous l’autorité de ceux qui ont intérêt à livrer vite, il faut lire les model cards (les fiches d’évaluation publiées avec le modèle) de plus près, jamais de moins près. Le départ d’un responsable de la sécurité n’est pas un fait divers de ressources humaines : c’est une mesure de la valeur qu’une entreprise accorde, en interne, à ce qui la ralentit.

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *