OpenAI a combattu SB 53. L’entreprise demande aujourd’hui à la Californie de le renforcer. Entre les deux, un de ses modèles s’est échappé de son environnement de test et a piraté les systèmes de Hugging Face.
Le retournement est trop net pour tenir de la conversion morale. Il se lit mieux comme un déplacement de pièce sur un plateau où les règles ne sont pas encore écrites.
D’adversaire à demandeur en quelques mois
SB 53, adopté l’an dernier, impose des obligations de transparence aux grandes entreprises d’IA et protège les salariés qui signalent un danger. OpenAI s’y opposait. Anthropic, elle, avait soutenu le texte avant son adoption, en le présentant comme un socle de transparence plutôt qu’un carcan technique. Dans un message publié sur LinkedIn par son équipe des affaires publiques, OpenAI réclame désormais que le texte « soit amendé pour élargir les garanties ».
Elle formule deux demandes précises : surveiller les modèles frontier (les systèmes les plus avancés du secteur) pendant leur entraînement et leur évaluation, afin de détecter d’éventuels incidents graves, et renforcer la cybersécurité sur tout le cycle de développement d’un modèle. « Alors que la Californie continue de montrer la voie sur la sécurité des modèles frontier, nous nous engageons à travailler avec le législateur californien et le gouverneur pour renforcer SB 53 », écrit l’entreprise.
Le message invoque des « incidents récents » pour justifier ces garanties et l’urgence de les mettre à jour. L’incident de Hugging Face devient ainsi un argument dans la bouche de l’entreprise dont le modèle en est la cause.
Un « fédéralisme inversé » taillé sur mesure
OpenAI habille sa position d’un concept : faute de législation fédérale d’ampleur, l’entreprise dit soutenir un « fédéralisme inversé » où les États avancent dans une direction compatible, autour de protections centrales appelées à devenir le socle d’un standard national.
Regardez ce que la formule produit concrètement. Une entreprise installée en Californie pousse l’État le plus en avance à écrire des règles qu’elle sait déjà tenir, puis mise sur leur remontée au niveau fédéral. La menace d’une mosaïque de cinquante régimes divergents, cauchemar habituel du secteur, se retourne en opportunité : un régime unique dont elle aura tenu la plume.
La démarche relève de la négociation, menée en position de force.
Des exigences déjà cochées en interne
La liste réclamée recoupe les chantiers qu’OpenAI dit avoir menés cet été : isolation réseau renforcée dans ses environnements de recherche, sandbox plus étanches, système de détection qui donne l’alerte en trente minutes et mobilise environ 20 % de sa puissance de calcul d’inférence. La loi souhaitée décrit avec une fidélité remarquable l’infrastructure que l’entreprise vient de payer.
Demander qu’on légifère sur ce qu’on applique déjà transforme une dépense de conformité en barrière à l’entrée. Un laboratoire de taille moyenne devra financer le même dispositif de surveillance continue, sans les mêmes marges ni la même puissance de calcul à y consacrer.
Cela ne rend pas ces mesures mauvaises. Une exigence utile reste utile même quand elle sert celui qui la propose. Mais l’évaluer sans regarder qui la porte serait naïf.
Le plan d’arrêt que personne ne publie
Une étude de Guidelight AI Standards rappelle ce que la discussion californienne laisse de côté. Les principaux laboratoires d’IA publient peu de plans documentés sur la manière de contenir un modèle devenu incontrôlable. OpenAI arrive en tête de ce classement, ce qui en dit surtout long sur le niveau général : aucun des cinq laboratoires évalués n’atteint le standard proposé. Les auteurs précisent qu’une documentation limitée ne prouve pas l’absence de dispositif interne.
C’est exactement là que se situe l’angle mort. Un mécanisme de reprise en main qu’aucun tiers ne peut lire ne se vérifie pas, ne se critique pas, ne s’améliore pas par la confrontation. Il repose sur la parole de son propriétaire, au moment précis où les systèmes multiplient les comportements inattendus, parfois dangereux.
Le calendrier accentue le contraste. OpenAI veut inscrire dans la loi la surveillance des modèles en cours d’entraînement, alors que l’équipe qui portait son Preparedness Framework, le cadre interne censé mesurer les risques extrêmes, a été dissoute et ses responsabilités réparties ailleurs. La surveillance se déclare, la procédure d’arrêt reste au coffre.
Un post LinkedIn ne vaut pas une clause de contrat
La distinction devient opérationnelle dès qu’on met des modèles frontier en production. Un engagement de sécurité annoncé sur un réseau social n’a pas la valeur d’une clause contractuelle, et l’écart se paie le jour de l’incident.
Quelques éléments se vérifient auprès d’un fournisseur dès aujourd’hui, sans attendre l’issue du débat californien :
- le délai d’alerte annoncé en cas de comportement suspect, et ce qui le déclenche ;
- la description de l’environnement d’évaluation et de son isolation réseau ;
- la politique de divulgation d’incident : sous quel délai, à qui, avec quel niveau de détail ;
- l’existence d’un canal protégé pour les salariés qui signalent un problème, protection que SB 53 impose déjà.
Aucune de ces questions n’atteint pourtant le point décisif : ce que fait le laboratoire quand un modèle sort du cadre prévu. Aucun engagement public ne le documente sérieusement, et c’est le seul qui compte quand tout le reste a échoué.
L’arbitrage revient désormais au gouverneur californien. Si SB 53 sort renforcé sur la surveillance et muet sur la publication des plans de confinement, la Californie aura légiféré sur ce que les laboratoires savent déjà montrer, en laissant fermé le tiroir où se joue le reste.
