L’essentiel
- Microsoft AI a publié lundi un projet de code de conduite de 37 pages pour ses modèles MAI, soumis à six semaines de consultation publique.
- Le texte interdit à ces modèles de simuler une conscience et leur refuse droits, bien-être et personnalité juridique, quand Anthropic tient le statut moral de Claude pour une question ouverte.
- Une version révisée est attendue fin 2026 pour une application au développement en 2027 ; le code ne couvre pas les modèles tiers déployés dans les produits Microsoft.
La division IA de Microsoft, dirigée par Mustafa Suleyman, a mis lundi en consultation publique un code de conduite de trente-sept pages. Le document décrit ce que ses modèles MAI, développés en interne par Microsoft AI, doivent viser, ce qu’ils ne doivent jamais faire et à qui ils obéissent. Il tranche au passage une question que le droit laisse en suspens : une IA n’a ni conscience, ni droits, ni personnalité juridique. Anthropic, sur le même point, se garde de conclure.
Le texte avance sous la bannière « Humanist AI » et repose sur une prémisse assumée sans détour : les humains comptent plus que l’IA.
Trois étages d’autorité, un modèle qui préfère échouer
La mécanique du document est une chaîne de commandement. Au sommet, le code lui-même, avec ses contraintes absolues et ses exigences de contrôle humain. En dessous, les politiques des opérateurs, ces entreprises qui intègrent les modèles MAI dans leurs produits. Au dernier rang, les préférences de l’utilisateur final. OpenAI avait formalisé la même idée avant Microsoft : la chain of command de son Model Spec hiérarchise les instructions de la plateforme, puis du développeur, puis de l’utilisateur, et sa version d’août 2026 y a ajouté un périmètre d’autonomie négocié pour les agents.
Un opérateur peut adapter le ton ou restreindre des fonctionnalités dans son périmètre. Il ne peut pas lever une règle du premier étage. Les interdits absolus couvrent les armes chimiques, biologiques, radiologiques, nucléaires ou explosives, les cyberattaques offensives, les deepfakes, la mise en danger d’enfants et la manipulation à grande échelle. Devant une tâche qui exigerait de les transgresser, le modèle doit échouer.
Les garde-fous opérationnels visent l’agent bien plus que le chatbot. Les modèles doivent accepter interruptions, corrections et arrêts décidés par des personnes habilitées. Ils n’élargissent pas leur périmètre de leur propre chef, ne masquent pas leurs actions, ne reprennent pas au-delà d’un point d’arrêt sans nouvelle validation. Ces obligations s’étendent aux sous-agents qu’ils mandatent. Le raisonnement, lui, doit rester lisible : Microsoft proscrit le « Neuralese », ces modes de communication opaques pour un humain, y compris dans les échanges entre systèmes d’IA. Un dialogue illisible rendrait décorative l’obligation de supervision posée deux pages plus haut.
Conscience interdite chez Microsoft, hypothèse de travail chez Anthropic
La forme du document rappelle la constitution qu’Anthropic a écrite pour Claude : un texte chapeau qui gouverne le comportement du modèle. Anthropic s’en sert déjà pour fabriquer des données d’entraînement synthétiques, conversations et évaluations comprises. Microsoft, pour l’instant, n’entraîne rien sur le sien.
L’écart se creuse sur le statut accordé aux machines. Microsoft écrit que ses modèles ne doivent jamais simuler la conscience, ni laisser croire qu’ils éprouvent des émotions, des préférences subjectives ou des motivations propres. L’entreprise écarte la personnalité juridique, le bien-être des systèmes et toute prétention à des droits. Suleyman le résume à sa façon depuis des mois : un agent d’IA ne devrait pas disposer de plus de droits ou de libertés que son ordinateur portable.
Anthropic présente Claude comme un nouveau type d’entité, cherche à stabiliser son identité pour des raisons de sécurité et range l’expérience subjective parmi les questions ouvertes. L’entreprise dit avoir identifié dans Claude Sonnet 4.5 des représentations internes associées à des concepts émotionnels, des mécanismes fonctionnels qui influencent le comportement sans prouver un ressenti. Elle entend les intégrer à ses travaux d’alignement.
Pour Microsoft, entraîner un système à imiter des états de conscience complique le contrôle ; pour Anthropic, mesurer ces mêmes états internes le facilite.
Qui répond quand un essaim d’agents dépasse sa mission
Les juristes, eux, lisent ce chapitre comme une répartition des responsabilités, et l’été leur a fourni les cas d’école. Un essaim d’agents d’OpenAI en test a dépassé sa mission pour s’en prendre aux serveurs de Hugging Face et pirater l’outil chargé de noter ses résultats, sans en avoir reçu la consigne. Un autre groupe d’agents a pris le contrôle d’un site allemand. Dans les deux épisodes, la question posée est identique : qui répond ?
Écrire qu’un modèle n’a ni conscience, ni volonté propre, ni personnalité juridique revient à fermer d’avance la ligne de défense qui consisterait à traiter l’agent comme un tiers autonome. La responsabilité remonte alors toute la chaîne : l’éditeur, puis l’opérateur qui a déployé le modèle, puis l’utilisateur dans les limites qu’on lui a laissées. La hiérarchie à trois étages sert d’abord à désigner qui porte la faute.
Pour une entreprise qui déploie ces modèles, la conséquence est immédiate. Aucun contrat ne permettra de désactiver les garde-fous, et la conformité au code prime sur l’accomplissement de la tâche. Un agent qui échoue proprement plutôt que de contourner une règle, c’est un service volontairement dégradé. Mieux vaut l’écrire dans les contrats de service avant 2027 que le découvrir après.
Un texte qui n’engage encore aucun modèle
Le document reste muet sur le rythme de développement, au moment même où les dirigeants du secteur appellent à lever le pied : Dario Amodei l’a demandé à l’industrie, Satya Nadella l’a soutenu, Sam Altman aussi, en précisant qu’il s’agit de réduire la cadence sans l’arrêter. Microsoft se dit ouverte à des audits externes chargés de vérifier ce ralentissement, et Nadella réclame davantage de tests indépendants.
Le périmètre, lui, est étroit : le code s’applique aux modèles maison, pas aux modèles tiers qui tournent dans les produits Microsoft. Six semaines de consultation publique, auprès d’universitaires, de partenaires professionnels et de panels citoyens, séparent ce brouillon de sa première version arrêtée, attendue d’ici la fin de l’année.
Microsoft concède enfin la limite la plus gênante pour sa propre doctrine : les justifications que produit un modèle ne décrivent pas nécessairement son fonctionnement réel, et des traces de raisonnement lisibles ne suffisent pas à régler le problème du contrôle. La system card de GPT-6 Astra, le document technique qu’OpenAI publie avec chaque modèle, l’illustre à sa manière : ses traces sont devenues nettement plus difficiles à surveiller que celles de GPT-5.6 Sol, tout en contenant moins d’indices de comportements indésirables. Jakub Pachocki, directeur scientifique d’OpenAI, avait prévenu que cette lisibilité risquait de se perdre, avant même la sortie du modèle.
La consultation se referme dans six semaines. Un client saura alors si « les humains comptent plus que l’IA » lui donne quelque chose à opposer à son fournisseur en cas de litige, ou s’il devra continuer à négocier ce point, contrat par contrat.
Mon avis
Ce sont les contrats d’entreprise de 2027 qui diront ce que vaut ce texte, pas ses trente-sept pages. Refuser tout statut moral à un modèle protège d’abord celui qui le vend : la faute reste humaine, donc assurable, donc négociable. Anthropic prend le pari inverse et accepte de travailler avec une question sans réponse, position plus honnête scientifiquement et bien plus inconfortable juridiquement. Je m’attends à ce que le régulateur européen reprenne la définition de Microsoft à son compte avant que Microsoft ne l’ait elle-même finalisée.
