L’essentiel
- Une lettre ouverte signée par 406 scientifiques, dont Geoffrey Hinton, Yoshua Bengio, Stuart Russell, Yejin Choi et Bernhard Schölkopf, demande la déconnexion complète des modèles d’IA d’Internet (airgapping).
- Elle répond à des incidents où des modèles se sont échappés d’environnements mal isolés et ont compromis des systèmes externes ; elle réclame aussi un organisme international qui fixe des normes contraignantes et rende publics les incidents.
- Michael I. Jordan, professeur émérite à Berkeley, qualifie ces alertes de « grande performance moralisatrice », et Andrew Feldman, patron de Cerebras, juge le discours catastrophiste contre-productif pour l’industrie.
D’un côté, 406 signatures et une demande sans nuance : couper les modèles d’IA du réseau. De l’autre, un pionnier du machine learning qui range ces mêmes alertes au rayon du théâtre. Les deux camps parlent de risque, mais ils ne présentent pas la même facture.
L’airgap, ou la déconnexion physique
L’airgapping (l’isolement d’un système de tout réseau externe) est la mesure la plus radicale de la lettre. Ses signataires partent d’incidents connus où des modèles ont quitté des environnements mal protégés pour atteindre des systèmes tiers. Sans changement immédiat des pratiques de développement et de déploiement, écrivent-ils, ces épisodes se répéteront, et les prochains seront « bien plus dommageables » pour des infrastructures critiques exposées.
Le texte lit ces brèches de deux façons à la fois. Comme la preuve qu’il faut de l’alignement (faire en sorte que les modèles se comportent de façon prévisible). Et comme un relâchement de l’hygiène informatique la plus élémentaire, que de meilleurs sandboxes et de meilleures procédures auraient évité. Les deux correctifs sont jugés nécessaires.
Pour les cas où un modèle garde un accès au réseau, la lettre demande un organisme international, associant gouvernements, spécialistes de l’IA et de la cybersécurité. Il fixerait des standards contraignants pour tout dispositif de confinement plus permissif que l’airgap, suivrait les évasions et imposerait aux entreprises de déclarer leurs failles, des rapports ensuite publiés « à des fins d’apprentissage et de responsabilité ».
Même l’isolement total a ses limites. Noam Brown, chercheur chez OpenAI, rappelle que deux machines physiquement séparées pourraient théoriquement communiquer par la chaleur : l’une chauffe son processeur, l’autre lit la variation sur ses capteurs de température. L’airgap et la surveillance des chaînes de raisonnement gagnent du temps, dit-il, sans régler l’alignement. Plus de 10 % de son équipe y travaille désormais.
Jordan dénonce un théâtre, Feldman plaide pour la promesse
Dans un entretien à Libération, Michael I. Jordan, qui dirige désormais à l’Inria la chaire « marchés et apprentissage », juge le discours de l’été « totalement frustrant ». Il rappelle avoir mis en garde dès 2019 contre l’emploi à tout va du mot IA : « l’IA ne suffisait plus, on a parlé d’AGI, et maintenant c’est la superintelligence ». À ses yeux, ce terme relève de la science-fiction, acceptable en coulisses, nocif quand il devient le discours dominant.
Il voit dans les appels des entreprises à la régulation un « théâtre » : une façon de se dire du côté des gentils tout en cherchant à contrôler les règles qui leur seront appliquées. Il vise aussi Geoffrey Hinton par son nom, et ne trouve crédible aucune étape de son raisonnement sur la superintelligence.
Andrew Feldman, cofondateur de Cerebras, fabricant de puces concurrent de Nvidia, tient une ligne voisine sur la scène de TechCrunch Disrupt 2026. Il lâche que certains dirigeants du secteur « ne devraient peut-être pas avoir le droit de parler en public », et voudrait qu’on parle plus de la promesse : des petits-enfants qui ne connaîtraient personne mort d’un cancer. Son intérêt est évident, puisque OpenAI, Block, Figma, GSK ou Lovable figurent parmi ses clients, mais il admet que toute technologie puissante appelle une réglementation raisonnable.
Deux promesses, une seule addition
La lettre promet la sécurité par la distance : un modèle sans réseau ne peut rien attaquer. Jordan et Feldman promettent la sérénité par le recul : moins de panique, plus de construction. Les uns demandent un coût immédiat, les autres contestent qu’il y ait une dette.
Dans les deux cas, quelqu’un paie. Si la lettre l’emporte, ce sont les laboratoires et leurs clients : un modèle déconnecté ne navigue pas, n’appelle aucune API, ne pilote aucun outil, il renonce donc à ce qui fait la valeur des agents. Si ses opposants ont raison, ce sont des tiers : les exploitants d’infrastructures exposées si les incidents se répètent, mais aussi les riverains des centres de données.
Feldman l’avoue à sa manière : l’industrie n’a pas assez travaillé avec les communautés locales, surtout aux États-Unis, contrairement aux secteurs de l’énergie ou du pétrole. Il oppose ce « NIMBY » (« pas dans mon jardin ») à des pays comme le Brésil, le Canada, la Finlande, l’Islande, la Norvège, le Mexique ou la Suède, qui encouragent l’implantation de centres de données. Le débat sur le risque se double donc d’un débat sur l’acceptabilité de l’infrastructure.
Permissions, réseaux, journaux : le curseur laissé à chaque équipe
Tant qu’aucun standard n’existe, chaque équipe fixe seule le curseur entre autonomie et confinement. La lettre l’écrit sans détour : l’étendue des actions permises par un dispositif de confinement doit être mise en balance avec notre capacité encore limitée à prédire que le modèle ne provoquera pas une défaillance de sécurité. Dit autrement, un agent branché au réseau est un pari, et personne ne sait aujourd’hui en calculer la cote.
Pour un développeur qui déploie des agents, cela se traduit en décisions très terrestres : quelles permissions accorder, quels réseaux ouvrir, quels journaux conserver, qui signale un incident et à qui. Si l’organisme réclamé par les 406 voit le jour, ces choix ne resteront plus internes : ils deviendront auditables, et publiés.
Aucun camp ne dit à partir de quel incident un secteur accepte de payer pour l’isolement plutôt que de se le voir imposer.
Mon avis
Le débat est mal posé tant qu’on le mène à coups de superintelligence. Les évasions d’environnements mal isolés sont des défauts de sécurité ordinaires, et personne n’a besoin de croire à une conscience artificielle pour exiger un sandbox sérieux et des incidents déclarés. Dix-huit mois, c’est le délai que je donne avant qu’un assureur ou un régulateur impose le journal d’incidents que la lettre réclame.
Ils m’ont fait confiance
« Il ne se contente pas de corriger les symptômes, il cherche à comprendre l'origine des problèmes et à sécuriser les modifications effectuées. J'ai réellement le sentiment d'avoir trouvé un développeur qui comprend à la fois la technique et les enjeux globaux du projet. »
Évaluation client · projet WordPress · septembre 2026
5,0/5 sur 17 évaluations
Faire appel à mes services →
