L’essentiel
- Mardi, à la conférence Dreamforce de Salesforce, Jensen Huang a déclaré que la sécurité de l’IA est « un problème d’ingénierie, pas un problème juridique » et qu’aucune loi nouvelle n’est nécessaire.
- Le fondateur de Nvidia refuse de voir dans l’IA une « intelligence extraterrestre » : du matériel et du logiciel bâtis par des humains, que les lois existantes suffisent selon lui à encadrer.
- Sa position l’oppose frontalement à Dario Amodei, rejoint par Sam Altman et Elon Musk, qui plaident pour ralentir la course aux capacités.
- Sept Américains sur dix s’opposent à la construction d’un centre de données près de chez eux, selon Gallup ; Donald Trump, lui, qualifie l’inquiétude de « hoax ».
Devant la salle de Dreamforce, Jensen Huang a expédié la question de la régulation de l’IA : « La sécurité est un problème d’ingénierie, pas un problème juridique. » Pour le fondateur de Nvidia, l’IA n’est pas l’« intelligence extraterrestre » que décrit un chercheur en sécurité d’OpenAI, mais du matériel et du logiciel conçus par des humains, donc maîtrisables par eux et par les textes déjà en vigueur.
La démonstration est élégante, et elle a un antécédent gênant. L’industrie du logiciel a tenu ce discours pendant vingt ans. Elle a fini par perdre l’exemption qu’il servait à défendre.
Le logiciel a déjà plaidé cette exemption
Ramener un système à ses composants, c’est le déplacer hors du champ des régulateurs. Un programme n’est ni un médicament, ni un avion, ni un pont : il se livre en l’état, sa responsabilité se borne par contrat, ses défauts se réparent par mise à jour. Ce régime a tenu tant que le logiciel restait une couche parmi d’autres, réversible et périphérique.
Il a cédé en 2024, quand une défaillance chez CrowdStrike a mis des flottes entières de machines à l’écran bleu, immobilisé des milliers de vols et paralysé des entreprises qui n’avaient jamais signé avec l’éditeur. La confiance dans l’ingénieur ne suffisait plus : on a réclamé des comptes, des procédures, des obligations. Huang demande pour l’IA le statut que le logiciel est en train de perdre.
Le marché ne sanctionne que ce qu’il voit
Son second argument porte sur la discipline spontanée : « Si vous n’êtes pas confiant dans la fonctionnalité, la capacité ou la sécurité d’un produit, ne le publiez pas. » La pression concurrentielle suffirait, aucune loi ne serait utile, et il étend le raisonnement bien au-delà de l’IA. Dario Amodei défend l’inverse dans son texte sur la politique de l’IA : des standards communs négociés entre pays, et un rythme de développement ralenti le temps que les évaluations de sécurité rattrapent les capacités.
Pour que cette pression joue, il faut que le dommage soit visible, attribuable à un responsable identifié, et coûteux assez tôt pour peser sur une décision de lancement. Meta a accepté en août de verser 18 milliards de dollars pour solder les plaintes de 29 États américains sur les dommages causés aux enfants par les réseaux sociaux : la sanction tombe des années après les usages en cause. Les préjudices attribués à l’IA ressemblent davantage à ce cas qu’à la panne spectaculaire. Des poursuites visent déjà un laboratoire après les suicides de jeunes utilisateurs qui passaient des heures en conversation avec son agent conversationnel. Un marché ne corrige que ce qu’on lui facture.
Nvidia publie désormais ses propres modèles
L’entreprise fabrique les processeurs de l’IA depuis bien avant ChatGPT, mais elle diffuse aussi des modèles ouverts, des agents, les briques logicielles qui les exécutent et des environnements de test isolés. L’autorégulation que prêche son patron s’applique donc d’abord à Nvidia, et ses deux consignes cohabitent mal : courir aussi vite que possible, puis marquer une pause si le produit ne semble pas sûr. Une pause se compte en trimestres de revenus.
Huang ne s’en cache pas : il dit son ambition « jamais aussi haute » et promet que « le ciel est la limite » pour son entreprise, pour chaque secteur et chaque pays. On peut lui accorder la sincérité tout en notant l’intérêt. Il pousse par ailleurs les modèles open-weight, dont les paramètres sont téléchargeables par tous, comme contrepoids aux laboratoires propriétaires. Il ne dit pas ce que devient la sécurité quand des poids publiés ne peuvent plus être rappelés.
La bataille des centres de données se joue dans les mairies
La veille, à l’All-In Summit, Huang avait pris en direct sur scène un appel de Donald Trump, haut-parleur branché devant la salle. Le président y a balayé la contestation des centres de données comme un « hoax » téléguidé par des adversaires politiques ou par la Chine, avec l’accord immédiat du patron de Nvidia.
Les chiffres de Gallup racontent autre chose. Sept Américains sur dix refusent la construction d’un centre de données près de chez eux. Chez les opposants, la moitié cite la consommation d’eau et d’électricité, environ un sur cinq la hausse des factures et le coût de la vie, autant la dégradation du cadre de vie. Une facture d’électricité et un permis de construire ne se dissolvent pas dans la théorie de l’opération d’influence. Faute de cadre national négocié, l’arbitrage se déplace vers les moratoires municipaux, les recours et les référendums locaux, là où la discussion technique n’existe pas.
Sans loi nouvelle, le risque s’arrête chez l’intégrateur
Si le législateur s’abstient, rien ne disparaît : la charge glisse. Qui met un agent en production hérite du risque que le fournisseur décline dans ses conditions d’utilisation. Cela se prépare très concrètement : des permissions découpées au plus juste plutôt que des accès larges, une journalisation des actions de l’agent qui tienne devant un juge, des clauses de responsabilité négociées avant signature, des campagnes de tests documentées avant mise en service.
Huang a raison sur un point que ses contradicteurs négligent : beaucoup de textes existants s’appliquent déjà, du droit de la consommation à la responsabilité du fait des produits. Tous visent en revanche un opérateur identifiable. Quand un agent décide et agit seul, hors de toute supervision humaine, il ne reste plus d’opérateur à qui les opposer.
Mon avis
Huang défend un calendrier, celui d’un équipementier dont chaque trimestre dépend de l’absence de friction, et il l’habille en doctrine de sécurité. Je le crois sincère et je crois aussi que le cadre arrivera quand même, en sortant d’un tribunal avant de sortir d’un parlement : la première décision qui condamnera une entreprise pour l’action autonome d’un agent qu’elle a déployé pèsera plus lourd que dix ans d’autorégulation. À ce moment-là, l’industrie réclamera d’urgence la loi claire qu’elle refuse aujourd’hui, et elle la subira au lieu de l’écrire.
