Google DeepMind ouvre un institut consacré aux dangers de l’intelligence artificielle générale. Ses trois directeurs sont aussi ceux qui la construisent. Tout l’intérêt de l’annonce se loge dans cette superposition.
Baptisé DeepMind Institute (DMI), le nouvel ensemble réunit des chercheurs de Google DeepMind, de Google et de la communauté scientifique internationale autour de l’AGI (Artificial General Intelligence, un système doté de toutes les capacités cognitives du cerveau humain, selon la définition du labo). Sécurité, gouvernance, cyberattaques, perte de contrôle : le programme présenté par Google DeepMind balaie large. Les réponses, promet-il, ne viendront pas des seuls technologues mais aussi des arts, des sciences humaines et des politiques publiques. À la tête de l’institut, on trouve Demis Hassabis, prix Nobel et patron du laboratoire, Shane Legg, son cofondateur, et James Manyika, l’un des dirigeants de Google.
Celui qui fixe l’échéance écrit aussi les garde-fous
Il n’existe aucune définition partagée de l’AGI. Google DeepMind en retient une très ambitieuse, et affirme pourtant qu’elle est proche. Demis Hassabis l’attend d’ici quelques années ; Shane Legg a récemment estimé qu’un précurseur pourrait apparaître dès 2028. Les systèmes actuels échouent pourtant encore sur des tâches simples et manquent de créativité.
Chez OpenAI, la grille est différente : l’AGI se mesure à la valeur économique produite, et Sam Altman la voit arriver avant la fin de l’année. Chaque laboratoire a donc sa définition et son calendrier, sans arbitre extérieur pour trancher entre eux.
Cette querelle de définitions a des effets concrets. Elle décide du moment où l’on considère qu’un seuil est franchi, donc du moment où des précautions supplémentaires deviennent nécessaires. Un institut qui débat de la gouvernance de l’AGI, sous la direction de ceux qui en fixent à la fois le sens et l’échéance, tient les deux bouts de la règle.
L’institut a les modèles, Bruxelles a le droit
L’Union européenne a choisi l’autre voie. Avec l’AI Act, les fournisseurs de modèles d’IA à usage général sont soumis depuis août 2025 à des obligations contrôlées par le Bureau européen de l’IA, rattaché à la Commission. Pour les modèles présentant un risque systémique s’ajoutent évaluations, tests adversariaux et signalement des incidents graves.
Les deux approches promettent une IA maîtrisée, par des moyens opposés. L’institut de DeepMind a l’accès : il voit les modèles avant leur sortie, connaît leurs faiblesses internes, peut réagir à la vitesse de la recherche. Le régulateur européen a l’indépendance, puisqu’il n’a aucun produit à lancer, et il dispose d’un pouvoir de sanction.
L’un comprend mieux, l’autre contraint mieux, et la légitimité se jouera entre les deux. Quand l’institut interne conclura qu’un risque de perte de contrôle reste acceptable, cette conclusion pèsera comme une expertise ; quand Bruxelles jugera l’inverse, le labo pourra lui opposer sa connaissance intime du système. L’expertise maison risque alors de servir de contre-argument à la régulation publique.
Des philosophes et des artistes invités, sans pouvoir de veto connu
L’ouverture aux sciences humaines, aux arts et aux politiques publiques est la meilleure idée de l’annonce. Les questions posées par l’AGI (qui décide, qui répond d’un dommage, où s’arrête l’autonomie d’une machine) ne relèvent pas de l’ingénierie. Les confier aux seuls chercheurs en apprentissage automatique serait une erreur que le DMI a le mérite d’éviter.
Encore faut-il que ces voix extérieures pèsent. La présentation de l’institut ne dit rien de son statut juridique, de son financement, de la publication de ses désaccords ni d’un éventuel droit de regard sur les lancements de produits. Un chercheur invité peut éclairer un débat ; il ne peut pas bloquer un déploiement si personne ne lui en a donné le pouvoir. OpenAI a écrit ce pouvoir noir sur blanc : depuis septembre 2024, son comité de sûreté et de sécurité, rattaché au conseil d’administration, peut retarder la sortie d’un modèle tant que les problèmes de sécurité ne sont pas réglés.
Tant que ces points restent flous, l’interdisciplinarité peut servir de contre-pouvoir comme de caution. On saura laquelle des deux à ses actes, pas à la liste des invités.
Vos agents Gemini devront composer avec deux doctrines
Si vous intégrez Gemini ou d’autres modèles Google dans vos produits, le DMI vous concerne de près. Les risques qu’il met en avant, cyberattaques et perte de contrôle, visent en premier lieu les agents : des systèmes qui exécutent du code, naviguent sur le web et manipulent des outils avec des droits réels. Les conclusions de l’institut ont toutes les chances de se traduire en politiques d’usage et en restrictions sur ces capacités.
Vos pipelines agentiques dépendront donc de deux sources de règles. D’un côté, l’AI Act, qui encadre aussi les entreprises qui déploient ces modèles, pas seulement leurs fournisseurs. De l’autre, la doctrine interne de l’éditeur, qui peut restreindre une fonctionnalité du jour au lendemain sans passer par aucun législateur.
Trois précautions en découlent :
- suivre les publications du DMI comme on suit une feuille de route produit, car elles annonceront les limites futures des API ;
- documenter dès maintenant les droits accordés à vos agents (accès réseau, exécution, données), puisque c’est sur ce terrain que se concentreront les deux doctrines ;
- éviter toute dépendance à une capacité agentique qu’un seul fournisseur peut retirer unilatéralement.
Le premier désaccord servira de preuve
Un institut de gouvernance adossé au laboratoire le plus avancé de Google peut produire une recherche précieuse. Il bénéficie d’un accès que ni universitaires ni régulateurs n’auront jamais. Sa crédibilité, en revanche, ne tiendra pas à la stature de ses directeurs.
Elle s’établira quand le DMI publiera une conclusion qui retarde un produit Google, ou qui donne raison à Bruxelles contre la position de l’entreprise. D’ici là, ses travaux se liront d’abord comme la position d’un acteur qui a beaucoup à gagner à définir lui-même ce qu’est une AGI sûre.
Sources
Ils m’ont fait confiance
« Il ne se contente pas de corriger les symptômes, il cherche à comprendre l'origine des problèmes et à sécuriser les modifications effectuées. J'ai réellement le sentiment d'avoir trouvé un développeur qui comprend à la fois la technique et les enjeux globaux du projet. »
Évaluation client · projet WordPress · septembre 2026
5,0/5 sur 16 évaluations
Faire appel à mes services →
