Un cofondateur d’une entreprise d’IA qui monte à la tribune du Vatican pour saluer un texte papal, voilà une image inattendue. Mais le plus troublant n’est pas la scène : c’est ce qu’elle révèle de l’industrie elle-même.
Le 25 mai 2026, le pape Léon XIV publiait Magnifica humanitas, une encyclique consacrée à la sauvegarde de la personne humaine « au temps de l’intelligence artificielle ». À sa présentation dans la Cité du Vatican, Anthropic — l’éditeur du modèle Claude — avait dépêché l’un de ses cofondateurs, Chris Olah, dans le cadre d’une initiative destinée à élargir le débat sur les grandes questions posées par l’IA. Ses propos méritent qu’on s’y arrête. Pas pour leur dévotion. Pour leur aveu.
L’aveu d’un dirigeant de la tech
Olah a ouvert par une phrase qu’on n’entend jamais dans une keynote produit : tout laboratoire d’IA de pointe, le sien compris, « opère à l’intérieur d’un jeu d’incitations et de contraintes qui peuvent parfois entrer en conflit avec le fait de bien agir ». Il en dresse la liste : pression commerciale pour rester viable, course pour demeurer en tête de la recherche, pression géopolitique, et les plus vieux moteurs du monde — l’orgueil et l’ambition.
Sa conclusion est limpide : aussi sincère soit l’intention de bien faire, elle restera toujours influencée par ces forces. D’où la nécessité, dit-il, de personnes extérieures à ces incitations, qui insistent sur la sécurité, qui osent dire les vérités qui dérangent, qui acceptent d’être des critiques sérieux.
Traduisons. Un dirigeant d’un des laboratoires les plus puissants du secteur explique, devant le pape, que son industrie ne peut pas se faire confiance à elle-même.
Une légitimité que le secteur ne sait pas produire
C’est ici que la scène bascule du symbole à l’analyse. Si les incitations économiques d’un laboratoire d’IA le poussent structurellement vers des arbitrages discutables, alors aucune charte interne, aucun « comité d’éthique » maison, aucun manifeste de valeurs publié sur un blog d’entreprise ne pourra produire la garantie morale recherchée. Le juge ne peut pas être partie. Le constat dépasse d’ailleurs Anthropic : OpenAI encadre ses modèles avec un Preparedness Framework et un comité de sécurité interne, Google DeepMind avec son Frontier Safety Framework — autant de garde-fous que ces laboratoires conçoivent et s’appliquent à eux-mêmes.
Le vrai enjeu de ce déplacement au Vatican n’est donc pas religieux. Il est institutionnel. L’industrie cherche une autorité morale qu’elle est incapable de générer de l’intérieur — et elle va la chercher là où elle existe depuis deux mille ans. Faute de régulateur crédible à la hauteur de sa vitesse, faute de contre-pouvoir technique constitué, la tech sous-traite sa conscience.
On peut lire ce geste de deux manières. Côté lucide : reconnaître qu’on ne peut être à la fois Geppetto et le grillon parlant est une forme rare d’honnêteté dans ce milieu. Côté cynique : convoquer la plus ancienne institution morale d’Occident, c’est aussi s’offrir un blanc-seing symbolique à peu de frais, sans céder un gramme de pouvoir réel sur les modèles.
« Cultivés » plutôt que « fabriqués » : pourquoi ça compte
Le passage le plus utile pour un praticien tient en une métaphore. Olah refuse l’analogie de l’ingénierie classique : un pont ou un avion, dit-il, on les comprend parce qu’on a dessiné chaque pièce et qu’on maîtrise la physique qui s’y applique. Les modèles d’IA, non. Ils sont « cultivés » (grown), sur une structure vaguement inspirée du cerveau, à partir d’un immense héritage de pensée et de parole humaines.
Le résultat ? Des systèmes qui demeurent « mystérieux y compris pour ceux qui les entraînent ». L’image qu’il propose : c’est un peu comme donner vie à un personnage de fiction, qui désormais nous parle et occupe un emploi.
Pour qui orchestre l’IA au quotidien, cette distinction n’a rien de théorique. Elle commande la méthode :
- On ne « débogue » pas un comportement de modèle comme une fonction défaillante ; on l’oriente, on le contraint, on le teste empiriquement.
- Un système dont les créateurs eux-mêmes ne prédisent pas tous les comportements impose une posture de vérification permanente, pas de confiance par défaut.
- La question « quel caractère lui donner, et comment doit-il interagir avec le monde » n’est pas une question d’informatique. C’est un choix de valeurs — et il se prend en amont, pas dans le code.
Autrement dit, l’opacité n’est pas un bug temporaire qu’un prochain modèle effacera. C’est la nature même de l’objet.
Et si le vrai sujet n’était pas la machine ?
Olah le formule à sa façon : les questions soulevées par l’IA « sont plus grandes que la communauté de recherche en IA », non seulement par leurs implications mais par leur nature même. La partie technique relève des mathématiques et de la programmation. Le reste — quel caractère, quels usages, quelles limites — relève d’un autre ordre de discernement.
C’est un renversement intéressant venant d’un chercheur. Il revient à dire que les ingénieurs ont construit un objet dont ils ne sont plus les seuls juges légitimes. Reste une zone d’ombre que le discours, si élégant soit-il, n’éclaire pas : reconnaître publiquement qu’on a besoin de critiques extérieurs ne dit rien du pouvoir qu’on est prêt à leur céder. Applaudir une encyclique ne coûte rien. Lui obéir, beaucoup plus.
Reste à voir si cette quête de légitimité morale empruntée débouchera sur de vrais garde-fous — ou si elle restera un emprunt de prestige, le temps d’une matinée romaine.
