Une souris anesthésiée sur la table, un chercheur qui veut reprendre la procédure, et un agent qui répond non. Il a calculé que la position visée sortait de l’amplitude mécanique de l’appareil, il l’a redit après un nouveau calibrage, puis une troisième fois. Il avait raison.
L’épisode, raconté par Gabriel Ocana-Santero, cofondateur et PDG d’Exin Therapeutics et doctorant à l’université d’Oxford, dans un fil publié sur X, est présenté comme une chirurgie sans aucune décision humaine. Les faits décrivent une autonomie bien plus étroite.
Une autonomie encadrée de partout
Le dispositif était le suivant : Claude Sonnet 5 recevait une liste de 19 thérapies géniques possibles, un modèle murin d’épilepsie (des souris chez lesquelles les chercheurs induisent des crises pour tester des traitements) et un appareil chirurgical motorisé sur mesure, équipé de caméras. Une seule consigne : réduire les crises de la souris.
L’agent a choisi le médicament, la région du cerveau et les coordonnées stéréotaxiques (le repérage en trois dimensions qui permet de viser une structure précise du crâne). Il a aussi fixé lui-même le volume injecté, la vitesse et les temps d’attente.
Mais un vétérinaire diplômé validait chaque étape irréversible. Un arrêt d’urgence physique, tenu par un humain, coupait immédiatement l’alimentation de tous les moteurs. Des limites fixes, comme un plafond sur le volume d’injection, étaient imposées à l’agent, qui n’avait pas le droit de les contourner.
Parler d’une chirurgie sans validation humaine revient à confondre la décision de cible et la décision d’agir. La première revenait à l’agent. La seconde passait par une personne, à chaque geste qu’on ne peut pas défaire.
Un raisonnement qu’on peut relire
La chaîne de choix est ce qu’il y a de plus instructif. L’agent a d’abord analysé la façon dont les crises naissent dans ce modèle précis, puis proposé une thérapie qui renforce une voie de signalisation inhibitrice. Il a retenu une structure que la littérature scientifique désigne comme le point de départ de ce type de crise.
Il a écarté une seconde région cible avec une explication détaillée : ses effets seraient trop peu fiables, et une étude avait échoué sur exactement le type de crise visé. Pour les coordonnées, il est parti de trois articles scientifiques, a recoupé les points de référence et moyenné les valeurs.
Un enchaînement d’arguments, des sources, un calcul : tout cela peut être audité. Cela borne aussi ce que l’épisode démontre. Rien dans ce que rapporte Ocana-Santero ne dit si ce choix était le meilleur parmi les 19 options, ni si une équipe de neuroscientifiques aurait tranché autrement. L’expérience montre un agent cohérent, pas un agent exact.
Quand le garde-fou joue contre l’équipe
Pendant l’opération, l’agent a regardé le champ opératoire par la caméra et consigné 32 observations. Il suivait l’injection et signalait la présence ou non de saignement. À un stade donné, il a annoncé 15 % du volume injecté, sans saignement ni reflux visibles.
Puis la connexion a coupé. À la reprise, l’agent a constaté que la position calculée dépassait la course physique de l’appareil. Des réglages manuels faits pendant une pause précédente avaient en réalité décalé le système de contrôle. Ocana-Santero n’a pas réussi à le convaincre d’avancer et a dû corriger le code à la main, avec l’animal toujours sous anesthésie.
Le chercheur parle d’une expérience frustrante, mais qui révèle à quel point nous pouvons dépendre de ces modèles, et ce qui arrive quand ils disent simplement non au milieu d’une procédure urgente.
Le refus avait ici une cause vérifiable, ce qui en fait un bon cas pour la sûreté : l’agent a bloqué sur une incohérence réelle que l’humain avait introduite sans la voir. Un seul épisode ne prouve pas pour autant qu’un agent sache toujours distinguer une impossibilité réelle d’une consigne mal comprise.
Pourquoi seul Sonnet 5 est allé jusqu’au bout
Autre détail du fil : Sonnet 5 a été le seul modèle prêt à mener la procédure en direct jusqu’au bout. Les autres modèles testés ne sont pas allés jusque-là. Ce constat dit moins la capacité d’un modèle que sa disposition à agir sur un être vivant, laquelle tient probablement à ses réglages d’alignement autant qu’à son niveau.
Côté conception d’agents, la leçon se lit ailleurs que dans la performance. Les barrières posées en dur (plafonds, arrêt physique, validation des gestes irréversibles) ont tenu. L’agent, lui, a servi de second contrôle sur le matériel. Et si le vétérinaire cessait un jour de valider chaque étape, qui repérerait l’erreur que personne n’a vue ?
Sources
Ils m’ont fait confiance
« Il ne se contente pas de corriger les symptômes, il cherche à comprendre l'origine des problèmes et à sécuriser les modifications effectuées. J'ai réellement le sentiment d'avoir trouvé un développeur qui comprend à la fois la technique et les enjeux globaux du projet. »
Évaluation client · projet WordPress · septembre 2026
5,0/5 sur 22 évaluations
Faire appel à mes services →
