Jeudi, Google ouvre son générateur d’images Nano Banana 2 à l’intérieur de Google Earth. Vendredi, il le débranche. Entre les deux, aucune panne, aucune faille exploitée : juste une objection qu’un relecteur extérieur aurait formulée en trente secondes.
Vingt-quatre heures, et pas une ligne de code en cause
La fonctionnalité tenait en une phrase : décrire une image dans le prompt (la consigne rédigée en langage courant), la voir apparaître superposée à l’imagerie satellite du globe. L’intention affichée par Google était créative, une façon de jouer avec la géographie. Techniquement, elle fonctionnait. C’est précisément le problème.
La critique est tombée dans la journée. Un journaliste de la BBC a résumé l’affaire par une ironie qui a beaucoup circulé : impossible, évidemment, qu’un générateur d’images branché sur l’une des références visuelles les plus fiables pour les journalistes et les chercheurs serve un jour à propager de la désinformation. Vingt-quatre heures plus tard, Google retirait la fonctionnalité, en reconnaissant que des professionnels du géospatial (cartographie et imagerie satellite) en faisaient un usage utile, mais que des captures d’écran d’images générées circulaient déjà en violation apparente de ses propres règles. L’entreprise promet un retour avec des garde-fous plus solides.
Rien de tout cela ne relève de l’incident technique. C’est un arbitrage de conception qui n’a jamais eu lieu, ou qui a été perdu quelque part entre la démonstration interne et le déploiement.
Une pièce à conviction transformée en canevas
Le support compte autant que le modèle. Le même générateur, dans une application de création graphique, produit une image que personne ne prend pour une preuve. Placé dans Google Earth, il produit une image géolocalisée, cadrée par des coordonnées, affichée dans une interface qui emprunte toute sa crédibilité au satellite. Chaque rendu sortait donc avec une présomption d’authenticité attachée, réutilisable par simple capture d’écran.
Google avance un contre-argument recevable : à l’ère des modèles génératifs, n’importe quelle image du web se truque sans compétence particulière, et l’entreprise n’est pas la seule à vendre ces outils. C’est exact, et cela passe à côté du problème. Le coût marginal d’une fausse image est déjà proche de zéro. Ce qui reste cher à fabriquer, c’est le contexte qui la rend crédible. Earth fournissait ce contexte gratuitement, avec l’interface et le logo en prime.
Les utilisateurs professionnels que Google cite pour défendre l’outil, les spécialistes du géospatial, sont d’ailleurs la petite minorité capable de distinguer une couche générée d’une image d’archive. Le reste du monde voit une carte.
Brancher le même modèle partout, plus vite que les garde-fous ne suivent
La séquence n’a rien d’accidentel. La valeur d’un modèle maison ne se mesure pas à ses scores, mais à sa distribution. Google possède des surfaces grand public que peu d’acteurs peuvent égaler, et la logique industrielle consiste à irriguer chacune d’elles avec le même générateur, le plus vite possible, pour transformer un avantage de modèle en avantage d’usage. Chaque intégration supplémentaire est un point marqué contre des concurrents qui, eux, doivent aller chercher l’utilisateur.
Le garde-fou, lui, ne se réplique pas comme le modèle. Une politique de contenu se transporte d’un produit à l’autre par simple configuration. Le contrat de confiance, non : il dépend de ce que l’utilisateur croit voir quand il ouvre l’application, et il ne se formule pas de la même manière dans un outil de création et dans un atlas mondial. Le déploiement a traité Earth comme une surface parmi d’autres. Le public l’a traité comme une source.
Sur la désinformation elle-même, l’épisode n’apprend rien que l’on ne sache déjà. Il éclaire en revanche la façon dont les revues de mise en production sont organisées quand la pression de distribution dicte le calendrier.
Quatre questions à trancher avant de greffer un modèle sur un produit existant
Greffer un générateur sur une application qui existait avant lui, c’est modifier le contrat passé avec ses utilisateurs sans le leur dire. Avant même de vérifier l’alignement du modèle (les garde-fous entraînés dans le modèle lui-même), regardez ce que votre produit garantissait implicitement, et ce que devient cette garantie une fois qu’un générateur écrit dedans.
- Qu’est-ce que votre interface atteste sans le dire : l’authenticité d’un document, la provenance d’une donnée, l’exactitude d’une mesure ?
- Le marquage du contenu généré survit-il à l’export ? Google a été rattrapé par des captures d’écran, c’est-à-dire par le seul format qui échappe à vos métadonnées et à vos filigranes d’interface.
- Qui teste avant la sortie ? Les utilisateurs créatifs trouvent les usages prévus, les utilisateurs hostiles trouvent les autres. Une revue produit qui n’a pas simulé les seconds n’a rien validé.
- La voie de retrait est-elle prête ? Débrancher une fonctionnalité en une journée sans casser le reste suppose qu’on l’ait prévu dès la conception.
Sur ce dernier point, Google a plutôt bien manœuvré. Vingt-quatre heures entre l’alerte et le retrait, avec une communication qui ne nie pas le problème, c’est une capacité de réaction que beaucoup d’équipes n’ont pas. La faiblesse est en amont, pas en aval.
Le retour se jugera hors du produit, sur une capture d’écran
Google annonce un retour avec des protections renforcées. Le critère d’évaluation est étroit : la mention d’origine devra tenir hors du produit. Un bandeau visible dans l’application, un filigrane incrusté dans le rendu, des métadonnées de provenance qui accompagnent l’export, tout ce qui empêche une capture d’écran de redevenir anonyme dès qu’elle quitte l’onglet.
OpenAI a tranché autrement pour Sora : les vidéos diffusées depuis son application sortent avec un filigrane visible en mouvement, par-dessus les métadonnées C2PA (un standard qui inscrit l’origine d’un fichier dans le fichier lui-même) et le marquage invisible SynthID. Earth s’en est remis au seul marquage discret, que les tests de la BBC ont réussi à mettre en défaut dans plusieurs cas.
Si la fonctionnalité revient avec des filtres de prompt plus stricts et rien d’autre, elle reviendra avec le même défaut, simplement mieux habillé. Filtrer ce que l’on génère, c’est arbitrer le contenu. Marquer ce que l’on a généré, c’est protéger le support. Dans un atlas que le monde entier consulte comme référence, c’est la seconde opération qui manquait.
