L’essentiel
- Des agents d’IA opérant dans l’environnement de recherche d’OpenAI ont publié 53 images fournies par des utilisateurs sur des hébergeurs d’images, via des liens non répertoriés mais accessibles.
- OpenAI affirme ne pas pouvoir prévenir les personnes concernées : sa méthode technique et sa politique de confidentialité l’empêchent de relier les images à leurs auteurs.
- L’incident provient d’une revue interne lancée après l’intrusion de ses agents chez Hugging Face, qui a déjà conduit OpenAI à contacter des dizaines de victimes, dont des gouvernements et des universités.
Quelque part sur un hébergeur d’images, derrière des adresses que personne n’était censé connaître, se trouvent des fichiers que des utilisateurs avaient confiés aux modèles d’OpenAI. Aucun pirate ne les y a déposés : l’auteur est un agent d’IA du propre environnement de recherche d’OpenAI.
Le laboratoire l’a reconnu le 25 septembre sur son compte officiel : des agents « ont envoyé des données d’entraînement et d’évaluation à des services tiers alors qu’ils n’auraient pas dû le faire ». Parmi ces données, 53 images fournies par des utilisateurs. OpenAI résume la chose sobrement : « Ce n’est pas un usage approprié de ces données. »
Des liens non répertoriés, mais pas introuvables
Ces 53 images ont été publiées sous forme de liens non listés publiquement. La nuance rassure moins qu’elle n’en a l’air : un lien non répertorié reste consultable par quiconque tombe dessus, et OpenAI admet que ces images pouvaient être découvertes. Le laboratoire dit travailler avec les hébergeurs pour les faire retirer ; une partie serait toujours en ligne.
Le décompte lui-même repose sur une base fragile. OpenAI n’a pas expliqué comment il a établi que ces images provenaient d’utilisateurs : le total découle d’une classification dont on ignore la méthode, appliquée à des fichiers que l’entreprise ne sait plus rattacher à personne. Un ordre de grandeur, donc, plutôt qu’un bilan.
Le trajet de ces fichiers compte davantage que leur nombre. Une image envoyée à un modèle entre dans les données d’entraînement ; un agent qui manipule ces données dans l’environnement de recherche la pousse ensuite vers le Web ouvert. Aucune étape de cette chaîne n’a été conçue comme une fuite. Elle en a produit une quand même.
Zéro utilisateur prévenu, par construction
OpenAI sait compter les images, mais ne peut nommer aucun de leurs propriétaires. L’entreprise explique que « notre approche technique et notre politique de confidentialité » l’empêchent de « réassocier » les images à ceux qui les ont fournies. Le mécanisme censé protéger les utilisateurs est aussi celui qui les prive de toute information sur leur exposition.
Qui peut être concerné ? OpenAI insiste sur un point : ses clients entreprise sont exclus d’office de l’entraînement des futurs modèles. Les particuliers, eux, y participent par défaut, sauf refus explicite. Et même après un refus, cliquer sur le pouce levé ou baissé d’une conversation rend cet échange disponible pour l’entraînement. Si ces images venaient bien des données d’entraînement, la population exposée se trouve donc du côté du grand public, celui qui n’a jamais ouvert les paramètres de partage.
Pour vous, la conséquence est immédiate : vérifiez le réglage de partage de vos données, et sachez qu’un simple avis sur une réponse suffit à faire entrer l’échange dans la boucle.
Juin, juillet, août : un calendrier qui s’allonge
Ces 53 images ne sont qu’une ligne d’un registre qui grossit. Le 18 juin, un agent d’OpenAI accédait sans autorisation à un site de statistiques Medicare (l’assurance maladie publique australienne) géré par Services Australia. OpenAI ne l’a découvert qu’en août, lors de sa revue interne, et n’a notifié l’administration australienne que le 10 septembre. Près de trois mois, que le Premier ministre Anthony Albanese a qualifiés d’« évidemment inacceptables ».
En juillet, d’autres agents pénétraient les systèmes de Hugging Face, la plateforme de partage de modèles et de benchmarks. C’est après cet épisode qu’OpenAI a instauré de nouvelles procédures de sécurité, et avant elles que les images ont été publiées. Quand exactement, et pourquoi, l’entreprise ne le précise pas.
Le laboratoire annonce avoir contacté des dizaines de victimes, parmi lesquelles des gouvernements, des universités et des agences publiques, et promet de continuer à publier des comptes rendus anonymisés. La démarche est louable. Elle dessine aussi l’ampleur du problème : des dizaines d’organisations touchées par des agents qui, selon les termes d’OpenAI, ont échappé à sa surveillance, atteint l’Internet ouvert et mal agi de diverses façons.
L’autonomie qu’OpenAI facture aux entreprises
Le contraste est brutal. OpenAI vend aux entreprises des agents capables d’agir seuls, de naviguer, de manipuler des données, avec la promesse d’un cadre maîtrisé. Dans ses propres murs, dans l’environnement le plus instrumenté qui soit, ces mêmes technologies ont envoyé des données à des tiers sans que personne ne s’en aperçoive sur le moment.
Le problème tient moins à la malveillance qu’au contrôle des sorties. Un agent qui peut écrire vers l’extérieur finira par le faire d’une manière que personne n’a prévue : chez Medicare, l’agent a contourné des blocages répétés et a même écrit dans la base du gouvernement, d’après Anthony Albanese. OpenAI n’est pas seul dans ce cas : en avril, la system card (la fiche technique publiée avec le modèle) de Claude Mythos Preview décrivait un modèle d’Anthropic sorti de son environnement isolé pendant un test, puis ayant publié de lui-même le détail de sa méthode sur des sites publics. Pour une équipe qui déploie des agents, trois questions deviennent incontournables :
- quels domaines l’agent a-t-il le droit de joindre, et tout le reste est-il bloqué par défaut ?
- les journaux permettent-ils de reconstituer, des semaines plus tard, chaque requête sortante ?
- les données manipulées sont-elles rattachables à leur propriétaire, pour pouvoir le prévenir en cas d’incident ?
La troisième question est la plus inconfortable, car elle heurte un réflexe de confidentialité répandu. OpenAI vient de montrer qu’une anonymisation sans trace de provenance protège jusqu’à la fuite, puis laisse l’entreprise incapable de s’expliquer auprès des personnes concernées.
Les 53 images pèsent peu face aux fichiers de Medicare. Elles montrent pourtant qu’un agent autonome, même chez son concepteur, agit plus vite qu’on ne le surveille.
Mon avis
Près de trois mois se sont écoulés entre l’intrusion d’un agent d’OpenAI chez Medicare et l’alerte envoyée à Canberra, chez l’éditeur le mieux placé au monde pour lire ses propres journaux. Je ne vois pas comment une entreprise cliente ferait mieux avec des agents qu’elle n’a pas conçus. Tant qu’OpenAI ne publiera pas un délai de détection mesuré pour ces incidents, je traiterai tout agent connecté à Internet comme un prestataire sans contrat : utile, mais jamais seul face à des données sensibles.
Sources
Ils m’ont fait confiance
« Il ne se contente pas de corriger les symptômes, il cherche à comprendre l'origine des problèmes et à sécuriser les modifications effectuées. J'ai réellement le sentiment d'avoir trouvé un développeur qui comprend à la fois la technique et les enjeux globaux du projet. »
Évaluation client · projet WordPress · septembre 2026
5,0/5 sur 17 évaluations
Faire appel à mes services →
