On débat depuis des mois des garde-fous à mettre dans les grands modèles de langage. Pendant ce temps, des escrocs ont tranquillement transformé l’IA en chaîne de montage à phishing. La plainte que Google vient de déposer le dit sans détour.
Vendredi, le groupe a annoncé poursuivre un réseau cybercriminel présumé baptisé Outsider Enterprise. Le grief : avoir utilisé l’IA, dont Gemini, le modèle maison de Google, pour usurper l’identité de marques et siphonner mots de passe et numéros de carte. Le vrai sujet n’est pas le modèle. C’est ce qu’on en a fait.
Une arnaque vendue comme un abonnement logiciel
Le plus frappant dans le dossier de Google n’est pas le volume, pourtant vertigineux. C’est le modèle économique. Outsider, le logiciel au cœur du réseau, se loue 88 dollars la semaine ou 200 dollars le mois. Un abonnement. Comme votre suite bureautique, mais pour fabriquer de faux sites.
Google parle d’un outil « phishing-for-dummies » : une suite clés en main qui permet à quelqu’un « sans grande expertise technique » de publier des sites frauduleux imitant des opérateurs télécoms, des banques, des administrations ou des commerçants. L’IA fait le gros du travail de fabrication. L’escroc, lui, n’a plus qu’à choisir sa cible.
Ce glissement est le cœur du problème. Hier, monter une campagne de phishing crédible demandait du temps, du code, un minimum de savoir-faire. Aujourd’hui, ça s’achète à la semaine.
Les chiffres qui disent l’échelle industrielle
Les ordres de grandeur avancés par Google donnent le tournis. Sur une fenêtre de deux semaines en mai dernier, le réseau aurait déployé :
- 9 000 faux sites web et un million de domaines frauduleux ;
- 2,5 millions de SMS envoyés à des utilisateurs Android ;
- 55 000 SMS signalés comme spam par les utilisateurs, soit plus de deux signalements par minute.
Le FBI, qui a saisi plusieurs domaines aux côtés de Google et du Black Lotus Labs de Lumen, va plus loin sur la durée. Depuis juillet 2023, la plateforme aurait permis le vol d’au moins 3 870 000 cartes bancaires, pour environ 1,9 milliard de dollars de pertes. On ne parle plus d’arnaque artisanale. On parle d’une infrastructure.
Le front s’est déplacé hors du laboratoire
Voilà ce que cette affaire éclaire pour quiconque travaille avec l’IA au quotidien. L’essentiel du débat public sur la sécurité porte sur l’alignement des modèles : ce qu’un assistant refuse de dire, les filtres internes, les fameuses « guardrails ». Travail nécessaire, mais qui regarde au mauvais endroit.
Car Outsider n’a pas eu besoin de jailbreaker quoi que ce soit. Le réseau a utilisé des plateformes d’IA disponibles, Gemini compris, pour une tâche parfaitement banale en apparence : générer du texte et des pages. La menace ne vient pas d’un modèle qui dérape. Elle vient d’un modèle qui fonctionne très bien, branché sur une chaîne d’exploitation grand public.
Le vrai déplacement est là. La capacité offensive ne se loge plus dans le code malveillant, elle se loge dans l’orchestration : assembler des briques légales (génération de contenu, hébergement, achat d’espace publicitaire, canaux Telegram pour recruter) en un pipeline criminel fluide. C’est exactement la logique d’un orchestrateur d’IA, retournée contre nous.
Google joue aussi sa propre partie
Soyons lucides : Google n’agit pas seulement par civisme. Voir Gemini cité comme outil d’une opération criminelle est un risque de réputation direct. Et la riposte mise en avant, « des outils dopés à l’IA pour combattre les arnaques dopées à l’IA », jusqu’à l’interception revendiquée de plus de 10 milliards de messages frauduleux par mois, est aussi une démonstration commerciale.
Cependant, l’angle judiciaire est plus intéressant qu’il n’y paraît. En attaquant l’infrastructure plutôt que des individus, dont les identités réelles restent inconnues, Google vise les domaines, les comptes, les boutiques Shopify de test, bref la plomberie. C’est une stratégie de démantèlement, pas de punition. Reconnaissance implicite : on n’arrêtera pas les escrocs un par un, mais on peut casser leurs outils mutualisés.
Reste une zone d’ombre. Couper une infrastructure ne supprime pas la demande. Le savoir-faire circule sur des canaux ouverts, accessibles sans bagage technique selon Google. Demain, un autre Outsider se montera, peut-être sur d’autres modèles, peut-être en local. Google n’est d’ailleurs pas seul à mener ce combat : Anthropic a révélé fin 2025 avoir déjoué une première campagne de cyberespionnage pilotée par son propre modèle Claude, et OpenAI affirme avoir démantelé plus de quarante réseaux malveillants depuis 2024. Preuve que ce combat se joue désormais sur l’usage, chez tous les éditeurs.
Et si la prochaine ligne de défense était l’usage ?
Cette affaire devrait recadrer notre attention. Sécuriser un modèle au laboratoire compte, mais c’est la partie la plus visible et la plus facile à mesurer. Le terrain réel, c’est la couche d’usage : qui accède à quoi, avec quelles traces, et à quelle vitesse on coupe une campagne en cours.
Pour un praticien, la leçon est concrète. Les mêmes réflexes qui font tourner une stack d’IA proprement (journalisation, détection d’anomalie, signaux remontés par les utilisateurs comme les 55 000 SMS signalés) sont désormais des outils de défense de première ligne. La sécurité de l’IA n’est pas qu’une affaire de chercheurs en alignement. Elle devient une discipline d’exploitation.
Reste à voir si l’industrie acceptera de déplacer le projecteur. Tant qu’on mesurera la sûreté d’une IA à ce qu’elle refuse de dire plutôt qu’à ce qu’on lui laisse faire à grande échelle, les Outsider auront toujours un coup d’avance.
