Comment repérer une arnaque dans une conversation que personne n’a le droit de lire ? À Singapour, Google DeepMind et l’agence gouvernementale GovTech répondent en déplaçant le détecteur dans le téléphone lui-même, là où le message est déjà en clair pour son destinataire.
Un problème qui a changé de nature
Selon l’annonce de Google DeepMind, les arnaques (fausses offres d’emploi, investissements frauduleux, usurpation d’agents publics) représentent plus de la moitié des crimes déclarés à Singapour et plus de 4 milliards de dollars singapouriens de pertes depuis 2019. Les attaques ne passent plus par un simple lien de phishing (hameçonnage). Elles s’appuient sur de longues conversations où l’escroc gagne la confiance de la victime avant de réclamer de l’argent. Ces scénarios de manipulation concentreraient jusqu’à 80 % des pertes.
Un filtre classique cherche des liens suspects ou des mots-clés. Face à un interlocuteur qui joue le conseiller bancaire pendant trois jours, il n’a rien à se mettre sous la dent : chaque message, pris seul, est anodin. Il faut lire la dynamique de l’échange.
Le cloud ne peut pas faire ce travail
La détection habituelle se fait côté serveur : la plateforme analyse les messages qui transitent par ses machines. Or une grande partie des messageries utilisent le chiffrement de bout en bout. Le serveur ne voit alors que du texte illisible et ne peut rien analyser. Casser ce principe pour traquer les escrocs reviendrait à exposer aussi les conversations de tous les autres.
Imaginez un facteur qui ne peut pas ouvrir les lettres. Il ne saura jamais lesquelles sont piégées. Le destinataire, lui, a la lettre sous les yeux : c’est à lui qu’il faut donner un lecteur averti. Le projet de DeepMind suit cette logique. Le modèle tourne sur l’appareil et, selon Google, ni le gouvernement singapourien ni l’entreprise ne peuvent accéder aux conversations par ce biais. L’accès d’une application à ses messages dépend du consentement de l’utilisateur et des conditions d’usage de cette application.
Deux étages pour ménager la batterie
Faire tourner en continu un modèle de langage sur un smartphone épuiserait la batterie en une journée. L’architecture décrite par DeepMind contourne le problème avec un pipeline en deux étapes :
- un classificateur léger examine chaque message entrant, avec une consommation minimale, et ne retient que les cas potentiellement douteux ;
- Gemma, le modèle ouvert de Google, affiné pour l’occasion, reçoit alors un extrait plus large de la conversation pour confirmer la menace ou écarter la fausse alerte.
Cela revient à passer un portique de sécurité avant un contrôle manuel : le portique laisse passer la grande majorité des gens sans effort, et seule une petite fraction tombe devant quelqu’un qui prend le temps d’examiner. Si une manipulation est confirmée, une alerte s’affiche sur l’écran et invite à marquer une pause avant de transmettre des informations sensibles ou de l’argent.
Un modèle formé aux escroqueries locales
Les modèles généralistes passent souvent à côté des ruses propres à un pays. Gemma a donc été affiné sur des conversations d’arnaque singapouriennes : usurpations d’institutions publiques, de banques et de personnalités locales, schémas régionaux en vogue. Cet entraînement sert aussi à distinguer une discussion banale d’une vraie tentative de manipulation, ce qui limite les fausses alertes.
L’affinage s’est déroulé dans un environnement GCP (Google Cloud Platform) géré par GovTech, qui isole les données d’entraînement. Celles-ci excluent toute information privée ou personnelle : elles proviennent de rapports d’arnaques et de renseignements anonymisés. Le dispositif a été présenté à la Singapore International Cyber Week 2026, et son déploiement dans les applications sera progressif, mené avec le gouvernement.
Petit modèle ouvert contre grand modèle hébergé
Aucun chiffre de performance n’accompagne l’annonce : ni taux de détection, ni taux de faux positifs, ni autonomie mesurée. Impossible, donc, de dire que ce Gemma affiné bat un grand modèle hébergé sur la précision pure. L’argument est ailleurs, et il est structurel. Un modèle hébergé, aussi puissant soit-il, ne peut pas lire un échange chiffré sans que celui-ci quitte l’appareil. Un petit modèle ouvert, lui, peut être installé là où la donnée se trouve, adapté à un contexte local et audité plus facilement.
Pour un développeur qui conçoit une application de messagerie ou de banque, la leçon est pratique. Quand la confidentialité interdit l’envoi des données, le choix de l’emplacement précède celui du modèle. Et l’affinage sur des données locales compte autant que la taille : il donne au modèle le vocabulaire des escrocs du pays.
Reste une inconnue : la transposition. Ailleurs, la même mécanique devra être entraînée sur d’autres arnaques, dans d’autres langues, avec d’autres garde-fous. Singapour offre un premier terrain d’essai, pas encore une preuve à grande échelle.
Sources
- Google DeepMind and Singapore Government collaborate to build fine-tuned AI model for scam detection
- Gemma
Ils m’ont fait confiance
« Il ne se contente pas de corriger les symptômes, il cherche à comprendre l'origine des problèmes et à sécuriser les modifications effectuées. J'ai réellement le sentiment d'avoir trouvé un développeur qui comprend à la fois la technique et les enjeux globaux du projet. »
Évaluation client · projet WordPress · septembre 2026
5,0/5 sur 17 évaluations
Faire appel à mes services →
