Google poursuit en justice un réseau cybercriminel chinois ayant utilisé Gemini pour automatiser des arnaques
Google a intenté une action en justice contre un groupe cybercriminel chinois baptisé Outsider Enterprise, accusé d'avoir orchestré une campagne de fraude massive alimentée par l'intelligence artificielle. Selon les documents déposés par l'entreprise, Outsider Enterprise opère principalement via Telegram, où il propose des services de phishing clés en main à des individus peu familiers avec les techniques informatiques. Le groupe aurait fourni des instructions détaillées pour utiliser Gemini, le modèle d'IA de Google, afin de créer des sites web imitant ceux de Google lui-même, YouTube, et des agences gouvernementales américaines comme le système de péage E-ZPass de New York. Au total, le réseau a généré près de 300 modèles d'arnaque, 9 000 faux sites web, et un million d'URL frauduleuses. Plus de 2,5 millions de messages texte ont été envoyés à des utilisateurs Android, dont 55 000 en seulement deux semaines au cours du mois dernier.
Cette affaire illustre concrètement les risques liés à la démocratisation des outils d'IA générative : des acteurs malveillants peuvent désormais automatiser et industrialiser des campagnes de fraude sophistiquées sans compétences techniques poussées. Les victimes ciblées sont des particuliers qui reçoivent de faux messages les incitant à saisir des informations personnelles ou bancaires sur des sites frauduleux. L'ampleur du réseau, avec un million d'URLs recensées, témoigne d'une capacité d'exécution inédite rendue possible par l'IA. Google indique travailler en coordination avec les forces de l'ordre et les opérateurs mobiles pour contenir la menace.
Cette plainte s'inscrit dans une tendance plus large où les grandes plateformes technologiques recourent aux tribunaux pour lutter contre les abus de leurs propres outils. OpenAI et Microsoft ont adopté des stratégies similaires ces derniers mois. Pour Google, l'enjeu est double : protéger ses utilisateurs tout en défendant la réputation de Gemini, dont le nom est directement associé aux arnaques documentées. L'issue judiciaire reste incertaine, notamment en raison des obstacles liés à la juridiction internationale face à des acteurs opérant depuis la Chine, mais l'action vise aussi à créer un précédent dissuasif pour de futurs abus.
9 000 faux sites, un million d'URLs, 2,5 millions de SMS, tout ça sans compétences techniques grâce à Gemini, c'est le cauchemar qui était prévisible depuis le lancement des modèles grand public. Ce qui me frappe, c'est moins l'arnaque en elle-même que l'industrialisation : avant il fallait des équipes, là c'est du copier-coller sur Telegram. La plainte est bien, mais coincer des acteurs basés en Chine via un tribunal américain, on sait tous comment ça finit.
Vu une erreur factuelle dans cet article ? Signalez-la. Toutes les corrections valides sont publiées sur /corrections.
