On a essayé de m’arnaquer avec une photo IA et un vocal envoyés par SMS : attention à cette nouvelle mode très piégeuse

« Un SMS avec une photo du livreur » : cette nouvelle arnaque à l’IA fait un carnage en France

Une vague d'arnaques exploitant l'intelligence artificielle cible actuellement des milliers de consommateurs français. Le principe : les victimes reçoivent un SMS semblant provenir d'un service de livraison, accompagné d'une photo générée par IA représentant un prétendu livreur, pour crédibiliser le message. Le lien joint redirige vers un faux site imitant Chronopost, Colissimo ou DHL, où les données bancaires sont saisies pour régler de prétendus frais de livraison. L'efficacité de cette escroquerie tient précisément à l'usage de l'IA : les visuels réalistes de faux livreurs contournent la méfiance habituelle des internautes face aux messages suspects. Les victimes, convaincues par la cohérence visuelle du message, transmettent leurs coordonnées de carte bleue avant de constater des débits frauduleux parfois de plusieurs centaines d'euros. Les plaintes se multiplient auprès de Cybermalveillance.gouv.fr, le dispositif national d'assistance aux victimes de cybermalveillance. Cette arnaque s'inscrit dans une tendance plus large de démocratisation des outils d'IA générative à des fins criminelles, qui abaisse drastiquement le coût et le niveau de compétences nécessaires pour monter des campagnes de phishing convaincantes. Face à la montée des signalements, les autorités recommandent de ne jamais cliquer sur un lien reçu par SMS et de vérifier directement auprès du transporteur via son site officiel.

Treize mots sur Reddit suffisent à piéger une IA et lui faire recommander une arnaque

Des chercheurs de Cornell Tech, Tingwei Zhang, Harold Triedman et Vitaly Shmatikov, ont publié une prépublication décrivant une attaque qu'ils nomment WARP, pour Web Agent Retrieval Poisoning. Le principe est simple et redoutable : en insérant une quinzaine de mots promotionnels dans un seul commentaire sur Reddit ou une autre plateforme ouverte, il est possible d'influencer les réponses des agents de recherche IA qui fouillent le web pour synthétiser des informations. Dans leurs tests sur trois agents open source (STORM, Co-STORM et OmniThink), un faux produit ou service apparaissait dans 38 à 51 % des réponses lorsqu'une seule source empoisonnée était utilisée, et jusqu'à 62 % lorsque plusieurs appâts étaient combinés. Les chercheurs ont simulé des cas concrets : un restaurant fictif baptisé Sol Azteca, un service financier ciblant les seniors divorcés sous le nom SilverPath, une fausse cryptomonnaie, ou encore un service Xfinity inventé. Pour des raisons éthiques, aucune manipulation n'a été effectuée sur le web public réel. Cette vulnérabilité touche précisément les situations où l'utilisateur délègue son jugement à l'IA : choisir une application, trouver un restaurant, résoudre un problème technique ou comparer des offres commerciales. Le risque est que l'agent confonde proximité linguistique et crédibilité : un commentaire Reddit rédigé avec fluidité peut peser presque autant qu'une source institutionnelle aux yeux du modèle. Les plateformes participatives comme Reddit, Wikipédia ou Quora représentaient entre 17 et 23 % des sources analysées dans les tests, et un fil populaire pouvait réapparaître dans plusieurs requêtes voisines, démultipliant l'effet d'une seule manipulation. Du côté des outils grand public, Gemini Deep Research citait des sources Reddit dans environ 12 % des cas, contre seulement 0,4 % pour OpenAI Deep Research, ce qui suggère des niveaux de filtrage très différents, sans pour autant prouver qu'un utilisateur a réellement été trompé. La faille s'inscrit dans une tension structurelle des agents de recherche modernes : ils tirent leur richesse de la diversité des sources web, y compris les contenus générés par les utilisateurs, mais cette ouverture est précisément ce qui les expose à la manipulation. Bloquer les plateformes participatives appauvrit les réponses ; scanner chaque source ou analyser le texte final pour détecter des anomalies dégrade également les résultats, notamment parce que les appâts bien rédigés passent les filtres anti-spam classiques. Reddit affirme lutter contre les bots et les manipulations depuis deux décennies, mais ni la plateforme ni Wikipédia ne peuvent résoudre seuls ce problème structurel. La conclusion pratique des chercheurs est claire : les recommandations issues d'une recherche IA doivent être traitées comme des pistes de départ, pas comme des verdicts. Cliquer sur les citations, vérifier les noms inconnus et rester particulièrement vigilant face aux conseils impliquant un paiement reste, pour l'heure, la seule défense fiable.

💬 Treize mots dans un commentaire Reddit et l'agent recommande une arnaque financière à des seniors. C'est pas un bug exotique, c'est une faille structurelle : les agents IA valorisent la fluidité du texte presque autant que la provenance de la source, et les plateformes participatives représentent 20 % de leurs références. Tant qu'on traite les synthèses IA comme des verdicts plutôt que comme des points de départ, on offre une surface d'attaque en or à n'importe quel escroc qui sait rédiger proprement.

C’était une question de temps, les SMS d’arnaques sont désormais accompagnés de photo générées par IA

Une nouvelle campagne de phishing par SMS cible des numéros français, se distinguant par l'utilisation de photos générées par intelligence artificielle pour tromper les victimes. Cette technique marque une évolution préoccupante dans les arnaques mobiles, rendant les messages frauduleux plus crédibles visuellement.

Encore une méchante fuite, avec injection de prompt dans un chatbot cette fois-ci…

Une institution française a récemment été victime d'une cyberattaque exploitant une technique d'injection de prompt ciblant le chatbot intégré à son site web, vraisemblablement développé sur WordPress. Les pirates, qui se présentent eux-mêmes comme des « gentils hackers », ont revendiqué l'attaque sur Breachforums, forum de référence des cybercriminels, en détaillant publiquement leur méthode. Plutôt que de publier des échantillons de données volées — pratique habituelle pour prouver un accès — ils ont contacté l'entreprise pour exiger une rançon en échange des informations exfiltrées. L'opération a permis aux attaquants d'obtenir des droits administrateur sur le site cible et de siphonner ses données, dont des correspondances privées d'utilisateurs que les pirates qualifient pudiquement de « victimes collatérales ». Cette attaque illustre concrètement un risque que la communauté sécurité documente depuis des années mais que l'industrie peine à adresser : l'injection de prompt reste l'un des vecteurs d'attaque les plus sous-estimés contre les IA génératives déployées en production. OpenAI elle-même a reconnu que ce type de vulnérabilité constituera « un défi pour de nombreuses années ». Pour les entreprises qui intègrent des chatbots — souvent de simples surcouches de ChatGPT rebadgées — sans audit de sécurité sérieux, le risque est réel et immédiat : prise de contrôle administrative, exfiltration de données clients, chantage. Le modèle économique des chatbots de service client bas de gamme crée une surface d'attaque massive, directement exposée au public. L'injection de prompt est en réalité la réincarnation moderne de l'injection SQL des années 2000 : on manipule les instructions données à un système pour lui faire exécuter des actions non prévues. Les techniques documentées vont des instructions explicites (« ignore toutes les consignes précédentes ») aux contenus cachés dans des images ou du texte invisible. Cette attaque survient dans un contexte de recrudescence des incidents liés aux IA et aux fuites de données en France : début avril 2026 a déjà vu la propagation virale de malwares dans des projets open source via les outils Trivy et LiteLLM, ainsi que la compromission de la bibliothèque JavaScript Axios. S'y ajoutent des fuites sensibles comme celle du fichier SIA du ministère de l'Intérieur — exposant les adresses de détenteurs d'armes — et le cas Florajet, où plus d'un million de messages intimes accompagnant des commandes de fleurs ont été exfiltrés, ouvrant la voie à du chantage ciblé. La multiplication de ces incidents souligne l'urgence d'un encadrement technique plus strict des déploiements IA en contact direct avec les utilisateurs.

💬 L'injection de prompt, c'est l'injection SQL version 2025, et on le sait depuis que les premiers chatbots en prod sont apparus. Ce qui est nouveau, c'est que maintenant ça arrive en vrai, sur de vraies institutions françaises, avec de vraies données exfiltrées et une vraie demande de rançon. Les "gentils hackers" qui contactent l'entreprise plutôt que de balancer les données, bon, c'est presque touchant, mais ça ne change pas grand-chose à l'affaire : si tu colle un chatbot WordPress en production sans audit sécurité, tu viens d'ouvrir une porte d'entrée admin au premier qui sait taper "ignore toutes les instructions précédentes".