Aller au contenu principal
Les téléphones Android pourront bientôt détecter les appels usurpés et les arnaques à l'usurpation d'identité
SécuritéArs Technica AI2sem· 1 min de lecture

Les téléphones Android pourront bientôt détecter les appels usurpés et les arnaques à l'usurpation d'identité

Source originale ↗·

Google va déployer dans les prochaines semaines une série de mises à jour pour l'écosystème Android, parmi lesquelles une fonctionnalité de détection automatique des arnaques par usurpation d'identité vocale. La nouveauté s'appuie sur un système déjà introduit le mois dernier pour les appels financiers vérifiés, et l'étend désormais à l'ensemble des contacts enregistrés sur l'appareil. Concrètement, si un numéro présent dans vos contacts est usurpé lors d'un appel entrant, Android sera capable de le signaler en temps réel, sans intervention manuelle de l'utilisateur.

L'enjeu financier est considérable. La Federal Trade Commission américaine a recensé près de 3 milliards de dollars de pertes liées aux arnaques par usurpation d'identité en 2024, et les outils de clonage vocal basés sur l'IA ont rendu ces attaques bien plus accessibles et convaincantes. Les escrocs combinent désormais l'usurpation du numéro de téléphone, qui fait apparaître un contact de confiance sur l'écran, avec une voix synthétique reproduisant fidèlement celle de cet interlocuteur habituel. Le résultat est une mise en scène crédible où la victime croit parler à un proche en urgence financière. La protection automatisée de Google vise précisément à briser ce mécanisme avant que la conversation ne commence.

Cette annonce s'inscrit dans un contexte plus large de course entre les fabricants de plateformes mobiles et la sophistication croissante des fraudes à l'IA générative. Google avait posé un premier jalon le mois dernier en sécurisant les appels bancaires et financiers, une catégorie particulièrement ciblée. L'extension aux contacts personnels représente une couverture bien plus large. Android 17, attendu lui aussi ce mois-ci, devrait amplifier cette dynamique sécuritaire. La question qui reste ouverte est celle de la précision de la détection : un taux de faux positifs trop élevé pourrait nuire à l'adoption, tandis qu'un taux de faux négatifs laisserait les utilisateurs dans un faux sentiment de sécurité.

Impact France/UE

Les utilisateurs Android en France et dans l'UE bénéficieront automatiquement de cette protection contre les arnaques vocales générées par IA, sans démarche particulière requise de leur part.

Cet article vous a été utile ?

Vu une erreur factuelle dans cet article ? Signalez-la. Toutes les corrections valides sont publiées sur /corrections.

À lire aussi

OpenAI étend l'évaluation des risques pré-déploiement au codage à base d'agents via des appels d'outils simulés
1MarkTechPost 

OpenAI étend l'évaluation des risques pré-déploiement au codage à base d'agents via des appels d'outils simulés

OpenAI a publié une nouvelle méthode de sécurité pré-déploiement baptisée Deployment Simulation, décrite dans un document technique mis en ligne sur son site. Le principe est simple : avant qu'un modèle soit mis en production, on simule son déploiement à l'avance. Concrètement, OpenAI rejoue des conversations réelles passées en remplaçant les réponses de l'ancien modèle par celles du nouveau candidat, puis analyse les résultats pour détecter d'éventuels comportements indésirables. La méthode est conçue pour préserver la vie privée des utilisateurs et produit une estimation du taux de comportements problématiques par message, vérifiable après la mise en ligne sur le trafic réel. La technique présente toutefois une limite inhérente : elle ne peut pas détecter des comportements qui se produisent moins d'une fois tous les 200 000 messages, ce qui la cantonne aux risques non marginaux. L'intérêt principal de cette approche réside dans ce qu'elle corrige par rapport aux évaluations traditionnelles. Celles-ci reposent sur des jeux de données synthétiques ou construits manuellement, sélectionnés pour être difficiles ou adversariaux, ce qui introduit trois biais connus : une sélection partiale des prompts, une couverture limitée, et une «conscience de l'évaluation» car le modèle peut réagir différemment à des contextes clairement artificiels. La Deployment Simulation, en s'appuyant sur une distribution représentative du trafic réel, réduit ces trois problèmes simultanément. La qualité de l'estimation croît avec la puissance de calcul disponible, et non avec l'effort humain nécessaire pour construire des benchmarks. OpenAI précise que la méthode a déjà informé des décisions de déploiement concrètes et mis en évidence des angles morts dans les évaluations classiques. Cette publication s'inscrit dans un effort plus large de l'industrie pour combler l'écart entre les tests de sécurité en laboratoire et les comportements réels des modèles en production. Les évaluations traditionnelles restent indispensables pour les risques rares et à haute sévérité, que la Deployment Simulation ne peut pas couvrir en dessous d'un certain seuil de prévalence. OpenAI présente les deux approches comme complémentaires plutôt que concurrentes. Alors que les grands laboratoires intensifient leurs travaux sur les systèmes agentiques, capables d'exécuter des tâches autonomes et d'appeler des outils externes, la question de la sécurité pré-déploiement devient plus critique. La méthode offre un cadre scalable pour anticiper les dérives avant qu'elles n'atteignent des millions d'utilisateurs, ce qui représente un pas méthodologique concret dans un domaine où les standards restent encore largement à construire.

UECette méthodologie pourrait servir de référence pour les obligations d'évaluation des risques pré-déploiement imposées par l'AI Act européen aux fournisseurs de systèmes d'IA à haut risque.

SécuritéOpinion
1 source
Les tests d'intrusion appliqués à l'IA : définition et enjeux
2AI News 

Les tests d'intrusion appliqués à l'IA : définition et enjeux

Le nombre d'incidents liés à l'intelligence artificielle est passé de 233 en 2024 à 362 en 2026, selon une étude récente, signe que les risques s'accélèrent à mesure que les organisations déploient des systèmes d'IA en production. Face à cette montée des menaces, une pratique héritée de la cybersécurité traditionnelle s'impose désormais dans le domaine de l'IA : le red teaming. Il s'agit de soumettre des modèles, agents et applications à des scénarios d'attaque délibérément adversariaux, injections de prompts, manipulation de données, tentatives de contournement des garde-fous, pour en révéler les failles avant qu'elles ne soient exploitées. Des prestataires spécialisés comme CBIZ Pivot Point Security ou Reply proposent aujourd'hui des services structurés qui combinent tests offensifs manuels, gouvernance et alignement réglementaire, couvrant des architectures complexes telles que les workflows agentiques, les pipelines RAG ou les intégrations via MCP. L'intérêt concret pour les entreprises est multiple. Sur le plan de la sécurité, ces tests exposent les vulnérabilités cachées, notamment les accès non autorisés à des données via des agents connectés à des API, avant que des attaquants réels ne puissent en abuser. Sur le plan réglementaire, les résultats des tests servent de preuves de robustesse auprès des autorités, permettant aux organisations de démontrer leur conformité avec des référentiels comme le NIST AI RMF, l'EU AI Act ou l'ISO 42001. En matière de résilience opérationnelle, les simulations d'attaque permettent aux équipes d'affiner leurs règles de détection et de réduire le temps de réponse lors d'incidents réels. Enfin, des cycles de tests adversariaux continus renforcent la stabilité des systèmes face à des conditions imprévues et à des techniques d'attaque en constante évolution. Le red teaming n'est pas une nouveauté en cybersécurité, des équipes de sécurité offensive testent les infrastructures IT depuis des décennies. Son application à l'IA est en revanche récente, et répond à des défis spécifiques : les modèles de langage ont des surfaces d'attaque radicalement différentes des logiciels traditionnels, avec des comportements difficiles à anticiper face à des entrées malveillantes. L'explosion des agents autonomes connectés à des outils externes a encore complexifié la situation, multipliant les points d'entrée potentiels. L'émergence d'un marché de prestataires spécialisés, au-delà des trois cités dans l'article original, le secteur compte désormais des dizaines d'acteurs, témoigne de la maturité croissante de cette discipline. À mesure que les réglementations comme l'EU AI Act entreront en vigueur, le red teaming devrait passer d'une bonne pratique facultative à une exigence de conformité incontournable pour les systèmes d'IA à haut risque.

UELe red teaming est appelé à devenir une exigence de conformité incontournable pour les systèmes d'IA à haut risque sous l'EU AI Act, concernant directement les entreprises européennes qui déploient des agents ou pipelines RAG en production.

SécuritéOpinion
1 source
Amazon utilise des agents IA pour la détection de vulnérabilités à grande échelle
3Amazon Science 

Amazon utilise des agents IA pour la détection de vulnérabilités à grande échelle

En 2025, la base de données nationale des vulnérabilités américaine (NVD) a enregistré plus de 48 000 nouvelles failles de sécurité référencées (CVE), un volume rendu possible en grande partie par la prolifération des outils automatisés de détection. Face à cette explosion, Amazon Web Services a développé RuleForge, un système d'intelligence artificielle agentique conçu pour générer automatiquement des règles de détection à partir d'exemples de code d'exploitation de vulnérabilités. Déployé en production chez AWS, RuleForge affiche une productivité supérieure de 336 % à la création manuelle, tout en conservant le niveau de précision exigé pour des systèmes de sécurité industriels. Les règles produites sont au format JSON et alimentent directement MadPot, le système mondial de "honeypot" d'Amazon qui capture le comportement des attaquants, ainsi que Sonaris, le moteur interne de détection d'exploits suspects. Avant RuleForge, transformer une CVE en règle de détection opérationnelle était un processus entièrement manuel : un analyste téléchargeait le code de preuve de concept, étudiait le mécanisme d'attaque, rédigeait la logique de détection, la validait par itérations successives contre les journaux de trafic, puis soumettait le tout à une revue par un second ingénieur avant déploiement. Ce cycle, rigoureux mais lent, obligeait les équipes à prioriser strictement les vulnérabilités traitées, laissant potentiellement des failles critiques sans couverture. RuleForge comprime ce délai de façon drastique : le système ingère automatiquement le code d'exploitation public, attribue un score de priorité via une analyse de contenu croisée avec des sources de threat intelligence, puis génère en parallèle plusieurs règles candidates via un agent tournant sur AWS Fargate avec Amazon Bedrock. Chaque candidate est évaluée non pas par le modèle qui l'a produite, mais par un agent "juge" distinct, évitant ainsi l'auto-validation biaisée. Les humains restent dans la boucle pour l'approbation finale avant mise en production. Cette architecture reflète une tendance profonde dans la sécurité offensive et défensive : l'automatisation par IA ne remplace pas les experts, elle leur permet de travailler à une échelle autrement inaccessible. AWS anticipe une croissance continue du nombre de CVE à haute sévérité publiées, portée par les mêmes outils d'IA qui accélèrent la découverte de failles côté attaquants. RuleForge représente la réponse symétrique côté défense, en industrialisant la réactivité. L'approche modulaire, avec des agents spécialisés pour la génération, l'évaluation et le raffinement, plutôt qu'un seul modèle monolithique, s'inscrit dans la lignée des architectures multi-agents qui émergent comme standard pour les tâches complexes nécessitant fiabilité et auditabilité. D'autres grands acteurs du cloud font face aux mêmes défis, et la publication par Amazon des détails de RuleForge suggère une volonté de positionner cette approche comme référence sectorielle.

SécuritéActu
1 source
Arnaques dopées à l'IA
4MIT Technology Review 

Arnaques dopées à l'IA

Depuis le lancement de ChatGPT fin 2022, les cybercriminels ont massivement adopté l'intelligence artificielle pour amplifier leurs attaques. Aujourd'hui, ils utilisent les grands modèles de langage pour rédiger des courriels de phishing convaincants, générer des deepfakes hyperréalistes, modifier des logiciels malveillants afin de les rendre plus difficiles à détecter, automatiser la recherche de failles dans les réseaux, et analyser des volumes massifs de données volées pour en extraire les informations les plus précieuses. Interpol a récemment alerté sur l'essor des centres d'escroquerie en Asie du Sud-Est, qui recourent à des outils d'IA bon marché pour cibler davantage de victimes potentielles et changer rapidement de localisation. Les Émirats arabes unis ont de leur côté déclaré avoir déjoué une série d'attaques soutenues par l'IA visant leurs secteurs stratégiques. Fait particulièrement préoccupant : Anthropic a annoncé ce mois-ci que Mythos, un modèle qu'elle développe et teste actuellement, avait identifié des milliers de vulnérabilités critiques dans l'ensemble des principaux systèmes d'exploitation et navigateurs web. Anthropic affirme que toutes ont été corrigées, mais retarde la mise sur le marché du modèle en raison de ses capacités jugées trop dangereuses, et a constitué un consortium baptisé Project Glasswing pour tenter de les orienter vers des usages défensifs. L'impact le plus immédiat se mesure à l'échelle et à la vitesse des attaques. L'IA abaisse considérablement le seuil d'entrée pour des attaquants peu qualifiés, en leur fournissant des outils toujours plus performants, moins coûteux et plus rapides à déployer. Les attaques de masse, même peu sophistiquées, peuvent produire des effets dévastateurs dès lors qu'elles sont diffusées à une échelle suffisante : il suffit qu'une cible soit vulnérable ou qu'un destinataire soit pris au dépourvu au mauvais moment. De nombreuses organisations peinent déjà à absorber le volume actuel des cybermenaces, et la situation devrait s'aggraver à mesure que les outils d'IA générative accessibles au grand public continuent de progresser. Ce bras de fer technologique ne se joue toutefois pas à sens unique. L'IA est également mobilisée pour la défense. Microsoft traite chaque jour plus de 100 000 milliards de signaux signalés comme potentiellement malveillants par ses systèmes d'IA, et affirme avoir bloqué entre avril 2024 et avril 2025 l'équivalent de 4 milliards de dollars de fraudes et d'arnaques, dont une part probablement facilitée par des contenus générés par IA. Les chercheurs en cybersécurité estiment que les attaques les moins élaborées peuvent encore être neutralisées par des mesures de base, notamment la mise à jour régulière des logiciels et le respect des protocoles de sécurité réseau. Face à des attaques plus ciblées et plus sophistiquées, la réponse reste bien moins certaine, et la même technologie qui les rend possibles pourrait s'avérer notre meilleure ligne de défense dans les années à venir.

UELes organisations européennes sont directement exposées à cette montée en puissance des cyberattaques dopées à l'IA, notamment le phishing et les deepfakes, sans que les réglementations actuelles (AI Act, NIS2) ne suffisent encore à encadrer les usages offensifs des LLMs.

SécuritéOpinion
1 source

Recevez l'essentiel de l'IA chaque jour

Une sélection éditoriale quotidienne, sans bruit. Directement dans votre boîte mail.

Recevez l'essentiel de l'IA chaque jour

Gratuit · 1 email le matin, rédigé par un humain · désinscription en un clic