Les arnaques au colis dopées à l’IA se multiplient en France

Images et vidéos pédocriminelles crédibles générées par IA se multiplient, alerte l’IWF

L'Internet Watch Foundation (IWF), organisation britannique indépendante spécialisée dans la lutte contre les contenus pédocriminels en ligne, tire la sonnette d'alarme dans un rapport publié en 2025 : les images et vidéos d'agressions sexuelles sur mineurs générées par intelligence artificielle sont devenues « routinières ». En juillet 2024, ses analystes repéraient encore les premières vidéos entièrement produites par IA, facilement identifiables à leurs défauts techniques. Un an plus tard, l'organisation a recensé plus de 8 000 images et près de 3 500 vidéos crédibles de ce type, contre seulement 13 vidéos l'année précédente. Plus alarmant encore, 65 % de ces vidéos appartiennent à la « catégorie A », réservée aux contenus les plus extrêmes, une proportion supérieure aux 43 % observés pour les contenus criminels non générés par IA traités sur la même période. Ces contenus ne sont pas moins dangereux parce qu'ils sont artificiels. Selon l'IWF, ils renforcent l'attrait sexuel pour les enfants, contribuent à normaliser des actes d'une violence extrême et peuvent accroître le risque de passages à l'acte. S'y ajoute une double victimisation : les modèles génératifs sont entraînés sur des images d'agressions réelles, ce qui signifie que l'image de survivants est réutilisée, modifiée et parfois « augmentée » pour produire de nouveaux contenus. Cette réexploitation démultiplie le traumatisme des victimes initiales. Le phénomène présente également une dimension de genre très marquée : 97 % des enfants représentés dans ces contenus générés par IA sont des filles, une surreprésentation encore plus forte que dans les affaires de pédocriminalité réelle. Des cas concrets ont illustré cette dérive, notamment en Espagne à Almendralejo, où des images de lycéennes réelles ont été manipulées par IA pour produire des contenus à caractère sexuel. L'IWF, fondée en 1996 et membre du réseau international INHOPE, auquel appartient également l'association française Point de Contact, travaille en lien avec les forces de police et les fournisseurs d'accès à internet, auxquels elle transmet notamment une liste noire d'environ 150 000 URL de sites diffusant des contenus illégaux. Ce rapport s'inscrit dans un contexte où la démocratisation des outils de génération d'images et de vidéos par IA pose des défis croissants aux dispositifs légaux et techniques de protection de l'enfance à l'échelle mondiale.

France Travail veut confier à l’IA le tri des demandeurs d’emploi, et les tests sont déjà en cours

Après la Caisse d'allocations familiales, c'est au tour de France Travail de s'appuyer sur l'intelligence artificielle pour cibler ses contrôles. Selon des documents révélés par La Quadrature du Net en partenariat avec Radio France, l'opérateur public de l'emploi expérimente depuis fin 2025 un projet baptisé « Ciblage du contrôle de la recherche d'emploi », présenté à cette date devant son comité d'éthique dédié à l'IA. Le système repose sur un modèle statistique entraîné à partir de 60 000 contrôles réalisés par le passé. Il croise 26 variables issues des dossiers des demandeurs d'emploi : ancienneté d'inscription, visibilité du CV, métier recherché, niveau de formation, entretiens récents ou activités déclarées. L'algorithme classe ensuite les profils selon leur probabilité d'être contrôlés et transmet une liste priorisée aux agents, qui restent seuls décisionnaires sur la suite à donner. Une première campagne a déjà porté sur 7 000 contrôles visant des personnes inscrites après une rupture conventionnelle : elle a débouché sur une sanction ou un accompagnement renforcé dans 50,4 % des cas, contre 33,2 % avec les méthodes traditionnelles. Une seconde expérimentation de même ampleur était en cours au moment de la présentation du projet. Cette évolution change concrètement la manière dont les demandeurs d'emploi peuvent être surveillés au quotidien. L'IA ne prononce aucune sanction elle-même, mais elle détermine qui sera examiné en priorité, ce qui revient à orienter fortement le sort administratif de milliers de personnes sans qu'elles en aient toujours conscience. Pour France Travail, l'intérêt est clair : selon ses propres chiffres, cibler via l'algorithme rend les contrôles nettement plus « rentables » que le tirage traditionnel. Mais pour les associations et observateurs qui suivent le dossier, ce gain d'efficacité repose sur un raisonnement fragile, puisqu'aucune des 26 variables utilisées ne prouve en elle-même qu'une personne ne cherche pas activement du travail. Un CV peu visible en ligne, par exemple, peut simplement traduire des difficultés d'usage du numérique plutôt qu'un manque d'implication dans la recherche d'emploi. Ce type d'outil s'inscrit dans une tendance plus large de numérisation des contrôles sociaux en France, après les algorithmes de notation déjà utilisés par la CAF pour détecter des fraudes présumées, qui avaient eux-mêmes suscité de vives critiques sur les biais qu'ils pouvaient introduire contre certaines catégories d'allocataires. Avec France Travail, le débat se déplace vers le monde du chômage, où plusieurs acteurs redoutent qu'un système entraîné sur des données historiques ne reproduise, voire n'amplifie, des inégalités déjà présentes dans les pratiques de contrôle passées, sans offrir de garanties claires de transparence ou de recours pour les personnes concernées.

Arnaques dopées à l'IA

Depuis le lancement de ChatGPT fin 2022, les cybercriminels ont massivement adopté l'intelligence artificielle pour amplifier leurs attaques. Aujourd'hui, ils utilisent les grands modèles de langage pour rédiger des courriels de phishing convaincants, générer des deepfakes hyperréalistes, modifier des logiciels malveillants afin de les rendre plus difficiles à détecter, automatiser la recherche de failles dans les réseaux, et analyser des volumes massifs de données volées pour en extraire les informations les plus précieuses. Interpol a récemment alerté sur l'essor des centres d'escroquerie en Asie du Sud-Est, qui recourent à des outils d'IA bon marché pour cibler davantage de victimes potentielles et changer rapidement de localisation. Les Émirats arabes unis ont de leur côté déclaré avoir déjoué une série d'attaques soutenues par l'IA visant leurs secteurs stratégiques. Fait particulièrement préoccupant : Anthropic a annoncé ce mois-ci que Mythos, un modèle qu'elle développe et teste actuellement, avait identifié des milliers de vulnérabilités critiques dans l'ensemble des principaux systèmes d'exploitation et navigateurs web. Anthropic affirme que toutes ont été corrigées, mais retarde la mise sur le marché du modèle en raison de ses capacités jugées trop dangereuses, et a constitué un consortium baptisé Project Glasswing pour tenter de les orienter vers des usages défensifs. L'impact le plus immédiat se mesure à l'échelle et à la vitesse des attaques. L'IA abaisse considérablement le seuil d'entrée pour des attaquants peu qualifiés, en leur fournissant des outils toujours plus performants, moins coûteux et plus rapides à déployer. Les attaques de masse, même peu sophistiquées, peuvent produire des effets dévastateurs dès lors qu'elles sont diffusées à une échelle suffisante : il suffit qu'une cible soit vulnérable ou qu'un destinataire soit pris au dépourvu au mauvais moment. De nombreuses organisations peinent déjà à absorber le volume actuel des cybermenaces, et la situation devrait s'aggraver à mesure que les outils d'IA générative accessibles au grand public continuent de progresser. Ce bras de fer technologique ne se joue toutefois pas à sens unique. L'IA est également mobilisée pour la défense. Microsoft traite chaque jour plus de 100 000 milliards de signaux signalés comme potentiellement malveillants par ses systèmes d'IA, et affirme avoir bloqué entre avril 2024 et avril 2025 l'équivalent de 4 milliards de dollars de fraudes et d'arnaques, dont une part probablement facilitée par des contenus générés par IA. Les chercheurs en cybersécurité estiment que les attaques les moins élaborées peuvent encore être neutralisées par des mesures de base, notamment la mise à jour régulière des logiciels et le respect des protocoles de sécurité réseau. Face à des attaques plus ciblées et plus sophistiquées, la réponse reste bien moins certaine, et la même technologie qui les rend possibles pourrait s'avérer notre meilleure ligne de défense dans les années à venir.

Face à la « course aux armements », le Pape érige l’éthique de l’IA en impératif

Le pape Léon XIV a publié ce lundi 25 mai 2026, jour de Pentecôte, sa première encyclique intitulée Magnifica Humanitas, « Magnifique humanité », un document de 90 pages entièrement consacré à l'intelligence artificielle. Fait sans précédent dans l'histoire pontificale, il a lui-même présenté le texte depuis le Vatican. Élu en mai 2025, ce mathématicien de formation avait fait de l'IA l'une de ses priorités dès le début de son pontificat, en créant notamment une commission vaticane interdicastère sur le sujet. La préparation de l'encyclique a impliqué des acteurs inattendus : l'évêque Paul Tighe, référent numérique du Saint-Siège, a contribué à la rédaction de la « Constitution de Claude », document normatif et d'entraînement des modèles d'Anthropic, et rencontré George Osborne, responsable des relations gouvernementales d'OpenAI. À la présentation du texte, Léon XIV était accompagné de Christopher Olah, cofondateur d'Anthropic, qui a salué l'initiative en déclarant que l'industrie avait besoin d'« une critique éclairée qui alertera nos laboratoires lorsque nous nous égarerons ». Sur le fond, l'encyclique constitue une critique directe de la concentration du pouvoir technologique entre les mains d'acteurs privés. Invoquant l'image de la tour de Babel pour décrire une industrie qui « prétend dominer le ciel », le pape met en garde contre la déshumanisation que peut engendrer cette course aux armements numérique. Il oppose à cette trajectoire le modèle de la reconstruction des murs de Jérusalem, où la responsabilité est partagée entre tous, prêtres, artisans, femmes, jeunes. Trois principes de la doctrine sociale catholique structurent ses propositions : la justice sociale, la destination universelle des biens, en clair, la déconcentration des brevets, algorithmes, plateformes et données, et la subsidiarité, soit le renforcement de corps intermédiaires au service du bien commun. Ce texte s'inscrit dans une longue tradition d'engagement social de l'Église catholique, dont le marqueur historique est l'encyclique Rerum Novarum de 1891, publiée il y a exactement 135 ans en réponse aux dérives du capitalisme industriel. Léon XIV poursuit et amplifie le travail de dialogue entamé par François avec la Silicon Valley, notamment via la Human Technology Foundation du père dominicain Éric Salobir, qui réunit régulièrement à Rome des représentants de Google, Amazon et Meta. En choisissant Anthropic comme interlocuteur privilégié plutôt qu'OpenAI, et en associant un chercheur en interprétabilité à la présentation d'un texte doctrinal majeur, le Vatican signale une volonté de peser concrètement sur les standards de l'industrie, à un moment où les pressions géopolitiques et commerciales fragilisent la capacité des laboratoires à s'autoréguler.

💬 Un évêque catholique qui contribue à la "Constitution de Claude" d'Anthropic, c'est le genre de détail qui te fait relire deux fois. Le Vatican ne moralise plus depuis les hauteurs, il s'installe à la table de l'industrie, et en choisissant Olah plutôt que les commerciaux d'OpenAI, il signale clairement ses alliances. Une encyclique ne remplace pas un règlement contraignant, mais comme tentative de peser sur les normes industrielles depuis l'extérieur, c'est le truc le plus sérieux qu'on ait vu depuis des mois.