Les escrocs propulsés par l'IA gagnent plus facilement la confiance que les humains
Des chercheurs de quatre universités, l'indienne Amrita Vishwa Vidyapeetham, Ca' Foscari de Venise, l'université de Melbourne et l'université Ben Gourion du Néguev, ont mené une étude approfondie sur l'utilisation de chatbots d'intelligence artificielle générative dans l'industrie de l'arnaque en ligne. Leurs travaux se concentrent sur le "pig butchering", une escroquerie qui débute par une relation sentimentale à distance construite par messages avant de basculer vers une fausse proposition d'investissement en cryptomonnaies. Pour tester le potentiel de l'IA dans ce type de fraude, les chercheurs ont opposé directement des chatbots à des humains dans une simulation reproduisant les longues conversations destinées à instaurer la confiance, étape préalable à la demande d'investissement frauduleux. Résultat : sur cette phase de mise en relation, qui représente habituellement la plus grande partie du processus réel et peut s'étendre sur plusieurs mois, les chatbots IA se sont montrés remarquablement efficaces, parvenant à se faire passer pour des humains et surpassant même, selon certains critères, les escrocs humains testés dans l'expérience.
Résumé et traduction réalisés par Le Fil IA à partir de Ars Technica AI. Lire l'article original →
Cette découverte a des implications directes pour la lutte contre une fraude qui dérobe chaque année des dizaines de milliards de dollars à travers le monde. Si l'IA peut désormais mener seule, et mieux que des humains, l'étape la plus chronophage et la plus délicate d'une arnaque sentimentale et financière, cela signifie que les réseaux criminels pourraient automatiser massivement cette phase, réduire leurs coûts en main-d'œuvre et multiplier le nombre de victimes ciblées simultanément, sans sacrifier la qualité de la manipulation psychologique exercée sur elles.
Le pig butchering s'est imposé ces dernières années comme l'une des formes de cybercriminalité les plus lucratives, souvent orchestré depuis des centres d'appels en Asie du Sud-Est où des victimes de trafic humain sont parfois forcées de mener ces arnaques. L'irruption de chatbots capables d'imiter la patience et l'empathie humaines sur de longues périodes soulève la question de la détection : les outils actuels de lutte contre la fraude, conçus pour repérer des comportements humains, devront s'adapter à des interlocuteurs artificiels capables de tromper aussi bien, voire mieux, que des escrocs expérimentés.
Pas d'impact direct sur la France/UE
Les escrocs n'ont plus besoin d'être doués, l'IA fait le sale boulot mieux qu'eux. Ce qui me frappe, c'est que la phase de séduction, celle qui dure des mois et qui use les escrocs humains, devient un script qu'on lance à l'infini sans fatigue ni faux pas. Retiens bien ça : quand l'IA surpasse l'humain sur l'empathie simulée, ce n'est plus un problème de volume de victimes, c'est un problème de détection qui devra se réinventer entièrement.