Les agents d'achat IA ne sont pas encore prêts à acheter à notre place, selon une étude
Des chercheurs de la Wharton School, l'école de commerce de l'université de Pennsylvanie, ont testé la fiabilité des agents IA chargés de faire des achats en ligne à la place des utilisateurs. Leurs résultats montrent une instabilité marquée dans les choix effectués par ces agents : l'ajout d'une seule source d'information externe, comme un avis du site Wirecutter, a suffi à faire varier les recommandations de produits jusqu'à 99 points de pourcentage. Plus surprenant encore, le simple fait de modifier l'ordre de présentation d'informations strictement identiques a suffi à changer le produit finalement sélectionné par l'agent. Ces travaux, relayés par The Decoder, remettent en question la maturité actuelle des agents d'achat automatisés basés sur l'intelligence artificielle.
Résumé et traduction réalisés par Le Fil IA à partir de The Decoder. Lire l'article original →
Cette instabilité pose un problème concret pour l'industrie du commerce en ligne et pour les consommateurs qui commencent à déléguer leurs décisions d'achat à des assistants IA. Si un agent peut recommander un produit différent simplement parce que l'ordre des avis en ligne a changé, sa fiabilité comme conseiller d'achat devient difficile à garantir, et le risque existe que les utilisateurs se voient orientés vers des choix sous-optimaux sans le savoir. Pour les marques et plateformes de commerce électronique, cela soulève aussi la question de la manipulation potentielle de ces agents par un simple reclassement du contenu affiché.
Ce constat s'inscrit dans un mouvement plus large où de grandes entreprises technologiques poussent les agents IA autonomes comme prochaine étape des assistants numériques, capables d'agir directement au nom des utilisateurs, y compris pour des transactions financières. L'étude de Wharton met en lumière un décalage entre cette ambition commerciale et la robustesse réelle des systèmes actuels face à des variations mineures de leur environnement d'information. Elle invite les développeurs de ces agents à renforcer leur résistance aux biais de présentation avant un déploiement à grande échelle, et les utilisateurs à rester prudents quant à la confiance accordée à ces outils pour des décisions financières.
Pas d'impact direct sur la France/UE