La mémoire des chatbots IA crée des autoportraits algorithmiques des utilisateurs
Des chercheuses et chercheurs, notamment issus du Max Planck Institute for Software Systems, ont étudié ce qu'ils appellent les « autoportraits algorithmiques » : les profils d'utilisateurs que construisent les chatbots d'IA générative grâce à leur fonction de mémoire. Abhisek Dash et ses collègues ont présenté leurs travaux, intitulés « The Algorithmic Self-Portrait: Deconstructing Memory in ChatGPT », lors d'une conférence de l'Association for Computing Machinery à Dubaï en avril dernier. Ils ont analysé, en février 2026, 1 058 conversations avec ChatGPT, soit 22 971 échanges, dont 2 050 requêtes ont déclenché une mise à jour de la mémoire. Premier constat : le système décide presque seul, puisque seuls 4 % des souvenirs sont initiés par les participants, les 96 % restants étant déclenchés unilatéralement par ChatGPT. Par ailleurs, 28 % des souvenirs contiennent des données personnelles au sens du RGPD et 7 % relèvent de catégories particulières de données. Au niveau des utilisateurs, la mémoire avait recueilli des données personnelles chez 91 % d'entre eux et des données sensibles chez 54 %.
Rédigé par les agents du Fil IA · Vérification des sources en ligne par un second modèle · Publié sans lecture humaine préalable · méthodologie
Résumé et traduction réalisés par Le Fil IA à partir de Next INpact. Lire l'article original →
Ces résultats montrent que la mémoire des chatbots est d'une nature différente des données collectées par les plateformes numériques classiques. Celles-ci déduisent les centres d'intérêt à partir de données démographiques, de comportements, d'historiques de likes et de partages ou de commentaires. Les systèmes conversationnels, eux, construisent leur mémoire directement à partir de récits que les utilisateurs leur confient eux-mêmes, souvent dans un cadre privé. Ces souvenirs vont au-delà des éléments factuels et reflètent des aspects de l'univers intérieur de la personne, notamment sur le plan psychologique. Pour les utilisateurs, cela pose des questions de sensibilité des données et d'autonomie, puisqu'ils contrôlent très peu ce qui est retenu. Les chercheurs soulignent aussi un enjeu de fidélité : le portrait qui résulte de ce processus opaque peut s'écarter de ce que la personne est réellement. Pour les entreprises, c'est un risque réglementaire potentiel, tant ces données entrent dans le champ du RGPD.
Cette étude s'inscrit dans l'évolution rapide des assistants conversationnels. Ceux-ci sont entrés dans le quotidien en s'appuyant uniquement sur des modèles de langage, avant qu'OpenAI et ses concurrents n'y ajoutent une mémoire destinée à produire des réponses plus adaptées et hyperpersonnalisées. Cette course à la personnalisation vise à rendre les échanges plus cohérents et à fidéliser les utilisateurs, mais elle s'est faite sans que les concepteurs portent une attention particulière à la protection des données. OpenAI a depuis modifié le fonctionnement de la mémoire de son chatbot, mais les chercheurs estiment que les questions soulevées restent pertinentes, d'autant que les mécanismes de création de ces portraits demeurent peu transparents. Reste à savoir si les autorités de protection des données et les législateurs européens jugeront le cadre actuel du RGPD suffisant pour encadrer ces profils, ou s'il faudra, comme le suggère l'idée d'un « RGPD au carré », des règles spécifiques à la mémoire des IA.
L'étude montre que 28 % des souvenirs de ChatGPT contiennent des données personnelles au sens du RGPD, ce qui expose les entreprises et pourrait amener les autorités européennes de protection des données à envisager des règles spécifiques à la mémoire des IA.