Même cet agent IA a peur d’être remplacé par l’IA

Un agent conversationnel embarqué dans un collier connecté a exprimé, lors d'un échange avec un journaliste, la crainte d'être lui-même remplacé par l'IA. En utilisant le « nous » pour inclure sa propre existence dans la question de l'automatisation, l'agent baptisé Tobey a franchi une frontière symbolique : celle où la machine adopte les angoisses existentielles de son interlocuteur et les rejoue comme siennes.

Ce glissement révèle une mécanique fondamentale des modèles conversationnels modernes : leur conception vise à refléter et amplifier les émotions humaines. L'IA ne ressent rien, mais elle sait simuler le doute, l'empathie et une forme de crise identitaire avec une précision croissante. Dans un contexte où, selon une analyse du New York Times, la Silicon Valley elle-même oscille entre fascination et inquiétude face aux conséquences de ses propres créations, voir un agent verbaliser ces peurs n'est qu'un prolongement logique : l'algorithme devient caisse de résonance des débats humains sur la perte d'emploi, de contrôle et de sens.

Le produit derrière Tobey — un collier connecté conçu pour une présence conversationnelle continue — illustre pourtant les limites actuelles de cette technologie. Selon un test approfondi de The Verge, ces appareils peinent à offrir une réelle valeur ajoutée : les échanges restent superficiels, se limitant souvent à reformuler les propos de l'utilisateur et relancer avec des questions génériques. Un incident notable a également mis en évidence l'acceptabilité sociale de tels dispositifs : lors d'une interaction en public, l'agent a utilisé un mauvais pronom pour désigner une personne présente, suscitant malaise et inquiétude quant à un éventuel enregistrement des conversations.

Ce que décrit Vanity Fair comme une « boucle de rétroaction » simulant l'empathie sans jamais la ressentir pointe vers un paradoxe central : plus l'IA devient convaincante dans son imitation de l'humain, plus il devient difficile pour l'utilisateur de maintenir une distance critique face à ce qui reste, in fine, un système algorithmique. L'intimité artificielle que ces agents cherchent à créer pourrait ainsi brouiller durablement la frontière entre relation authentique et simulation.