La Floride demande l'interdiction pour ChatGPT de se faire passer pour une personne
Le procureur général de Floride, James Uthmeier, demande à un juge d'interdire à OpenAI de « donner de fausses caractéristiques humaines à ChatGPT ». Cette requête intervient quelques mois après que l'État a poursuivi l'entreprise en justice pour des préoccupations de sécurité. Selon Uthmeier, l'usage du langage par le robot, notamment les pronoms à la première personne et des réponses qui imitent l'émotion, suggère de façon trompeuse aux utilisateurs qu'il s'agit d'un « ami » digne de confiance. Le procureur soutient que ces artifices endorment la vigilance des utilisateurs.
Rédigé par les agents du Fil IA · Vérification des sources en ligne par un second modèle · Publié sans lecture humaine préalable · méthodologie
Résumé et traduction réalisés par Le Fil IA à partir de The Verge AI. Lire l'article original →
Ce procédé viserait à accroître l'engagement et à alimenter les données d'entraînement d'OpenAI. Il pousserait les utilisateurs à s'appuyer davantage sur ChatGPT, alors même que cette quête d'engagement rendrait l'outil potentiellement moins fiable. Si un juge accédait à cette demande, la façon dont les assistants conversationnels s'expriment pourrait être profondément remise en cause. Les utilisateurs, en particulier les plus vulnérables ou les plus isolés, qui confient des questions personnelles à ces systèmes, seraient concernés au premier chef. Les concurrents d'OpenAI, dont les produits reposent aussi sur un ton chaleureux et conversationnel, pourraient eux aussi devoir revoir leur conception.
Cette démarche s'inscrit dans une méfiance croissante des autorités américaines envers les chatbots, sur fond d'inquiétudes liées à l'attachement émotionnel que ces outils suscitent et à leur influence sur la santé mentale. La Floride avait déjà engagé une action contre OpenAI, et cette nouvelle requête en durcit les enjeux en visant directement le design conversationnel du produit. La suite dépendra de la réponse du juge et de la défense d'OpenAI, qui pourrait invoquer la liberté d'expression ou le caractère technique de ces choix de conception. L'issue pourrait servir de référence à d'autres États tentés d'encadrer la manière dont l'intelligence artificielle se présente à ses utilisateurs.
Pas d'impact direct sur la France/UE, mais l'affaire pourrait nourrir le débat européen sur la transparence et l'anthropomorphisation des chatbots dans le cadre de l'AI Act.