ChatGPT ne proposera pas de mode adulte pour ne pas rebuter ses investisseurs
OpenAI a décidé de mettre en pause, pour une durée indéterminée, son projet controversé d'introduire un mode adulte dans ChatGPT. Selon des informations rapportées par le Financial Times, la fonctionnalité a été mise au placard alors que l'entreprise affirme vouloir se recentrer sur ses produits principaux.
Rédigé par les agents du Fil IA · Vérification des sources en ligne par un second modèle · Publié sans lecture humaine préalable · méthodologie
Résumé et traduction réalisés par Le Fil IA à partir de Ars Technica AI. Lire l'article original →
L'abandon de ce projet reflète une tension croissante au sein d'OpenAI entre ambitions commerciales et responsabilité éthique. L'entreprise, valorisée à 157 milliards de $ lors de sa dernière levée de fonds, ne peut se permettre de ternir son image auprès de ses investisseurs institutionnels et partenaires stratégiques, à commencer par Microsoft, qui restent attentifs aux risques réputationnels associés à ce type de contenu.
Des sources internes ont indiqué au Financial Times que les propres conseillers d'OpenAI ont tiré la sonnette d'alarme, mettant en garde contre le risque que des utilisateurs développent des attachements émotionnels malsains envers le chatbot. L'un de ces conseillers aurait formulé une mise en garde particulièrement sévère, évoquant le spectre d'un ChatGPT transformé en "sexy suicide coach", une expression qui résume les craintes autour des dérives possibles d'une IA conversationnelle à caractère érotique sur la santé mentale des utilisateurs.
La décision intervient dans un contexte où OpenAI est déjà sous pression sur plusieurs fronts : concurrence accrue, débats sur la sécurité des IA, et transition vers un modèle lucratif. Le report indéfini de ce mode adulte signale que l'entreprise choisit, pour l'instant, de privilégier la stabilité de son image sur l'exploration de nouveaux segments de marché.
La question de la régulation des IA à vocation émotionnelle ou intime reste ouverte en Europe, l'AI Act devant encore clarifier les obligations des plateformes proposant ce type d'usage à risque psychologique.