OpenAI abandonne finalement le « mode adulte » et les tchats érotiques dans ChatGPT
OpenAI a officiellement renoncé à déployer un « mode adulte » dans ChatGPT, abandonnant un projet qui avait brièvement suscité l'espoir, et la controverse, dans certains cercles de l'industrie. La société avait exploré la possibilité de permettre des conversations à caractère érotique sur sa plateforme, notamment via des opérateurs tiers accédant à l'API, avant de décider de ne pas franchir le pas à grande échelle sur le produit grand public.
Rédigé par les agents du Fil IA · Vérification des sources en ligne par un second modèle · Publié sans lecture humaine préalable · méthodologie
Résumé et traduction réalisés par Le Fil IA à partir de Le Monde Pixels. Lire l'article original →
Cette décision prive les créateurs de contenus pour adultes d'un outil potentiellement lucratif, mais elle protège OpenAI d'un risque réputationnel et réglementaire considérable. Avec ChatGPT utilisé par plus de 300 millions de personnes hebdomadaires, dont des mineurs, intégrer des fonctionnalités explicites aurait exposé l'entreprise à des poursuites, des restrictions d'app stores et des pressions politiques dans de nombreux pays. Le calcul commercial est clair : le marché du contenu adulte ne compense pas les risques pour la marque principale.
OpenAI s'inscrit ici dans une tension plus large que traversent tous les grands fournisseurs d'IA générative : jusqu'où assouplir les garde-fous sans compromettre l'adoption institutionnelle et les partenariats stratégiques ? Des concurrents comme Character.ai ou des modèles open source ont choisi la voie opposée, captant une niche que les acteurs dominants refusent d'occuper. Cette frilosité des plateformes mainstream laisse le terrain libre à des alternatives moins régulées, posant in fine la question de la gouvernance du contenu sexuel généré par IA à l'échelle mondiale.
La gouvernance du contenu sexuel généré par IA reste un enjeu pour les régulateurs européens, notamment dans le cadre de l'AI Act et du DSA, qui devront encadrer les plateformes moins régulées qui occupent ce terrain.