ÉthiqueOpenAI Blog · 27 oct. 2025, 11:00· 1 min de lecture

Renforcer les réponses de ChatGPT dans les conversations sensibles

OpenAI a travaillé avec plus de 170 experts en santé mentale pour améliorer la capacité de ChatGPT à identifier le détresse, à répondre de manière empathique et à orienter les utilisateurs vers des ressources de soutien réelles, réduisant ainsi les réponses potentiellement dangereuses de 80%. Cette collaboration vise à rendre ChatGPT plus sûr et plus supportif lors des moments sensibles.

Impact France/UE

OpenAI renforce ChatGPT avec l'aide de 170 experts en santé mentale pour réduire les réponses potentiellement nocives de 80%, améliorant ainsi la capacité à identifier la détresse, à répondre empathiquement et à orienter vers des ressources de soutien réelles, impactant positivement la sécurité des utilisateurs en France et en Europe.

Dans nos dossiers

OpenAI

Cet article vous a été utile ?

Vu une erreur factuelle dans cet article ? Signalez-la. Toutes les corrections valides sont publiées sur /corrections.

À lire aussi

1Le Big Data

Ces marques infiltrent Reddit pour biaiser les réponses de ChatGPT

Reddit est devenu en mai 2026 le domaine le plus cité par les grands chatbots d'intelligence artificielle, selon des données Semrush compilées pour The Verge : ChatGPT, Perplexity, Gemini et Google AI Mode y puisent plus souvent que dans Wikipédia, les médias ou les bases scientifiques. Cette position centrale attire désormais des marques qui infiltrent la plateforme avec de faux comptes pour orienter les réponses générées par l'IA. The Verge a ainsi repéré, dans plusieurs communautés dédiées aux soins de la peau, un compte recommandant avec insistance un spray de la marque Honeydew Labs, un profil au discours répétitif qui ressemblait davantage à une brochure commerciale qu'à un vrai utilisateur. Les modérateurs de r/SkincareAddiction ont fini par filtrer les mentions de la marque, sans pouvoir identifier publiquement qui se cachait derrière le compte. Ni Honeydew Labs ni le compte incriminé n'ont répondu aux sollicitations du média. Cette pratique, baptisée GEO par les marketeurs, change la nature du spam publicitaire. Là où le référencement classique visait des liens entrants vers Google, une simple mention crédible glissée dans une conversation Reddit peut désormais peser sur la réponse d'un chatbot, même sans lien vers un site officiel. Le mécanisme fonctionne en donnant l'illusion d'un consensus spontané entre utilisateurs indépendants, exactement le type de signal que les IA génératives recherchent pour étayer leurs réponses. Pour les modérateurs bénévoles, souvent non rémunérés, la situation devient intenable : ils protègent gratuitement des communautés dont la valeur commerciale explose, pendant que marques, agences et entreprises d'IA en exploitent la crédibilité à leur insu. Reddit reconnaît qu'environ 40 % des discussions sur sa plateforme ont une dimension commerciale, et son chiffre d'affaires publicitaire a atteint 762 millions de dollars au deuxième trimestre 2026, en hausse de 64 % sur un an. Face à la menace que ce spam invisible fait peser sur la confiance des utilisateurs, socle de son modèle économique, l'entreprise a annoncé le 6 juillet 2026 recourir à des modèles de langage pour détecter les campagnes coordonnées et « l'engouement artificiel ». Elle affirme repérer environ 25 000 nouveaux posts ou commentaires suspects par jour, bloquer 23 millions de vues de spam et annuler près de deux millions de faux votes quotidiens, des chiffres invérifiés de manière indépendante. La bataille oppose désormais l'IA détectrice de spam à l'IA génératrice de faux témoignages, sur une plateforme devenue, malgré elle, une source privilégiée des assistants conversationnels.

ÉthiqueActu

1 source

2MIT Technology Review

Un responsable de la défense révèle comment les chatbots IA pourraient servir aux décisions de ciblage

L'armée américaine envisage d'utiliser des IA génératives comme ChatGPT (OpenAI) et Grok (xAI), qui ont récemment signé des accords avec le Pentagone, pour classer des listes de cibles et formuler des recommandations de frappe, sous supervision humaine. Ces chatbots viendraient s'ajouter en couche conversationnelle au système Maven, en place depuis 2017, qui utilise la vision par ordinateur pour analyser drones et images satellitaires. Des rapports indiquent que Claude d'Anthropic est déjà intégré dans des opérations militaires en Iran et au Venezuela, mais les LLM restent moins éprouvés au combat que les IA traditionnelles.

ÉthiqueActu

1 source

3The Decoder

ChatGPT vous donne de moins bons conseils de santé si vous ne payez pas

OpenAI déploie « Health in ChatGPT » auprès des utilisateurs américains, une fonctionnalité qui connecte l'assistant à Apple Health, aux dossiers médicaux et à diverses applications de bien-être. Plus de 300 millions de personnes posent chaque semaine des questions de santé à ChatGPT, mais toutes ne reçoivent pas le même niveau de réponse. Les abonnés payants ont accès au modèle GPT-5.6 Sol, plus performant, tandis que les utilisateurs gratuits doivent se contenter de GPT-5.5 Instant, une version nettement moins capable. Cette différence de traitement pose un problème concret : la qualité des conseils de santé fournis par une intelligence artificielle dépend désormais de la capacité à payer un abonnement. Pour des millions de personnes qui utilisent ChatGPT comme premier point de contact avant de consulter un médecin, ou faute de pouvoir en consulter un, recevoir des réponses moins fiables ou moins nuancées peut avoir des conséquences réelles sur leur santé. La connexion aux données médicales personnelles via Apple Health accentue aussi les enjeux de confidentialité, puisque des informations sensibles alimentent un système dont la qualité de réponse varie selon le niveau d'abonnement. Cette stratégie s'inscrit dans la logique commerciale plus large d'OpenAI, qui cherche à convertir ses utilisateurs gratuits en abonnés payants en réservant ses modèles les plus avancés aux formules premium. Le domaine de la santé est particulièrement sensible à cette segmentation, car il touche à l'équité d'accès à l'information médicale. À mesure que ChatGPT s'impose comme un outil de référence pour les questions de santé, la pression va probablement s'accentuer sur OpenAI et ses concurrents pour garantir un socle minimal de fiabilité, indépendamment du statut d'abonnement de l'utilisateur.

ÉthiqueOpinion

1 source

4Ars Technica AI

ChatGPT bloque désormais les demandes directes de copier le style d'un auteur

ChatGPT refuse désormais certaines demandes visant à imiter directement le style d'auteurs célèbres. Le média Ars Technica a testé le chatbot d'OpenAI avec une requête demandant une introduction de récit "dans le style de Stephen King" : l'IA a répondu qu'elle pouvait reproduire les "caractéristiques" d'une horreur atmosphérique et centrée sur les personnages, mais qu'elle ne pouvait pas imiter précisément la voix distinctive de l'auteur, proposant à la place un texte original s'inspirant de cette ambiance tout en restant autonome. Le même comportement a été observé lors de tests portant sur d'autres écrivains vivants, comme J.K. Rowling et Amy Tan, ainsi que sur des auteurs décédés tels que Charles Dickens et Ernest Hemingway. Une analyse publiée ce mois-ci par le site No Latency avait déjà repéré ce blocage pour les auteurs vivants, tout en notant qu'OpenAI acceptait encore d'imiter le style d'écrivains disparus, une différence qui semble aujourd'hui s'être resserrée. Cette évolution touche directement aux droits d'auteur et à la manière dont les modèles de langage traitent la propriété intellectuelle des créateurs. Pour les auteurs, c'est une protection bienvenue contre la génération massive de textes calqués sur leur voix, un usage qui pourrait diluer leur identité littéraire ou concurrencer leurs propres œuvres. Pour les utilisateurs de ChatGPT, notamment les créateurs de contenu et les écrivains amateurs, cela signifie une limite claire sur les usages créatifs autorisés par l'outil, même à des fins d'inspiration ou de pastiche. Cette restriction s'inscrit dans un contexte de tensions juridiques croissantes entre OpenAI et le monde de l'édition. Plusieurs auteurs et maisons d'édition ont porté plainte contre l'entreprise, l'accusant d'avoir entraîné ses modèles sur des œuvres protégées sans autorisation. Face à cette pression, OpenAI semble ajuster progressivement les garde-fous de ChatGPT pour limiter les usages les plus sensibles sur le plan du droit d'auteur, sans toutefois bloquer totalement la capacité du modèle à s'inspirer de styles littéraires existants.

ÉthiqueActu

1 source

Recevez l'essentiel de l'IA chaque jour

Une sélection éditoriale quotidienne, sans bruit. Directement dans votre boîte mail.

Recevez l'essentiel de l'IA chaque jour

Gratuit · 1 email le matin, l'essentiel de l'IA · désinscription en un clic