ÉthiqueOpenAI Blog27sem

Renforcer les réponses de ChatGPT dans les conversations sensibles

Résumé IASource uniqueImpact UE

OpenAI a travaillé avec plus de 170 experts en santé mentale pour améliorer la capacité de ChatGPT à identifier le détresse, à répondre de manière empathique et à orienter les utilisateurs vers des ressources de soutien réelles, réduisant ainsi les réponses potentiellement dangereuses de 80%. Cette collaboration vise à rendre ChatGPT plus sûr et plus supportif lors des moments sensibles.

Impact France/UE

OpenAI renforce ChatGPT avec l'aide de 170 experts en santé mentale pour réduire les réponses potentiellement nocives de 80%, améliorant ainsi la capacité à identifier la détresse, à répondre empathiquement et à orienter vers des ressources de soutien réelles, impactant positivement la sécurité des utilisateurs en France et en Europe.

Dans nos dossiers

OpenAI

Vu une erreur factuelle dans cet article ? Signalez-la. Toutes les corrections valides sont publiées sur /corrections.

À lire aussi

1MIT Technology Review

Un responsable de la défense révèle comment les chatbots IA pourraient servir aux décisions de ciblage

L'armée américaine envisage d'utiliser des IA génératives comme ChatGPT (OpenAI) et Grok (xAI) — qui ont récemment signé des accords avec le Pentagone — pour classer des listes de cibles et formuler des recommandations de frappe, sous supervision humaine. Ces chatbots viendraient s'ajouter en couche conversationnelle au système Maven, en place depuis 2017, qui utilise la vision par ordinateur pour analyser drones et images satellitaires. Des rapports indiquent que Claude d'Anthropic est déjà intégré dans des opérations militaires en Iran et au Venezuela, mais les LLM restent moins éprouvés au combat que les IA traditionnelles.

ÉthiqueActu

1 source

2OpenAI Blog

Renforcer la résilience cybernétique à mesure que les capacités des IA s'améliorent

Face à l'augmentation des capacités des modèles d'IA en cybersécurité, OpenAI investit dans des mesures de protection renforcées et des capacités défensives. L'entreprise évalue les risques, limite les usages malveillants et collabore avec la communauté de la sécurité pour renforcer la résilience cybernétique.

ÉthiqueOpinion

1 source

3OpenAI Blog

Renforcer notre écosystème de sécurité grâce à des tests externes

OpenAI collabore avec des experts indépendants pour évaluer les systèmes d'IA de pointe, renforçant ainsi la sécurité, validant les mesures de protection et améliorant la transparence dans l'analyse des capacités et des risques des modèles. Cette approche externe permet d'assurer une évaluation rigoureuse et objective des systèmes d'IA.

ÉthiqueActu

1 source

4OpenAI Blog

Continuer à renforcer ChatGPT Atlas contre les injections de prompts

OpenAI renforce continuellement ChatGPT Atlas contre les attaques d’injection de prompts en utilisant une équipe rouge automatisée entraînée par l’apprentissage par renforcement. Cette approche proactive permet d’identifier tôt de nouveaux exploits et de renforcer les défenses de l’agent de navigateur, notamment à mesure que l’IA devient plus autonome.

LLMsActu

1 source

Recevez l'essentiel de l'IA chaque jour

Une sélection éditoriale quotidienne, sans bruit. Directement dans votre boîte mail.

Recevez l'essentiel de l'IA chaque jour