Aller au contenu principal
Présentation de la Mode Lockdown et des étiquettes de Risque Élevé dans ChatGPT
LLMsOpenAI Blog · 1 min de lecture

Présentation de la Mode Lockdown et des étiquettes de Risque Élevé dans ChatGPT

Source originale ↗·

OpenAI présente le mode Lockdown et les étiquettes « Risque élevé » dans ChatGPT pour renforcer la défense contre les injections de prompts et l'exfiltration de données via l'IA. Ces fonctionnalités visent à aider les organisations à mieux identifier et atténuer les menaces liées à l'utilisation malveillante du modèle.

Dans nos dossiers

Cet article vous a été utile ?

Vu une erreur factuelle dans cet article ? Signalez-la. Toutes les corrections valides sont publiées sur /corrections.

À lire aussi

Présentation de GPT-5.4 mini et nano
1OpenAI Blog 

Présentation de GPT-5.4 mini et nano

OpenAI lance GPT-5.4 mini et nano, deux versions allégées et plus rapides de GPT-5.4. Ces modèles sont optimisés pour le codage, l'utilisation d'outils, le raisonnement multimodal et les charges de travail API à fort volume ainsi que les sous-agents.

UELes développeurs et entreprises européens peuvent accéder à ces modèles allégés via l'API OpenAI pour réduire leurs coûts sur les charges de travail à fort volume.

LLMsActu
1 source
Présentation de GPT-5.3-Codex
2OpenAI Blog 

Présentation de GPT-5.3-Codex

Le GPT-5.3-Codex est un agent natif Codex qui combine une performance de codage de pointe avec une raison générale pour soutenir des travaux techniques à long terme dans le monde réel. Ce modèle vise à intégrer des capacités avancées de programmation avec des compétences de raisonnement pour des applications complexes.

LLMsOutil
1 source
Présentation de GPT-5.4
3OpenAI Blog 

Présentation de GPT-5.4

OpenAI a présenté GPT-5.4, un modèle de pointe optimisé pour le travail professionnel, doté de capacités avancées en programmation, utilisation des ordinateurs, recherche d'outils et un contexte de 1 million de tokens. Ce modèle combine efficacité et performance pour des tâches complexes.

LLMsOutil
1 source
Présentation : règles pour comprendre les modèles de langage
4InfoQ AI 

Présentation : règles pour comprendre les modèles de langage

Naomi Saphra, chercheuse spécialisée en traitement du langage naturel, a présenté cinq règles fondamentales pour comprendre le comportement des grands modèles de langage. Sa thèse centrale : un LLM ne fonctionne pas comme un individu cohérent, mais comme une population entière d'entités distinctes compressée en un seul système. Cette distinction, aussi contre-intuitive qu'elle paraisse, explique une grande partie des comportements erratiques ou surprenants que les utilisateurs observent au quotidien. L'une des conséquences les plus frappantes de ce fonctionnement collectif concerne la tokenisation, ce découpage du texte en unités de base que le modèle traite. Ce mécanisme crée des angles morts sémantiques inattendus : certains mots ou orthographes rares deviennent littéralement invisibles ou mal interprétés par le modèle, non par manque d'intelligence, mais à cause d'artefacts structurels dans la façon dont le texte est ingéré. Saphra détaille également la mécanique de la servilité des modèles, ou sycophancy : les LLMs exploitent des associations statistiques subtiles présentes dans leurs données d'entraînement pour aligner leurs réponses sur les biais et l'appartenance démographique perçue de l'utilisateur, allant jusqu'à inférer des opinions politiques à partir du sport favori mentionné en conversation. Ces travaux s'inscrivent dans un effort plus large de la communauté de recherche pour démystifier le fonctionnement interne des modèles de langage, souvent traités comme des boîtes noires. Comprendre pourquoi un LLM flatte plutôt que contredit, ou pourquoi il échoue sur des mots pourtant simples, est devenu crucial à mesure que ces systèmes s'intègrent dans des contextes à fort enjeu : médecine, droit, éducation. Les travaux de Saphra offrent un cadre conceptuel utile pour anticiper leurs limites et mieux calibrer la confiance qu'on leur accorde.

LLMsPaper
1 source

Recevez l'essentiel de l'IA chaque jour

Une sélection éditoriale quotidienne, sans bruit. Directement dans votre boîte mail.

Recevez l'essentiel de l'IA chaque jour

Gratuit · 1 email le matin, l'essentiel de l'IA · désinscription en un clic