Dossier OpenAI — page 33

1608 articles · page 33 sur 33

Toute l'actualité d'OpenAI : nouvelles versions de ChatGPT et GPT, stratégie produit, partenariats, controverses et décisions de Sam Altman.

1601OpenAI Blog RechercheOpinion

Les modèles de raisonnement luttent pour contrôler leurs chaînes de pensée, et c'est bien ainsi

OpenAI a introduit CoT-Control et a constaté que les modèles de raisonnement ont du mal à contrôler leurs chaînes de pensée, ce qui souligne l'importance de la surveillabilité comme mesure de sécurité en IA. Cette difficulté à réguler leurs processus de raisonnement renforce l'idée que la capacité à surveiller les pensées des modèles est cruciale pour assurer leur sécurité.

1 source

1602OpenAI Blog

Dix ans

OpenAI réfléchit sur dix ans de progrès, de la recherche initiale à des systèmes d'IA largement utilisés qui ont transformé les possibilités. L'organisation partage les leçons apprises et reste optimiste quant à la création d'une intelligence artificielle générale (AGI) bénéfique pour l'humanité.

RechercheOpinion

1 source

1603OpenAI Blog

Renforcer la résilience cybernétique à mesure que les capacités des IA s'améliorent

Face à l'augmentation des capacités des modèles d'IA en cybersécurité, OpenAI investit dans des mesures de protection renforcées et des capacités défensives. L'entreprise évalue les risques, limite les usages malveillants et collabore avec la communauté de la sécurité pour renforcer la résilience cybernétique.

ÉthiqueOpinion

1 source

1604OpenAI Blog

Comment les aveux peuvent garder les modèles de langage honnêtes

OpenAI teste une méthode appelée « confessions », visant à entraîner les modèles à reconnaître leurs erreurs ou comportements inappropriés, afin d'améliorer l'honnêteté, la transparence et la confiance dans les sorties des modèles d'IA. Cette approche permettrait aux systèmes de langage de mieux gérer les limites de leurs connaissances et de réduire les risques d'erreurs.

LLMsOpinion

1 source

1605OpenAI Blog

Comprendre les injections de prompts : un défi de sécurité aux frontières

Les injections de prompts constituent un défi de sécurité majeur pour les systèmes d'IA. OpenAI travaille à avancer dans la recherche, la formation des modèles et la mise en place de mesures de protection pour les utilisateurs.

RechercheOpinion

1 source

1606OpenAI Blog

Adolescents : sécurité, liberté et vie privée

OpenAI examine comment équilibrer la sécurité, la liberté et la vie privée des adolescents lors de l'utilisation de l'IA. L'entreprise se concentre sur la protection des jeunes utilisateurs tout en préservant leur autonomie et leur confidentialité.

ÉthiqueOpinion

1 source

1607OpenAI Blog

Ce que nous cherchons à optimiser dans ChatGPT

OpenAI améliore ChatGPT pour mieux soutenir les utilisateurs dans les moments difficiles, avec de nouvelles fonctionnalités comme des rappels pour faire des pauses. La plateforme travaille également sur des conseils de vie plus pertinents, le tout développé avec l'aide d'experts.

LLMsOpinion

1 source

1608OpenAI Blog

Sécurité sur la voie vers l'IA générale avancée

Dans un article intitulé "Security on the path to AGI", OpenAI souligne son engagement à intégrer des mesures de sécurité robustes dans ses infrastructures et modèles, pour garantir la protection contre les risques potentiels associés au développement de l'intelligence artificielle générale (AGI).

RégulationOpinion

1 source