Dossier OpenAI — page 44

2163 articles · page 44 sur 44

Toute l'actualité d'OpenAI : nouvelles versions de ChatGPT et GPT, stratégie produit, partenariats, controverses et décisions de Sam Altman.

2151OpenAI Blog RechercheOpinion

Les modèles de raisonnement luttent pour contrôler leurs chaînes de pensée, et c'est bien ainsi

OpenAI a introduit CoT-Control et a constaté que les modèles de raisonnement ont du mal à contrôler leurs chaînes de pensée, ce qui souligne l'importance de la surveillabilité comme mesure de sécurité en IA. Cette difficulté à réguler leurs processus de raisonnement renforce l'idée que la capacité à surveiller les pensées des modèles est cruciale pour assurer leur sécurité.

1 source

2152OpenAI Blog

Dix ans

OpenAI réfléchit sur dix ans de progrès, de la recherche initiale à des systèmes d'IA largement utilisés qui ont transformé les possibilités. L'organisation partage les leçons apprises et reste optimiste quant à la création d'une intelligence artificielle générale (AGI) bénéfique pour l'humanité.

RechercheOpinion

1 source

2153OpenAI Blog

Renforcer la résilience cybernétique à mesure que les capacités des IA s'améliorent

Face à l'augmentation des capacités des modèles d'IA en cybersécurité, OpenAI investit dans des mesures de protection renforcées et des capacités défensives. L'entreprise évalue les risques, limite les usages malveillants et collabore avec la communauté de la sécurité pour renforcer la résilience cybernétique.

ÉthiqueOpinion

1 source

2154OpenAI Blog

Comment les aveux peuvent garder les modèles de langage honnêtes

OpenAI teste une méthode appelée « confessions », visant à entraîner les modèles à reconnaître leurs erreurs ou comportements inappropriés, afin d'améliorer l'honnêteté, la transparence et la confiance dans les sorties des modèles d'IA. Cette approche permettrait aux systèmes de langage de mieux gérer les limites de leurs connaissances et de réduire les risques d'erreurs.

LLMsOpinion

1 source

2155OpenAI Blog

Comprendre les injections de prompts : un défi de sécurité aux frontières

Les injections de prompts constituent un défi de sécurité majeur pour les systèmes d'IA. OpenAI travaille à avancer dans la recherche, la formation des modèles et la mise en place de mesures de protection pour les utilisateurs.

RechercheOpinion

1 source

2156OpenAI Blog

Adolescents : sécurité, liberté et vie privée

OpenAI examine comment équilibrer la sécurité, la liberté et la vie privée des adolescents lors de l'utilisation de l'IA. L'entreprise se concentre sur la protection des jeunes utilisateurs tout en préservant leur autonomie et leur confidentialité.

ÉthiqueOpinion

1 source

2157OpenAI Blog

Ce que nous cherchons à optimiser dans ChatGPT

OpenAI améliore ChatGPT pour mieux soutenir les utilisateurs dans les moments difficiles, avec de nouvelles fonctionnalités comme des rappels pour faire des pauses. La plateforme travaille également sur des conseils de vie plus pertinents, le tout développé avec l'aide d'experts.

LLMsOpinion

1 source

2158OpenAI Blog

Sécurité sur la voie vers l'IA générale avancée

Dans un article intitulé "Security on the path to AGI", OpenAI souligne son engagement à intégrer des mesures de sécurité robustes dans ses infrastructures et modèles, pour garantir la protection contre les risques potentiels associés au développement de l'intelligence artificielle générale (AGI).

RégulationOpinion

1 source

2159OpenAI Blog

Une jam session IA réunit 1 000 scientifiques

1,000 scientifiques participent à un jam session d'IA organisée par OpenAI en collaboration avec neuf laboratoires nationaux. C'est un événement inédit rassemblant des experts pour discuter et collaborer sur l'intelligence artificielle.

RechercheActu

1 source

2160OpenAI Blog

L'avènement de l'ère de l'intelligence

OpenAI a diffusé sa première publicité télévisée lors du Super Bowl pour sensibiliser le grand public aux possibilités offertes par l'IA. Le message met en avant le potentiel de l'intelligence artificielle à améliorer la productivité, apporter plus d'épanouissement et ouvrir de nouvelles opportunités, à l'image des grandes innovations technologiques qui ont transformé les générations précédentes.

BusinessActu

1 source

2161OpenAI Blog

Comprendre les tendances complexes grâce à une recherche approfondie

Grâce à la recherche approfondie d'OpenAI, Bain & Company acquiert une compréhension plus profonde des tendances industrielles complexes. Cette collaboration met en évidence l'utilisation efficace de l'IA pour analyser des données intricates et fournir des insights stratégiques.

RechercheActu

1 source

2162OpenAI Blog

Fiche système de l'opérateur

Cet article décrit les mesures de sécurité mises en place par l'opérateur System Card, s'appuyant sur les cadres de sécurité établis par OpenAI. Il détaille une approche multicouche comprenant des atténuations de modèle et de produit pour protéger contre l'ingénierie des prompts et les échappées, ainsi que des efforts de renforcement des sécurités externes, d'évaluations de sécurité et d'améliorations continues.

RégulationActu

1 source

2163OpenAI Blog

L'infrastructure Stargate

OpenAI, en collaboration avec ses partenaires stratégiques, partage une vision pour l'infrastructure de l'IA Avancée. Ils cherchent à collaborer avec des entreprises de divers secteurs, y compris l'énergie, les terrains, la construction et l'équipement, pour accomplir leur mission ambitieuse.

BusinessActu

1 source