Dossier OpenAI — page 23

1111 articles · page 23 sur 23

Toute l'actualité d'OpenAI : nouvelles versions de ChatGPT et GPT, stratégie produit, partenariats, controverses et décisions de Sam Altman.

1101OpenAI Blog RechercheOpinion

Les modèles de raisonnement luttent pour contrôler leurs chaînes de pensée, et c'est bien ainsi

OpenAI a introduit CoT-Control et a constaté que les modèles de raisonnement ont du mal à contrôler leurs chaînes de pensée, ce qui souligne l'importance de la surveillabilité comme mesure de sécurité en IA. Cette difficulté à réguler leurs processus de raisonnement renforce l'idée que la capacité à surveiller les pensées des modèles est cruciale pour assurer leur sécurité.

1 source

1102OpenAI Blog

Dix ans

OpenAI réfléchit sur dix ans de progrès, de la recherche initiale à des systèmes d'IA largement utilisés qui ont transformé les possibilités. L'organisation partage les leçons apprises et reste optimiste quant à la création d'une intelligence artificielle générale (AGI) bénéfique pour l'humanité.

RechercheOpinion

1 source

1103OpenAI Blog

Renforcer la résilience cybernétique à mesure que les capacités des IA s'améliorent

Face à l'augmentation des capacités des modèles d'IA en cybersécurité, OpenAI investit dans des mesures de protection renforcées et des capacités défensives. L'entreprise évalue les risques, limite les usages malveillants et collabore avec la communauté de la sécurité pour renforcer la résilience cybernétique.

ÉthiqueOpinion

1 source

1104OpenAI Blog

Comment les aveux peuvent garder les modèles de langage honnêtes

OpenAI teste une méthode appelée « confessions », visant à entraîner les modèles à reconnaître leurs erreurs ou comportements inappropriés, afin d'améliorer l'honnêteté, la transparence et la confiance dans les sorties des modèles d'IA. Cette approche permettrait aux systèmes de langage de mieux gérer les limites de leurs connaissances et de réduire les risques d'erreurs.

LLMsOpinion

1 source

1105OpenAI Blog

Comprendre les injections de prompts : un défi de sécurité aux frontières

Les injections de prompts constituent un défi de sécurité majeur pour les systèmes d'IA. OpenAI travaille à avancer dans la recherche, la formation des modèles et la mise en place de mesures de protection pour les utilisateurs.

RechercheOpinion

1 source

1106OpenAI Blog

Adolescents : sécurité, liberté et vie privée

OpenAI examine comment équilibrer la sécurité, la liberté et la vie privée des adolescents lors de l'utilisation de l'IA. L'entreprise se concentre sur la protection des jeunes utilisateurs tout en préservant leur autonomie et leur confidentialité.

ÉthiqueOpinion

1 source

1107OpenAI Blog

Ce que nous cherchons à optimiser dans ChatGPT

OpenAI améliore ChatGPT pour mieux soutenir les utilisateurs dans les moments difficiles, avec de nouvelles fonctionnalités comme des rappels pour faire des pauses. La plateforme travaille également sur des conseils de vie plus pertinents, le tout développé avec l'aide d'experts.

LLMsOpinion

1 source

1108OpenAI Blog

Sécurité sur la voie vers l'IA générale avancée

Dans un article intitulé "Security on the path to AGI", OpenAI souligne son engagement à intégrer des mesures de sécurité robustes dans ses infrastructures et modèles, pour garantir la protection contre les risques potentiels associés au développement de l'intelligence artificielle générale (AGI).

RégulationOpinion

1 source

1109OpenAI Blog

Comprendre les tendances complexes grâce à une recherche approfondie

Grâce à la recherche approfondie d'OpenAI, Bain & Company acquiert une compréhension plus profonde des tendances industrielles complexes. Cette collaboration met en évidence l'utilisation efficace de l'IA pour analyser des données intricates et fournir des insights stratégiques.

RechercheActu

1 source

1110OpenAI Blog

Fiche système de l'opérateur

Cet article décrit les mesures de sécurité mises en place par l'opérateur System Card, s'appuyant sur les cadres de sécurité établis par OpenAI. Il détaille une approche multicouche comprenant des atténuations de modèle et de produit pour protéger contre l'ingénierie des prompts et les échappées, ainsi que des efforts de renforcement des sécurités externes, d'évaluations de sécurité et d'améliorations continues.

RégulationActu

1 source

1111OpenAI Blog

L'infrastructure Stargate

OpenAI, en collaboration avec ses partenaires stratégiques, partage une vision pour l'infrastructure de l'IA Avancée. Ils cherchent à collaborer avec des entreprises de divers secteurs, y compris l'énergie, les terrains, la construction et l'équipement, pour accomplir leur mission ambitieuse.

BusinessActu

1 source