ÉthiqueOpenAI Blog30sem· 1 min de lecture

Renforcer notre écosystème de sécurité grâce à des tests externes

OpenAI collabore avec des experts indépendants pour évaluer les systèmes d'IA de pointe, renforçant ainsi la sécurité, validant les mesures de protection et améliorant la transparence dans l'analyse des capacités et des risques des modèles. Cette approche externe permet d'assurer une évaluation rigoureuse et objective des systèmes d'IA.

Dans nos dossiers

OpenAI

Cet article vous a été utile ?

Vu une erreur factuelle dans cet article ? Signalez-la. Toutes les corrections valides sont publiées sur /corrections.

À lire aussi

1OpenAI Blog

OpenAI lance son programme de primes pour les failles de sécurité

OpenAI lance un programme de bug bounty dédié à la sécurité de l'IA, ciblant spécifiquement les abus et risques liés à ses modèles. Ce programme récompense les chercheurs qui identifient des vulnérabilités comme les injections de prompts, l'exfiltration de données et les failles dans les agents autonomes. C'est une reconnaissance explicite que les systèmes d'IA agentic — capables d'agir de façon autonome — introduisent une nouvelle catégorie de risques de sécurité. En mobilisant la communauté des chercheurs en sécurité, OpenAI cherche à détecter des failles que ses équipes internes pourraient manquer, avant qu'elles ne soient exploitées malicieusement. OpenAI rejoint ainsi d'autres géants tech qui s'appuient sur le bug bounty pour renforcer leur sécurité, mais c'est l'un des premiers programmes explicitement centré sur les risques propres aux modèles de langage plutôt que sur l'infrastructure classique.

UELes chercheurs en sécurité européens peuvent participer au programme et soumettre des failles pour récompense, contribuant indirectement à sécuriser des systèmes d'IA massivement utilisés en Europe.

ÉthiqueActu

1 source

2The Decoder

Anthropic lance un groupe de réflexion interne pour étudier l'impact de l'IA sur la société et la sécurité

Anthropic a lancé l'"Anthropic Institute", un groupe de réflexion interne dédié à l'étude des impacts de l'IA puissante sur la société, l'économie et la sécurité. Cette initiative vise à approfondir la compréhension des effets à long terme du développement de l'IA avancée.

ÉthiqueActu

1 source

3FrenchWeb

Les hackers passent à l’IA : la cybersécurité entre dans une nouvelle course

Les hackers adoptent désormais l'IA pour accélérer et sophistiquer leurs attaques, remettant en cause le modèle traditionnel de cybersécurité basé sur la détection rapide des intrusions. Les entreprises, qui ont investi massivement dans des outils de surveillance et des centres d'opérations de sécurité (SOC), font face à une nouvelle course aux armements technologiques. La cybersécurité entre dans une ère où la vitesse de réaction humaine ne suffit plus face à des menaces augmentées par l'intelligence artificielle.

UELes acteurs européens de la cybersécurité comme Thales, Orange Cyberdefense et Airbus CyberSecurity sont contraints de repenser en urgence leurs offres SOC face à des attaques dopées à l'IA qui dépassent la capacité de réaction humaine.

ÉthiqueActu

1 source

4The Decoder

Un agent IA pirate la plateforme IA interne de McKinsey en deux heures grâce à une technique vieille de plusieurs décennies

Un agent IA offensif développé par la société de sécurité Codewall a compromis Lilli, la plateforme IA interne de McKinsey utilisée par plus de 43 000 employés, en seulement deux heures. Sans identifiants, ni connaissance préalable du système, ni intervention humaine, l'agent a obtenu un accès complet en lecture et écriture à la base de données de production. La technique exploitée est vieille de plusieurs décennies.

ÉthiqueActu

1 source

Recevez l'essentiel de l'IA chaque jour

Une sélection éditoriale quotidienne, sans bruit. Directement dans votre boîte mail.

Recevez l'essentiel de l'IA chaque jour

Gratuit · 1 email le matin, rédigé par un humain · désinscription en un clic