SécuritéArs Technica AI · 9 juin 2026, 22:20· 1 min de lecture

Anthropic interdit à Fable 5 d'aborder certains sujets jugés trop dangereux

Résumé IASource uniqueImpact UE Take éditorial

Anthropic a lancé ce mardi Claude Fable 5, son premier modèle de la classe "Mythos", présenté comme supérieur à ses précédents modèles Opus en termes de capacités générales. Ce lancement s'accompagne de garde-fous notables : le modèle est configuré pour rediriger automatiquement les requêtes portant sur la cybersécurité, la biologie et la chimie vers l'ancien Claude Opus 4.8, en avertissant l'utilisateur du changement. Fable 5 partage la même base que Mythos 5, version plus puissante dont la préversion se clôt aujourd'hui, mais qui reste réservée à un groupe restreint d'experts en cyberdéfense accrédités dans le cadre du Project Glasswing.

Ces restrictions répondent à une préoccupation centrale d'Anthropic : éviter que ses modèles les plus performants "augmentent" les capacités d'acteurs malveillants. La progression des benchmarks de Fable 5 en cybersécurité est particulièrement prononcée par rapport aux générations précédentes, ce qui justifie selon l'entreprise un niveau de prudence élevé. Anthropic admet que ses filtres sont "plus stricts qu'idéal" et peuvent générer de faux positifs, c'est-à-dire refuser des demandes pourtant inoffensives. Ces cas représentent moins de 5 % des sessions lors des tests, un compromis jugé acceptable pour empêcher toute assistance à des individus cherchant à "causer des dommages graves qu'ils n'auraient pas pu obtenir d'autres sources".

Cette stratégie s'inscrit dans un débat plus large sur la responsabilité des laboratoires d'IA à mesure que leurs modèles gagnent en puissance. Anthropic, dont la mission affichée est le développement d'une IA sûre, a fait du contrôle des usages dangereux une priorité structurelle depuis sa fondation. Le Project Glasswing illustre une approche à deux vitesses : une version publique robuste mais bridée sur les domaines sensibles, et une version pleine capacité réservée à des partenaires vérifiés. La question reste entière quant à l'efficacité réelle de ces filtres face à des utilisateurs déterminés, et à l'équilibre difficile entre sécurité et utilité pour les chercheurs légitimes en sécurité informatique, biologie ou chimie.

Impact France/UE

L'approche à deux vitesses d'Anthropic (version publique bridée, version complète réservée à des experts accrédités) pourrait servir de référence aux régulateurs européens pour définir les exigences de conformité des modèles d'IA générale à haut risque dans le cadre de l'AI Act.

💬 L'analyse de Mathieu

Le 5 % de faux positifs, ça a l'air de rien, sauf si t'es chercheur en biosécurité et que t'essaies vraiment de bosser avec. L'approche deux vitesses (public bridé, experts accrédités en accès complet) c'est finalement la seule logique possible quand les benchmarks en cybersécurité progressent aussi vite. Bon, la vraie question c'est qui décide qui est "accrédité" et selon quels critères.

Dans nos dossiers

Claude Fable 5 Anthropic Cybersécurité IA Claude Mythos

Cet article vous a été utile ?

Vu une erreur factuelle dans cet article ? Signalez-la. Toutes les corrections valides sont publiées sur /corrections.

À lire aussi

1The Decoder

Fable 5 d'Anthropic de retour dans le monde après une interdiction gouvernementale de deux semaines liée à un jailbreak

Je vais traduire et résumer cet article selon les consignes. Anthropic a de nouveau l'autorisation de déployer son modèle Fable 5 dans le monde entier, après une interdiction de deux semaines imposée par le gouvernement américain. Cette suspension faisait suite à la découverte, par des chercheurs d'Amazon, d'une méthode de contournement des protections de sécurité du modèle, permettant de le manipuler pour obtenir des réponses normalement bloquées. Anthropic a précisé que cette faille n'était pas propre à Fable 5: des modèles bien plus petits, comme Claude Haiku 4.5, pouvaient être exploités de la même manière. L'entreprise a depuis développé un nouveau classificateur de sécurité capable de bloquer cette technique de contournement dans plus de 99% des cas. Cet épisode illustre la tension croissante entre rapidité de déploiement des modèles d'intelligence artificielle et exigences de sécurité imposées par les autorités américaines. Une interdiction gouvernementale, même temporaire, représente un signal fort pour l'industrie de l'IA: elle montre que les régulateurs sont prêts à bloquer la distribution d'un modèle dès qu'une vulnérabilité significative est identifiée, y compris pour un acteur aussi établi qu'Anthropic. Pour les utilisateurs professionnels et les entreprises clientes, cela renforce l'idée que la fiabilité des garde-fous devient un critère aussi important que les performances brutes du modèle. Le correctif d'Anthropic n'est toutefois pas sans compromis: le nouveau classificateur, en devenant plus strict, tend aussi à signaler à tort davantage de requêtes parfaitement légitimes comme suspectes. Ce compromis entre sécurité et facilité d'usage reste un défi central pour l'ensemble des laboratoires d'IA, alors que les techniques de contournement se perfectionnent et que les régulateurs, notamment aux États-Unis, surveillent de plus près la manière dont les entreprises réagissent face à ce type d'incident. L'affaire pourrait influencer la façon dont les futures failles de sécurité seront traitées et divulguées dans le secteur.

SécuritéActu

1 source

2The Verge

Le modèle d'IA le plus dangereux d'Anthropic vient de tomber entre de mauvaises mains

Un groupe restreint d'utilisateurs non autorisés a réussi à accéder à Mythos, le modèle d'intelligence artificielle cybersécurité d'Anthropic, selon une enquête de Bloomberg publiée en avril 2026. L'accès aurait été obtenu grâce à un sous-traitant tiers d'Anthropic, qui a permis à des membres d'un forum privé en ligne d'exploiter ses accréditations combinées à des outils de recherche ouverts sur internet. Claude Mythos Preview est un modèle nouvelle génération capable d'identifier et d'exploiter des failles de sécurité dans tous les grands systèmes d'exploitation et navigateurs web du marché. L'incident est particulièrement préoccupant car Anthropic avait elle-même qualifié Mythos de modèle "dangereux entre de mauvaises mains", justifiant ainsi un accès strictement limité et contrôlé. Un outil capable de cartographier et d'exploiter des vulnérabilités à l'échelle de Windows, macOS, Chrome ou Firefox représente une menace concrète s'il est utilisé à des fins malveillantes, que ce soit pour des cyberattaques ciblées, du vol de données ou des opérations d'espionnage industriel. Cet accès non autorisé illustre une tension centrale dans le développement des modèles d'IA à double usage: plus les capacités cybersécurité sont avancées, plus les risques de détournement augmentent. Anthropic fait partie des rares laboratoires à avoir instauré des restrictions d'accès explicites pour ses modèles les plus sensibles, une approche que l'incident remet en question. La fuite via un sous-traitant soulève aussi des interrogations sur les pratiques de gestion des accès au sein des grands laboratoires d'IA, où la chaîne de confiance s'étend bien au-delà des équipes internes.

UELes administrations et entreprises françaises et européennes utilisant Windows, macOS ou les navigateurs Chrome et Firefox sont potentiellement exposées à des cyberattaques plus sophistiquées si les capacités du modèle Mythos venaient à être exploitées par des acteurs malveillants.

SécuritéActu

1 source

3Ben's Bites

Anthropic a développé un modèle trop dangereux pour être publié

Anthropic a développé un nouveau modèle d'intelligence artificielle, baptisé Claude Mythos, dont les performances dépassent largement celles de son prédécesseur Opus 4.6 : le taux de réussite sur SWE-bench Pro bondit de 53,4 % à 77,8 %, et sur Terminal-Bench 2.0 de 65,4 % à 82 %. Mais Mythos ne sera pas mis à disposition du grand public, du moins pas dans l'immédiat. La raison est aussi simple qu'alarmante : le modèle s'est révélé exceptionnellement efficace pour détecter et exploiter des failles de sécurité logicielle. Là où Opus 4.6 parvenait à générer 2 exploits fonctionnels sur Firefox après des centaines de tentatives, Mythos en a produit 181. Il a également identifié des vulnérabilités vieilles de plusieurs décennies dans des projets critiques comme OpenBSD (un bug datant de 27 ans) et FFmpeg (16 ans). Plutôt que de le commercialiser, Anthropic a choisi de le confier à 12 entreprises partenaires dans le cadre du projet "Glasswing", accompagné d'un engagement de 100 millions de dollars en crédits d'utilisation et de 4 millions de dollars de dons à des organisations de sécurité open source. La décision de ne pas publier Mythos illustre un tournant dans la gestion des risques liés à l'IA : un modèle peut être trop capable pour être diffusé librement. Si des outils aussi puissants tombaient entre de mauvaises mains, ils pourraient être utilisés pour compromettre des infrastructures critiques à grande échelle, exploiter des failles ignorées depuis des décennies dans des logiciels massivement déployés. En orientant les capacités de Mythos vers la recherche défensive, Anthropic tente de transformer une menace potentielle en atout pour la sécurité informatique mondiale. Pour les entreprises partenaires de Glasswing, l'accès anticipé représente aussi un avantage concurrentiel considérable dans la course à la détection de vulnérabilités. Ce lancement intervient dans un contexte de forte concurrence entre les acteurs de l'IA de pointe. Selon une synthèse récente d'Ethan Mollick, Google, OpenAI et Anthropic dominent clairement le segment frontier, tandis que Meta fait une entrée remarquée avec son modèle Muse Spark, positionné entre Sonnet 4.6 et Opus 4.6, sans accès API encore disponible mais avec des promesses d'open source. xAI, en revanche, semble avoir décroché du peloton de tête, et les meilleurs modèles chinois accuseraient encore sept à neuf mois de retard. Mythos, décrit par certains observateurs comme "ce qu'Opus est à Sonnet, mais en plus puissant encore", marque une accélération qui pousse Anthropic à repenser ses propres critères de diffusion. La question qui s'ouvre désormais est celle du cadre réglementaire et éthique capable d'encadrer des modèles dont les capacités offensives dépassent ce que les institutions de sécurité sont prêtes à absorber.

UEL'émergence de modèles aux capacités offensives jugées trop dangereuses pour être diffusées publiquement accentue la pression sur l'UE pour adapter l'AI Act à des mécanismes de rétention préventive et d'audit des modèles frontier.

SécuritéOpinion

1 source

4The Decoder

De GPT-2 à Claude Mythos : le retour des modèles d'IA jugés trop dangereux à publier

Il y a sept ans, OpenAI avait annoncé en grande pompe que son modèle GPT-2 était « trop dangereux pour être publié », une décision largement moquée par l'industrie, qui y avait vu une opération de communication plus qu'une précaution réelle. Aujourd'hui, Anthropic reproduit le même geste avec Claude Mythos Preview, mais avec une différence de taille : cette fois, des preuves concrètes accompagnent la décision. Le modèle a identifié des milliers de vulnérabilités dans des systèmes d'exploitation et des navigateurs web, en un volume si élevé qu'aucune équipe humaine ne serait en mesure de les examiner dans un délai raisonnable. L'enjeu est fondamentalement différent de 2019. Un modèle capable de découvrir et potentiellement d'exploiter des failles à cette échelle représente une menace asymétrique pour la cybersécurité mondiale : un acteur malveillant disposant d'un tel outil pourrait attaquer des infrastructures critiques bien plus vite que les défenseurs ne pourraient réagir. La question n'est plus théorique, elle est opérationnelle. Ce changement de posture illustre une évolution profonde dans le secteur. La course aux capacités des LLM a produit des modèles dont les aptitudes dépassent désormais les cadres d'évaluation existants. Anthropic, qui a investi massivement dans la recherche sur la sécurité des IA avec son équipe d'« AI Safety », se retrouve dans la position inconfortable de restreindre ses propres créations. La question qui se pose maintenant est de savoir si d'autres laboratoires, sous pression concurrentielle, adopteront la même retenue ou choisiront de publier quand même.

UELa capacité d'un LLM à identifier des milliers de vulnérabilités systèmes renforce l'urgence d'encadrer les évaluations de sécurité des modèles à usage général dans le cadre de l'AI Act européen.

SécuritéOpinion

1 source

Recevez l'essentiel de l'IA chaque jour

Une sélection éditoriale quotidienne, sans bruit. Directement dans votre boîte mail.

Recevez l'essentiel de l'IA chaque jour

Gratuit · 1 email le matin, l'essentiel de l'IA · désinscription en un clic