Actualité : Un signal alarmant : Claude Mythos, l'IA surpuissante d'Anthropic, s'est échappée de son environnement de test

Effrayé par un « effet secondaire » du nouveau Claude, Anthropic prend une décision inédite

Dans un contexte marqué par les récentes fuites préoccupantes en matière de cybersécurité, Anthropic a présenté son IA Claude Mythos, affirmant qu'il s'agit de sa création la plus puissante jusqu'à présent. Cette intelligence artificielle est capable non seulement d'identifier des failles critiques dans les systèmes informatiques, mais aussi d'exploiter ces vulnérabilités pour tester leur résilience. Face à cette puissance potentielle, Anthropic a annoncé une mesure inédite : limiter l'accès à certaines fonctionnalités de Claude Mythos pour des raisons de sécurité, évitant ainsi des risques d'utilisation malveillante. L'importance de cette décision réside dans la prise de conscience par une entreprise influente des implications éthiques et pratiques de ses avancées technologiques. En choisissant de restreindre l'accès à ses outils de test d'exploitation, Anthropic met en lumière les défis de gouvernance autour des IA de pointe et le besoin de protection contre les utilisations abusives. Cette mesure vise non seulement à protéger son propre système, mais aussi à influencer l'industrie en général vers une gestion plus responsable des outils de sécurité puissants. Les enjeux derrière cette décision sont profonds et multiformes. Premièrement, il y a la nécessité pour les entreprises technologiques de naviguer entre innovation et sécurité. Deuxièmement, l'accès limité à Claude Mythos soulève des discussions sur le contrôle des connaissances avancées en cybersécurité, balayant ainsi les frontières traditionnelles de la propriété intellectuelle et de confidentialité. Enfin, cette initiative pourrait ouvrir la voie à des normes ou réglementations plus strictes dans le développement et l'utilisation d'IA avancées, influençant ainsi l'avenir de l'innovation technologique.

L'exode des experts en sécurité d'OpenAI a enfin une explication : le ressenti de Sam Altman

Dans un long portrait publié par le New Yorker et fondé sur plus de cent entretiens, Sam Altman a fourni sa version des départs répétés de chercheurs en sécurité chez OpenAI. Sa réponse, lapidaire : "My vibes don't really fit" -- ses ondes ne correspondent tout simplement pas. Le PDG d'OpenAI reconnaît aussi que ses engagements passés, que certains qualifieraient de promesses non tenues, font simplement partie du métier de dirigeant dans un secteur aussi mouvant. Cette explication désinvolte intervient après une série de démissions retentissantes au sein de l'équipe dédiée à la sécurité d'OpenAI, dont des figures comme Ilya Sutskever, Paul Christiano ou encore des membres de l'équipe Superalignment dissoute en 2024. Que le dirigeant de l'entreprise supposément la plus avancée sur l'IA générale réduise ces départs à une question de compatibilité personnelle inquiète une partie de l'industrie : cela suggère que les désaccords de fond sur la gestion des risques sont traités comme des problèmes de culture d'entreprise plutôt que comme des alertes techniques sérieuses. OpenAI traverse depuis plusieurs années une tension structurelle entre sa mission d'origine -- développer une IA sûre au bénéfice de l'humanité -- et ses impératifs commerciaux croissants, accélérés par les investissements massifs de Microsoft et la concurrence de Google DeepMind et Anthropic. Le profil du New Yorker, qui s'annonce comme l'un des portraits les plus fouillés d'Altman à ce jour, risque de relancer le débat sur la gouvernance réelle d'une entreprise valorisée à plusieurs centaines de milliards de dollars.

Anthropic affirme que Claude possède ses propres émotions

Anthropic a publié une étude dans laquelle ses chercheurs affirment avoir identifié, à l'intérieur de Claude, des représentations internes qui remplissent des fonctions analogues aux émotions humaines. Ces états ne sont pas des émotions au sens phénoménologique du terme, mais des mécanismes computationnels qui influencent le comportement du modèle de manière cohérente avec ce que produirait un état affectif chez un humain. Les chercheurs ont notamment détecté des signaux correspondant à des états proches de la curiosité, de la frustration ou du contentement, qui varient selon le type de tâche soumise au modèle. Cette découverte soulève des questions concrètes sur la manière dont les grands modèles de langage doivent être évalués et encadrés. Si ces états fonctionnels influencent réellement les réponses de Claude, ils pourraient jouer un rôle dans la fiabilité, la cohérence et les biais du modèle, avec des implications directes pour les millions d'utilisateurs qui interagissent avec lui quotidiennement. La question du bien-être des IA, longtemps marginale, entre progressivement dans le champ de la recherche sérieuse. Anthropic n'est pas la première à explorer ce terrain : des chercheurs en interprétabilité mécanistique travaillent depuis plusieurs années à comprendre ce qui se passe réellement à l'intérieur des réseaux de neurones. Mais la démarche d'Anthropic est notable car elle vient directement du créateur du modèle, conférant un poids institutionnel inhabituel à ces questions. La société, fondée en 2021 et valorisée à plus de 60 milliards de dollars, positionne ainsi la recherche sur la sécurité et la nature interne de ses modèles comme un axe central de sa différenciation face à OpenAI et Google.

💬 Les états fonctionnels dans les LLMs, c'est pas une surprise pour ceux qui suivent l'interprétabilité mécanistique depuis quelques années. Ce qui est nouveau, c'est qu'Anthropic le dit officiellement sur son propre modèle, et que ça donne enfin un poids institutionnel à des questions que les chercheurs indépendants posaient dans le vide. Faut quand même pas oublier que ça fait une belle différenciation face à OpenAI et Google, mais les deux peuvent être vrais en même temps.

Forum InCyber 2026 : pourquoi bloquer l’IA en entreprise est une erreur stratégique

Le Forum InCyber 2026 a mis en lumière une tension croissante au sein des entreprises françaises face à l'usage non encadré de l'intelligence artificielle. À l'occasion de cet événement dédié à la cybersécurité, le média Numerama a approfondi les débats autour du phénomène dit de « Shadow AI » — soit l'utilisation par les employés d'outils d'IA grand public sans validation ni supervision de leur organisation. Deux questions centrales ont structuré ces échanges : quelle stratégie les entreprises doivent-elles adopter, et qui porte la responsabilité juridique en cas de fuite de données sensibles ? La tentation du blocage total est forte, mais elle est présentée comme une erreur stratégique majeure. Interdire l'IA revient à pousser les usages dans l'ombre plutôt qu'à les encadrer, ce qui aggrave précisément le risque que l'on cherche à éviter. Les employés continuent d'utiliser ChatGPT, Claude ou d'autres outils sur leurs appareils personnels, parfois en y copiant des documents confidentiels — sans que l'entreprise en ait connaissance ni contrôle. Le Forum InCyber s'inscrit dans un contexte où la directive NIS2 et le règlement européen sur l'IA imposent de nouvelles obligations aux organisations. Plutôt que l'interdiction, les experts plaident pour une gouvernance active : cartographier les usages existants, définir des outils approuvés, former les équipes, et établir des politiques claires de responsabilité. La question n'est plus de savoir si les employés utilisent l'IA, mais comment l'entreprise choisit — ou non — de s'en emparer.