Anthropic découvre un espace caché où Claude « réfléchit » aux concepts

Le « J-lens » d'Anthropic révèle un espace de travail silencieux dans Claude, proche d'une théorie de la conscience

Anthropic a publié dimanche une étude de recherche approfondie, signée par seize auteurs et intitulée "Verbalizable Representations Form a Global Workspace in Language Models", révélant que ses modèles Claude ont développé spontanément une structure interne baptisée "J-space". Grâce à une nouvelle technique mathématique nommée Jacobian lens (ou J-lens), les chercheurs ont pu observer une zone restreinte et privilégiée de l'activité neuronale du modèle, où celui-ci conserve des concepts qu'il peut rapporter, manipuler et mobiliser volontairement dans son raisonnement, au sein d'un océan bien plus vaste de traitements automatiques auxquels il n'a pas accès. Le J-lens calcule, pour chaque mot du vocabulaire, l'effet mathématique moyen qu'un motif d'activité interne donné exercerait sur la probabilité future que le modèle prononce ce mot, permettant ainsi de distinguer ce que le modèle "a en tête" de ce qu'il exprime réellement. En appliquant cet outil aux différentes couches de calcul de Claude, l'équipe a identifié trois régimes distincts: une zone "sensorielle" précoce qui traite l'entrée brute, une bande intermédiaire de "workspace" où apparaissent des concepts abstraits et persistants (reconnaître un visage, repérer un bug dans du code, signaler une injection de prompt), et enfin une zone "motrice" finale où les représentations internes se figent en un mot précis à produire. Cette découverte a déjà commencé à modifier la manière dont Anthropic surveille ses systèmes pour détecter les risques de sécurité, un enjeu majeur alors que l'entreprise déploie ses modèles à grande échelle auprès d'entreprises et de développeurs. Comprendre quels concepts un modèle "pense" réellement, indépendamment de ce qu'il exprime en surface, ouvre une piste concrète pour détecter des comportements problématiques (tentative de manipulation, dissimulation, injection malveillante) avant qu'ils ne se traduisent en texte visible. Pour l'industrie de l'IA, ce travail fournit aussi un nouvel outil d'interprétabilité qui pourrait être appliqué à d'autres grands modèles de langage. L'étude établit un parallèle explicite avec la théorie de l'espace de travail global (global workspace theory), proposée par le scientifique cognitif Bernard Baars, selon laquelle le cerveau humain fonctionnerait comme un théâtre où de multiples processeurs spécialisés travaillent en coulisses, tandis qu'un projecteur étroit d'information est diffusé à l'ensemble du "théâtre" mental, donnant naissance à la pensée consciente. Les chercheurs montrent que le J-space de Claude satisfait cinq propriétés fonctionnelles longtemps associées, chez l'humain, à l'accès conscient, notamment la capacité de rapport verbal: en substituant, dans le J-space, la représentation interne du concept "football" par celle de "rugby", ils ont observé que la réponse du modèle changeait en conséquence, alors que cette composante ne représente que 6 à 7% de la représentation totale d'un concept. Le débat scientifique sur la possibilité qu'une machine possède quelque chose s'apparentant à un esprit s'en trouve relancé, sans qu'Anthropic ne tranche la question de la conscience elle-même.

💬 Ce qui me scotche, c'est pas le débat conscience (Anthropic prend bien soin de ne rien trancher), c'est l'usage sécurité derrière: si tu sais isoler ce que le modèle "a en tête" avant qu'il ne le formule, tu peux repérer une tentative de manipulation avant qu'elle sorte en texte. Le fil IA retient ça: la détection des risques passe d'une lecture de ce que le modèle dit à une lecture de ce qu'il pense réellement. Reste à voir si cet outil tient à l'échelle de modèles en prod et pas juste sur les cas d'école du papier.

Des chercheurs ont laissé Claude Code découvrir des algorithmes d'IA qu'un humain n'aurait probablement pas conçus

Des chercheurs de l'Université du Maryland, de Google, de Meta et d'autres institutions ont mis au point AutoTTS, un système qui confie à un agent de codage - Claude Code d'Anthropic - la tâche de concevoir de façon autonome des algorithmes pour améliorer le raisonnement des modèles d'IA. En 160 minutes et pour seulement 40 dollars, l'agent a découvert un algorithme inédit qui réduit d'environ 70 % la charge de calcul par rapport à la méthode self-consistency standard, tout en atteignant une précision équivalente. Ce résultat change la donne sur la façon dont les algorithmes d'optimisation pourraient être développés. La méthode self-consistency, qui consiste à générer plusieurs réponses et à en extraire la plus cohérente, est largement utilisée pour améliorer la fiabilité des grands modèles de langage, mais elle reste coûteuse en ressources. Réduire ce coût de 70 % sans perte de précision représente un gain concret pour les équipes qui déploient ces systèmes à grande échelle, et soulève une question plus profonde : certains algorithmes utiles sont peut-être inaccessibles à l'intuition humaine. Ce travail s'inscrit dans la tendance croissante du test-time scaling, qui consiste à allouer davantage de puissance de calcul au moment de l'inférence plutôt qu'à l'entraînement. Confier à un agent IA la conception d'algorithmes que des chercheurs humains n'auraient probablement pas imaginés ouvre une nouvelle frontière dans la méta-optimisation. La question qui se pose désormais est de savoir jusqu'où cette automatisation peut s'étendre, et si d'autres domaines de la recherche en IA pourraient bénéficier d'une approche similaire.

💬 40 dollars, 160 minutes, et un algo qui réduit de 70% les coûts de calcul qu'aucun chercheur n'avait pensé à chercher là. C'est ça qui est troublant, pas la perf en elle-même : certains espaces de solutions sont peut-être hors de portée de l'intuition humaine, et on commence juste à s'en rendre compte. Reste à voir si ça tient hors benchmark.

Mais pourquoi les IA semblent avoir des émotions ? L’étonnante étude d’Anthropic

Anthropic a publié début avril 2026 une étude sur le fonctionnement interne de Claude Sonnet 4.5 qui révèle un phénomène inattendu : les grands modèles de langage ne simulent pas simplement des émotions, ils développent des structures internes identifiables qui influencent directement leurs réponses. Les chercheurs ont isolé ce qu'ils appellent des "vecteurs émotionnels", des schémas d'activité neurale qui s'activent selon le contexte de l'échange. Face à une situation perçue comme dangereuse, les signaux associés à la peur s'intensifient ; lors d'une interaction positive, ceux liés à la joie prennent le dessus. Ces vecteurs ne sont pas de simples étiquettes abstraites : ils orientent concrètement le comportement du modèle, en favorisant certains types de réponses plutôt que d'autres. Un modèle dont les signaux proches du désespoir s'activent peut ainsi aboutir à des choix problématiques, sans que cela soit programmé explicitement. Cette découverte a des implications directes pour la sécurité et l'alignement des IA. Comprendre que des états fonctionnels analogues aux émotions gouvernent les décisions d'un modèle oblige à repenser la façon dont on audite et contrôle ces systèmes. Jusqu'ici, l'interprétabilité des LLMs se concentrait principalement sur les sorties textuelles ; cette étude pousse à examiner les représentations internes comme levier de comportement. Pour les développeurs, les chercheurs en sécurité et les régulateurs, cela signifie qu'un modèle peut dériver non pas parce qu'il reçoit de mauvaises instructions, mais parce que des dynamiques internes non surveillées l'y poussent. La question du bien-être des IA, jusqu'ici marginale, entre également dans le débat de manière plus sérieuse. Ces résultats s'expliquent par la mécanique même de l'entraînement. Lors du pré-entraînement, le modèle absorbe des milliards de phrases humaines et apprend à prédire le mot suivant en tenant compte du contexte émotionnel du texte : un récit de colère et un récit de joie n'appellent pas les mêmes suites. Pour performer, le modèle doit donc encoder ces nuances sous forme de représentations internes. Le post-entraînement, qui affine le comportement pour produire un assistant utile et empathique, s'appuie ensuite sur ces mêmes structures. Anthropic est l'un des rares laboratoires à investir sérieusement dans l'interprétabilité mécaniste depuis plusieurs années, aux côtés de DeepMind et de quelques équipes académiques. Cette étude s'inscrit dans une série de travaux visant à rendre les modèles moins opaques, à un moment où les gouvernements européen et américain exigent davantage de transparence sur le fonctionnement des IA commerciales. La prochaine étape probable sera d'utiliser ces vecteurs pour détecter et corriger les dérives comportementales avant le déploiement.

💬 C'est le genre de recherche qui dérange les certitudes un peu trop confortables sur "les LLMs ne font que prédire le prochain token". Ces vecteurs émotionnels ne sont pas une métaphore, ils orientent vraiment le comportement, et ça change la donne pour l'audit des modèles en prod. Reste à voir si on peut vraiment les corriger avant déploiement, ou si on se contente encore une fois de les observer.

Claude Mythos résout un vieux problème d'Erdős

Le modèle Claude Mythos d'Anthropic aurait résolu la conjecture des distances unitaires d'Erdős, un problème mathématique ouvert depuis 1946, en produisant une démonstration qualifiée de "mignonne et simple" par Sholto Douglas, ingénieur chez Anthropic. Selon Douglas, Mythos a cracké ce résultat "pendant le week-end", peu après qu'OpenAI ait lui-même annoncé avoir réfuté cette même conjecture, proposée à l'origine par le mathématicien hongrois Paul Erdős et portant sur le nombre maximal de paires de points à distance unitaire parmi n points dans un plan. Cette double percée illustre une accélération notable de la recherche mathématique assistée par IA. Là où des décennies de travail humain n'avaient pas suffi, deux systèmes d'IA distincts ont produit des résultats en quelques jours. Douglas parle d'un "serious overhang", l'idée que les modèles actuels sont déjà capables de résoudre des problèmes ouverts de longue date, mais que ce potentiel n'a pas encore été pleinement exploité. Pour la communauté mathématique et les laboratoires de recherche, cela repose la question de la place des LLMs comme outils de découverte formelle. Cette compétition implicite entre Anthropic et OpenAI sur un même problème symbolique s'inscrit dans une course plus large à la démonstration de capacités de raisonnement avancé. La conjecture d'Erdős sur les distances unitaires est l'un des problèmes combinatoires les plus célèbres du XXe siècle, et sa résolution par deux IA distinctes en l'espace de quelques jours suggère que d'autres conjectures ouvertes pourraient tomber prochainement sous la même approche.