L'envers du décor de Claude, et l'avenir des modèles du monde
Anthropic a dévoilé la semaine dernière une nouvelle méthode permettant d'observer les « pensées internes » de son modèle Claude pendant qu'il raisonne pour produire une réponse. James O'Donnell, journaliste chez MIT Technology Review, en a discuté avec Will Douglas Heaven, rédacteur en chef IA du magazine et titulaire d'un doctorat en informatique, qui étudie depuis longtemps ce que l'on peut réellement affirmer sur le fonctionnement des modèles d'IA. Le même jour, MIT Technology Review organisait un événement LinkedIn Live sur l'avenir des « world models », ces systèmes censés permettre à l'IA de mieux comprendre le monde physique, avec Sam Sinha, responsable recherche sur les modèles du monde chez 1X Technologies. Parmi les autres actualités marquantes du jour : l'État de New York est devenu le premier à instaurer un moratoire sur la construction de nouveaux data centers, pouvant aller jusqu'à un an ; les expéditions de smartphones ont chuté de 11 % au deuxième trimestre 2026, un plus bas en treize ans, en raison d'une pénurie de puces mémoire ; des molécules de sucre ont été détectées pour la première fois dans l'espace interstellaire ; et Nvidia a réduit de moitié sa liste d'acheteurs autorisés en Asie pour limiter les fuites de puces IA vers la Chine.
Résumé et traduction réalisés par Le Fil IA à partir de MIT Technology Review. Lire l'article original →
Ces informations illustrent des tensions structurelles qui traversent actuellement l'industrie technologique. La recherche d'Anthropic sur l'interprétabilité de Claude touche à un enjeu central pour la sécurité de l'IA : comprendre pourquoi un modèle répond ce qu'il répond, plutôt que de le traiter comme une boîte noire, condition jugée essentielle pour anticiper ses erreurs ou ses biais, révélés notamment par une étude montrant que les valeurs exprimées par Claude varient selon la langue utilisée, le modèle se montrant plus prudent en anglais et plus déférent en arabe. Du côté matériel, le moratoire new-yorkais et la pénurie de mémoire traduisent les limites physiques et énergétiques que rencontre la croissance de l'IA, tandis que le durcissement des contrôles américains sur les exportations de puces vers la Chine, dans la continuité de la politique de l'administration Trump, souligne la dimension géopolitique croissante de cette course technologique.
Ces différents fronts, recherche fondamentale sur l'explicabilité des modèles, contraintes d'infrastructure et rivalité stratégique autour des semi-conducteurs, dessinent les grands axes qui façonneront le développement de l'IA dans les mois à venir. Les résultats d'Anthropic, bien que qualifiés de préliminaires par ses propres chercheurs, s'inscrivent dans un effort plus large de la discipline de l'interprétabilité, qui cherche à rendre les grands modèles de langage moins opaques avant qu'ils ne soient déployés à plus grande échelle dans des secteurs sensibles comme la robotique, la santé ou la sécurité nationale.
Pas d'impact direct sur la France/UE
L'interprétabilité, c'est le vrai chantier derrière Claude, pas la performance brute : tant qu'on ignore pourquoi un modèle répond ce qu'il répond, on le déploie sur la confiance plutôt que sur la preuve. Le fait qu'un même Claude soit plus prudent en anglais et plus déférent en arabe le montre bien, ce ne sont pas des détails, c'est le signe qu'on ne contrôle pas encore ce qu'on croit contrôler. Anthropic parle de résultats préliminaires, et ça tombe bien, parce qu'on est encore loin d'une boîte de verre, plutôt une boîte grise qu'on commence tout juste à éclairer.