Pensée profonde Gemini 3: Progrès dans la science, la recherche et l'ingénierie

Progrès dans la recherche indépendante sur l'alignement de l'IA

OpenAI verse 7,5 millions de dollars au Projet d'alignement pour soutenir des recherches indépendantes sur l'alignement de l'intelligence artificielle, visant à renforcer les efforts mondiaux pour atténuer les risques liés à la sécurité et à la sûreté de l'intelligence artificielle générale (AGI). Ce financement vise à encourager des études non liées à des intérêts commerciaux, afin d'améliorer la compréhension et la gestion des défis de l'AGI.

Le programme NAIRR Science redéfinit la recherche scientifique grâce à l'infrastructure IA de NVIDIA

Le programme pilote NAIRR (National Artificial Intelligence Research Resource), lancé par la Fondation nationale des sciences américaine (NSF), a soutenu plus de 700 projets de recherche au cours des deux dernières années, dans des domaines aussi variés que la prédiction de structures protéiques et la gestion des épidémies infectieuses. NVIDIA a contribué au programme en fournissant aux chercheurs un accès dédié à au moins quatre nœuds DGX pendant un minimum d'un mois, accompagné d'un support technique continu. Parmi les projets phares figure le modèle Walrus, développé par le consortium Polymathic AI regroupant le Flatiron Institute, l'Université de Cambridge et le Lawrence Berkeley National Lab : entraîné sur un vaste jeu de données baptisé "the Well", ce modèle de fondation pour les simulations de fluides a été rendu public avec ses données, son code et ses poids. À l'Université du Michigan, le professeur Venkat Viswanathan a dirigé le développement de MIST (Molecular Insight SMILES Transformers), une famille de modèles moléculaires pré-entraînés sur des bases de données non étiquetées, affinés sur plus de 400 relations structure-propriété et capables d'égaler ou de surpasser l'état de l'art en électrochimie, chimie quantique et physiologie. MIST a été développé sur un cluster de 40 GPU NVIDIA DGX, complété par 200 000 heures GPU sur le cluster Polaris de l'ALCF. Ces travaux illustrent une accélération concrète du rythme de la découverte scientifique grâce à l'infrastructure GPU. En fusionnant MIST avec des grands modèles de langage généralistes, les chercheurs du Michigan rendent les calculs de chimie quantique accessibles à un public plus large de scientifiques computationnels, ouvrant la voie à des matériaux de stockage d'énergie de nouvelle génération pour l'électrification des transports lourds et aériens. Walrus, de son côté, vise à devenir le modèle de fondation le plus polyvalent jamais construit pour modéliser les comportements fluides, avec des applications potentielles dans l'industrie, la météorologie et l'ingénierie. Ces outils ne restent pas dans les laboratoires : leur mise à disposition publique accélère leur adoption et leur amélioration collective. Le programme NAIRR s'inscrit dans une stratégie plus large de démocratisation de l'accès à la puissance de calcul pour la recherche académique américaine, face à la concentration croissante des ressources IA dans le secteur privé. En offrant des allocations de GPU à des institutions universitaires, le NSF cherche à rééquilibrer les conditions de la recherche fondamentale à l'heure où les coûts d'entraînement explosent. NVIDIA, en fournissant à la fois du matériel et un accompagnement technique, consolide son positionnement comme infrastructure de référence pour la recherche scientifique. La suite du programme NAIRR, dont la pérennisation fait l'objet de discussions au Congrès, pourrait déterminer si les États-Unis maintiennent un avantage compétitif dans la recherche en IA publique face à des acteurs privés et étrangers de plus en plus puissants.

L'IA peut moderniser les logiciels de recherche, mais pas juger si la science est correcte

OpenAI et plusieurs partenaires académiques ont publié un rapport de terrain montrant que les agents de codage IA peuvent moderniser des logiciels de recherche scientifique laissés à l'abandon, avec des gains de performance atteignant jusqu'à 60 fois la vitesse d'origine. Ces outils ont été testés sur du code utilisé par des chercheurs, souvent ancien, mal documenté ou jamais optimisé, faute de temps ou de compétences en ingénierie logicielle au sein des équipes scientifiques. Les résultats montrent que les agents parviennent à réécrire, paralléliser et accélérer ces programmes de manière significative, sans intervention humaine lourde sur le code lui-même. Mais le rapport pointe une limite critique : ces systèmes se montrent, selon les mots des participants, "éloquents, convaincants, et confiants à tort d'une manière difficile à détecter". Autrement dit, un agent peut produire du code plus rapide et qui semble fonctionner, tout en introduisant des erreurs subtiles qui faussent les résultats scientifiques sans que cela saute aux yeux. Pour les chercheurs, l'enjeu n'est donc plus la vitesse d'exécution mais la fiabilité des conclusions tirées de ces calculs, un problème d'autant plus sensible que la science repose sur l'exactitude des données produites. Conséquence directe observée sur le terrain : le travail des chercheurs et ingénieurs ne se déplace plus vers l'écriture de code, largement prise en charge par l'IA, mais vers la vérification minutieuse de la justesse scientifique des résultats produits. Ce constat s'inscrit dans un débat plus large sur l'usage des agents de codage en recherche, où la promesse de gains de productivité se heurte à la nécessité de garder un contrôle humain rigoureux sur la validité des sorties, faute de quoi l'automatisation pourrait accélérer la production d'erreurs autant que celle des résultats.

💬 Bon, sur le papier c'est du concret enfin : 60 fois plus rapide sur du code de recherche que personne n'osait toucher, l'IA fait ce que les chercheurs n'ont ni le temps ni les compétences de faire eux-mêmes. Mais le vrai chiffre à retenir, c'est pas le facteur 60, c'est que le goulot d'étranglement se déplace de l'écriture du code vers sa vérification, et ça, personne n'a encore les outils pour le faire à l'échelle. Un agent confiant à tort et indétectable, dans un contexte où la science se construit sur l'exactitude des résultats, c'est le pire scénario possible : l'erreur ne ralentit pas la recherche, elle l'accélère.

Le « J-lens » d'Anthropic révèle un espace de travail silencieux dans Claude, proche d'une théorie de la conscience

Anthropic a publié dimanche une étude de recherche approfondie, signée par seize auteurs et intitulée "Verbalizable Representations Form a Global Workspace in Language Models", révélant que ses modèles Claude ont développé spontanément une structure interne baptisée "J-space". Grâce à une nouvelle technique mathématique nommée Jacobian lens (ou J-lens), les chercheurs ont pu observer une zone restreinte et privilégiée de l'activité neuronale du modèle, où celui-ci conserve des concepts qu'il peut rapporter, manipuler et mobiliser volontairement dans son raisonnement, au sein d'un océan bien plus vaste de traitements automatiques auxquels il n'a pas accès. Le J-lens calcule, pour chaque mot du vocabulaire, l'effet mathématique moyen qu'un motif d'activité interne donné exercerait sur la probabilité future que le modèle prononce ce mot, permettant ainsi de distinguer ce que le modèle "a en tête" de ce qu'il exprime réellement. En appliquant cet outil aux différentes couches de calcul de Claude, l'équipe a identifié trois régimes distincts: une zone "sensorielle" précoce qui traite l'entrée brute, une bande intermédiaire de "workspace" où apparaissent des concepts abstraits et persistants (reconnaître un visage, repérer un bug dans du code, signaler une injection de prompt), et enfin une zone "motrice" finale où les représentations internes se figent en un mot précis à produire. Cette découverte a déjà commencé à modifier la manière dont Anthropic surveille ses systèmes pour détecter les risques de sécurité, un enjeu majeur alors que l'entreprise déploie ses modèles à grande échelle auprès d'entreprises et de développeurs. Comprendre quels concepts un modèle "pense" réellement, indépendamment de ce qu'il exprime en surface, ouvre une piste concrète pour détecter des comportements problématiques (tentative de manipulation, dissimulation, injection malveillante) avant qu'ils ne se traduisent en texte visible. Pour l'industrie de l'IA, ce travail fournit aussi un nouvel outil d'interprétabilité qui pourrait être appliqué à d'autres grands modèles de langage. L'étude établit un parallèle explicite avec la théorie de l'espace de travail global (global workspace theory), proposée par le scientifique cognitif Bernard Baars, selon laquelle le cerveau humain fonctionnerait comme un théâtre où de multiples processeurs spécialisés travaillent en coulisses, tandis qu'un projecteur étroit d'information est diffusé à l'ensemble du "théâtre" mental, donnant naissance à la pensée consciente. Les chercheurs montrent que le J-space de Claude satisfait cinq propriétés fonctionnelles longtemps associées, chez l'humain, à l'accès conscient, notamment la capacité de rapport verbal: en substituant, dans le J-space, la représentation interne du concept "football" par celle de "rugby", ils ont observé que la réponse du modèle changeait en conséquence, alors que cette composante ne représente que 6 à 7% de la représentation totale d'un concept. Le débat scientifique sur la possibilité qu'une machine possède quelque chose s'apparentant à un esprit s'en trouve relancé, sans qu'Anthropic ne tranche la question de la conscience elle-même.

💬 Ce qui me scotche, c'est pas le débat conscience (Anthropic prend bien soin de ne rien trancher), c'est l'usage sécurité derrière: si tu sais isoler ce que le modèle "a en tête" avant qu'il ne le formule, tu peux repérer une tentative de manipulation avant qu'elle sorte en texte. Le fil IA retient ça: la détection des risques passe d'une lecture de ce que le modèle dit à une lecture de ce qu'il pense réellement. Reste à voir si cet outil tient à l'échelle de modèles en prod et pas juste sur les cas d'école du papier.