Aller au contenu principal

Recherche

50 sur 857 articles

Dernières avancées en recherche IA : papers, découvertes scientifiques, deep learning et nouvelles architectures.

L'IA scientifique a besoin de raisonnement, pas seulement de données
1MIT Technology Review RechercheOpinion

L'IA scientifique a besoin de raisonnement, pas seulement de données

Demis Hassabis et John Jumper, de Google DeepMind, ont reçu en 2024 une partie du prix Nobel de chimie pour AlphaFold, un réseau de neurones capable de prédire la structure tridimensionnelle des protéines à partir de milliers de formes mesurées expérimentalement. Ce problème, resté insoluble pendant un demi-siècle, semblait enfin réglé, et Hassabis a présenté AlphaFold comme le modèle permettant à l'intelligence artificielle d'accélérer l'ensemble de la science. La clé de cette réussite tient à la Protein Data Bank, une base de données d'environ 170 000 structures protéiques validées expérimentalement, construite en 53 ans de coopération scientifique internationale pour un coût estimé à 21 milliards de dollars. Ce succès rappelle d'autres annonces prématurées de la "fin de la science", comme celle du physicien Albert Michelson en 1903 ou celle de Stephen Hawking dans les années 1980, qui prédisait la fin de la physique théorique avant l'an 2000. L'enthousiasme suscité par AlphaFold a poussé des dizaines de start-up à lever des milliards de dollars pour développer des modèles de fondation appliqués à la biologie, la chimie et la découverte de matériaux, convaincues que la combinaison de l'IA et de données massives suffirait à reproduire cet exploit dans d'autres disciplines. Or cette hypothèse s'avère fragile : les conditions qui ont permis AlphaFold sont rares et ne se reproduiront pas ailleurs avant des décennies, ce qui remet en question la stratégie d'investissement de toute une partie de l'industrie biotech et pharmaceutique. Pour les chercheurs comme pour les financeurs, cela signifie qu'il faut revoir les attentes placées dans une accélération rapide et généralisée de la découverte scientifique par l'IA. Le principal obstacle est la difficulté, voire l'impossibilité scientifique, de produire des jeux de données comparables à la Protein Data Bank dans la plupart des disciplines. La cristallographie des protéines, technique à l'origine de plus de 25 prix Nobel, est exceptionnellement fiable et reproductible, alors que dans la majorité des sciences expérimentales, les résultats varient fortement d'une mesure à l'autre : les lignées cellulaires dérivent, les produits chimiques contiennent des traces de contaminants, l'humidité des laboratoires fluctue. Seuls quelques domaines, comme la prévision météorologique, certains pans de la génomique ou des zones très limitées de la chimie, réunissent les conditions nécessaires à des percées comparables, une piste que la Commission américaine de sécurité nationale sur les biotechnologies émergentes appelle à soutenir par un financement public accru. Pour le reste de la recherche, une autre approche gagne du terrain : les agents d'IA capables de raisonner dans l'incertitude, à l'image des scientifiques eux-mêmes, plutôt que de simplement apprendre à partir de données massives.

UELes start-ups et laboratoires europeens de biotech misant sur l'IA pour la decouverte scientifique devraient revoir leurs attentes de rentabilite rapide.

1 source
Ces startups en quête de la prochaine avancée majeure des LLM
2MIT Technology Review 

Ces startups en quête de la prochaine avancée majeure des LLM

Une nouvelle génération de startups s'attaque aux limites des transformeurs, l'architecture qui sous-tend la quasi-totalité des grands modèles de langage actuels. Ce mécanisme a été décrit pour la première fois en 2017 par des chercheurs de Google dans l'article fondateur "Attention Is All You Need". Neuf ans plus tard, selon Justin Dangel, cofondateur et PDG de la startup Subquadratic, "l'ensemble de l'industrie de l'IA repose sur les transformeurs" qui ont "changé le monde". Mais leur mécanisme central, l'attention dense, qui compare chaque mot d'un texte à tous les autres pour en capturer le sens, devient très coûteux à mesure que les documents s'allongent : un texte de 10 000 mots peut nécessiter environ 50 millions de multiplications. Cette explosion des calculs explique en grande partie la consommation énergétique massive des modèles actuels. OpenAI prévoit ainsi de dépenser 50 milliards de dollars en puissance de calcul cette année, selon son président Greg Brockman, et l'Agence internationale de l'énergie anticipe un doublement de la consommation électrique des centres de données d'ici 2030. Cette limite technique a des conséquences concrètes pour toute l'industrie. Les modèles les plus récents, notamment les modèles dits "de raisonnement" qui rédigent des notes intermédiaires (une "chaîne de pensée") avant de répondre, ou les agents qui doivent ingérer d'immenses quantités de données comme des bibliothèques de documents entières ou des bases de code, ont besoin de fenêtres de contexte toujours plus larges. Or les transformeurs, en traitant le texte mot par mot, peinent justement à conserver en mémoire de très grands volumes d'informations. Ce qui faisait la force du transformeur, sa capacité à analyser finement chaque relation entre les mots, devient donc un frein à la progression des modèles vers des tâches plus complexes, plus rapides et moins coûteuses à exécuter. Face à ce constat, plusieurs jeunes entreprises, dont Subquadratic, cherchent à repenser les fondations de l'IA générative plutôt que de se contenter de correctifs temporaires. Une des pistes explorées consiste à remplacer l'attention dense par une attention dite "sparse" (éparse), qui ne calcule les relations que pour certaines paires de mots plutôt que pour l'ensemble d'un texte, réduisant ainsi drastiquement la charge de calcul. Cette approche n'est pas nouvelle en soi, plusieurs chercheurs ayant déjà proposé des variantes d'attention éparse par le passé sans obtenir de résultats aussi convaincants que l'attention dense classique. Ces startups, moins exposées que les géants déjà installés du secteur, misent sur le fait qu'elles ont peu à perdre et beaucoup à gagner si l'une de leurs innovations parvient à surpasser l'architecture dominante actuelle.

UEAucune entreprise francaise ou europeenne n'est citee, mais la hausse de la consommation energetique des data centers evoquee concerne aussi les infrastructures europeennes.

RecherchePaper
1 source
Les lecteurs préfèrent les histoires courtes générées par IA, jusqu'à ce qu'ils apprennent qui les a écrites
3The Decoder 

Les lecteurs préfèrent les histoires courtes générées par IA, jusqu'à ce qu'ils apprennent qui les a écrites

Voici le résumé traduit en article autonome de 3 paragraphes. Une étude portant sur plus de 2 500 participants révèle que les lecteurs sont incapables de distinguer des nouvelles générées par ChatGPT de textes écrits par des humains, leurs performances n'étant pas meilleures que le simple hasard. Plus surprenant encore, les récits produits par l'intelligence artificielle ont été jugés globalement de meilleure qualité que ceux rédigés par des auteurs humains lors de l'évaluation initiale. Cette tendance s'est toutefois inversée dès que les participants apprenaient qu'un texte donné avait été écrit par une machine : les notes attribuées chutaient alors sensiblement, indépendamment de la qualité littéraire réelle du contenu. Ces résultats mettent en lumière un biais psychologique important qui pourrait peser lourdement sur l'avenir de la création littéraire assistée par IA. Ils suggèrent que le jugement porté sur une œuvre ne dépend pas uniquement de sa qualité intrinsèque, mais aussi, et peut-être surtout, de la simple connaissance de son origine. Pour les maisons d'édition, les plateformes de publication et les créateurs de contenu, cela pose une question stratégique délicate : divulguer l'usage de l'IA dans un processus créatif pourrait pénaliser injustement une œuvre par ailleurs appréciée, alors que la dissimuler soulève des enjeux éthiques et de transparence vis-à-vis du public. Ce constat s'inscrit dans un débat plus large sur la place de l'intelligence artificielle générative dans les industries créatives, où la qualité technique des productions de modèles comme ChatGPT continue de progresser rapidement, brouillant de plus en plus la frontière avec la production humaine. Les défenseurs de la création artistique traditionnelle y voient une confirmation que la valeur accordée à une œuvre repose en partie sur l'intention et l'authenticité de son auteur, et non seulement sur le résultat final. À mesure que les outils d'IA générative se perfectionnent et se généralisent dans l'édition, le journalisme ou le scénario, la question de la divulgation obligatoire de leur usage devrait continuer à alimenter les discussions réglementaires et déontologiques.

UECe debat sur la divulgation des contenus generes par IA rejoint les obligations de transparence prevues par l'AI Act europeen, sans qu'aucun acteur francais ou europeen ne soit directement implique dans l'etude.

💬 Ce qui saute aux yeux, c'est que le jugement littéraire n'est jamais neutre : les mêmes textes notés bons deviennent médiocres dès qu'on colle l'étiquette "IA" dessus. Ça confirme un truc que je répète depuis un moment, la vraie bataille des éditeurs ne sera pas technique mais de divulgation, avec un dilemme cash : cacher l'usage de l'IA et tricher sur la confiance du lecteur, ou l'afficher et plomber des œuvres qui tenaient très bien la route à l'aveugle. Sur le papier l'AI Act pousse vers la transparence obligatoire, mais cette étude montre que la transparence elle-même fabrique le biais qu'elle est censée corriger.

RecherchePaper
1 source
La percée de DeepMind sur les ouragans surprend les scientifiques
4Ars Technica AI 

La percée de DeepMind sur les ouragans surprend les scientifiques

DeepMind, filiale d'Alphabet, a publié jeudi une étude dans la revue Nature démontrant les performances exceptionnelles de son modèle d'intelligence artificielle WeatherNext pour la prévision des cyclones. Développé conjointement par Google DeepMind et Google Research, ce système a fait ses preuves en octobre 2025 lors de la tempête qui allait devenir l'ouragan Melissa dans les Caraïbes. Alors que les modèles météorologiques classiques divergeaient sur sa trajectoire, hésitant entre un affaiblissement vers Haïti et une intensification vers la Jamaïque, WeatherNext avait prédit cinq jours avant l'arrivée à terre, avec 80% de confiance, que le système frapperait la Jamaïque en tant qu'ouragan de catégorie 5. La prévision s'est révélée exacte : Melissa a effectivement dévasté l'île, provoquant inondations et glissements de terrain. Selon l'étude, le modèle offre en moyenne un jour d'avance supplémentaire par rapport aux systèmes existants, ses prévisions à trois jours atteignant la précision qu'obtenaient auparavant les modèles à deux jours. Cette avancée revêt une importance considérable pour la gestion des catastrophes naturelles, car chaque journée supplémentaire de préavis permet aux autorités locales d'organiser des évacuations, de sécuriser les infrastructures et de mieux préparer les populations menacées. Dans le cas de Melissa, cette anticipation accrue a permis aux prévisionnistes d'alerter plus tôt les communautés sur la trajectoire de l'ouragan, un facteur potentiellement décisif face à un phénomène aussi destructeur. Pour l'industrie de la météorologie, ce résultat confirme que l'IA peut désormais rivaliser, voire surpasser, les méthodes traditionnelles de modélisation numérique pour les événements extrêmes, ouvrant la voie à une adoption plus large de ces outils par les services météorologiques nationaux. Ce succès s'inscrit dans une compétition plus large entre géants technologiques pour développer des modèles de prévision météorologique basés sur l'IA, un domaine où Google investit depuis plusieurs années via ses équipes de recherche. La publication dans Nature, revue scientifique de référence, apporte une validation académique rigoureuse à ces travaux, au-delà des simples annonces commerciales. Face à l'intensification des phénomènes climatiques extrêmes, la capacité à anticiper plus précisément la trajectoire et l'intensité des ouragans devient un enjeu majeur de sécurité publique, laissant entrevoir une intégration croissante de ces modèles dans les systèmes d'alerte officiels des agences météorologiques à travers le monde.

💬 Melissa, c'est le genre de cas d'école qu'on attendait pour juger sur pièces. Les modèles classiques hésitaient entre Haïti et la Jamaïque, WeatherNext a tranché cinq jours à l'avance avec 80% de confiance, et il avait raison. Le vrai chiffre à retenir, c'est ce jour d'avance en moyenne sur les systèmes existants : en gestion de catastrophe, un jour de préavis en plus, c'est des évacuations qui se lancent avant plutôt que pendant.

RecherchePaper
1 source
Quatre agents IA coordonnés en temps réel surpassent Claude Opus 4.8 sur des tâches de codage en entreprise
5VentureBeat AI 

Quatre agents IA coordonnés en temps réel surpassent Claude Opus 4.8 sur des tâches de codage en entreprise

Des chercheurs de Coral AI Labs, en collaboration avec plusieurs universités, ont présenté AgentRadio, une couche de communication asynchrone permettant à des agents d'intelligence artificielle de coordonner leur travail en temps réel sans interrompre leurs tâches en cours. Testée sur le benchmark SWE-Atlas QnA, qui évalue la capacité d'agents à répondre à des questions complexes sur des dépôts de code de production, une équipe de quatre agents s'appuyant sur AgentRadio a quasiment doublé le taux de réussite obtenu par quatre agents Claude Code travaillant de façon indépendante. Pour comparaison, un agent unique tournant sur Claude Opus 4.6 ne résout que 32,3% des tâches du benchmark, un taux qui grimpe à 57,2% avec la version plus récente Opus 4.8, mais qui reste inférieur aux performances obtenues grâce à la coordination via AgentRadio. Les auteurs de l'étude, Xinxing Ren, Caelum Forder et Peter Carroll, expliquent que leur système permet aux agents d'échanger leurs découvertes intermédiaires entre leurs propres étapes d'exécution, plutôt que d'attendre une phase de révision formelle. Cette avancée a une portée pratique directe pour les entreprises qui déploient des agents IA sur leurs bases de code volumineuses. Comprendre un codebase d'entreprise exige souvent d'exécuter le logiciel, de tracer des chemins d'exécution à travers de multiples fichiers et de synthétiser des preuves sur de longues périodes, un exercice où les agents uniques échouent fréquemment à cause de ce que les chercheurs appellent un "problème de couverture" : au fil de l'enquête, le plan initial devient difficile à réviser et les découvertes tardives ne se propagent pas toujours à l'ensemble du raisonnement. En permettant à plusieurs agents de partager en temps réel une information critique, comme un fichier de configuration erroné ou un bug détecté en cours de route, AgentRadio évite qu'un agent poursuive une exploration devenue caduque. Pour les praticiens de l'IA, ce résultat démontre qu'une architecture de coordination bien pensée peut surpasser une simple montée en puissance du modèle ou de la capacité de calcul. Ce travail s'inscrit dans un contexte où les agents IA basés sur de grands modèles de langage sont de plus en plus sollicités pour des tâches longues et complexes, impliquant de multiples outils et environnements. Diviser le travail entre plusieurs agents semble une solution naturelle, mais la plupart des systèmes multi-agents existants ne sont pas conçus pour ce type de coordination. Les chercheurs identifient plusieurs schémas défaillants dans les architectures actuelles : les agents "parallèles mais isolés", qui ne communiquent pas du tout entre eux, et les agents "parallèles mais synchronisés par rounds", qui ne peuvent échanger des informations qu'à des points de synchronisation stricts, forçant chacun à attendre la fin d'un cycle avant de pouvoir partager ses résultats intermédiaires. Cette rigidité s'avère particulièrement problématique pour la compréhension de code, où les sous-tâches sont hautement interdépendantes et ne peuvent pas être simplement décomposées puis fusionnées en fin de processus. À mesure que les entreprises confient des tâches toujours plus ambitieuses à des flottes d'agents IA, l'architecture de coordination pourrait devenir un facteur de performance aussi déterminant que le choix du modèle sous-jacent lui-même.

💬 Quatre agents qui se parlent en temps réel pendant qu'ils bossent, plutôt qu'à la fin, ça résout un problème que je vois tous les jours : l'agent qui continue de creuser une piste morte parce que personne ne lui a dit qu'un autre venait de trouver le vrai bug. Le chiffre est parlant, la coordination bat carrément la montée en gamme du modèle (Opus 4.6 vers 4.8). Reste la question qui compte : ça tient sur un vrai repo d'entreprise avec ses dépendances tordues, ou juste sur le benchmark qui va bien.

RecherchePaper
1 source
Stanford fait tourner 37 000 agents IA en biotech virtuelle, et l'un de ses médicaments confirmé par Merck
6VentureBeat AI 

Stanford fait tourner 37 000 agents IA en biotech virtuelle, et l'un de ses médicaments confirmé par Merck

À la conférence VB Transform 2026, James Zou, professeur associé en science des données biomédicales à Stanford, a présenté un système baptisé Virtual Biotech, qui orchestre environ 37 000 agents d'intelligence artificielle spécialisés sous la supervision d'un agent "Chief Scientific Officer" (directeur scientifique). Le projet a démarré plus modestement, sous la forme d'un "Virtual Lab" de cinq à huit agents reproduisant l'organisation du laboratoire physique de Zou à Stanford, avec un agent professeur jouant le rôle de chercheur principal et des agents étudiants dotés de spécialités distinctes, réunis lors de réunions d'équipe régulières. Une "école" virtuelle a même été créée pour permettre aux agents de suivre un fine-tuning supervisé et d'approfondir leur expertise. Ce laboratoire a conçu de nouvelles protéines nanobody ciblant les variants récents du Covid, avec des résultats de liaison virale supérieurs à ceux des nanobodies conçus par des humains, validés en laboratoire. Fort de ce succès, l'équipe a fait passer le système à l'échelle d'une véritable entreprise pharmaceutique virtuelle, structurée en divisions calquées sur celles d'un groupe biotech réel : découverte de cibles thérapeutiques, conception de molécules, sécurité et essais cliniques, chaque division comptant des agents hyperspécialisés, par exemple l'un dédié aux données génétiques, un autre aux données génomiques ou à l'analyse en cellule unique. L'une des molécules conçues par ce système a depuis été confirmée de façon indépendante par Merck. Cette expérience remet en question un principe implicite qui domine aujourd'hui le développement assisté par IA, celui d'un seul agent pour un seul utilisateur, incarné par des outils comme Claude Code. Selon Zou, la prochaine frontière n'est pas un modèle unique plus puissant, mais des dizaines de milliers d'agents collaborant entre eux. Dans une comparaison directe, son équipe a montré qu'une équipe multi-agents surpassait un agent unique confronté au même problème scientifique : les frictions et désaccords entre agents, qui doivent se convaincre mutuellement de la validité de leurs idées, produisent un raisonnement plus créatif et plus robuste face aux erreurs qu'un modèle isolé travaillant seul. Pour l'industrie pharmaceutique, cela ouvre la voie à une accélération de la découverte de médicaments à un coût potentiellement inférieur à celui de la recherche humaine classique. Reste un obstacle majeur identifié par Zou : l'orchestration à grande échelle de dizaines de milliers d'agents nécessite une couche de contexte unifiée capable de synthétiser des données issues d'outils et de bases hétérogènes. Les systèmes existants, souvent enveloppés dans des connecteurs MCP autour de bases de données historiques, restent mal adaptés aux agents : injecter un PDF d'article scientifique dans une fenêtre de contexte reste inefficace, et les modèles de texte standards peinent à interpréter tableaux et figures complexes, ce qui favorise les hallucinations. Cette limite technique constitue désormais, selon Zou, le principal frein à l'expansion de ces laboratoires virtuels.

💬 Stanford qui fait tourner 37 000 agents façon vraie boîte pharma, avec divisions et tout, ça sort du gadget de démo dès que Merck confirme une molécule sortie du système. C'est ça le signal : pas le nombre d'agents, mais la validation externe indépendante, un labo tiers qui retombe sur le même résultat. Et l'idée que la friction entre agents (le désaccord, pas la performance solo) produit un raisonnement plus robuste, ça va à l'encontre de tout le pari "un agent, un utilisateur" sur lequel sont construits des outils comme Claude Code, à voir si ça tient une fois sorti du labo de Zou.

RecherchePaper
1 source
Stanford : le modèle IA Evo 2 génère des phages contre E. coli
7AI News 

Stanford : le modèle IA Evo 2 génère des phages contre E. coli

Des chercheurs de l'université Stanford ont utilisé Evo 2, un modèle d'intelligence artificielle génératif conçu pour produire des séquences d'ADN, pour créer près de 300 bactériophages capables de cibler la bactérie Escherichia coli. Après des tests en laboratoire, l'équipe a retenu 16 phages présentant une activité antibactérienne particulièrement efficace. Les travaux se concentrent sur le bactériophage ΦX174, dont le génome compte moins de 6 000 paires de bases, contre environ 3 milliards pour le génome humain. Le modèle Evo 2 a été créé par Brian Hie, professeur assistant de génie chimique et titulaire de la chaire Dieter Schwarz Foundation Stanford Data Science, tandis que l'étudiant en doctorat de bio-ingénierie Samuel King a dirigé la partie expérimentale. Les chercheurs ont demandé au modèle de générer un génome complet de ΦX174 en une seule passe, de gauche à droite, sans intervention supplémentaire, ce qui a produit plusieurs milliers de génomes candidats. King a ensuite développé un cadre informatique pour réduire ce nombre avant la synthèse chimique, en évaluant les candidats selon des critères tirés de ΦX174 et de phages apparentés, avant de les tester en laboratoire. Cette avancée illustre la capacité d'une IA générative à concevoir des génomes viraux entiers et fonctionnels, et non plus seulement à suggérer des modifications ponctuelles sur de l'ADN existant. Selon Hie, certains phages proposés par Evo 2 ont même montré une meilleure capacité de survie que la version naturelle de ΦX174 lors des essais. L'enjeu principal porte sur la résistance bactérienne: un cocktail composé des 16 phages sélectionnés a rapidement neutralisé des souches d'E. coli devenues résistantes au ΦX174 naturel, alors qu'un traitement à phage unique laisse aux bactéries une voie d'échappement. Hie souligne qu'il serait beaucoup plus difficile pour une bactérie de développer une résistance simultanée à plusieurs phages génétiquement distincts. Cette approche pourrait ouvrir la voie à de nouveaux traitements contre des infections aujourd'hui difficiles à soigner, comme le staphylocoque doré résistant à la méticilline (SARM) ou Pseudomonas aeruginosa, cité par Stanford comme l'une des principales causes d'infections résistantes contractées à l'hôpital. Le projet s'inscrit dans un contexte plus large de recherche sur les usages biomédicaux de l'IA générative, alors que la résistance aux antibiotiques constitue une préoccupation sanitaire mondiale croissante. Hie a choisi de publier Evo 2 en open source, permettant à d'autres équipes de télécharger le modèle pour concevoir leurs propres génomes. Ce choix a toutefois suscité des discussions sur les risques de sécurité, Stanford reconnaissant elle-même que ce type d'outil pourrait potentiellement être détourné par des acteurs malveillants. Reste que la démonstration confirme que la synthèse chimique et les essais en laboratoire demeurent des étapes indispensables pour valider les propositions de l'IA, qui ne remplace donc pas encore entièrement le travail expérimental mais en accélère considérablement le rythme.

UELe modèle Evo 2 étant publié en open source, des laboratoires de recherche européens pourraient l'utiliser pour développer leurs propres traitements contre la résistance aux antibiotiques, un enjeu de santé publique majeur en France et dans l'UE.

💬 Ce qui change ici, c'est qu'Evo 2 ne bricole plus un gène existant, il écrit un génome viral entier de zéro, et certains de ses phages survivent mieux que la version naturelle. La partie qui compte vraiment, c'est le cocktail de 16 phages contre les souches résistantes : une bactérie peut s'adapter à un seul virus, beaucoup plus dur à un peloton de 16 génétiquement différents. Reste que Stanford a publié le modèle en open source sans trop savoir qui va s'en servir pour quoi, et ça, personne n'a encore de bonne réponse.

RecherchePaper
1 source
Stanford et l'Arc Institute utilisent l'IA pour créer des virus qui tuent des bactéries en laboratoire
8The Decoder 

Stanford et l'Arc Institute utilisent l'IA pour créer des virus qui tuent des bactéries en laboratoire

Des chercheurs de l'université Stanford et de l'Arc Institute, deux institutions basées en Californie, ont utilisé l'intelligence artificielle pour concevoir des virus entièrement nouveaux, capables de tuer des bactéries lors de tests menés en laboratoire. Selon un rapport publié par MIT Technology Review, il s'agit de la première conception générative de génomes complets réalisée par une IA. Ces virus sont des bactériophages, des organismes qui infectent spécifiquement des bactéries sans s'attaquer aux cellules humaines. L'équipe a généré ces génomes de A à Z grâce à des modèles d'IA, avant de les synthétiser et de vérifier en conditions réelles que les virus obtenus fonctionnaient bien comme prévu, en éliminant leurs bactéries cibles. Cette avancée est significative parce qu'elle démontre que l'IA peut désormais produire des organismes fonctionnels complets, et non plus seulement prédire des structures moléculaires isolées comme une protéine. Les bactériophages conçus sur mesure suscitent un intérêt croissant en médecine, notamment pour lutter contre les bactéries résistantes aux antibiotiques, un problème de santé publique majeur. Mais la capacité à générer des virus fonctionnels par IA soulève aussi des questions de biosécurité, puisque les mêmes outils pourraient théoriquement être détournés pour concevoir des agents pathogènes dangereux. Ce résultat s'inscrit dans une vague plus large d'applications de l'IA à la biologie, après les percées de modèles comme AlphaFold dans la prédiction de structures protéiques. L'Arc Institute, organisation de recherche à but non lucratif fondée pour accélérer la biologie fondamentale, développe activement des modèles génératifs appliqués au vivant. Les chercheurs présentent ce travail comme une étape précoce vers la conception de formes de vie entières par IA, ouvrant la voie à des usages thérapeutiques tout en appelant à un encadrement prudent de ces technologies émergentes.

💬 Bactériophage conçu par IA de A à Z, testé en labo, qui bute bien la bactérie visée : c'est la première fois qu'un modèle génère un organisme fonctionnel complet, pas juste une structure protéique isolée comme AlphaFold. Sur le papier c'est une piste sérieuse contre l'antibiorésistance, mais la même techno qui dessine un virus pour tuer une bactérie peut en dessiner un autre pour un tout autre usage, et ça personne n'a de garde-fou solide pour l'instant. Le vrai test, c'est de voir qui encadre ces outils avant qu'ils tournent hors des labos californiens.

RecherchePaper
1 source
Diffusion vs autorégression : comparaison des performances des modèles de langage au-delà de la prédiction du prochain jeton
9Apple Machine Learning 

Diffusion vs autorégression : comparaison des performances des modèles de langage au-delà de la prédiction du prochain jeton

Une nouvelle étude technique intitulée "Beyond Next-Token Prediction: A Performance Characterization of Diffusion versus Autoregressive Language Models" compare les performances matérielles de deux familles de grands modèles de langage : les modèles autorégressifs (ARM), qui dominent le secteur depuis l'essor de GPT et de ses successeurs, et les modèles de diffusion (DLM), une approche plus récente. Les ARM génèrent le texte token par token, chaque prédiction dépendant de tous les tokens précédents, un mécanisme qui a permis d'atteindre des performances de pointe sur de nombreuses tâches de traitement du langage naturel, de la génération de documents à l'écriture de code. Les chercheurs pointent toutefois une limite structurelle de ce paradigme : une intensité arithmétique faible, c'est-à-dire une sous-exploitation de la puissance de calcul des processeurs, due à la dépendance séquentielle inhérente à la prédiction du prochain token. Cette caractérisation compte parce que l'intensité arithmétique détermine directement la vitesse et le coût d'inférence des modèles de langage à grande échelle. Un modèle qui exploite mal le matériel (GPU, accélérateurs) génère du texte plus lentement et consomme plus de ressources pour un même résultat, ce qui pèse sur les coûts d'exploitation des entreprises qui déploient ces systèmes en production, des fournisseurs de cloud aux éditeurs d'applications d'IA générative. Si les modèles de diffusion, qui opèrent par débruitage itératif et permettent en théorie une génération plus parallèle du texte, confirment un avantage de performance, cela pourrait redistribuer les priorités d'investissement dans l'infrastructure d'inférence. Ce travail s'inscrit dans un mouvement plus large de recherche cherchant des alternatives à l'architecture autorégressive dominante, alors que des laboratoires explorent depuis peu les modèles de diffusion appliqués au texte, un terrain jusqu'ici réservé principalement à la génération d'images. La suite logique de ces travaux consistera à mesurer si les gains d'efficacité matérielle des DLM se traduisent par une qualité de génération comparable à celle des ARM sur des tâches réelles, condition nécessaire à une adoption à grande échelle par l'industrie.

RecherchePaper
1 source
Arbitrage : un raisonnement efficace grâce à la spéculation consciente de l'avantage
10Apple Machine Learning 

Arbitrage : un raisonnement efficace grâce à la spéculation consciente de l'avantage

Le laboratoire de recherche à l'origine du système "Arbitrage" propose une nouvelle méthode pour accélérer le raisonnement des grands modèles de langage sans sacrifier la qualité des réponses. La technique s'appuie sur le décodage spéculatif (spéculative decoding), une approche déjà connue qui fait collaborer deux modèles : un modèle "brouillon" rapide mais peu précis, qui propose des tokens de façon autonome, et un modèle cible plus puissant, qui vérifie ces propositions en parallèle. Le problème identifié par les chercheurs est que la méthode classique de décodage spéculatif, au niveau du token, rejette inutilement de nombreuses propositions valides lorsque deux formulations différentes expriment la même idée mathématique ou logique, ce qui limite les gains de vitesse obtenus en pratique sur les longues chaînes de raisonnement (Chain of Thought) désormais courantes dans les modèles récents. Cette avancée s'inscrit dans un enjeu économique central pour l'industrie de l'IA : le coût de calcul exponentiel des modèles qui raisonnent longuement avant de répondre. Plus un modèle génère d'étapes intermédiaires pour résoudre un problème complexe, plus il consomme de puissance de calcul et de temps, ce qui pèse directement sur les coûts d'exploitation des entreprises qui déploient ces systèmes à grande échelle. Une méthode capable de conserver la qualité du raisonnement tout en réduisant la latence et la facture de calcul intéresserait directement les fournisseurs de modèles comme les entreprises clientes, notamment celles qui utilisent l'IA pour des tâches mathématiques, du code ou de l'analyse complexe où le raisonnement pas à pas est indispensable. Le décodage spéculatif s'est imposé ces dernières années comme l'une des principales pistes d'optimisation de l'inférence, aux côtés de la quantification ou de la distillation de modèles. Mais son efficacité reste bridée par la rigidité des critères de vérification token par token, un problème que plusieurs équipes de recherche cherchent à résoudre en assouplissant les règles d'acceptation sans compromettre la fidélité du résultat final. La méthode "Arbitrage" s'inscrit dans cette tendance en introduisant une notion de sensibilité à l'avantage sémantique plutôt qu'à l'identité stricte des tokens, une piste qui pourrait inspirer de futures architectures d'inférence optimisée à mesure que les modèles de raisonnement se généralisent dans les produits commerciaux.

RecherchePaper
1 source
Mise à l'échelle des cartes de flux catégorielles
11Apple Machine Learning 

Mise à l'échelle des cartes de flux catégorielles

Les modèles de diffusion continue et de flow matching pourraient constituer une alternative sérieuse aux approches autorégressives utilisées aujourd'hui pour la modélisation du langage. Des travaux de recherche récents montrent qu'il est possible de générer des données discrètes, comme du texte, par un processus continu de flow matching reliant une distribution gaussienne à la distribution des données encodées en one-hot. Cette approche a permis de développer les Categorical Flow Maps (CFM), une technique qui accélère l'échantillonnage tout en produisant des résultats de qualité comparable aux méthodes existantes. L'enjeu de ces travaux est désormais de faire passer cette technique à l'échelle, c'est-à-dire de vérifier qu'elle reste efficace et compétitive lorsqu'elle est appliquée à des modèles de langage de grande taille, au-delà des démonstrations initiales à plus petite échelle. Cette avancée compte parce qu'elle pourrait transférer au traitement du texte des avantages jusqu'ici réservés aux modalités continues comme l'image ou la vidéo, notamment une génération beaucoup plus rapide et un meilleur contrôle du contenu produit, ce que les chercheurs appellent le tilting. Pour l'industrie, cela ouvrirait la voie à des modèles de langage capables de produire du texte en moins d'étapes de calcul que les architectures autorégressives classiques, réduisant les coûts d'inférence tout en conservant la flexibilité nécessaire pour orienter finement les sorties générées, un enjeu central pour les applications commerciales des grands modèles. Ces recherches s'inscrivent dans un mouvement plus large qui cherche à unifier les techniques de génération entre modalités continues et discrètes. Les modèles de diffusion dominent déjà la génération d'images et de vidéos, tandis que les architectures autorégressives de type transformeur restent la norme pour le texte. En démontrant que le flow matching catégoriel peut rivaliser avec ces dernières tout en accélérant l'échantillonnage, ces travaux alimentent un débat en cours sur l'avenir architectural des modèles de langage, avec des implications potentielles pour la prochaine génération de systèmes conversationnels à grande échelle.

RecherchePaper
1 source
WeatherNext : cette IA de DeepMind prévoit les cyclones avec un jour d’avance
12Le Big Data 

WeatherNext : cette IA de DeepMind prévoit les cyclones avec un jour d’avance

Google DeepMind a dévoilé le 6 août 2026 WeatherNext, un modèle d'intelligence artificielle destiné à améliorer la prévision des cyclones. Publiés dans la revue scientifique Nature, les résultats montrent qu'une prévision réalisée trois jours à l'avance avec ce système atteint une fiabilité équivalente à celle des modèles classiques établis à deux jours d'échéance, soit un gain moyen de 24 heures d'anticipation. Le modèle ne se limite pas à calculer une trajectoire unique : il génère jusqu'à 1 000 scénarios possibles pour chaque tempête, offrant aux prévisionnistes une vision beaucoup plus complète des risques d'évolution. Pour y parvenir, WeatherNext s'appuie sur environ 20 téraoctets de données atmosphériques et une base historique couvrant près de 5 000 tempêtes passées. Fait notable, le modèle conserve une précision élevée même avec des données moins détaillées que celles utilisées par les systèmes traditionnels, un phénomène que les chercheurs n'expliquent pas encore totalement. Google a également annoncé la mise en open source de trois versions du système, WeatherNext Cyclones, WeatherNext 2 et WeatherNext 2-mini, rendant code et poids accessibles aux chercheurs et aux agences météorologiques. Ce gain de 24 heures représente un enjeu concret pour la gestion des catastrophes naturelles. Chaque heure supplémentaire d'anticipation permet aux autorités locales d'organiser des évacuations plus ordonnées, de sécuriser des infrastructures critiques et de diffuser des alertes mieux ciblées auprès des populations exposées. DeepMind évalue ce progrès à l'équivalent d'une décennie d'avancées en météorologie cyclonique, un secteur où la fiabilité des trajectoires reste historiquement difficile à établir en raison de la rapidité d'évolution de ces phénomènes et du grand nombre de paramètres atmosphériques en jeu. La mise à disposition open source du modèle pourrait aussi permettre à des agences météorologiques nationales, notamment dans des régions moins dotées en ressources de calcul, d'adapter l'outil à leurs réalités locales et de développer des variantes spécialisées. Cette annonce s'inscrit dans la stratégie plus large de DeepMind, qui multiplie depuis plusieurs années les modèles d'IA appliqués aux sciences du climat et de la météorologie, après des projets comme GraphCast. Le choix de publier une étude évaluée par les pairs dans Nature tout en libérant le code renforce la crédibilité scientifique de l'initiative, dans un contexte où les grandes entreprises technologiques cherchent à démontrer l'utilité sociétale de leurs modèles d'IA générative. DeepMind précise toutefois que les prévisions officielles resteront émises par les agences météorologiques nationales, WeatherNext étant conçu comme un outil d'aide à la décision plutôt qu'un substitut aux autorités compétentes. Reste à voir comment ces agences intégreront concrètement cette technologie dans leurs chaînes d'alerte opérationnelles.

UELes territoires ultramarins français exposés aux cyclones (Antilles, Réunion, Mayotte) pourraient bénéficier de ce modèle si Météo-France l'adopte, mais aucune collaboration officielle n'a été annoncée à ce stade.

RecherchePaper
1 source
L'IA en santé doit adapter son interface au niveau d'expertise de l'utilisateur
13AI News 

L'IA en santé doit adapter son interface au niveau d'expertise de l'utilisateur

Des chercheurs du Massachusetts Institute of Technology (MIT) et leurs collaborateurs ont publié dans la revue Nature Medicine une étude montrant que les outils d'intelligence artificielle explicable, conçus pour aider les professionnels de santé, produisent des résultats radicalement différents selon le niveau d'expertise de l'utilisateur. L'équipe, dirigée par Marzyeh Ghassemi, professeure associée au département de génie électrique et d'informatique du MIT, a testé plusieurs interfaces sur des cas de diagnostic dermatologique : une simple prédiction assortie d'un niveau de confiance, l'affichage d'images similaires, des cartes de chaleur signalant les zones d'intérêt sur l'image, et des explications rédigées en langage naturel par un grand modèle de langage. Des non-spécialistes devaient déterminer si des grains de beauté présentaient un cancer, tandis que des médecins de premier recours devaient poser un diagnostic différentiel plus complet. Résultat : chaque méthode d'explication a amélioré la précision des non-experts, notamment pour repérer les grains de beauté bénins. Un modèle conçu pour corriger les biais liés aux teintes de peau a lui aussi amélioré la précision globale tout en réduisant les écarts de diagnostic entre patients à peau claire et foncée. En revanche, les médecins de premier recours ont obtenu leurs meilleurs résultats lorsqu'ils recevaient uniquement une prédiction de l'IA, sans aucune explication associée. Cette divergence a des implications concrètes pour la conception des interfaces d'IA en santé, un secteur où ces outils assistent déjà certains cliniciens et atteignent de plus en plus directement les patients via des produits de recherche dopés à l'IA. Le gain de précision chez les non-experts s'est accompagné d'un risque : ces utilisateurs se sont montrés très dépendants des recommandations du modèle, au point qu'une prédiction erronée nuisait davantage à leurs performances qu'une prédiction correcte ne les améliorait. Les explications générées par les grands modèles de langage ont produit l'effet de déférence le plus marqué : les participants leur faisaient confiance que la réponse du modèle soit juste ou fausse, et jugeaient les explications vagues ou génériques particulièrement convaincantes. Roxana Daneshjou, professeure adjointe en science des données biomédicales et dermatologie à l'université Stanford, souligne que les patients disposant de connaissances médicales limitées sont les plus exposés à ce risque, à mesure qu'ils se tournent vers l'IA pour des questions de santé. Ces résultats interviennent alors que l'IA explicable est présentée depuis plusieurs années comme un moyen de rendre les décisions des modèles plus transparentes et vérifiables, que ce soit en surlignant les zones d'une image médicale ayant influencé un diagnostic ou en formulant un raisonnement en langage courant. Or l'étude du MIT montre que l'IA et les méthodes d'explicabilité peuvent toutes deux déclencher un biais d'automatisation chez l'humain, un effet d'ancrage que Marzyeh Ghassemi juge indispensable de prendre en compte dans la conception de ces systèmes. L'enjeu dépasse le seul cadre clinique : à mesure que des produits grand public intègrent des diagnostics assistés par IA, une explication textuelle plausible mais erronée peut sembler aussi crédible qu'une explication correcte, en particulier pour des utilisateurs sans formation médicale. La question qui se pose désormais aux concepteurs de ces systèmes est de calibrer l'aide apportée selon le public visé, plutôt que d'appliquer une interface unique à des utilisateurs aux besoins et aux vulnérabilités très différents.

RecherchePaper
1 source
L’IA ne crée rien de vraiment nouveau : Ce chercheur de DeepMind explique pourquoi
14Le Big Data 

L’IA ne crée rien de vraiment nouveau : Ce chercheur de DeepMind explique pourquoi

Tom Zahavy, chercheur chez Google DeepMind, a publié en janvier 2026 un article au titre volontairement provocateur, « LLMs can't jump », dans lequel il explique pourquoi les grands modèles de langage ne franchissent pas encore le véritable saut créatif. Il distingue trois formes de raisonnement souvent confondues : la déduction, qui applique une règle générale à un cas précis pour produire une conclusion attendue ; l'induction, qui observe plusieurs situations pour en dégager une règle plausible, terrain de prédilection de l'apprentissage automatique ; et l'abduction, qui consiste à imaginer une explication entièrement nouvelle face à un résultat inattendu, sans qu'aucune donnée ne garantisse d'emblée sa validité. Selon Zahavy, les LLM maîtrisent bien les deux premières formes, y compris en code ou en mathématiques, mais échouent sur la troisième dès qu'il faut formuler des prémisses inédites que personne n'a fournies au préalable. Une IA capable de générer l'image d'un astronaute médiéval chevauchant une méduse dans le métro parisien produit un contenu inédit, mais reste enfermée dans un cadre fixé en amont par des humains, sans jamais décider de le remplacer. Cette distinction a des conséquences directes sur la manière de penser le rôle de l'IA dans la recherche scientifique et l'innovation. Si les modèles actuels excellent à explorer un espace de possibilités déjà défini, en recombinant des concepts éloignés ou en adaptant des solutions connues, ils ne savent pas encore reconnaître le moment où ce cadre devient insuffisant et où il faut en inventer un autre. Cela questionne directement les promesses d'une IA capable de générer seule des ruptures scientifiques majeures, un enjeu central pour les laboratoires qui investissent dans des systèmes d'IA dits « scientifiques », lesquels expérimentent et testent des hypothèses mais restent guidés par des objectifs et des cadres définis par des humains. Pour les chercheurs, ingénieurs et décideurs qui misent sur l'IA générative pour accélérer la découverte, la nuance de Zahavy invite à ne pas confondre nouveauté apparente et invention réelle. Pour illustrer son propos, Zahavy s'appuie sur l'histoire d'Albert Einstein. En 1905, la relativité restreinte bouleverse la conception du temps mais n'explique toujours pas la gravité ; il faudra dix années supplémentaires pour aboutir aux équations de 1915, sans qu'aucune base de données gigantesque n'ait guidé le raisonnement. À l'époque, la physique newtonienne fonctionnait encore, malgré une anomalie connue dans l'orbite de Mercure, que l'hypothèse d'une planète invisible baptisée Vulcain suffisait à corriger à moindre coût. Une machine optimisée pour réduire l'erreur aurait sans doute privilégié cette rustine plutôt que de bouleverser toute la théorie. Einstein a préféré imaginer un observateur en chute libre dans un ascenseur, expérience de pensée purement philosophique à l'origine du principe d'équivalence entre accélération et gravitation, avant de s'appuyer sur les mathématiques de Grossmann. Depuis 2022, Yann LeCun défend une approche similaire à travers ses « modèles du monde », où l'humain continue de fixer l'objectif que la machine doit atteindre.

RecherchePaper
1 source
Le SkillOpt de Microsoft montre que les artefacts de compétences optimisés pour agents se transfèrent entre échelles de modèles et entre Codex et Claude Code
15MarkTechPost 

Le SkillOpt de Microsoft montre que les artefacts de compétences optimisés pour agents se transfèrent entre échelles de modèles et entre Codex et Claude Code

Une équipe de chercheurs de Microsoft, de la Shanghai Jiao Tong University, de la Tongji University et de la Fudan University a présenté SkillOpt, un système d'optimisation qui entraîne un document de compétence en langage naturel pendant que le modèle cible reste figé. Un modèle optimiseur analyse des exécutions notées et propose des modifications bornées (ajout, suppression, remplacement), qu'un jeu de validation distinct n'accepte que si le score s'améliore strictement. Le résultat est un fichier unique, bestskill.md, que les chercheurs ont ensuite testé dans trois configurations de transfert. Sur le benchmark SpreadsheetBench, une compétence entraînée sur GPT-5.4 conserve 82% du gain obtenu en interne lorsqu'elle est déployée sur GPT-5.4-mini (le score passe de 36,1 à 45,5, contre 47,5 pour un entraînement direct), mais seulement 16% sur GPT-5.4-nano. Sur LiveMath, la compétence transférée sur GPT-5.4-nano atteint même 28,8 points, dépassant le résultat obtenu par un entraînement direct sur ce modèle (27,2). Le test le plus marquant concerne le passage entre environnements d'exécution: sur GPT-5.5, une compétence optimisée dans Codex, appliquée telle quelle à Claude Code, fait grimper le score SpreadsheetBench de 22,1 à 81,8, un résultat qui dépasse légèrement les 80,4 points obtenus par Claude Code en s'entraînant lui-même. Cette portabilité change la manière dont les compétences des agents IA pourraient être développées et diffusées. Au lieu de ré-entraîner un module distinct pour chaque modèle ou chaque interface, une organisation pourrait produire une seule compétence textuelle et la réutiliser sur des variantes plus petites, moins coûteuses à faire tourner, ou sur un environnement d'exécution différent, sans perte majeure de performance dans les cas favorables. Le point faible identifié est tout aussi instructif: les compétences purement procédurales (inspection d'un fichier, vérification de formules, mise en forme) voyagent bien d'un système à l'autre, alors que les compétences qui reposent sur un raisonnement mathématique complexe restent largement attachées à leur environnement d'entraînement, avec des taux de rétention qui chutent à 10% ou 30% selon le sens du transfert entre Codex et Claude Code. Le mécanisme qui rend ce transfert possible tient à un détail d'implémentation: les trois modes d'exécution testés, à savoir le dialogue direct, Codex et Claude Code, lisent tous le même format de fichier bestskill.md, ce qui crée un contrat commun entre des outils autrement très différents dans leur gestion des commandes et des fichiers. Les chercheurs ont aussi testé un transfert entre benchmarks mathématiques, d'OlympiadBench vers Omni-MATH, avec des gains plus modestes mais positifs sur toutes les tailles de modèles GPT-5.4 testées, jusqu'à +3,7 points sur la version complète. L'étude reste cependant circonscrite: aucun transfert entre familles de modèles différentes, comme de GPT vers Qwen, n'a été évalué, ce qui laisse ouverte la question de savoir si ces gains se généralisent au-delà de l'écosystème testé.

💬 Micro-audits qui s'améliorent tout seuls, tant qu'on reste dans la même famille de modèles : c'est déjà solide. Le détail qui compte, c'est que les trois modes lisent le même fichier best_skill.md, un contrat texte commun là où chaque outil gère ses commandes différemment, d'où le transfert qui marche. Mais la limite est nette : dès que ça touche du raisonnement mathématique complexe, la compétence reste collée à son environnement d'entraînement (rétention à 10-30% dans le pire sens), donc on est loin d'une compétence universelle, plutôt d'un bon plan pour les tâches procédurales répétitives.

RecherchePaper
1 source
DeepAmbigQA : des questions multi-étapes ambiguës pour évaluer la complétude des réponses des LLM
16Apple Machine Learning 

DeepAmbigQA : des questions multi-étapes ambiguës pour évaluer la complétude des réponses des LLM

Les modèles de langage (LLM) dotés d'outils de recherche intégrés obtiennent de bons résultats sur les questions-réponses en domaine ouvert, mais peinent à fournir des réponses complètes face à des questions complexes. Un exemple typique cité par les chercheurs à l'origine de ce travail : « Quel acteur du film Heat a remporté au moins un Oscar ? » Répondre correctement exige deux capacités distinctes : distinguer plusieurs films portant le même titre, puis parcourir et croiser les informations concernant un grand nombre d'acteurs pour rassembler toutes les preuves pertinentes. Or les benchmarks existants évaluent rarement ces deux difficultés conjointement. Pour combler ce manque, les auteurs présentent DeepAmbigQAGen, un pipeline de génération automatique de données conçu pour construire des questions à la fois ambiguës et multi-étapes, donnant naissance au jeu de données DeepAmbigQA. Cette approche cible un angle mort important des évaluations actuelles de LLM. La plupart des benchmarks mesurent la justesse d'une réponse unique, sans vérifier si le modèle a identifié l'ensemble complet des réponses valides lorsque la question s'y prête. Pour les assistants de recherche basés sur des LLM, les outils de veille automatisée ou les moteurs de questions-réponses d'entreprise, cette lacune peut se traduire par des réponses partielles présentées comme exhaustives, un risque particulièrement critique dans des usages où l'exhaustivité compte autant que l'exactitude. Ce travail s'inscrit dans un mouvement plus large visant à rendre les benchmarks de LLM plus proches des usages réels, où l'ambiguïté et la nécessité de croiser plusieurs sources sont la norme plutôt que l'exception. En automatisant la génération de questions combinant homonymie et raisonnement multi-sauts, les chercheurs ouvrent la voie à une évaluation plus rigoureuse de la complétude des réponses, un critère encore peu exploré face à la course actuelle aux agents de recherche propulsés par des LLM.

RecherchePaper
1 source
Meta modifie l'architecture de classement des publicités pour passer des séquences utilisateur aux lois d'échelle
17Meta Engineering ML 

Meta modifie l'architecture de classement des publicités pour passer des séquences utilisateur aux lois d'échelle

Meta a présenté une nouvelle architecture de modélisation de séquences pour son système de classement publicitaire, conçue pour traiter les milliards d'interactions quotidiennes générées par ses plateformes. L'entreprise s'appuie sur des travaux publiés en 2024, qui montraient déjà l'intérêt de modéliser l'ordre et le timing des actions des utilisateurs plutôt que de s'appuyer sur des caractéristiques éparses conçues manuellement. Meta introduit désormais deux avancées architecturales majeures : un modèle de séquence multi-étapes qui sépare la modélisation lourde des utilisateurs, effectuée hors ligne, du classement léger réalisé en temps réel, ainsi qu'une technique d'apprentissage fondée sur une tokenisation dense et un mécanisme d'attention ciblée sur la cible, qui apprend directement les interactions entre caractéristiques à partir des données. Combinées à d'autres innovations de modèle, ces avancées ont permis un gain cumulé de 6% des conversions sur Instagram, 3% des conversions sur Facebook et 3,5% des clics publicitaires sur Facebook. Cette plateforme unifiée constitue un composant central du Generative Ads Recommendation Model (GEM) de Meta. Ces gains, bien que mesurés en points de pourcentage, représentent un impact considérable à l'échelle de Meta, qui traite des millions de candidats publicitaires par seconde et doit classer des milliers d'annonces en quelques millisecondes. Pour les annonceurs, un classement plus précis signifie des campagnes plus performantes et un meilleur retour sur investissement publicitaire, sans coût supplémentaire en infrastructure de diffusion. Pour les utilisateurs de Facebook et Instagram, cela se traduit par des publicités mieux ciblées, reflétant plus fidèlement leurs centres d'intérêt réels. L'enjeu dépasse la seule performance immédiate : en établissant une loi d'échelle prévisible, à la manière des grands modèles de langage, Meta peut désormais anticiper les gains obtenus en augmentant la taille du modèle ou la puissance de calcul, ce qui facilite la planification des investissements en infrastructure IA. Cette avancée répond à une limite structurelle des approches hybrides utilisées jusqu'ici, où un modèle traitait les séquences d'événements utilisateurs pendant qu'un autre gérait les interactions entre caractéristiques éparses. Ce montage souffrait d'un transfert de connaissances imparfait entre les deux composants, d'une dépendance persistante à l'ingénierie manuelle des caractéristiques et d'un plafond de performance dû aux interférences entre les modules de classement et de séquence. La nouvelle architecture à deux étages, où un modèle transformeur hors ligne traite les longs historiques utilisateurs de façon asynchrone pour produire des représentations mises en cache, ensuite combinées en temps réel avec les signaux des candidats publicitaires, lève ce plafond. Elle s'inscrit dans une course plus large entre grandes plateformes publicitaires pour exploiter les architectures transformeurs à grande échelle, alors que la personnalisation publicitaire devient un terrain de différenciation technique majeur.

UELes annonceurs et utilisateurs français et européens de Facebook et Instagram beneficient indirectement d'un meilleur ciblage publicitaire, sans qu'aucune entreprise ou institution europeenne ne soit directement impliquee.

RecherchePaper
1 source
Le modèle PRISM2 interprète les lames de pathologie via un dialogue clinique
18AI News 

Le modèle PRISM2 interprète les lames de pathologie via un dialogue clinique

Paige et Microsoft ont développé PRISM2, un modèle d'intelligence artificielle capable d'interpréter des lames histopathologiques entières en dialoguant sur leur contenu clinique plutôt qu'en se contentant de classifier des pixels. Le système repose sur un encodeur de type perceiver, entraîné conjointement sur des tuiles de tissu et sur des dialogues cliniques extraits de comptes rendus de pathologie. L'entraînement s'appuie sur 2,3 millions d'images de lames entières et sur 685 507 rapports de pathologie collectés par le Memorial Sloan Kettering Cancer Center dans le cadre de soins courants, convertis en paires questions-réponses par GPT-4o. L'architecture fonctionne en deux phases distinctes : la première entraîne l'encodeur à agréger des milliers d'embeddings de tuiles en une représentation unique par lame, corrélée au langage des rapports médicaux ; la seconde gèle cet encodeur et affine un modèle de langage de 4 milliards de paramètres sur les dialogues, pour lui apprendre les conventions de rédaction des rapports de pathologie. L'encodeur combine deux fonctions de perte simultanées, une contrastive via BioGPT et une autorégressive via Phi-3 Mini, appliquées aux mêmes embeddings de tuiles issus de Virchow2. Cette double approche vise à corriger un défaut connu des modèles existants : l'entraînement contrastif seul produit des représentations efficaces pour la recherche mais faibles en génération de texte, tandis que l'entraînement autorégressif seul risque de surapprendre des motifs textuels superficiels sans capturer de véritables caractéristiques visuelles. Sur les benchmarks, PRISM2 égale ou dépasse la précision équilibrée de produits cliniques déjà calibrés pour la détection des cancers de la prostate et du sein, évalués sur leurs propres jeux de données. Il surpasse également Paige BLN pour la classification des ganglions lymphatiques mammaires, sans entraînement supplémentaire spécifique à cette tâche. En détection pan-cancer, les embeddings diagnostiques atteignent une aire sous la courbe (AUC) de 0,967, contre 0,956 pour les embeddings de base, 0,947 pour l'ancien modèle PRISM et 0,931 pour TITAN. Sur les cancers rares, ce score chute à 0,957, un recul attribué au faible nombre d'exemples d'entraînement disponibles pour ces types de tissus. Ce travail s'inscrit dans une course plus large à la construction de modèles de fondation pour l'anatomopathologie numérique, un domaine où les diagnostics reposent traditionnellement sur l'examen visuel de lames par des pathologistes, un processus long et sujet à variabilité entre praticiens. En exposant deux embeddings séparés, l'un généraliste pour la prédiction de biomarqueurs, l'autre spécialisé pour le diagnostic et le sous-typage, plus un troisième dédié aux analyses de survie, Paige et Microsoft cherchent à offrir un outil modulable plutôt qu'un système figé sur une seule tâche. La limite du dialogue à un seul tour, sans historique conversationnel dans l'entraînement, montre toutefois que le passage à un assistant véritablement interactif pour les pathologistes nécessitera encore des développements techniques supplémentaires.

RecherchePaper
1 source
« Domestication des tokens aberrants dans les transformeurs de diffusion »
19Apple Machine Learning 

« Domestication des tokens aberrants dans les transformeurs de diffusion »

Des chercheurs se sont penchés sur un phénomène technique observé dans les Diffusion Transformers (DiT), les architectures qui alimentent aujourd'hui la génération d'images par IA. Des travaux antérieurs avaient déjà montré que les Vision Transformers (ViT) classiques produisent parfois un petit nombre de tokens dits "à norme élevée", des unités de traitement internes qui captent une attention disproportionnée du modèle tout en transportant peu d'information locale utile sur l'image. Ce que l'équipe démontre ici, c'est que ce même phénomène se retrouve dans les pipelines récents combinant un Representation Autoencoder (RAE) et un DiT, à la fois côté encodeur et côté "débruiteur" (denoiser). Les encodeurs ViT pré-entraînés génèrent eux-mêmes des représentations aberrantes, et les DiT peuvent développer leurs propres tokens atypiques en interne, surtout dans les couches intermédiaires du réseau. Cette découverte compte parce que les tokens aberrants perturbent potentiellement la façon dont le modèle répartit son attention pendant la génération, au détriment des informations réellement pertinentes pour construire l'image. Mieux comprendre et corriger ce biais pourrait améliorer la qualité, la cohérence et l'efficacité des générateurs d'images basés sur les DiT, une famille de modèles au cœur des systèmes de génération visuelle les plus avancés actuellement déployés dans l'industrie. Le sujet s'inscrit dans une réflexion plus large sur l'interprétabilité des transformers, initiée par les recherches sur les ViT dans les tâches de classification d'images, mais restée jusqu'ici peu explorée dans le contexte génératif. En identifiant précisément où et comment ces tokens aberrants apparaissent dans les architectures RAE-DiT, les auteurs ouvrent la voie à des méthodes de correction ciblées, susceptibles d'influencer la conception des prochaines générations de modèles de génération d'images.

RecherchePaper
1 source
Moonshot PerceptionBench évalue des modèles de vision multimodaux avec chargement de données robuste et jugement automatisé
20MarkTechPost 

Moonshot PerceptionBench évalue des modèles de vision multimodaux avec chargement de données robuste et jugement automatisé

Moonshot AI a mis au point PerceptionBench, un benchmark multimodal conçu pour mesurer la perception visuelle fine des modèles d'intelligence artificielle. Un tutoriel récent détaille comment construire, de bout en bout, un pipeline d'évaluation reproductible autour de ce jeu de données, pensé pour tourner directement dans Google Colab. Le dataset moonshotai/PerceptionBench, dans sa version d'entraînement, pèse environ 1,63 Go en téléchargement complet ; pour éviter cette charge, le pipeline privilégie une stratégie de chargement en streaming à plusieurs niveaux, avec un échantillon équilibré de douze exemples par catégorie et un balayage limité à 1200 lignes. Le processus décode les images encodées en base64, interprète les balises d'images imbriquées dans le texte et normalise chaque exemple dans un format unique, avant d'analyser la répartition des capacités testées, les besoins en images, les types de réponses attendues et les benchmarks sources d'origine. L'enjeu dépasse la simple démonstration technique : PerceptionBench couvre des tâches aussi variées que la reconnaissance de texte (OCR), le comptage d'objets, la localisation spatiale, le raisonnement contextuel, la comparaison visuelle, la compréhension de la profondeur et surtout la détection d'hallucinations, un point critique pour la fiabilité des modèles de vision-langage déployés en production. Le harnais d'évaluation construit dans ce tutoriel prend en charge trois configurations : une base de référence dite "à l'aveugle" sans image, des API multimodales compatibles OpenAI comme GPT-4o-mini, et des modèles vision-langage open source hébergés localement via Hugging Face, à l'image de SmolVLM2-2.2B-Instruct. Cette flexibilité permet aux équipes techniques de comparer facilement des modèles propriétaires et des alternatives open source sur des critères identiques, plutôt que de se fier à des annonces marketing. Cette initiative s'inscrit dans une tendance plus large : face à la multiplication des modèles de vision par ordinateur couplés au langage, la communauté cherche des méthodes d'évaluation rigoureuses et reproductibles. Le pipeline intègre un système de jugement à la fois basé sur des règles et, en option, assisté par un LLM, complété par le calcul d'intervalles de confiance bootstrap pour garantir une robustesse statistique. Les résultats sont ensuite ventilés par niveau de difficulté et comparés au classement officiel du benchmark, avant d'être exportés sous forme d'artefacts de prédiction et de rapports réutilisables. Cette approche outillée, appuyée sur des bibliothèques comme datasets, huggingface_hub, pandas et matplotlib, illustre la volonté croissante de rendre les évaluations de modèles multimodaux aussi transparentes et vérifiables que les benchmarks traditionnels du traitement du langage.

RechercheTuto
1 source
OpenAI fait plier 10 problèmes de maths qui défiaient les chercheurs
21Le Big Data 

OpenAI fait plier 10 problèmes de maths qui défiaient les chercheurs

Le 1er août 2026, OpenAI a publié dix résultats mathématiques produits par Astra, la version interne de son prochain grand modèle, accompagnés d'un manuscrit de 249 pages et de dix certificats de vérification formelle. Les problèmes couvrent la géométrie en haute dimension, la théorie des groupes, la cryptographie sur réseaux, la complexité quantique et la combinatoire. Parmi les résultats revendiqués : la construction du premier groupe non sofique explicite, la réfutation de la conjecture de rigidité de Connes, la preuve de la conjecture de volume d'Ehrhart, la résolution de trois problèmes d'Erdős, ainsi que la première amélioration générale sur l'empilement de sphères depuis 1978. OpenAI évalue le coût en jetons de ces découvertes à environ 2 000 dollars aux tarifs de son API Sol. Le chercheur Sébastien Bubeck, employé d'OpenAI, a personnellement mis en avant sur X le résultat concernant les groupes non sofiques, présentant Astra comme l'auteur intellectuel des démonstrations plutôt que comme un simple outil. Ce chiffre de 2 000 dollars illustre un effondrement potentiel du coût marginal de la recherche mathématique de très haut niveau, jusqu'ici affaire de carrières entières et de programmes pluriannuels. Pour les universités et les instituts de recherche, le signal est brutal : une partie du travail théorique le plus exigeant pourrait bientôt se rapprocher, en coût, d'un simple calcul informatique. La vérification formelle en Lean 4, avec un fichier par résultat reconstructible via Lean 4.32.0 et Mathlib, change aussi la donne : une démonstration mal fondée ne peut plus se cacher derrière une rédaction convaincante, puisqu'elle doit compiler mécaniquement. Cela ne dispense toutefois pas les spécialistes humains de vérifier que l'énoncé formalisé correspond bien au problème historique posé, et que la preuve apporte une compréhension utile au-delà de sa validité logique. Cette annonce intervient deux mois seulement après la réfutation, déjà attribuée à un modèle OpenAI, d'une conjecture d'Erdős vieille de 80 ans, ce qui suggère une accélération rapide des capacités mathématiques des grands modèles. Mais la communication reste asymétrique : OpenAI ne précise pas combien de tentatives ou de problèmes ont échoué avant cette sélection de dix résultats, ni le coût réel incluant l'entraînement d'Astra et l'infrastructure, une limite relevée notamment par l'analyste Simon Willison. Face à ce type d'annonces, les mathématiciens ont réagi collectivement via la Déclaration de Leiden sur l'IA et les mathématiques, soutenue par l'Union mathématique internationale, qui réclame des publications évaluées selon des standards indépendants plutôt que de simples communiqués d'entreprise. La suite dépendra largement de la capacité de la communauté mathématique à auditer ces résultats de façon indépendante, et de la volonté d'OpenAI de rendre publics les échecs autant que les succès.

💬 Astra à 2 000 dollars pour dix résultats qui résistaient depuis des décennies, ça dit une chose simple : le coût marginal de la recherche mathématique de pointe vient de s'effondrer. Reste que la vérif Lean, c'est bien pour la logique, pas pour savoir si le problème formalisé colle au vrai problème historique, ça c'est encore un boulot d'humain. Et tant qu'OpenAI ne publie pas ses échecs à côté de ses dix succès triés sur le volet, je garde une réserve saine sur l'ampleur réelle du truc.

RecherchePaper
1 source
Deux équipes résolvent le même problème de cryptographie quantique à trois heures d'intervalle avec GPT-5.6
22The Decoder 

Deux équipes résolvent le même problème de cryptographie quantique à trois heures d'intervalle avec GPT-5.6

Deux équipes de recherche ont résolu indépendamment le même problème ouvert de cryptographie quantique en utilisant GPT-5.6 Sol Ultra d'OpenAI, soumettant leurs articles à seulement trois heures d'intervalle. L'un des chercheurs impliqués résume la nouvelle méthode de travail devenue courante : "si quelqu'un mentionne un problème ouvert, la première chose à faire est de voir si GPT le résout". Les deux équipes, sans concertation, ont abouti simultanément à une solution grâce au même modèle d'IA, un scénario qui aurait semblé improbable il y a encore quelques années dans un domaine aussi pointu que la cryptographie quantique. Cette coïncidence soulève une question de fond pour le monde de la recherche scientifique : que signifie encore la "découverte indépendante" lorsque des équipes séparées, travaillant sans lien entre elles, utilisent toutes le même outil pour aboutir au même résultat quasiment au même moment. Traditionnellement, deux équipes arrivant à une solution identique de façon indépendante était vu comme une validation forte, un signe que l'idée était mûre et que la découverte était solide. Mais si le véritable "chercheur" est un modèle de langage partagé par toute la communauté, cette convergence perd une partie de sa valeur probante, puisqu'elle ne reflète plus deux raisonnements humains distincts mais un seul outil interrogé deux fois. L'épisode illustre la vitesse à laquelle les grands modèles de langage s'intègrent désormais dans le travail de recherche mathématique et scientifique de pointe, y compris sur des problèmes ouverts jugés difficiles. Il rejoint les débats plus larges sur l'attribution du mérite scientifique, la reproductibilité et l'originalité à l'ère des IA génératives, alors que des outils comme GPT-5.6 deviennent des réflexes quasi systématiques pour tester la faisabilité d'une résolution avant même qu'un humain ne s'attaque au problème. Reste à savoir comment les revues scientifiques et les institutions académiques adapteront leurs critères d'évaluation face à cette nouvelle réalité.

💬 Deux équipes, même problème, même modèle, à trois heures d'écart : c'est ça qui devrait inquiéter les revues scientifiques, pas GPT-5.6 lui-même. La "découverte indépendante", c'est fini comme signal de solidité, puisque deux humains qui interrogent le même outil deux fois, c'est une seule preuve déguisée en deux. Reste à voir si les institutions académiques adaptent leurs critères avant que ce genre de coïncidence devienne la norme plutôt que l'exception.

RecherchePaper
1 source
OpenAI promeut son prochain modèle Astra avec la résolution de 10 problèmes de maths
23Next INpact 

OpenAI promeut son prochain modèle Astra avec la résolution de 10 problèmes de maths

OpenAI a dévoilé début août le nom de code utilisé en interne pour son prochain modèle phare, Astra, pas encore disponible au public, en affirmant qu'il a permis de résoudre dix problèmes de mathématiques. L'entreprise de Sam Altman présente ces résultats dans un billet de blog accompagné d'un PDF détaillant chaque démonstration, mais publié uniquement sur ses propres serveurs plutôt que sur une plateforme de preprint comme arXiv, où les chercheurs partagent habituellement leurs travaux. OpenAI ne mentionne le nom d'aucun mathématicien ayant supervisé ces recherches. L'entreprise précise que le coût total en jetons nécessaires pour retrouver les solutions reviendrait à environ 2 000 dollars aux tarifs de l'API Sol, une somme qui ne prend en compte que la reproduction finale des démonstrations, sans les nombreux essais-erreurs qu'il a fallu réaliser au préalable pour affiner les prompts. Cette annonce ravive un débat déjà vif sur la place de l'IA générative en mathématiques et sur l'attribution des découvertes. Une partie de la communauté mathématique a signé la Leiden Declaration on Artificial Intelligence and Mathematics, qui liste cinq menaces : la multiplication d'arguments plausibles mais peu fiables voire faux, l'absence de citations correctes ou la violation de droits d'auteur, la mise en avant de résultats seulement quand l'IA a été utilisée, la diffusion de résultats sans véritables publications, et la perte d'autonomie de la discipline face aux entreprises qui développent ces IA. Le mathématicien David Madore résumait dès juin sur son blog que les entreprises d'IA utilisent les mathématiques comme un benchmark en apparence objectif pour démontrer leur supériorité, notamment dans le contexte de l'introduction en bourse d'OpenAI, l'objectif réel n'étant pas de faire avancer la science mais de vendre leurs produits. Dans son billet, OpenAI tente de ménager cette communauté en reconnaissant que l'émergence de systèmes capables de contribuer à la recherche mathématique soulève des questions qu'une entreprise technologique ne peut trancher seule, tout en renvoyant la balle aux mathématiciens sur la question de l'attribution : selon elle, créditer un humain pour une démonstration entièrement générée par une IA donnerait une image faussée aussi bien de la contribution du système que du véritable travail intellectuel humain. La question de la paternité des résultats se pose avec d'autant plus d'acuité que l'IA accélère la mise en ligne des démonstrations : Scientific American rapportait récemment que deux équipes avaient publié, à moins de quatre heures d'intervalle sur arXiv, des articles résolvant le même problème de cryptographie quantique.

💬 Dix problèmes résolus, un PDF maison, zéro nom de mathématicien dessus, pas une ligne sur arXiv, j'y vois surtout un argumentaire pour l'introduction en bourse, pas une percée scientifique. Le coût à 2000 dollars, ça fait un chiffre qui claque, mais il cache tout le tâtonnement qu'il a fallu avant d'y arriver, crois-moi, la vraie facture est plus salée. Selon Le Fil IA, tant qu'OpenAI publiera ses résultats maths sur ses propres serveurs plutôt que là où la communauté scientifique vérifie vraiment, ce sera du marketing déguisé en recherche, pas l'inverse.

« Comprendre l'alignement dans les LLM multimodaux : une étude complète »
24Apple Machine Learning 

« Comprendre l'alignement dans les LLM multimodaux : une étude complète »

Une étude approfondie s'attaque à un angle mort de la recherche sur les grands modèles de langage : l'alignement par préférences (préférence alignment) appliqué aux modèles multimodaux (MLLMs), ceux qui traitent à la fois texte et image. Alors que cette technique d'alignement est déjà largement étudiée et déployée pour améliorer les LLMs classiques, son application aux modèles capables de comprendre des images reste beaucoup moins documentée. Les chercheurs pointent un problème spécifique à ces systèmes multimodaux : l'hallucination, qui ne se limite pas ici à énoncer des faits erronés comme chez un LLM textuel, mais s'étend à la production de réponses qui ne correspondent tout simplement pas au contenu réel de l'image analysée. Cette distinction est importante car elle change la nature du problème à résoudre. Pour un modèle multimodal, bien s'aligner ne signifie pas seulement éviter de dire des faussetés, mais aussi ancrer fidèlement ses réponses dans ce que l'image montre réellement, une exigence supplémentaire absente des LLMs purement textuels. Pour les entreprises et développeurs qui intègrent ces modèles dans des applications de description d'images, d'assistance visuelle ou d'analyse de documents, ce travail est crucial : un modèle qui hallucine sur le contenu visuel peut induire en erreur dans des contextes où la fiabilité factuelle vis-à-vis de l'image est justement la valeur ajoutée recherchée. Ce constat s'inscrit dans une dynamique de recherche plus large où les techniques ayant fait leurs preuves sur les LLMs textuels, comme l'alignement par préférences, sont progressivement transposées et réévaluées pour les architectures multimodales. Les grands acteurs du secteur, qui investissent massivement dans des modèles capables de raisonner sur des images, des vidéos ou des documents, ont un intérêt direct à combler ce manque de compréhension. Les suites attendues de ce type d'étude incluent probablement de nouvelles méthodes d'entraînement et des benchmarks dédiés pour mesurer et réduire spécifiquement l'hallucination visuelle, un enjeu de fiabilité central à mesure que ces modèles se généralisent dans des usages professionnels et grand public.

RecherchePaper
1 source
Stop tout schématiser : quand GraphRAG bat vraiment le RAG vectoriel
25VentureBeat AI 

Stop tout schématiser : quand GraphRAG bat vraiment le RAG vectoriel

Les systèmes de génération augmentée par récupération (RAG), utilisés depuis deux ans pour interroger de grands corpus de documents avec un modèle de langage, montrent leurs limites face aux questions transversales. La méthode classique découpe les documents en fragments, les transforme en vecteurs, puis récupère les passages les plus proches sémantiquement de la question posée. Cette approche fonctionne bien pour une question précise comme "quelle était notre politique de remboursement au troisième trimestre", mais échoue dès qu'il faut identifier des thèmes récurrents sur deux ans de réclamations clients, car aucun fragment isolé ne contient la réponse complète. Microsoft Research a formalisé cette limite en lançant GraphRAG, une alternative qui construit d'abord un graphe de connaissances reliant les entités et leurs relations dans le corpus, avant de l'utiliser comme contexte pour le modèle. Sur des jeux de données atteignant un million de tokens, GraphRAG a remporté entre 72 et 83% des comparaisons de complétude et entre 62 et 82% des comparaisons de diversité face au RAG classique, selon un modèle de langage servant de juge. Ses résumés de plus haut niveau consomment jusqu'à 97% de tokens en moins que le traitement du texte source brut. Ces résultats ont une portée concrète pour les entreprises qui construisent des systèmes de questions-réponses sur leurs propres données. Sur les benchmarks standards de raisonnement multi-sauts, MuSiQue, HotpotQA et 2WikiMultiHopQA, le taux de rappel à cinq résultats passe de 73,4% avec un RAG classique à 87,8% avec une récupération guidée par graphe, soit un gain de 19,6 points. Concrètement, cela signifie que le bon passage justificatif a beaucoup plus de chances d'être effectivement remonté au modèle, ce qui réduit les réponses incomplètes ou erronées sur les questions complexes nécessitant de croiser plusieurs sources. Mais ce gain n'est pas gratuit: construire et maintenir un graphe de connaissances demande un travail d'indexation supplémentaire par LLM, ce qui alourdit le coût et la complexité du pipeline par rapport à un simple découpage en fragments. Techniquement, GraphRAG fonctionne en deux temps. Lors de l'indexation, un modèle de langage lit chaque fragment de texte pour en extraire les entités, les relations et les affirmations, qu'il assemble en un graphe pondéré. L'algorithme de Leiden regroupe ensuite ce graphe en une hiérarchie de communautés thématiques, chacune dotée d'un résumé en langage naturel généré à l'avance. Au moment de la requête, chaque communauté pertinente rédige une réponse partielle, ces réponses sont classées et fusionnées, puis le modèle synthétise une réponse finale ancrée dans la structure du corpus plutôt que dans quelques extraits isolés. D'autres variantes comme HippoRAG empruntent une voie différente, combinant le graphe à un algorithme de type PageRank personnalisé pour localiser les passages pertinents, mais l'idée centrale reste la même: laisser les relations entre entités, et non la seule similarité vectorielle, décider du contexte fourni au modèle.

💬 GraphRAG, c'est la preuve qu'on a longtemps traité le RAG comme un problème de recherche alors que c'est un problème de structure. Sur une question transversale du genre "quels sont les thèmes récurrents sur deux ans de réclamations", aucun fragment isolé ne peut répondre, il faut la carte des relations entre entités, pas juste des vecteurs proches les uns des autres. Bon, sur le papier les gains sont nets (+19,6 points de rappel), mais construire et maintenir ce graphe coûte cher en indexation LLM, donc pour une boîte qui interroge juste sa doc produit, le RAG classique fait très bien le travail.

RecherchePaper
1 source
Meta AI utilise un second agent d'IA comme coach de mémoire pour maintenir le cap sur les tâches longues
26The Decoder 

Meta AI utilise un second agent d'IA comme coach de mémoire pour maintenir le cap sur les tâches longues

Meta AI a développé un système qui associe à un agent principal un second agent dédié uniquement à la mémoire, chargé de l'empêcher de refaire les mêmes erreurs pendant l'exécution de tâches longues et complexes. Ce "coach mémoire" tient à jour une banque de mémoire structurée qui consigne les échecs déjà diagnostiqués, les impasses rencontrées et les solutions déjà tentées. Il décide lui-même quand intervenir pour rappeler ces éléments à l'agent principal et quand rester silencieux afin de ne pas surcharger son raisonnement. Selon les tests menés par Meta AI, ce dispositif a permis d'améliorer les résultats jusqu'à 8,3 points de pourcentage sur deux benchmarks conçus pour évaluer les agents sur des tâches multi étapes. Ce gain est important car les agents IA actuels, même dotés de fenêtres de contexte très larges, ont tendance à oublier les erreurs qu'ils ont déjà identifiées au fil d'une tâche longue, ce qui les pousse à répéter des stratégies déjà vouées à l'échec. Cette limite freine directement leur fiabilité pour des usages professionnels comme le développement logiciel autonome, la recherche approfondie ou l'automatisation de tâches administratives complexes, où chaque boucle inutile coûte du temps de calcul et de la confiance des utilisateurs. Cette approche s'inscrit dans une course plus large de l'industrie pour résoudre les limites de mémoire des agents, un chantier également investi par OpenAI, Google et Anthropic. Plutôt que de simplement agrandir les fenêtres de contexte, Meta AI parie sur une architecture à plusieurs agents spécialisés, une piste qui pourrait s'imposer comme standard pour les futurs systèmes agentiques capables de mener des missions complexes sur de longues durées sans supervision humaine constante.

💬 Meta comprend enfin ce que les fenêtres de contexte géantes n'ont jamais réglé : un agent qui bosse seul finit par oublier ses propres erreurs et retombe dans les mêmes impasses. Séparer la mémoire du raisonnement dans un second agent dédié, c'est malin, et le gain de 8,3 points sur les benchmarks le confirme. Reste que c'est encore du labo, faut voir si ça tient sur un vrai projet de dev en autonomie pendant des heures, pas juste sur deux benchmarks calibrés pour ça.

RecherchePaper
1 source
L'IA continue de résoudre des problèmes mathématiques non résolus, un sentiment partagé chez les mathématiciens
27The Decoder 

L'IA continue de résoudre des problèmes mathématiques non résolus, un sentiment partagé chez les mathématiciens

Cette IA continue de résoudre des problèmes mathématiques non résolus, ce qui suscite des réactions partagées chez les mathématiciens. OpenAI a récemment publié une réfutation de la conjecture de la distance unitaire, un problème mathématique jusqu'ici irrésolu, déclenchant une vague d'avancées assistées par intelligence artificielle dans le domaine. Timothy Gowers, lauréat de la médaille Fields, rapporte que GPT 5.6 Pro a résolu deux problèmes sur lesquels il travaillait depuis un certain temps, et ce dès la première tentative pour chacun. Cette performance illustre la capacité croissante des modèles d'IA les plus avancés à s'attaquer à des questions mathématiques complexes, jusqu'alors réservées à l'expertise humaine spécialisée. Cette évolution soulève des inquiétudes profondes au sein de la communauté mathématique. Gowers met en garde contre une possible "destruction de la culture mathématique" si les chercheurs cessent de développer l'expertise nécessaire pour comprendre et vérifier de tels résultats. Le risque n'est pas seulement technique mais culturel: si l'IA produit des preuves que peu d'humains maîtrisent encore assez pour évaluer, le savoir-faire collectif accumulé au fil des générations pourrait s'éroder. D'autres mathématiciens adoptent une position plus pragmatique, considérant simplement ces outils comme des accélérateurs de productivité dans leur travail quotidien. Ce débat s'inscrit dans une tension plus large entre l'adoption enthousiaste de l'IA comme outil de recherche et la préservation des compétences fondamentales qui ont permis aux mathématiciens de construire, transmettre et vérifier des connaissances pendant des siècles. À mesure que des modèles comme GPT continuent de démontrer leur capacité à percer des problèmes ouverts, la communauté scientifique devra trancher entre intégration prudente et vigilance quant à la dépendance croissante envers ces systèmes, dont le raisonnement interne reste largement opaque même aux experts.

💬 Ce qui me frappe, c'est que le problème n'est plus "l'IA sait-elle faire des maths", c'est "qui reste capable de vérifier ce qu'elle produit". Gowers a raison de s'inquiéter, pas parce que GPT 5.6 Pro triche, mais parce qu'une preuve que personne ne peut relire n'est plus vraiment un savoir partagé, c'est une boîte noire qu'on accepte sur confiance. Reste à voir si la communauté impose des standards de vérification avant que ce soit trop tard, parce que là on est en train de troquer la culture mathématique contre du rendement.

RecherchePaper
1 source
L'IA peut moderniser les logiciels de recherche, mais pas juger si la science est correcte
28The Decoder 

L'IA peut moderniser les logiciels de recherche, mais pas juger si la science est correcte

OpenAI et plusieurs partenaires académiques ont publié un rapport de terrain montrant que les agents de codage IA peuvent moderniser des logiciels de recherche scientifique laissés à l'abandon, avec des gains de performance atteignant jusqu'à 60 fois la vitesse d'origine. Ces outils ont été testés sur du code utilisé par des chercheurs, souvent ancien, mal documenté ou jamais optimisé, faute de temps ou de compétences en ingénierie logicielle au sein des équipes scientifiques. Les résultats montrent que les agents parviennent à réécrire, paralléliser et accélérer ces programmes de manière significative, sans intervention humaine lourde sur le code lui-même. Mais le rapport pointe une limite critique : ces systèmes se montrent, selon les mots des participants, "éloquents, convaincants, et confiants à tort d'une manière difficile à détecter". Autrement dit, un agent peut produire du code plus rapide et qui semble fonctionner, tout en introduisant des erreurs subtiles qui faussent les résultats scientifiques sans que cela saute aux yeux. Pour les chercheurs, l'enjeu n'est donc plus la vitesse d'exécution mais la fiabilité des conclusions tirées de ces calculs, un problème d'autant plus sensible que la science repose sur l'exactitude des données produites. Conséquence directe observée sur le terrain : le travail des chercheurs et ingénieurs ne se déplace plus vers l'écriture de code, largement prise en charge par l'IA, mais vers la vérification minutieuse de la justesse scientifique des résultats produits. Ce constat s'inscrit dans un débat plus large sur l'usage des agents de codage en recherche, où la promesse de gains de productivité se heurte à la nécessité de garder un contrôle humain rigoureux sur la validité des sorties, faute de quoi l'automatisation pourrait accélérer la production d'erreurs autant que celle des résultats.

💬 Bon, sur le papier c'est du concret enfin : 60 fois plus rapide sur du code de recherche que personne n'osait toucher, l'IA fait ce que les chercheurs n'ont ni le temps ni les compétences de faire eux-mêmes. Mais le vrai chiffre à retenir, c'est pas le facteur 60, c'est que le goulot d'étranglement se déplace de l'écriture du code vers sa vérification, et ça, personne n'a encore les outils pour le faire à l'échelle. Un agent confiant à tort et indétectable, dans un contexte où la science se construit sur l'exactitude des résultats, c'est le pire scénario possible : l'erreur ne ralentit pas la recherche, elle l'accélère.

RecherchePaper
1 source
DataFlow-Harness comble l'écart : les pipelines de données IA structurées perdent 10,9 points face au code libre
29VentureBeat AI 

DataFlow-Harness comble l'écart : les pipelines de données IA structurées perdent 10,9 points face au code libre

Des chercheurs de l'Université de Pékin, de la Zhongguancun Academy et de l'Institute for Advanced Algorithms Research de Shanghai ont présenté DataFlow-Harness, un framework open source conçu pour guider un agent IA dans la construction de pipelines de traitement de données structurés et visuels, plutôt que de générer du code brut à partir de zéro. Sur un benchmark de douze tâches d'ingénierie de données, la plateforme atteint un taux de réussite observé de bout en bout de 93,3 %. Comparée à Claude Code utilisé de façon standard, elle réduit les coûts d'API jusqu'à 72,5 % et la latence de réponse de 49,9 %, tout en obtenant un taux de succès proche de celui d'un agent disposant de l'intégralité du code source pour écrire des scripts classiques. Les chercheurs ont aussi mesuré ce qu'ils appellent le "NL2Pipeline gap" : lorsque Claude Code écrit librement des scripts en s'appuyant sur le contexte du code existant, il atteint 94,2 % de réussite, mais ce taux chute à 83,3 % lorsqu'il est contraint d'utiliser uniquement les briques natives de la plateforme pour construire un graphe de workflow, soit un écart de 10,9 points. Runming He, premier auteur de l'étude, explique que "le premier obstacle n'est généralement pas d'écrire du Python" mais d'ancrer ce script dans une plateforme de production réelle, avec des opérateurs effectivement installés et un schéma de données conforme. Pour les équipes d'entreprise qui déploient des pipelines de traitement de données, notamment pour des systèmes de génération augmentée par récupération (RAG), cet écart a des conséquences concrètes. Les agents IA généralistes ont tendance à halluciner des dépendances, à s'appuyer sur des opérateurs indisponibles ou sur des hypothèses obsolètes concernant la plateforme, ce qui produit du code jetable, difficile à auditer et à faire évoluer par un autre ingénieur. DataFlow-Harness vise à résoudre ce problème en produisant des artefacts persistants et modifiables visuellement, directement intégrables dans les architectures MLOps existantes. Cela permettrait aux entreprises de bénéficier de la rapidité de l'automatisation par IA sans accumuler une dette technique ingérable, tout en garantissant que les pipelines restent sécurisés, auditables et prêts pour la production. Ce travail s'inscrit dans un enjeu plus large de l'IA orientée données, où des tâches comme la génération de données synthétiques, l'augmentation par récupération ou l'entraînement de modèles nécessitent des workflows gouvernables et pas seulement des scripts fonctionnels. Les chercheurs soulignent que combler cet écart ne se limite pas à améliorer la précision de la génération de code : la construction doit rester ancrée dans la sémantique de la plateforme et produire des artefacts qui s'intègrent réellement à l'environnement hôte. Cette approche pourrait influencer la façon dont les fournisseurs d'outils de codage IA conçoivent leurs agents pour des usages d'entreprise, où l'auditabilité et la traçabilité comptent autant que la performance brute.

💬 Sur le papier c'est exactement le bon problème : le vrai coût d'un agent IA sur un pipeline de données, c'est jamais d'écrire le script, c'est de le faire tenir avec les opérateurs réellement installés en prod. Moins 10,9 points entre code libre et graphe contraint, ça chiffre enfin un truc qu'on sentait empiriquement depuis des mois. Reste à voir si ça tient hors benchmark, sur une stack legacy avec des opérateurs maison mal documentés, ce genre de gap adore réapparaître.

RecherchePaper
1 source
Les contrôleurs de machines industrielles peuvent coordonner l'apprentissage automatique multitâche
30Amazon Science 

Les contrôleurs de machines industrielles peuvent coordonner l'apprentissage automatique multitâche

Une équipe de chercheurs d'Amazon Web Services a présenté lors de la conférence ICML de cette année un nouveau cadre appelé ControlG, destiné à résoudre un problème récurrent de l'apprentissage automatique multitâche appliqué aux graphes. Le travail a été mené par Karish Grover, doctorant en stage chez AWS dans le cadre du programme Amazon PhD Fellowship, sous la supervision du chercheur Amazon Scholar Christos Faloutsos et d'un second mentor. Le sujet est l'apprentissage auto-supervisé sur graphes (graph SSL), une technique qui entraîne un réseau de neurones à traiter des données structurées en graphe pour des tâches comme la classification de nœuds. Ce domaine dispose de plusieurs objectifs d'entraînement complémentaires : la prédiction de liens entre nœuds, la reconstruction de nœuds masqués, ou encore la maximisation de l'information mutuelle entre un nœud et son voisinage. Or, aucun de ces objectifs ne domine systématiquement selon les jeux de données, ce qui pousse les chercheurs à vouloir les combiner. La méthode habituelle consiste à mélanger les gradients de tous les objectifs à chaque étape d'entraînement, ce qui produit des compromis permanents entre objectifs concurrents. Ce mélange constant pose trois problèmes concrets identifiés par l'équipe : le désaccord, où des gradients contradictoires dégradent un objectif au profit d'un autre ; la dérive, où un objectif utile en début d'entraînement devient inutile sans que sa pondération s'adapte assez vite ; et l'assèchement, où certains objectifs voient leur poids tomber à zéro au point de devenir invisibles dans le modèle final. Ces défaillances limitent la qualité des représentations apprises et compliquent le diagnostic des modèles multitâches. C'est pour cette raison que l'équipe a voulu repenser la coordination des objectifs non plus comme un problème de pondération instantanée, mais comme un problème de planification dans le temps : à chaque instant, quel objectif doit recevoir le budget de calcul disponible plutôt que d'être mélangé aux autres. ControlG s'inspire directement des régulateurs proportionnel-intégral-dérivé (PID), des dispositifs de contrôle en boucle fermée largement utilisés dans l'industrie et même dans les régulateurs de vitesse automobile, pour décider à chaque bloc d'étapes quel objectif mérite l'attention du modèle. Fait notable, les chercheurs montrent qu'même une simple sélection aléatoire d'objectif à chaque bloc suffit à surpasser des méthodes de pointe existantes : sur des tâches de regroupement de nœuds, cette approche aléatoire obtient un rang moyen de 5,0, devançant AutoSSL (7,3), ParetoGNN (8,1), PCGrad (7,8), CAGrad (8,4) et WAS (10,0). La seule séparation temporelle des objectifs suffit donc à éliminer les conflits de gradients instantanés, même si elle laisse encore de la performance sur la table par rapport à une allocation pilotée par PID. Ce résultat ouvre une piste plus large pour repenser l'entraînement multitâche en apprentissage automatique, en traitant l'allocation des ressources de calcul comme un véritable problème d'ordonnancement plutôt que de simple pondération mathématique.

RecherchePaper
1 source
Echoverse : des environnements riches et évolutifs pour les agents utilisant un ordinateur
31Microsoft Research 

Echoverse : des environnements riches et évolutifs pour les agents utilisant un ordinateur

Microsoft a présenté Echoverse, un ensemble de douze environnements d'entraînement conçus pour les agents capables de manipuler un ordinateur comme le ferait un humain. Le dispositif comprend dix "mondes" de domaines complets, reproduisant fidèlement le fonctionnement d'applications réelles avec des données réalistes et un état cohérent entre les écrans et les utilisateurs, ainsi que deux "mondes de capacité" centrés sur un seul type de contrôle décliné sous de nombreuses formes, comme les sélecteurs de date ou les filtres imbriqués. Entraîné sur l'ensemble des douze environnements, un modèle de 9 milliards de paramètres a pratiquement doublé son score initial, passant de 36,5% à 67,1% de réussite, se rapprochant ainsi à quatorze points seulement des performances de GPT-5.4. Microsoft publie quatre de ces environnements en libre accès, avec leur code, leurs données et leurs systèmes de notation automatisés, sur GitHub sous le nom microsoft/Echoverse et sur Hugging Face, accompagnés d'un rapport technique détaillé. L'expérience révèle plusieurs enseignements qui pourraient orienter la manière dont l'industrie entraîne ses agents autonomes. D'abord, la fidélité de simulation s'avère déterminante: sur des versions superficielles des mêmes sites, le modèle a régressé, alors qu'il a progressé sur les versions approfondies, confirmant que des environnements trop simplifiés nuisent à l'apprentissage plutôt que de l'accélérer. Ensuite, les agents butent systématiquement sur les mêmes types d'éléments d'interface, comme les sélecteurs de date ou les filtres complexes: en s'entraînant intensivement sur ces contrôles sous des formes variées, le modèle a appris à les manier même dans des domaines qu'il n'avait jamais rencontrés auparavant. Enfin, faire évoluer simultanément le modèle, l'environnement et le système de vérification profite aux trois: plus le monde gagne en exactitude et en difficulté, plus l'agent progresse avec lui, et l'apprentissage par renforcement appuyé sur un vérificateur ancré dans les données réelles permet à l'agent de dépasser la simple imitation, atteignant ses objectifs en moins d'étapes. Cette approche répond à un problème structurel: un agent ne peut réellement apprendre les conséquences de ses actions que dans un système où elles ont un effet concret, ce qu'une simple capture d'écran ne permet pas de simuler. Or l'essentiel du travail que l'on cherche à automatiser, messagerie, banque, dossiers médicaux, consoles internes du cloud, se trouve derrière des connexions sécurisées, rendant tout entraînement sur les systèmes réels impossible sans risque ni possibilité de réinitialisation. La communauté de recherche sait désormais produire rapidement des centaines d'environnements synthétiques de ce type, mais Microsoft parie que le véritable levier de progrès ne réside plus dans leur multiplication, mais dans une boucle continue qui identifie les échecs d'un agent et rend les mondes existants plus exigeants et plus fidèles en conséquence.

RecherchePaper
1 source
EvoLib : transformer l'expérience en savoir évolutif
32Microsoft Research 

EvoLib : transformer l'expérience en savoir évolutif

EvoLib est un nouveau cadre de recherche qui permet aux grands modèles de langage d'apprendre de leur propre expérience pendant l'inférence, sans nécessiter d'étiquettes de référence ni de retour externe. Présenté dans l'article "Test-Time Learning with an Evolving Library", ce système transforme les tentatives passées d'un modèle en compétences réutilisables et en enseignements réflexifs, plutôt que de simplement archiver des conversations, des traces de raisonnement ou des historiques d'actions. Concrètement, EvoLib repose sur deux mécanismes principaux : la consolidation, qui rapproche une nouvelle connaissance extraite d'une expérience récente des connaissances similaires déjà présentes dans la bibliothèque pour en tirer une version plus générale et réutilisable, et un mécanisme de pondération, qui ajuste en continu l'importance de chaque unité de connaissance selon son utilité immédiate mais aussi sa contribution à la génération de connaissances utiles pour des tâches futures. L'équipe a testé EvoLib sur un ensemble varié de tâches exigeantes, notamment la résolution de problèmes de raisonnement mathématique et l'écriture de code, avec des gains de performance constatés au fil du temps. L'intérêt de cette approche tient au fait qu'elle ne nécessite aucune mise à jour du modèle sous-jacent : elle peut donc s'appliquer à n'importe quel modèle de langage en boîte noire, y compris ceux déployés uniquement via des API, ce qui inclut la grande majorité des modèles commerciaux actuels comme ceux d'OpenAI, Google ou Anthropic. Pour les entreprises et développeurs qui construisent des agents IA, cela ouvre la possibilité d'un apprentissage continu sans les coûts et contraintes du fine-tuning classique. Plutôt que de laisser un agent accumuler une masse croissante et difficile à exploiter d'expériences passées, EvoLib permet d'en extraire progressivement l'essentiel : les stratégies qui fonctionnent et les erreurs à éviter, un peu comme le fait la mémoire humaine, qui ne retient pas chaque détail mais raffine avec le temps des leçons générales et transférables. Cette recherche s'inscrit dans un mouvement plus large de l'IA autour de la mémoire et de l'apprentissage à l'inférence ("test-time learning"), un des axes jugés prometteurs pour dépasser les limites du seul pré-entraînement massif. Les systèmes de mémoire d'agents IA existants se contentent souvent d'empiler des historiques bruts, rendant difficile l'identification des informations pertinentes pour une nouvelle tâche, sans parler de leur raffinement progressif. En proposant un mécanisme d'évolution continue des connaissances plutôt qu'une simple accumulation, les chercheurs à l'origine d'EvoLib visent à combler cet écart entre mémoire et apprentissage réel. Les prochaines étapes probables incluront des tests à plus grande échelle, sur davantage de types de tâches, et l'exploration de la manière dont plusieurs agents pourraient partager et faire évoluer une même bibliothèque de connaissances collective.

RecherchePaper
1 source
L'ontologie fait son grand retour : pourquoi les agents IA relancent le web sémantique
33Latent Space 

L'ontologie fait son grand retour : pourquoi les agents IA relancent le web sémantique

Lors de l'édition 2026 de l'AI Engineer World's Fair, l'une des présentations les plus suivies a été celle de Frank Coyle, professeur d'informatique qui enseigne l'IA générative et les LLMs à UC Berkeley. Dans une intervention de vingt minutes, Coyle a réintroduit auprès des ingénieurs IA d'aujourd'hui le concept d'ontologie, une notion qui, selon lui, remonte à Aristote et qui a traversé toute l'histoire de l'intelligence artificielle. Une ontologie, qu'il définit simplement comme des "données sous forme de graphes", décrit la structure des données d'un domaine de connaissance : ses classes, ses propriétés et ses relations. Coyle défend l'idée que si les LLMs excellent dans le raisonnement probabiliste, les systèmes agentiques ont besoin de "garde-fous logiques" pour être réellement fiables, et que ces garde-fous, ce sont précisément les ontologies. Lors d'un keynote au même événement, Emil Eifrem, PDG de Neo4j, société spécialisée dans les bases de données en graphe, a détaillé trois types d'ontologies permettant de créer un "substrat partagé plus intelligent" pour faire tourner des agents à grande échelle : une ontologie orientée métier décrivant les concepts clés d'une organisation, une ontologie technique regroupant les métadonnées de toutes les sources et actifs de données de l'entreprise, et enfin les traces d'exécution, c'est-à-dire les signaux produits en temps réel par les agents. Cette remise au goût du jour a une portée concrète pour les développeurs qui construisent des agents IA. Coyle a cité des standards du web sémantique déjà bien connus, comme Schema.org, FOAF, Dublin Core, ainsi que des technologies complémentaires comme RDFS et OWL. Leur avantage est qu'elles figurent déjà dans les données d'entraînement des LLMs, ce qui permet aux développeurs de les invoquer directement par prompt plutôt que de réinventer des ontologies depuis zéro. Il a notamment montré un agent Claude utilisant une ontologie pour valider le raisonnement du modèle après l'exécution d'un outil, une approche qu'il qualifie d'"IA neurosymbolique", combinant réseaux de neurones et systèmes symboliques à base de règles et de graphes de connaissances. Cette approche relance en réalité un vieux débat. Kingsley Idehen, dirigeant d'OpenLink Software, développe depuis des années une pile technique d'ingénierie d'agents fondée sur le web sémantique, incluant un agent doté d'une "mémoire RDF". Il résume l'intérêt de combiner les deux mondes : le langage donne sa puissance expressive, l'ontologie lui donne un contexte calculable. Reste un problème historique, celui de la maintenance des ontologies, qui explique en grande partie pourquoi la vision du "web sémantique" des années 1990 et 2000 n'a jamais vraiment décollé. Sur X, le développeur Prasenjit Sarkar a proposé une piste : confier à l'agent lui-même la tâche de maintenir son ontologie au fil de son fonctionnement.

RecherchePaper
1 source
Tencent open-source AngelSpec, un framework unifié d'entraînement pour le MTP et le décodage spéculatif parallèle par blocs sur les modèles Hy3
34MarkTechPost 

Tencent open-source AngelSpec, un framework unifié d'entraînement pour le MTP et le décodage spéculatif parallèle par blocs sur les modèles Hy3

Tencent a publié en open source AngelSpec, un framework d'entraînement natif PyTorch destiné à construire des modèles "brouillons" (draft models) pour le décodage spéculatif, une technique qui accélère l'inférence des grands modèles de langage. La publication couvre deux familles de méthodes appliquées aux modèles Hy3 de l'entreprise : la prédiction multi-tokens autorégressive (MTP) et la famille DFlash/DFly, basée sur un décodage par blocs parallèles. Le principe du décodage spéculatif est le suivant : un petit modèle propose plusieurs tokens futurs, puis le modèle cible les vérifie tous en un seul passage, sans perte de qualité. Les gains dépendent de deux facteurs, le taux d'acceptation des propositions et la durée du cycle proposition-vérification. Sur le module MTP, Tencent a mesuré qu'à température nulle, le taux d'acceptation moyen passe de 52,8 % à 66,4 % et la longueur moyenne acceptée de 2,58 à 2,99 tokens, avec des gains particulièrement marqués en profondeur : le taux à la troisième position grimpe de 29 % à 70,6 % sur le benchmark GSM8K et de 38,7 % à 75,7 % sur HumanEval. L'intérêt de cette approche est qu'elle refuse l'idée d'un modèle brouillon universel, jugée inadaptée au trafic réel des serveurs. Dans une conversation ouverte à forte entropie, de nombreuses continuations sont valides, ce qui fait chuter rapidement l'acceptation dès que le brouillon s'allonge ; la prédiction autorégressive courte, comme le MTP, convient mieux à ce cas. À l'inverse, le code informatique et les raisonnements mathématiques suivent des structures syntaxiques et logiques très contraintes, qui permettent de générer des séquences prévisibles plus longues, exploitées efficacement par le décodage par blocs. En proposant deux modèles complémentaires spécialisés plutôt qu'un compromis unique, entraînés sur des données différentes (conversation généraliste pour le MTP, code et mathématiques pour DFly), Tencent promet une inférence plus rapide et moins coûteuse pour les entreprises qui déploient des modèles de langage à grande échelle, un enjeu économique majeur dans la course actuelle à la réduction des coûts de calcul. Sur le plan technique, AngelSpec s'appuie sur le principe du "Training-Time Test" introduit par EAGLE-3 : le bloc MTP, entraîné en boucle sur plusieurs profondeurs avec des paramètres partagés, reçoit à chaque étape la prédiction la plus probable de l'étape précédente plutôt que le token de référence, ce qui réduit l'écart entre entraînement et inférence. Le backbone et la tête de langage du modèle cible restent gelés, et l'entraînement utilise des réponses générées par ce même modèle cible plutôt que par un corpus externe, afin de reproduire fidèlement ses schémas d'incertitude. DFly, la variante par blocs, hérite de l'architecture DFlash avec un mécanisme de conditionnement hybride sur les couches cibles. Ces choix, documentés et rendus publics, s'inscrivent dans une compétition plus large entre laboratoires pour optimiser la vitesse de service des grands modèles, aux côtés d'acteurs comme NVIDIA ou les équipes derrière EAGLE.

RecherchePaper
1 source
Un nouveau benchmark pour évaluer les agents IA de santé destinés aux patients
35Amazon Science 

Un nouveau benchmark pour évaluer les agents IA de santé destinés aux patients

Nouveau benchmark, PatientAgentBench, pour évaluer les IA médicales tournées vers le patient (chiffres clés, etc.) Anthropic a présenté PatientAgentBench, un nouveau standard d'évaluation conçu spécifiquement pour les agents IA qui interagissent directement avec les patients, comme la prise de rendez-vous, la gestion des ordonnances ou le tri des symptômes. Contrairement aux benchmarks existants, qui testent soit les connaissances médicales statiques (questions d'examens, échanges ponctuels destinés aux cliniciens), soit des tâches techniques réservées aux professionnels de santé, PatientAgentBench simule des conversations multitours réalistes entre un agent IA et un patient virtuel. Le système génère un dossier médical synthétique, un scénario clinique dérivé de ce dossier, puis un agent patient qui converse avec l'IA de santé évaluée, laquelle doit collecter les bonnes informations, raisonner sur le dossier, déterminer le niveau de soins approprié et exécuter correctement les démarches cliniques. Un jury composé de plusieurs modèles de langage note ensuite chaque conversation selon plus de 100 critères validés par des cliniciens, répartis en six dimensions : sécurité clinique, qualité du tri, précision du parcours de soins, réussite de la tâche, utilité clinique et qualité conversationnelle. Cette approche répond à un problème identifié dans les évaluations précédentes de l'IA en santé, jugées trop rigides et vulnérables à la contamination des données d'entraînement. Les benchmarks classiques reposent en effet sur des grilles rédigées au cas par cas par des médecins pour un jeu de conversations figé, qui ne se généralisent pas à de nouveaux agents et qui, une fois publiées, finissent par être apprises par cœur par les modèles lors de leur entraînement, ce qui gonfle artificiellement les scores sans refléter une vraie capacité de raisonnement. Avec des critères réutilisables et une génération de scénarios renouvelée à chaque évaluation, PatientAgentBench limite ce risque de mémorisation et peut s'étendre à de nouveaux domaines cliniques, de nouvelles populations de patients et de nouveaux modèles sans nécessiter à chaque fois une nouvelle annotation médicale. Pour l'industrie, l'enjeu est de taille : à mesure que les agents IA passent du simple rôle de conseiller à celui d'exécutant de tâches médicales concrètes pour le compte des patients, il devient crucial de disposer d'outils fiables pour vérifier qu'ils respectent les mêmes garde-fous que ceux appliqués en médecine de premier recours contre les erreurs de diagnostic, les usages dangereux de médicaments ou les ruptures de suivi. Le projet s'inscrit dans un contexte plus large où les grands modèles de langage, même les plus performants, montrent encore des limites significatives dans la gestion de situations cliniques sensibles impliquant plusieurs tours de dialogue et des décisions d'escalade. Anthropic indique que des cliniciens licenciés ont validé les scénarios et les critères du benchmark, et que les premiers résultats obtenus avec PatientAgentBench doivent permettre d'orienter la conception d'agents de santé plus sûrs. En publiant ce standard de manière reproductible, l'entreprise cherche à établir une référence commune pour l'ensemble du secteur, à un moment où plusieurs acteurs de la tech et de la santé développent en parallèle des assistants IA destinés à interagir directement avec les patients, sans toujours disposer de méthodes rigoureuses pour en mesurer la sécurité réelle avant déploiement.

💬 Bon, PatientAgentBench, ça change enfin la donne sur un point précis : jusqu'ici on évaluait des IA de santé sur des QCM figés qu'elles finissaient par apprendre par cœur, pas sur leur capacité à gérer une vraie conversation avec un patient qui panique ou qui ment sur ses symptômes. Le vrai apport, c'est que les critères sont réutilisables et les scénarios régénérés à chaque test, donc ça limite la triche par mémorisation, ce qui manquait cruellement au secteur. Reste que c'est un jury de LLM qui note d'autres LLM, donc avant de le prendre pour argent comptant en prod sur du triage réel, faut voir ce que ça donne sur des cas limites que même les cliniciens débattent entre eux.

RecherchePaper
1 source
« Pourquoi les systèmes cognitifs basés sur l'IA redéfinissent le radar et la guerre électronique »
36IEEE Spectrum AI 

« Pourquoi les systèmes cognitifs basés sur l'IA redéfinissent le radar et la guerre électronique »

Les systèmes radar et de guerre électronique traditionnels reposent sur des bibliothèques de menaces statiques, des bases de données qui répertorient les signatures de fréquence et de modulation connues. Un nouveau livre blanc technique détaille pourquoi cette approche devient obsolète face aux émetteurs dits "mode-agile", capables de basculer entre des modes de réserve de guerre imprévus, des fréquences inédites et des schémas de saut de fréquence complexes qui ne correspondent à aucune signature répertoriée. Le document présente une architecture alternative fondée sur l'intelligence artificielle et l'apprentissage automatique, combinant réseaux de neurones artificiels (ANN), réseaux de neurones profonds (DNN), logique floue et algorithmes génétiques pour classifier les menaces et générer des contre-mesures en temps réel, sans intervention humaine. L'enjeu est concret pour les industriels de la défense et les forces armées équipées de systèmes de protection, d'attaque et de soutien électroniques : les architectures actuelles, incapables de reconnaître un signal qui ne figure pas déjà dans leur bibliothèque, laissent une fenêtre de vulnérabilité face à des adversaires qui adaptent volontairement leurs émissions pour échapper à la détection. Un système radar ou de guerre électronique "cognitif", qui perçoit, apprend, raisonne et agit en boucle fermée, permettrait de désenchevêtrer des signaux complexes et de synthétiser une riposte adaptée en quelques instants, réduisant le délai entre détection et neutralisation d'une menace évolutive. Le livre blanc s'inscrit dans un mouvement plus large de militarisation de l'IA pour le combat électromagnétique, où les blocs fonctionnels clés (acquisition RF, recherche et poursuite, analyse de signal par IA, synthèse de forme d'onde, génération RF) doivent être entraînés et validés avant tout déploiement opérationnel. Le document explique comment des bancs d'essai combinant enregistrement RF large bande, simulation et rejeu, associés à des logiciels de modélisation, permettent d'affiner ces algorithmes en laboratoire, de les soumettre à des tests de régression et de préparer les missions dans des conditions contrôlées avant leur mise en service sur le terrain.

RechercheActu
1 source
METR introduit un nouveau critère pour déterminer quand les agents IA deviennent plus coûteux que les humains
37The Decoder 

METR introduit un nouveau critère pour déterminer quand les agents IA deviennent plus coûteux que les humains

METR, l'organisation de recherche spécialisée dans l'évaluation des capacités des systèmes d'intelligence artificielle, a présenté une nouvelle métrique baptisée "horizon de dépense" (expenditure horizon), conçue pour déterminer à partir de quel moment un agent IA devient plus coûteux qu'un humain pour résoudre un problème donné. Contrairement aux indicateurs habituels qui mesurent la durée des tâches qu'un agent peut accomplir, cette métrique traduit directement la performance en dollars, en comparant le coût de calcul consommé par l'agent au coût équivalent d'une main-d'œuvre humaine. METR a testé cette approche sur le NanoGPT speedrun, un défi consistant à optimiser le plus rapidement possible l'entraînement d'un modèle de type GPT, et les premiers résultats se sont révélés décevants pour les agents IA actuels. Cette métrique s'inscrit dans un débat plus large sur la rentabilité réelle des agents IA en entreprise. Si les modèles progressent régulièrement sur des bancs d'essai mesurant l'autonomie ou la durée des tâches, la question du coût effectif reste largement ignorée alors qu'elle conditionne l'adoption concrète de ces outils par les entreprises. Un agent capable de résoudre un problème mais dont le coût en calcul dépasse celui d'un ingénieur humain n'a, économiquement, guère d'intérêt pour une organisation. METR reconnaît toutefois que sa métrique comporte des angles morts, notamment parce qu'elle capture mal certains types de tâches ou de gains de productivité indirects. L'organisation souligne aussi que la génération de modèles la plus récente pourrait rebattre les cartes, les coûts de calcul et les performances évoluant rapidement. Cette initiative rejoint les efforts d'acteurs comme OpenAI ou Anthropic pour mieux quantifier l'impact économique réel de leurs systèmes.

💬 Ce qui me frappe, c'est que METR compare enfin le calcul en dollars face à un salaire d'ingénieur, pas juste en "durée de tâche" comme d'habitude. Sur le NanoGPT speedrun les agents perdent déjà, ce qui confirme un truc qu'on sent depuis des mois sans le chiffrer : un agent qui résout un problème mais qui coûte plus cher qu'un humain n'intéresse aucune boîte, aussi impressionnant soit le résultat. Reste que la métrique a des angles morts et que la prochaine génération de modèles peut rebattre les cartes vite, donc je surveillerais ça plutôt que d'en tirer une conclusion définitive.

RecherchePaper
1 source
La lecture continue des données dans la découverte de médicaments pilotée par l'IA
38MIT Technology Review 

La lecture continue des données dans la découverte de médicaments pilotée par l'IA

Le développement de nouveaux médicaments reste l'un des paris les plus coûteux et les plus risqués de l'industrie pharmaceutique. Depuis les années 1950, le coût de mise au point d'un traitement double environ tous les neuf ans, un phénomène connu sous le nom de loi d'Eroom. Aujourd'hui, faire aboutir un médicament jusqu'au marché prend en moyenne dix à quinze ans, pour un budget compris entre 1 et 2,5 milliards de dollars, avec un taux d'échec dépassant 90 %. Face à cette équation, l'intelligence artificielle est devenue le principal levier sur lequel misent les laboratoires pour réduire les délais et augmenter les taux de réussite. Paul Belcher, directeur de la stratégie de recherche sur les protéines chez Cytiva, entreprise mondiale des sciences de la vie, explique que la phase clinique reste le poste de dépense le plus lourd, ce qui rend cruciale toute réduction de risque en amont. Selon lui, l'IA a fait basculer les méthodes de criblage empirique, où l'on teste physiquement des bibliothèques de milliers de molécules, vers une conception prédictive : les candidats médicaments sont désormais imaginés numériquement, et leur interaction avec une cible thérapeutique est estimée avant même le premier test en laboratoire. Cette bascule change concrètement le travail des équipes de recherche. Les techniques de criblage traditionnelles permettent d'évaluer des centaines de milliers, voire des millions de composés, mais produisent des données binaires, de simples réponses oui ou non, peu riches en information. En générant davantage de candidats potentiels, et des candidats plus complexes, l'IA multiplie la pression sur les laboratoires, qui doivent désormais tester, caractériser et purifier un volume croissant de molécules diverses. Belcher souligne toutefois une limite importante : l'IA ne sait pas encore prédire de façon fiable la cinétique ou la capacité de développement d'un composé, ce qui signifie que chaque candidat généré par un algorithme doit toujours être validé physiquement en laboratoire. Cette exigence crée une demande croissante pour des technologies de caractérisation à haut débit, capables de produire des données plus riches que les simples résultats de criblage binaire. Cette accélération met aussi en lumière un problème plus profond : la qualité des données utilisées pour entraîner les modèles. De nombreux systèmes d'IA ont été entraînés sur des bases de données publiques et se heurtent désormais à un mur, dit Belcher, car tous les modèles ayant accès aux mêmes données finissent par converger vers des conclusions similaires, avec des rendements décroissants. Ces jeux de données n'ont en outre jamais été conçus pour l'IA, et manquent de structure, d'étiquetage et de diversité. Le biais de publication aggrave le problème : la plupart des articles scientifiques et bases publiques ne rapportent que des résultats positifs, personne ne souhaitant partager ses échecs, ce qui prive les modèles d'une partie essentielle de l'information nécessaire pour identifier des schémas fiables et limiter les biais.

RechercheActu
1 source
FAIRChem v2 UMA : simulation atomistique multidomaine pour molécules, catalyseurs, matériaux, vibrations et dynamique moléculaire
39MarkTechPost 

FAIRChem v2 UMA : simulation atomistique multidomaine pour molécules, catalyseurs, matériaux, vibrations et dynamique moléculaire

Ce tutoriel présente FAIRChem v2 et son potentiel interatomique universel UMA, développé pour unifier la simulation atomistique à travers plusieurs domaines de la chimie computationnelle. Le modèle utilisé, baptisé uma-s-1p2, est chargé via la bibliothèque fairchem-core après authentification sur Hugging Face, nécessaire car les poids du modèle sont soumis à un accès restreint. Une fois le prédicteur initialisé, trois calculateurs distincts sont créés à partir du même modèle de base, correspondant aux tâches omol pour les molécules organiques, oc20 pour la catalyse de surface et omat pour les matériaux inorganiques. Le tutoriel s'appuie sur ASE, l'Atomic Simulation Environment, pour gérer les structures atomiques, les optimiseurs, les contraintes et l'analyse des trajectoires, avec accélération GPU quand elle est disponible. Les démonstrations couvrent un large éventail de calculs : prédiction d'énergie et de forces sur une molécule d'eau, calcul d'énergie d'atomisation, relaxation géométrique d'une structure déformée par optimisation LBFGS, comparaison d'états de spin, estimation d'énergies de réaction, analyse vibrationnelle, adsorption de surface, relaxation de mailles cristallines, ajustement d'équations d'état, dynamique moléculaire et balayage de surfaces d'énergie potentielle. L'intérêt de cette approche réside dans le remplacement de modèles spécialisés, historiquement entraînés séparément pour la chimie moléculaire, la catalyse ou la science des matériaux, par un seul réseau de neurones capable de traiter ces trois domaines avec la même précision. Pour les chercheurs en chimie computationnelle et en science des matériaux, cela signifie pouvoir explorer des réactions chimiques, des surfaces catalytiques et des cristaux sans changer d'outil ni réentraîner de modèle à chaque nouveau système étudié. Les simulations qui nécessitaient auparavant des méthodes ab initio coûteuses en temps de calcul, comme la théorie de la fonctionnelle de la densité, peuvent être approchées beaucoup plus rapidement grâce à ce potentiel appris, tout en conservant une fidélité suffisante pour des usages de recherche. Cette convergence s'inscrit dans une tendance plus large de l'apprentissage automatique appliqué aux sciences des matériaux, où des modèles dits universels cherchent à remplacer la fragmentation historique entre sous-domaines de la simulation atomistique. Le choix de distribuer les poids via Hugging Face, sous accès contrôlé, reflète les précautions prises par les équipes de recherche autour de la diffusion de modèles entraînés sur de vastes bases de données de structures moléculaires et cristallines. L'intégration avec ASE, un standard largement adopté par la communauté de la chimie computationnelle, facilite l'adoption de ces potentiels universels par des laboratoires qui utilisaient déjà cet environnement pour piloter leurs calculs, ouvrant la voie à des usages combinant plusieurs domaines dans un même flux de travail.

UELes laboratoires de recherche européens en chimie computationnelle et science des matériaux pourraient adopter cet outil pour leurs travaux, sous réserve d'un accès restreint aux poids du modèle via Hugging Face.

💬 Ce qui compte ici c'est pas le modèle en soi, c'est qu'un seul réseau fait le boulot de trois familles d'outils qui ne se parlaient jamais entre elles. Avant, chaque labo entraînait sa propre bête pour la chimie moléculaire, la catalyse ou les cristaux. Maintenant tu prends le même socle et tu changes juste de tête de calcul. Bon, les poids restent sous clé sur Hugging Face donc c'est pas open en vrai, mais si la précision tient la route, ça va bouffer une bonne partie des calculs DFT qui coûtaient des heures de cluster.

RecherchePaper
1 source
Open Dreamer : une reproduction JAX/Flax du modèle Dreamer 4, avec la recette d'entraînement complète publiée
40MarkTechPost 

Open Dreamer : une reproduction JAX/Flax du modèle Dreamer 4, avec la recette d'entraînement complète publiée

Un petit groupe de chercheurs en IA, l'équipe Reactor, a publié Open Dreamer, une implémentation ouverte du pipeline de modèle du monde Dreamer 4, codée en JAX et Flax NNX. Deux dépôts ont été mis en ligne: next-state/open-dreamer contient le pipeline d'entraînement complet, avec un tokenizer vidéo causal, un modèle de dynamique latente conditionné par l'action, la génération de rollouts et le calcul du score FVD, tandis que reactor-team/open-dreamer propose un harnais de rollout local minimal qui génère des images à partir d'un fichier MP4 et d'un fichier d'actions associé. Un troisième élément, une démo dans le navigateur hébergée sur l'infrastructure Reactor, diffuse en temps réel un monde Minecraft généré et propose un bouton pour basculer entre le jeu réel et le rêve, image par image. L'équipe a délibérément limité ses méthodes à celles décrites dans l'article de recherche original sur Dreamer 4, en commençant par CoinRun, un jeu de plateforme 2D procédural entraînable sur un seul GPU, avant d'étendre le pipeline à des séquences de jeu Minecraft au format VPT. L'architecture repose sur un même squelette transformeur causal par blocs, utilisé à la fois pour le tokenizer et le modèle de dynamique, alternant des couches spatiales qui propagent l'information au sein d'une image et des couches temporelles causales qui relient les images entre elles. Le tokenizer, un auto-encodeur masqué plutôt qu'un VAE classique, atteint une compression d'environ 100 fois sans perte de qualité liée aux pertes KL ou adversariales, le masquage rendant selon l'équipe l'espace latent plus facile à diffuser. Le modèle de dynamique prédit l'image suivante via diffusion forcing, flow matching et modèles shortcut, tout en anticipant la prochaine action; les jetons du modèle du monde n'ont toutefois pas accès au jeton de l'agent, si bien que la politique n'influence le futur qu'à travers l'action suivante. Concrètement, le modèle de dynamique Minecraft compte 1,6 milliard de paramètres répartis sur 30 couches, avec 30 têtes d'attention et une attention par requêtes groupées à 3 têtes clé-valeur, entraîné pendant 200 000 étapes avec l'optimiseur Muon et un taux d'apprentissage de pointe de 3e-4. Cette publication détaillée offre à la communauté open source une reproduction fidèle et documentée d'une architecture jusque-là propriétaire, avec des choix d'ingénierie précis sur le parallélisme et l'utilisation du matériel. L'équipe rapporte une utilisation des FLOPs du modèle de 57 à 58 %, proche du seuil de 60 % jugé sain pour l'entraînement de transformeurs, et explique avoir dû composer avec un mur mémoire sur les activations plutôt que sur l'état du modèle, qui tient en environ 24 Gio sur un GPU B200. Ce travail s'inscrit dans une course plus large à la reproduction ouverte des modèles du monde utilisés pour la génération d'environnements interactifs et l'entraînement d'agents.

💬 Le vrai signal ici, c'est que Dreamer 4 sort du placard propriétaire avec la recette d'entraînement complète, pas juste des poids. Ça compte, parce que jusqu'ici les modèles du monde restaient des boîtes noires qu'on citait sans pouvoir vérifier. 57-58% d'utilisation FLOPs sur B200, c'est du sérieux, pas du proof-of-concept bricolé. Reste à voir si ça tient quand quelqu'un d'autre que l'équipe Reactor essaie de le reproduire sur son propre matériel.

RechercheActu
1 source
Ces robots IA apprennent le langage en se comportant comme des enfants
41Le Big Data 

Ces robots IA apprennent le langage en se comportant comme des enfants

Des chercheurs de l'Institut des sciences et technologies d'Okinawa (OIST) ont conçu des robots virtuels capables d'apprendre le langage environ deux fois plus vite que les méthodes classiques d'entraînement, en s'appuyant sur un mécanisme de curiosité artificielle. L'équipe, dirigée par Theodore Tinker, premier auteur de l'étude, a utilisé une architecture baptisée PV-RNN (Predictive Coding-inspired Variational Recurrent Neural Network), inspirée du fonctionnement du cerveau humain, plutôt que l'approche de prédiction du mot suivant employée par des modèles comme ChatGPT. Les robots recevaient une récompense pour l'accomplissement correct de leurs tâches, mais aussi une récompense supplémentaire lorsqu'ils exploraient des situations inédites. Résultat : une fois leurs missions terminées, ils continuaient spontanément à manipuler les objets autour d'eux, allant jusqu'à les renverser pour en observer les conséquences, sans qu'aucun comportement de ce type n'ait été programmé. L'environnement d'apprentissage s'est révélé déterminant : exposés à seulement 48 combinaisons linguistiques, les robots ne généralisaient correctement les nouvelles consignes que dans environ 25 % des cas, contre près de 85 % de réussite pour ceux ayant découvert 180 combinaisons différentes. Cette découverte a une portée qui dépasse le simple gain de vitesse d'apprentissage. Elle suggère qu'il est possible de construire des systèmes d'IA capables de généraliser à partir d'un nombre d'exemples bien plus restreint que les modèles de langage actuels, qui reposent sur l'ingestion de volumes massifs de textes. Pour l'industrie, cela ouvre une piste vers des architectures moins gourmandes en données et potentiellement plus adaptées à la robotique physique, où les situations d'apprentissage réel sont par nature limitées et coûteuses à générer. L'émergence spontanée d'un comportement exploratoire, non programmé par les chercheurs, illustre aussi que la curiosité pourrait devenir un levier d'entraînement à part entière, complémentaire aux méthodes de renforcement classiques, avec des implications pour la conception de robots plus autonomes et adaptables face à des tâches nouvelles. Le point le plus frappant de l'étude reste la ressemblance du comportement des robots avec l'apprentissage du langage chez les jeunes enfants. En modifiant volontairement le sens de certaines consignes, les chercheurs ont observé que les robots, après avoir d'abord maîtrisé ces exceptions, se mettaient à commettre des erreurs en tentant d'appliquer une règle générale, avant de retrouver progressivement la bonne réponse. Ce phénomène reproduit la fameuse « courbe en U » documentée chez les enfants, qui appliquent d'abord correctement un verbe irrégulier, puis se trompent en généralisant une règle avant de la maîtriser durablement. Les chercheurs de l'OIST soulignent n'avoir intégré aucun mécanisme spécifique pour gérer ce type d'exceptions, ce qui relance les débats sur les parallèles entre apprentissage artificiel et développement cognitif humain, et pourrait orienter de futures recherches en robotique et en sciences cognitives.

RecherchePaper
1 source
Rompre le verrou de la non-récupération dans le raisonnement à long terme
42Apple Machine Learning 

Rompre le verrou de la non-récupération dans le raisonnement à long terme

Voici l'article traduit et résumé selon les consignes. Des chercheurs ont identifié un obstacle majeur dans le raisonnement à long horizon des grands modèles de langage (LLM) : même lorsqu'une stratégie de haut niveau leur est fournie, ces systèmes restent instables sur des tâches complexes à plusieurs étapes. En testant leurs modèles sur des puzzles algorithmiques contrôlés, l'équipe a montré que la décomposition d'un problème en sous-étapes est nécessaire à la stabilité du raisonnement, mais qu'une décomposition trop poussée engendre ce qu'elle appelle un « goulot d'étranglement sans possibilité de récupération » (no-recovery bottleneck). Ce phénomène survient parce que les erreurs ne se répartissent pas uniformément sur l'ensemble des étapes : quelques étapes particulièrement difficiles concentrent des erreurs récurrentes qui, une fois commises, deviennent irréversibles pour la suite du raisonnement. Pour résoudre ce problème, les chercheurs proposent une méthode baptisée LEAD, pour Lookahead-Enhanced Atomic Decomposition, qui intègre une validation anticipée sur un court horizon futur. Cette découverte a des implications directes pour toutes les applications qui reposent sur des agents IA capables d'exécuter des tâches longues et séquentielles, comme la programmation automatisée, la planification ou l'automatisation de flux de travail complexes. Un seul faux pas non détecté sur une étape critique peut faire dérailler l'intégralité d'un raisonnement, même si le plan initial était correct. En anticipant les conséquences à court terme de chaque étape avant de la valider, LEAD viserait à limiter cette propagation d'erreurs et à rendre les agents IA plus fiables sur des tâches longues. Ce travail s'inscrit dans une problématique plus large de la recherche en IA : rendre les LLM capables de mener des raisonnements complexes sur de nombreuses étapes sans supervision humaine constante, un enjeu central pour le développement d'agents autonomes. La question de la robustesse face aux erreurs cumulatives reste un défi ouvert, et des approches comme LEAD pourraient inspirer de futures méthodes de décomposition et de vérification intermédiaire dans les architectures d'agents.

RecherchePaper
1 source
L'IA aide les scientifiques à concevoir la prochaine génération de médicaments
43MIT Technology Review 

L'IA aide les scientifiques à concevoir la prochaine génération de médicaments

AstraZeneca généralise l'intelligence artificielle à l'ensemble de son processus de conception de médicaments biologiques, ces thérapies fabriquées à partir de protéines modifiées plutôt que par synthèse chimique, utilisées pour traiter la plupart des maladies aiguës et chroniques majeures. Puja Sapra, vice-présidente senior et responsable de l'ingénierie biologique en R&D et de la découverte de cibles en oncologie chez AstraZeneca, explique que chaque étape du travail scientifique, de la conception à l'analyse en passant par la fabrication et les tests, est désormais assistée par le calcul informatique. Le laboratoire suit une boucle dite « construire, mesurer, apprendre » : des algorithmes génèrent ou classent des molécules candidates par ordre de probabilité de succès, ce qui permet aux chercheurs de concentrer leurs ressources de laboratoire uniquement sur les candidats les mieux notés. Selon une estimation du cabinet McKinsey, l'IA générative combinée à d'autres outils computationnels pourrait réduire les délais de découverte de médicaments de jusqu'à 50 %. Cette approche change concrètement la donne pour l'industrie pharmaceutique, où le développement d'un nouveau médicament prend habituellement plusieurs années et représente un investissement considérable, avec un taux d'échec très élevé parmi les candidats explorés. En réduisant les cycles d'essai-erreur et en resserrant la boucle de rétroaction entre conception et test en laboratoire, l'IA permet à AstraZeneca de s'attaquer à des cibles thérapeutiques longtemps jugées inatteignables, ce que Sapra résume par la formule « rendre médicamentable ce qui ne l'était pas ». Au-delà du gain de temps, ces outils ouvrent la voie à une nouvelle génération de biomédicaments capables de viser simultanément plusieurs cibles biologiques ou de délivrer un traitement de façon précise vers des cellules spécifiques, alors que les biologiques traditionnels ne visaient généralement qu'une seule voie pathologique à la fois. Pour les patients, cela représente un potentiel thérapeutique significatif dans des maladies jusque-là difficiles à traiter. Cette transformation s'appuie sur ce que Sapra appelle un véritable « fossé de données » : la qualité de tout modèle d'IA dépend directement de la richesse des données biologiques utilisées pour l'entraîner. Chaque expérience en laboratoire, qu'elle réussisse ou échoue, génère un signal exploitable. AstraZeneca dit avoir constitué un portefeuille de données propriétaires et multimodales couvrant plusieurs aires thérapeutiques et types de médicaments, incluant structures moléculaires, mesures de liaison, profils de sécurité et résultats de fabrication, afin d'affiner des modèles d'IA de pointe avec des jeux d'entraînement plus riches et représentatifs. L'entreprise a également investi dans des technologies de criblage approfondi pour produire, en volume, les données nécessaires à la validation continue de ses modèles, une stratégie qui s'inscrit dans la course plus large de l'industrie pharmaceutique vers ce que certains décrivent comme un moteur de découverte scientifique autonome.

UEAstraZeneca, groupe pharmaceutique anglo-suédois disposant d'importantes activités de R&D en Europe, illustre une tendance qui pourrait renforcer la compétitivité de l'industrie pharmaceutique européenne dans la course mondiale à l'IA appliquée à la découverte de médicaments.

RechercheActu
1 source
Modèle causal d'X-Cell chez Xaira : la découverte de médicaments a besoin de données causales
44Latent Space 

Modèle causal d'X-Cell chez Xaira : la découverte de médicaments a besoin de données causales

Xaira Therapeutics, une biotech spécialisée dans la découverte de médicaments assistée par intelligence artificielle, a dévoilé X-Cell, un nouveau modèle de cellule virtuelle entraîné sur un jeu de données baptisé X-Atlas. Le projet est porté par Bo Wang, récemment promu Chief AI Scientist, et Ci Chu, désormais Chief Discovery Officer, deux figures qui ont expliqué leur démarche dans un podcast récent. Bo Wang est déjà connu pour scGPT, l'un des modèles les plus influents entraînés sur CELLxGENE, une base de données de 168 millions de cellules constituée par le Chan Zuckerberg Institute, qui recense l'expression de 20 000 à 30 000 gènes par cellule, soit une matrice d'environ 4 000 milliards d'entrées. Mais l'équipe a constaté qu'au-delà de 1,5 milliard de paramètres, la perte de test cessait de s'améliorer malgré une perte d'entraînement toujours en baisse, un signe classique de saturation par manque d'information dans les données plutôt que par manque de puissance de calcul. Un modèle à 3,1 milliards de paramètres décrochait même de la courbe de mise à l'échelle attendue. Pour lever ce plafond, l'équipe a construit X-Atlas, un jeu de données environ 30 fois plus riche en information, généré grâce à des expériences CRISPR menées en parallèle sur des millions de tests. Cette avancée est importante parce que les modèles entraînés uniquement sur CELLxGENE, s'ils décrivent bien les types et états cellulaires, échouent à prédire les conséquences d'une modification génétique donnée, faute de pouvoir établir des relations de cause à effet entre gènes. En "éteignant" un gène à la fois via CRISPR, l'équipe a pu isoler ce qui est en amont et en aval de chaque gène et ainsi entraîner un modèle capable d'anticiper l'effet d'un médicament ou d'une édition génétique sur une cellule, ou d'identifier la façon la moins invasive de modifier l'expression d'un gène précis. X-Cell a également nécessité un changement d'architecture, l'équipe ayant abandonné l'approche autorégressive au profit de la diffusion, et le modèle serait parvenu à battre la référence linéaire qui surpassait jusqu'ici les modèles précédents, tout en généralisant à de vraies expériences en laboratoire sur cellules humaines. Le coût de ce pari reste non divulgué, mais les intervenants estiment que la collecte de données et l'infrastructure ont représenté plusieurs dizaines de millions de dollars, contre quelques millions pour le calcul, les salaires et la recherche, un profil budgétaire proche de celui d'un entraînement par renforcement plutôt que d'un pré-entraînement classique gourmand en données. Le pari de Xaira illustre une tendance plus large dans l'IA appliquée à la biologie: après les modèles de structure protéique popularisés par la Protein Data Bank, comme Boltz ou ESM, la cellule virtuelle devient le nouveau terrain de compétition, où la qualité et la richesse causale des données comptent désormais autant, sinon plus, que la taille des modèles ou la puissance de calcul disponible.

RechercheOpinion
1 source
Le calibrage de l'attention creuse accélère la génération de texte en vidéo
45Apple Machine Learning 

Le calibrage de l'attention creuse accélère la génération de texte en vidéo

Une équipe de recherche propose une nouvelle méthode pour accélérer la génération de vidéos par intelligence artificielle, baptisée attention parcimonieuse calibrée (calibrated sparse attention). Les modèles de diffusion actuels produisent des vidéos de haute qualité à partir de texte, mais reposent sur d'immenses architectures de type transformeur dont la vitesse est freinée par le calcul de l'attention spatio-temporelle, l'étape qui relie chaque portion de l'image dans le temps et l'espace. Les chercheurs ont observé qu'une part importante des connexions entre tokens, les unités élémentaires traitées par le modèle, produit systématiquement des scores d'attention négligeables, quel que soit le contenu de la vidéo générée. Mieux, ces schémas de connexions faibles se répètent souvent d'une requête à l'autre, y compris pour les liens entre blocs de tokens voisins dans l'image. Cette découverte ouvre la voie à une accélération significative sans perte de qualité perceptible: puisque ces connexions apportent une contribution quasi nulle au résultat final, leur calcul peut simplement être ignoré. Pour l'industrie de la génération vidéo par IA, en pleine expansion avec des outils comme Sora, Runway ou Kling, la latence et le coût de calcul restent des freins majeurs à l'adoption à grande échelle, que ce soit pour la production créative professionnelle ou les usages grand public. Réduire ces temps de génération sans sacrifier le rendu visuel pourrait rendre ces outils plus accessibles et moins gourmands en ressources GPU. Cette approche s'inscrit dans une tendance plus large de recherche sur l'optimisation des grands modèles de diffusion vidéo, où l'attention parcimonieuse, déjà explorée pour les grands modèles de langage, est adaptée aux spécificités spatio-temporelles de la vidéo. En identifiant et exploitant la redondance structurelle de l'attention plutôt qu'en réduisant la taille du modèle, les auteurs visent un compromis efficace entre vitesse et fidélité, une piste que d'autres laboratoires devraient probablement explorer à mesure que la demande pour la génération vidéo en temps réel augmente.

RecherchePaper
1 source
« IA sans environnement : génération de données synthétiques pour agents d'appel API »
46Apple Machine Learning 

« IA sans environnement : génération de données synthétiques pour agents d'appel API »

L'entraînement d'agents basés sur des grands modèles de langage (LLM) capables d'appeler des API nécessite d'énormes volumes de trajectoires d'interaction de haute qualité. Jusqu'à présent, la collecte de ces données à grande échelle imposait de disposer d'environnements entièrement fonctionnels, avec des API exécutables et des bases de données backend réalistes et pré-remplies, un obstacle majeur qui limitait fortement la scalabilité du processus. Pour contourner cette contrainte, une équipe de recherche propose une nouvelle approche de génération de données synthétiques ne nécessitant aucun environnement réel, en exploitant les LLM eux-mêmes comme des modèles du monde numérique générés à la volée. En ne partant que des spécifications des API, sans backend ni base de données préexistante, la méthode produit des trajectoires simulant fidèlement les interactions entre un agent et un environnement à état, c'est-à-dire un système qui évolue et garde en mémoire les effets des actions précédentes. Cette avancée change potentiellement la donne pour le développement d'agents IA capables d'utiliser des outils et des API externes, une capacité de plus en plus centrale dans les architectures d'agents autonomes. En supprimant le besoin de construire et maintenir des environnements de test complexes et coûteux, cette méthode pourrait considérablement réduire le temps et les ressources nécessaires pour entraîner de tels agents, tout en permettant de générer des données d'entraînement plus diversifiées et à moindre coût. Pour les équipes de recherche et les entreprises qui développent des assistants IA orientés action, cela représente un gain potentiel important en termes de rapidité de développement et de couverture des cas d'usage. Le goulot d'étranglement identifié par les auteurs, la nécessité de bases de données backend réalistes pour chaque scénario testé, est un frein connu dans le domaine de l'entraînement d'agents IA, où la qualité des données d'apprentissage détermine directement la fiabilité des systèmes déployés en production. Cette approche s'inscrit dans une tendance plus large consistant à utiliser les LLM non seulement comme agents mais aussi comme simulateurs de leur propre environnement d'entraînement, une piste qui pourrait s'étendre à d'autres domaines nécessitant des données d'interaction complexes, comme la navigation web ou l'automatisation de tâches multi-étapes.

RecherchePaper
1 source
« LVSum, un benchmark pour la synthèse de longues vidéos avec repères temporels »
47Apple Machine Learning 

« LVSum, un benchmark pour la synthèse de longues vidéos avec repères temporels »

Des chercheurs ont présenté LVSum, un nouveau benchmark conçu pour évaluer la capacité des grands modèles multimodaux (MLLM) à résumer des vidéos longues tout en respectant leur chronologie. Le jeu de données rassemble 72 vidéos couvrant 13 domaines différents, pour une durée moyenne de 16 minutes chacune. Chaque vidéo a été annotée manuellement, avec jusqu'à dix résumés produits par des humains et intégrant des références temporelles précises, c'est-à-dire des indications sur le moment exact où se produit chaque événement résumé. Les auteurs ont ensuite mené une évaluation approfondie des modèles multimodaux existants sur cette tâche. L'enjeu est de taille pour l'industrie de l'IA vidéo : la plupart des modèles actuels peinent à maintenir une cohérence temporelle sur des contenus longs, produisant des résumés qui perdent le fil chronologique ou qui ne peuvent pas être reliés précisément aux passages vidéo correspondants. Un résumé fiable et daté dans le temps est pourtant essentiel pour des usages concrets comme la modération de contenu, l'indexation de vidéothèques, l'accessibilité ou l'analyse automatisée de conférences et de réunions filmées. Ce travail s'inscrit dans une dynamique plus large de recherche sur la compréhension vidéo par l'IA, où les benchmarks existants se concentrent souvent sur des clips courts ou négligent la dimension temporelle. En proposant des annotations humaines fines et diversifiées par domaine, LVSum vise à combler ce manque et à devenir une référence pour mesurer les progrès des futurs modèles multimodaux sur les vidéos longues, un terrain encore largement à défricher pour les grands laboratoires d'IA.

RecherchePaper
1 source
RayRoPE : encodage positionnel projectif par rayons pour l'attention multi-vues
48Apple Machine Learning 

RayRoPE : encodage positionnel projectif par rayons pour l'attention multi-vues

Des chercheurs en vision par ordinateur présentent RayRoPE, une nouvelle méthode d'encodage positionnel destinée aux transformeurs multi-vues, ces modèles qui traitent simultanément des tokens issus de plusieurs images prises sous différents angles avec une caméra localisée dans l'espace. L'objectif est de doter chaque patch d'image d'une position unique tout en permettant une attention invariante aux transformations rigides SE(3), c'est à dire insensible aux rotations et translations de la scène filmée, avec une similarité à plusieurs fréquences. La méthode s'appuie sur le rayon optique associé à chaque patch, mais au lieu d'utiliser uniquement sa direction, comme le font les approches existantes, RayRoPE exploite un point prédit le long de ce rayon pour encoder la position de manière adaptée à la géométrie réelle de la scène. Cette avancée technique cible un problème central pour les systèmes de vision par ordinateur en 3D, comme la reconstruction de scènes, la génération de vues nouvelles ou la navigation robotique à partir de plusieurs caméras. Les chercheurs montrent que les schémas d'encodage existants, qu'ils soient absolus ou relatifs, échouent à combiner simultanément unicité, invariance géométrique et adaptabilité à la structure de la scène observée. En comblant cette lacune, RayRoPE pourrait améliorer la précision et la robustesse des modèles qui doivent raisonner sur la position relative d'objets capturés sous des angles multiples. Ces travaux s'inscrivent dans une dynamique de recherche plus large autour des encodages positionnels rotatifs, popularisés par RoPE dans les modèles de langage, désormais adaptés aux données visuelles tridimensionnelles. À mesure que les applications de perception multi-caméra se multiplient, en robotique, en réalité augmentée ou dans les véhicules autonomes, la capacité des transformeurs à comprendre la géométrie 3D sous-jacente aux images devient un enjeu de recherche majeur, ouvrant la voie à des architectures encore plus fidèles à la structure réelle du monde observé.

RecherchePaper
1 source
Google Deepmind affirme que les générateurs vidéo possèdent déjà les modèles du monde qui manquaient à la vision par ordinateur
49The Decoder 

Google Deepmind affirme que les générateurs vidéo possèdent déjà les modèles du monde qui manquaient à la vision par ordinateur

Google DeepMind a présenté GenCeption, un système qui détourne un générateur vidéo de son usage habituel pour lui faire accomplir des tâches classiques de vision par ordinateur, comme l'estimation de profondeur ou la segmentation d'images. Le modèle atteint des performances comparables aux meilleurs systèmes spécialisés actuels, alors qu'il a été entraîné avec beaucoup moins de données. Fait notable, son entraînement s'est appuyé presque exclusivement sur des vidéos synthétiques plutôt que sur des images réelles, une approche qui réduit considérablement les besoins en données annotées manuellement. Cette prouesse technique alimente un débat déjà vif dans la communauté de l'intelligence artificielle : les générateurs vidéo, conçus à l'origine pour produire des images animées réalistes, contiendraient-ils déjà, en creux, une forme de modèle universel du monde physique ? Si cette hypothèse se confirme, les implications sont importantes pour l'industrie de la vision par ordinateur, qui pourrait voir converger deux familles de systèmes jusqu'ici séparées, les modèles génératifs et les modèles de perception. Cela ouvrirait la voie à des architectures plus polyvalentes, capables à la fois de générer et de comprendre le monde visuel, réduisant les coûts de développement pour des applications comme la robotique, la conduite autonome ou l'analyse d'images médicales. Le débat sur les modèles du monde occupe une place centrale dans la recherche en IA depuis plusieurs années, porté notamment par des chercheurs comme Yann LeCun chez Meta, qui plaide pour des architectures capables d'apprendre une représentation implicite de la physique et de la causalité plutôt que de simplement prédire des pixels. Les résultats de Google DeepMind suggèrent que les générateurs vidéo, entraînés uniquement à prédire des séquences d'images plausibles, développent malgré tout une compréhension exploitable de la structure du monde réel. Reste à savoir si cette capacité se généralise à d'autres tâches de vision plus complexes, et si les grands laboratoires d'IA, entre Google, Meta et OpenAI, orienteront davantage leurs futurs modèles vers cette convergence entre génération et perception.

💬 L'idée que les générateurs vidéo pourraient déjà contenir un modèle du monde, c'est le genre de truc qu'on attendait depuis 2 ans. Ce qui me frappe, c'est le coût : entraîné quasi exclusivement sur du synthétique, sans annoter des masses d'images à la main, ça change la donne économique de la vision par ordinateur. Reste à voir si ça généralise au-delà de l'estimation de profondeur, mais si LeCun avait raison sur les modèles du monde, ce serait ironique que ce soit un générateur d'images qui lui donne raison plutôt qu'une architecture pensée pour ça.

RecherchePaper
1 source
L'IA a du mal à détecter les textes générés quand les modèles imitent le style d'un auteur
50The Decoder 

L'IA a du mal à détecter les textes générés quand les modèles imitent le style d'un auteur

Un article français de 3 paragraphes, sans titre, respectant le format demandé. Epoch AI a testé trois détecteurs de texte généré par intelligence artificielle parmi les plus utilisés, Pangram, GPTZero et Originality.ai, en les confrontant à des textes où des modèles de langage imitaient le style d'un auteur précis. Résultat : jusqu'à 18 % des passages générés par IA sont passés inaperçus, échappant totalement à la détection. Pour les écrits scientifiques, ce taux d'échec grimpe jusqu'à 48 %, soit près d'un texte sur deux. Ce chiffre est particulièrement préoccupant puisque la rédaction scientifique constitue justement le domaine où ces outils de détection sont le plus utilisés en pratique, notamment par les revues académiques et les institutions de recherche pour vérifier l'intégrité des soumissions. Cette faille a des conséquences concrètes pour tous ceux qui s'appuient sur ces détecteurs pour garantir l'authenticité d'un contenu, qu'il s'agisse d'éditeurs scientifiques, d'établissements d'enseignement ou de plateformes éditoriales. Si un texte généré par IA peut se faire passer pour une production humaine simplement en imitant le style d'un auteur, la valeur de ces outils comme rempart contre la fraude académique ou la désinformation s'en trouve fortement réduite. Cela remet en question la fiabilité des politiques qui s'appuient exclusivement sur ces détecteurs, notamment dans les procédures d'évaluation de travaux universitaires ou de manuscrits scientifiques, où les enjeux de crédibilité et d'intégrité sont particulièrement élevés. Cette étude s'inscrit dans un contexte de course technologique constante entre générateurs et détecteurs de texte IA, où chaque amélioration des modèles de langage tend à rendre obsolètes les méthodes de détection existantes. Les techniques de mimétisme stylistique, qui permettent à un modèle de reproduire les tournures et le ton propres à un auteur donné, représentent une nouvelle stratégie de contournement particulièrement efficace. Face à ces résultats, la question se pose de savoir si les détecteurs actuels peuvent réellement suivre le rythme des avancées des modèles génératifs, ou si d'autres approches, comme la vérification par filigrane numérique ou des méthodes hybrides combinant plusieurs signaux, devront prendre le relais pour garantir l'authenticité des contenus à l'avenir.

💬 Faut pas se voiler la face : un détecteur qui rate 48% des textes scientifiques générés, c'est pas un détecteur, c'est une pièce de monnaie. L'imitation de style, ça suffit à percer n'importe quel filtre actuel, et ça remet en cause direct les procédures des revues et des universités qui s'appuient dessus. Selon Le Fil IA, les détecteurs de texte IA sont déjà obsolètes face au mimétisme stylistique, et ça va forcer tout le monde à revenir à des méthodes de vérification humaine, ou à autre chose que du détecteur seul.

RecherchePaper
1 source