Comment les modèles ouverts stimulent la recherche en IA

Modèles du monde : 10 points clés sur l'IA en ce moment

Les "world models" figurent parmi les dix tendances les plus importantes de l'intelligence artificielle selon le MIT Technology Review, qui leur consacre une place dans sa sélection éditoriale annuelle "10 Things That Matter in AI Right Now". La publication organise en parallèle une table ronde réservée aux abonnés intitulée "Can AI Learn to Understand the World?", animée par le rédacteur en chef Mat Honan, le senior editor Will Douglas Heaven et la journaliste spécialisée Grace Huckins. Les world models représentent une approche fondamentalement différente de l'IA actuelle : plutôt que de prédire des tokens de texte, ces systèmes cherchent à construire une représentation interne du monde physique, capable d'anticiper les conséquences d'actions dans des environnements réels. L'enjeu est considérable pour la robotique, les véhicules autonomes et tout système d'IA devant agir dans le monde réel plutôt que simplement répondre à des requêtes textuelles. Le sujet est étroitement lié aux travaux de Yann LeCun, directeur scientifique de Meta AI, qui défend depuis plusieurs années une vision où les world models constitueraient la prochaine étape majeure au-delà des grands modèles de langage. Des applications concrètes commencent à émerger, comme l'utilisation des données de Pokémon Go pour doter des robots livreurs d'une cartographie centimètre par centimètre de l'environnement urbain. L'intérêt croissant de la presse spécialisée pour ce concept signale que le débat sur les limites des LLMs actuels s'intensifie dans les cercles de recherche.

OpenAI publie LifeSciBench, un benchmark de 750 tâches pour évaluer les modèles d'IA sur la recherche en sciences du vivant

OpenAI a publié LifeSciBench, un benchmark de 750 tâches conçu pour évaluer la capacité des modèles d'IA à raisonner comme de vrais scientifiques en sciences du vivant. Contrairement aux benchmarks biologiques classiques, qui posent des questions fermées à réponse unique, LifeSciBench soumet les modèles à des problèmes ouverts rédigés par 173 experts titulaires d'un doctorat et issus de l'industrie biotechnologique ou pharmaceutique. Chaque tâche couvre l'un des sept flux de travail scientifiques, analyse de données, conception expérimentale, raisonnement, validation, traduction et communication, et l'un des sept domaines biologiques, de la génomique à la chimie médicinale en passant par la médecine translationnelle. Environ 53 % des tâches s'accompagnent d'artefacts (séquences ADN, figures, tableaux, structures chimiques), et 79 % exigent en moyenne quatre étapes de raisonnement enchaînées. La qualité du benchmark a été validée par 453 relecteurs indépendants, dont 97 % docteurs, avec un taux d'accord global supérieur à 96 %. Les résultats révèlent un écart considérable entre les capacités actuelles des modèles et les exigences du travail scientifique réel. GPT-Rosalind, le modèle spécialisé d'OpenAI, obtient le meilleur score normalisé (0,576) et le taux de réussite par tâche le plus élevé (36,1 %), contre 25,7 % pour GPT-5.5, 23,6 % pour Gemini 3.1 Pro, 20,7 % pour GPT-5.4 et seulement 13,0 % pour Grok 4.3. Autrement dit, même le modèle le plus performant échoue sur près des deux tiers des tâches. Le système de notation s'appuie sur 19 020 critères granulaires, soit environ 25 par tâche, et un seuil de réussite fixé à 70 % du score normalisé. Les points faibles sont nets : GPT-Rosalind chute de 45,1 % de réussite sur les tâches textuelles à 28,1 % dès que des artefacts entrent en jeu, et les workflows de conception et d'optimisation restent particulièrement résistants, avec un taux de passage de seulement 30,7 %. LifeSciBench s'inscrit dans une dynamique plus large où l'industrie pharmaceutique et la recherche biomédicale sont identifiées comme des terrains d'application prioritaires pour les grands modèles de langage. Alors que des entreprises comme Isomorphic Labs, Recursion ou Insilico Medicine déploient déjà des IA dans le pipeline de découverte de médicaments, la question de leur fiabilité sur des tâches complexes et multi-étapes n'avait pas encore de réponse standardisée. Ce benchmark comble ce vide en proposant une évaluation qui reflète la réalité du travail de laboratoire, et non des QCM académiques. Le fait qu'aucun modèle ne dépasse 37 % de réussite signale que le secteur est loin de la saturation, et que des spécialisations domaine par domaine, comme GPT-Rosalind, représentent une piste sérieuse. Le benchmark est publié en accès ouvert, ce qui devrait accélérer la compétition entre laboratoires pour progresser sur ces tâches.

L’IA générative bouscule la recherche en mathématiques

42 est toujours la réponse, de toute façon. En mai dernier, OpenAI a annoncé qu'un de ses modèles internes avait résolu l'un des problèmes d'Erdős, celui des distances unitaires, numéroté 90. Ce n'était pas une première tentative : dès novembre, l'entreprise affirmait déjà que GPT-5 avait trouvé des solutions à dix problèmes posés par le mathématicien Paul Erdős, des résultats que le média Next qualifie de largement gonflés. Cette fois, le 20 mai, neuf mathématiciens et mathématiciennes ont mis en ligne sur la plateforme arXiv leurs remarques sur la démonstration produite par OpenAI, validant au passage sa réalité. David Madore, maître de conférences en mathématiques à Télécom ParisTech, confirme sans détour : « C'est indiscutable que des problèmes d'Erdős ont été résolus par des IA génératives. » Il précise toutefois que les premières annonces étaient exagérées, certaines IA ayant simplement retrouvé des résultats déjà présents dans la littérature scientifique. Cette percée soulève des questions concrètes sur la nature réelle des progrès accomplis et sur ce qu'elle change pour la recherche en mathématiques. Thomas Bloom, mathématicien à l'université de Manchester, souligne que la preuve initiale de l'IA, bien que valide, a été considérablement améliorée par les chercheurs humains d'OpenAI et par de nombreux autres mathématiciens ayant contribué à l'article. Melanie Matchett Wood, professeure à Harvard, va plus loin en avançant que si l'expertise humaine mobilisée pour vérifier et affiner la solution avait été employée en amont pour chercher un contre-exemple à la conjecture, les mathématiciens auraient probablement pu la résoudre eux-mêmes. Ces nuances comptent : elles rappellent que la résolution de ces problèmes reste un travail collaboratif entre machine et humains, et non une démonstration d'autonomie totale de l'IA. Le contexte de cette controverse tient à la stratégie de communication des entreprises d'IA générative, qui cherchent depuis plusieurs mois à convaincre que leurs modèles atteignent le niveau d'un chercheur professionnel. David Madore relativise la portée de l'exploit en rappelant que les problèmes d'Erdős, bien que non triviaux, reposent généralement sur des outils et des définitions peu sophistiqués comparés à d'autres pans des mathématiques. Il note aussi qu'OpenAI a utilisé un modèle interne aux caractéristiques non divulguées, sans préciser le temps de calcul nécessaire à la résolution, ce qui limite la possibilité d'évaluer objectivement la performance. Le mathématicien reconnaît malgré tout qu'un problème important a été résolu de façon essentiellement autonome par l'IA, tout en insistant sur le fait que ce succès reste isolé parmi de nombreux autres problèmes soumis aux modèles sans résultat probant, et qu'il ne s'agit en rien du « Saint Graal des mathématiques ».

💬 Un problème d'Erdős tombé, c'est réel, Madore le confirme sans détour. Mais regarde qui a fait le travail : la preuve de l'IA, les mathématiciens l'ont largement retapée après coup, et une chercheuse d'Harvard estime que si cette énergie humaine avait été mise en amont, ils l'auraient sans doute trouvée seuls. Ce qui se confirme surtout, une fois de plus, c'est que les annonces des boîtes d'IA sortent gonflées et que seule la vérification par les pairs, des mois plus tard, dit ce qui tient vraiment debout.

Comment la distillation de connaissances condense l'intelligence d'ensemble en un seul modèle IA

La distillation de connaissances est une technique de compression de modèles d'intelligence artificielle qui permet de transférer le savoir acquis par un grand modèle, ou un ensemble de modèles, vers un modèle plus petit et plus rapide. Dans l'expérience présentée, les chercheurs ont entraîné un ensemble de 12 modèles distincts jouant le rôle d'enseignant collectif, puis ont distillé leur intelligence combinée dans un seul modèle étudiant, plus léger. Le pipeline complet est construit en Python avec PyTorch sur un jeu de données synthétique de classification binaire (5 000 exemples, 20 variables), représentatif de problèmes concrets comme la prédiction de clics publicitaires. La clé du processus réside dans l'utilisation des sorties probabilistes "soft" de l'ensemble enseignant, avec une mise à l'échelle par température, plutôt que les simples étiquettes binaires du jeu de données. Résultat : le modèle étudiant récupère 53,8 % de l'avantage de précision de l'ensemble, avec une compression de facteur 160. Pour l'industrie, cette approche répond à un problème fondamental du déploiement en production : les ensembles de modèles sont précis mais trop lents et trop coûteux pour répondre à des contraintes de latence réelles. Un modèle seul, distillé depuis un ensemble de 12 réseaux, peut être servi en temps réel là où l'ensemble original serait inutilisable. La valeur ne vient pas seulement de la réduction de taille, mais de la qualité du signal transmis : les distributions de probabilité de l'enseignant portent une information bien plus riche que les étiquettes brutes, permettant à l'étudiant d'apprendre des nuances que l'entraînement standard ne capturerait pas. Cette technique est aujourd'hui centrale dans la mise en production des grands modèles de langage et des systèmes de vision par ordinateur, où des modèles comme DistilBERT ou les versions compressées de LLaMA sont directement issus de cette logique. La distillation de connaissances a émergé des travaux pionniers de Geoffrey Hinton et ses collègues chez Google en 2015, initialement pour compresser des ensembles en réseaux uniques. Depuis, elle est devenue un pilier de l'ingénierie ML à l'échelle : chaque fois qu'un modèle de recherche trop lourd doit être rendu opérationnel, la distillation est l'une des premières pistes explorées. L'enjeu est stratégique, les entreprises qui maîtrisent cette compression peuvent déployer des capacités de niveau "grand modèle" sur des infrastructures standard, réduisant drastiquement les coûts de calcul. Avec la prolifération des LLM de plusieurs centaines de milliards de paramètres, la distillation est devenue incontournable pour rendre l'IA générative accessible sur des appareils embarqués, des API à faible latence, ou des environnements edge où la puissance de calcul est limitée.

💬 La distillation de connaissances, c'est pas nouveau, Hinton 2015, DistilBERT, tout ça. Ce qui est bien expliqué ici, c'est pourquoi les soft labels avec la mise à l'échelle par température font toute la différence par rapport à un entraînement classique : l'élève apprend les nuances de l'enseignant, pas juste ses réponses binaires. Facteur 160 de compression avec 53% de l'avantage récupéré, c'est le genre de ratio qui explique pourquoi chaque labo qui sort un gros modèle sort aussi une version distillée dans les semaines qui suivent.