Recherche

Sakana AI utilise la diffusion d'erreurs pour entraîner des réseaux à double flux conformes à Dale, atteignant 96,7% sur MNIST et 61,7% sur CIFAR-10 sans rétropropagation

Sakana AI a publié une étude intitulée « Diffusing Blame », qui s'attaque à un problème central de l'apprentissage profond biologiquement plausible : la rétropropagation classique exige que le passage arrière utilise les matrices exactement transposées des poids du passage avant, un mécanisme que le cerveau ne peut vraisemblablement pas reproduire, connu sous le nom de problème du transport de poids. L'équipe s'appuie sur une règle d'apprentissage locale baptisée Error Diffusion, proposée dès 2000 par Kaneko, où chaque mise à jour de poids ne dépend que de trois signaux : l'activité présynaptique, la dérivée de l'activation postsynaptique et un simple signe d'erreur global. Pour respecter le principe de Dale, qui impose qu'un neurone soit soit excitateur soit inhibiteur, les chercheurs ont conçu une architecture à double flux dédoublant chaque couche en un canal excitateur et un canal inhibiteur, avec quatre matrices de poids non négatives par couche, soit environ 32 millions de paramètres contre 8 millions pour une architecture DFA classique. Grâce à trois innovations, un routage d'erreur modulo, des largeurs de sigmoïde ajustées par couche et une initialisation asymétrique des poids, cette méthode atteint 96,7% de précision sur MNIST et 61,7% sur CIFAR-10, contre seulement 50,4% et 11,6% sans ces ajustements. Il s'agit de la première fois qu'Error Diffusion entraîne avec succès des réseaux convolutifs, dépassant les 55,2% obtenus par Fujita en 2026 avec un simple perceptron multicouche aplati sur CIFAR-10. Ces résultats comptent parce qu'ils ouvrent une piste concrète vers des algorithmes d'apprentissage compatibles avec les contraintes biologiques et matérielles, sans sacrifier totalement les performances. Un réseau qui respecte le principe de Dale et n'a jamais besoin de transporter des poids transposés est plus facile à implémenter sur du matériel neuromorphique, où les connexions physiques ne peuvent pas changer de signe à la volée. Pour l'industrie des puces spécialisées en intelligence artificielle et pour la recherche en neurosciences computationnelles, cela représente une preuve de concept que des règles locales et biologiquement crédibles peuvent être poussées au-delà de tâches jouets vers des architectures convolutives réalistes, même si l'écart de performance avec la rétropropagation reste important, puisque la méthode DFA non conforme à Dale atteint 97,6% et 69,1% sur les mêmes tâches. Ce travail s'inscrit dans une longue quête de règles d'apprentissage alternatives à la rétropropagation, de la propagation de rétroaction directe à l'alignement de rétroaction aléatoire, motivée par le décalage entre la neuroscience et le deep learning moderne. L'inversion observée lors des tests d'ablation, où retirer certaines innovations change radicalement l'importance relative des autres composants, suggère que ces mécanismes interagissent de façon non triviale, ouvrant la voie à de futurs travaux visant à réduire encore l'écart avec les méthodes à base de gradient tout en conservant la plausibilité biologique.

💬 Cette histoire de double flux qui respecte le principe de Dale, c'est malin mais ça se paie cash : 32 millions de paramètres pour arriver à 61,7% sur CIFAR-10 quand la rétropropagation classique en fait quatre fois moins pour 69,1%. Selon Le Fil IA, ce papier montre surtout qu'on sait maintenant router l'erreur sans transposer les poids, ce qui compte plus pour le matériel neuromorphique que pour la perf brute. Reste à voir si ça tient sur autre chose que MNIST et CIFAR, parce que passer à l'échelle avec quatre matrices non négatives par couche, ça reste un vrai défi d'ingénierie.

Zyphra publie ZUNA1.1, un modèle d'EEG en Apache 2.0 acceptant des entrées de 0,5 à 30 secondes

Zyphra a publié cette semaine ZUNA1.1 sous licence Apache 2.0, un modèle de fondation pour l'électroencéphalographie (EEG) capable de reconstruire, débruiter et suréchantillonner des signaux cérébraux quelle que soit la configuration d'électrodes utilisée. Ce modèle succède à ZUNA1, précédente version ouverte développée par la même entreprise. Contrairement à son prédécesseur limité à des segments fixes de cinq secondes, ZUNA1.1 accepte désormais des entrées de longueur variable, de 0,5 à 30 secondes, ce qui colle bien mieux à la réalité des enregistrements EEG où les sessions varient en durée et où des canaux tombent en panne ou deviennent bruités en cours de route. Le modèle compte 380 millions de paramètres, un nombre inchangé par rapport à ZUNA1, et fonctionne sur une carte graphique grand public, voire sur processeur pour certaines tâches. Il s'agit d'un autoencodeur de diffusion masquée, bâti sur une architecture transformeur encodeur-décodeur, qui découpe chaque canal en segments de 0,125 seconde (32 échantillons à 256 Hz) transformés en tokens continus. La clé de sa flexibilité réside dans un encodage positionnel rotatif en quatre dimensions, associant les coordonnées 3D de chaque électrode sur le crâne à un index temporel, ce qui rend le modèle indépendant du type de montage et capable de générer des signaux à des positions jamais mesurées auparavant. Les poids sont disponibles sur Hugging Face et le code sur GitHub, installable via pip install zuna, avec un espace de démonstration gratuit en ligne, le tout réservé à un usage de recherche. Cette flexibilité change concrètement l'usage pratique des modèles EEG en laboratoire et en clinique. Là où ZUNA1 imposait un format rigide, ZUNA1.1 s'adapte à des casques de quatre électrodes comme à des bonnets de recherche à 256 canaux, et peut combler les trous laissés par des électrodes défaillantes ou des portions de signal corrompues. Pour les chercheurs en neurosciences ou les développeurs d'interfaces cerveau-machine, cela signifie un seul modèle réutilisable sur des jeux de données hétérogènes, sans reconfiguration ni réentraînement spécifique à chaque protocole expérimental. La licence Apache 2.0, permissive, facilite en outre son intégration dans des outils tiers, ce qui pourrait accélérer l'adoption de modèles de fondation EEG en dehors des grands laboratoires industriels. Les progrès de ZUNA1.1 viennent principalement de l'entraînement plutôt que de l'architecture. Zyphra a diversifié les scénarios d'occlusion de données, passant d'un seul mode d'abandon aléatoire de canaux entiers à quatre schémas distincts couvrant montages épars, coupures temporelles globales ou localisées, et pertes de données ponctuelles éparpillées. L'entreprise a aussi affiné son évaluation de la qualité des signaux au niveau de chaque canal et de chaque seconde plutôt qu'à l'échelle de l'enregistrement entier, ce qui a permis d'agrandir le corpus d'entraînement d'environ 2 millions à 3,5 millions d'heures-canaux de données EEG publiques. Reste à savoir si cette flexibilité accrue s'accompagne d'un maintien, voire d'une amélioration, de la précision par rapport à ZUNA1 sur les tâches de référence, un point sur lequel les résultats communiqués par Zyphra restent encore à confirmer dans le détail.

💬 Zyphra livre un truc rare dans l'EEG : un modèle qui s'adapte au montage plutôt que l'inverse. Jusqu'ici fallait reformater ses données pour chaque casque, chaque protocole, c'était le vrai frein à l'adoption en labo. Là, avec l'Apache 2.0 et un modèle qui tourne sur GPU grand public, ça devient un outil qu'un labo modeste peut vraiment intégrer, pas juste tester. Reste la question qui compte : est-ce que cette flexibilité ne bouffe pas un peu de précision par rapport à ZUNA1, et sur ce point Zyphra n'a pas encore montré ses cartes.

Distiller le comportement des modèles frontières à partir de télémétrie de production, d'OTEL aux SLMs

Ces informations biographiques de l'orateur, sans article ni contenu réel derrière, ne suffisent pas pour produire un article de 200-250 mots avec faits précis, chiffres et contexte. Le texte fourni n'est qu'une description d'une présentation à venir. Peux-tu me fournir le contenu complet de l'article (la source, le transcript de la conférence, ou un lien) ? Sans cela je ne peux que reformuler la même annonce courte, ce qui ne respecterait pas les consignes (article autonome, chiffres précis, 3 paragraphes détaillés).

L’IA rend l’édition scientifique « plus lente, de moins bonne qualité et plus chère »

L'IA générative dégraderait la qualité et alourdirait les coûts de l'édition scientifique, selon Holden Thorp, rédacteur en chef de la revue Science et responsable éditorial de l'ensemble des publications de l'éditeur du même nom. Dans un édito publié dans la revue phare, il explique que la multiplication des articles rédigés ou assistés par IA pousse le secteur vers une forme de « taylorisme », où la vérification humaine doit compenser les failles des machines, ralentissant et renchérissant tout le processus. Il s'appuie sur des travaux récents montrant que les grands modèles de langage peinent encore face à un jugement clinique nuancé, à un raisonnement expérimental complexe ou à une synthèse approfondie en biologie, et rappelle que même les chercheurs d'OpenAI reconnaissent ne pas être venus à bout du problème des hallucinations. Un autre article mis en ligne sur arXiv, qu'il cite, va plus loin en affirmant que certains agents IA seraient plus enclins que les humains à des pratiques comparables à des fautes professionnelles en recherche, comme le cherry picking de données ou la manipulation d'analyses statistiques jusqu'à obtenir le résultat espéré. Fin 2025, la plateforme de prépublication arXiv, submergée de soumissions générées par IA, avait déjà durci sa modération et instauré une suspension d'un an pour les chercheurs soumettant des articles erronés produits par ces outils. Pour Holden Thorp, l'enjeu dépasse la seule qualité des textes publiés : il s'agit de la crédibilité même de la science face à ce qu'il appelle l'« AI slop », ces contenus de mauvaise qualité générés par IA qui envahissent aussi bien la littérature scientifique que l'ensemble d'Internet. Il pointe la responsabilité de certains grands éditeurs, citant Elsevier, qui laisseraient passer des erreurs qu'il juge impardonnables faute de contrôle suffisant. Concrètement, cela signifie des revues débordées par un afflux de soumissions plus rapide que leur capacité de relecture, des comités éditoriaux contraints de renforcer leurs procédures de vérification, et un risque accru que des résultats erronés ou biaisés se retrouvent validés et diffusés dans le corpus scientifique mondial, avec des conséquences potentielles sur des travaux ultérieurs qui s'appuieraient dessus. Le parallèle avec le taylorisme n'est pas anodin : Holden Thorp rappelle que Frederick Winslow Taylor avait promu la surveillance accrue des salariés pour les pousser à travailler plus, au prix d'un épuisement généralisé et d'un transfert du pouvoir décisionnel des travailleurs vers la direction. Il y voit un écho à la situation actuelle des relecteurs et éditeurs scientifiques, sommés de redoubler de vigilance face à des soumissions toujours plus nombreuses. Ironie relevée par certains observateurs, l'édito de Thorp contient lui-même des liens vers arXiv assortis de paramètres UTM trahissant un passage par ChatGPT, signe que même les critiques les plus sévères de l'IA générative dans la recherche s'appuient parfois sur ces mêmes outils pour préparer leurs textes.

💬 Le détail qui tue dans l'édito de Thorp, c'est les liens arXiv avec des paramètres UTM de ChatGPT planqués dedans : même le rédacteur en chef de Science qui dézingue l'IA générative écrit avec elle. La promesse de vitesse se retourne contre elle-même, les comités de relecture doivent vérifier deux fois plus pour rattraper les hallucinations, du coup les revues finissent plus lentes et plus chères qu'avant l'IA. Le cherry picking par les agents m'inquiète plus que le style bancal des textes : une machine qui bidouille des stats pour plaire au chercheur, c'est un problème de recherche, pas de rédaction.

L'oubli gratuit : exploiter les points à faible influence pour réduire les coûts de calcul

Le concept d'unlearning, c'est-à-dire la capacité à supprimer des données spécifiques d'un modèle d'intelligence artificielle déjà entraîné, prend une importance croissante face aux préoccupations grandissantes sur la protection de la vie privée dans le machine learning. Dans cette étude intitulée "When Unlearning Is Free: Leveraging Low Influence Points to Reduce Computational Costs", des chercheurs remettent en question l'approche actuelle des méthodes d'unlearning de pointe, qui traitent aujourd'hui tous les points de données à oublier de manière identique, sans distinction. Leur question centrale est simple: est-il vraiment nécessaire de supprimer des points de données qui n'ont qu'un impact négligeable sur l'apprentissage du modèle? À travers une analyse comparative des fonctions d'influence appliquée à des tâches de traitement du langage et de vision par ordinateur, l'équipe identifie des sous-ensembles de données d'entraînement dont le retrait n'affecte quasiment pas les résultats produits par le modèle. Cette découverte a des implications concrètes pour l'industrie de l'IA, confrontée à des obligations réglementaires de plus en plus strictes en matière de suppression de données personnelles. Si certains points peuvent être ignorés sans conséquence sur les performances du modèle, les entreprises pourraient réduire considérablement les coûts de calcul associés aux procédures d'unlearning, un processus aujourd'hui coûteux et complexe à grande échelle. Cette recherche s'inscrit dans un contexte où le droit à l'oubli numérique, notamment porté par des réglementations comme le RGPD en Europe, pousse les acteurs de l'IA à développer des solutions techniques efficaces pour se conformer aux demandes de suppression de données. Jusqu'à présent, la plupart des méthodes existantes ignoraient l'hétérogénéité de l'influence des données individuelles, ouvrant la voie à des approches plus ciblées et économes en ressources pour l'avenir de l'apprentissage automatique responsable.

La Table du Futur Devrait Ressembler à un Data Center

Lila Sciences, une entreprise américaine spécialisée dans l'automatisation scientifique par intelligence artificielle, a détaillé son projet de laboratoire entièrement piloté par IA lors d'un entretien avec son directeur technique Andy Beam et sa directrice scientifique pour les sciences physiques Rafa Gómez-Bombarelli. L'installation ressemble à un centre de données sombre rempli de robots et d'instruments de laboratoire fonctionnant en continu, avec des plateaux flottant sur des rails à sustentation magnétique et des modèles de vision-langage pilotant même d'anciens ordinateurs sous Windows 95. Ce système a déjà généré plus de 10 000 milliards de tokens de raisonnement scientifique, tous validés expérimentalement, couvrant simultanément la biologie, la chimie, la découverte de médicaments et la science des matériaux. L'équipe affirme aussi avoir reconstruit une mesure de sorption gazeuse pour la rendre environ 2 500 fois plus rapide qu'auparavant. L'enjeu dépasse la simple automatisation de laboratoire. Selon Beam et Gómez-Bombarelli, Internet représente déjà une source de données épuisée pour l'entraînement des modèles, tandis que la méthode scientifique constituerait le dernier gisement de données à l'échelle d'Internet encore inexploité. Leur approche traite chaque expérience comme un mécanisme de génération de données, avec la nature elle-même comme validateur des résultats produits par apprentissage par renforcement. Fait notable, les dirigeants insistent sur le fait que Lila Sciences n'est pas une entreprise d'automatisation à proprement parler : elle privilégie la flexibilité et la capacité de généralisation plutôt que le simple débit de production, laissant les humains intervenir tant que l'automatisation complète n'est pas rentable. Un exemple marquant illustre cette philosophie : des suggestions de catalyseurs par IA pour des électrocatalyseurs sans métaux du groupe du platine, d'abord jugées "stupides" par un expert fort de quarante publications, se sont révélées être les meilleures performances jamais obtenues par l'équipe. Ce pari s'inscrit dans une réflexion plus large sur la sérendipité en science. Les chercheurs citent le cas d'Emily Whitehead, première enfant guérie par thérapie CAR-T, dont la survie tenait à la connaissance fortuite d'un médecin ayant traité l'arthrite pédiatrique sur l'anticorps capable de limiter sa réponse inflammatoire à l'interleukine-6. L'objectif de Lila Sciences est de systématiser ce type de découverte en misant sur la largeur du savoir plutôt que sur la chance. L'entreprise revendique aussi avoir obtenu des données in vivo sur des primates non humains pour une thérapie CAR-T en seulement six mois, selon un modèle commercial qu'elle qualifie de "start-up virtuelle à zéro employé équivalent temps plein".

Le distillation autonome (auto-distillation) simple améliore la génération de code

Un article scientifique décrit une méthode baptisée "simple self-distillation" (SSD), qui permet à un grand modèle de langage d'améliorer ses capacités de génération de code en utilisant uniquement ses propres productions, sans verificateur externe, sans modèle enseignant et sans apprentissage par renforcement. Le principe consiste à échantillonner des solutions générées par le modèle lui-même, avec des réglages précis de température et de troncature, puis à affiner ce même modèle sur ces échantillons via un entraînement supervisé classique. Appliquée à Qwen3-30B-Instruct, cette technique fait grimper le score pass@1 sur le benchmark LiveCodeBench v6 de 42,4% à 55,3%. Les chercheurs précisent que la méthode se généralise à plusieurs familles de modèles, Qwen et Llama, à différentes tailles allant de 4 à 30 milliards de paramètres. L'intérêt de cette approche tient à sa simplicité et à son faible coût. Contrairement aux méthodes classiques d'amélioration des modèles de code, qui reposent sur des vérificateurs automatiques, des modèles enseignants plus puissants ou des boucles d'apprentissage par renforcement coûteuses en calcul, SSD n'exige aucune infrastructure supplémentaire. Les chercheurs notent surtout que les gains de performance se concentrent sur les problèmes les plus difficiles, ce qui suggère que la méthode pousse le modèle au-delà de ses limites habituelles plutôt que de simplement consolider des acquis déjà maîtrisés. Ce travail s'inscrit dans une tendance de recherche plus large autour de l'auto-amélioration des modèles de langage, qui cherche à réduire la dépendance envers des ressources externes coûteuses comme le RLHF ou la distillation depuis des modèles plus grands. En démontrant qu'un modèle peut progresser en apprenant de ses propres réponses filtrées, cette étude ouvre la voie à des pipelines d'entraînement plus légers et potentiellement plus accessibles pour les équipes travaillant sur la génération de code assistée par IA.

Recherche vidéo incrémentale personnalisée : hybridation d'embeddings texte et ID

Recherche personnalisée pour la recherche vidéo instantanée sur Apple TV, où chaque frappe au clavier doit renvoyer des résultats pertinents alors que l'intention de l'utilisateur reste floue, parfois réduite à un préfixe d'une à trois lettres. Pour répondre à ce défi, une équipe de recherche a conçu un système combinant deux types de signaux au moment du classement des résultats. Le premier, baptisé TextEmb, est un encodeur de texte multilingue affiné par apprentissage contrastif à partir de triplets de coengagement, c'est-à-dire des contenus consultés ensemble par les utilisateurs. Le second, IdEmb, est un modèle d'embeddings collaboratifs fondé sur les identifiants des contenus, entraîné à partir d'exemples positifs tirés directement des interactions des utilisateurs. Ces deux espaces vectoriels sont ensuite combinés pour construire, en temps réel, une représentation personnalisée de chaque utilisateur. Cette approche hybride vise à résoudre un problème concret pour tout service de streaming vidéo: proposer des résultats pertinents dès les premières lettres tapées, sans attendre une requête complète. En croisant la proximité sémantique du texte avec les habitudes de visionnage individuelles, le système peut anticiper une intention encore ambiguë et hiérarchiser les contenus qui correspondent le mieux au profil de chaque utilisateur, plutôt que de se limiter à une correspondance textuelle générique. Cette recherche s'inscrit dans une tendance plus large de l'industrie du streaming, où la personnalisation de la recherche devient un axe de différenciation aussi stratégique que celle des recommandations. Les moteurs de recherche incrémentale, courants sur les téléviseurs connectés où la saisie au clavier ou à la télécommande est lente et imprécise, doivent compenser ce handicap par une meilleure compréhension du contexte utilisateur. En combinant signaux sémantiques et collaboratifs plutôt que de miser sur un seul type de modèle, cette méthode ouvre la voie à des systèmes de recherche vidéo plus réactifs, potentiellement applicables au-delà d'Apple TV à d'autres plateformes de streaming confrontées aux mêmes contraintes d'interface.

« Les multiples personnalités du premier chatbot »

ELIZA, généralement présentée comme le tout premier chatbot de l'histoire, a fait sensation au milieu des années 1960 en simulant les échanges d'un psychothérapeute avec ses patients. Son créateur, l'informaticien Joseph Weizenbaum, du MIT, a lui-même été surpris par l'accueil enthousiaste réservé à cette expérience d'interaction homme-machine : certains y voyaient l'aube de la psychothérapie automatisée, d'autres croyaient déceler une forme de conscience chez le programme, une illusion depuis baptisée « effet ELIZA ». Pendant des décennies, seules des descriptions publiées et des reconstitutions tardives du programme ont circulé. Ce n'est que récemment que le code source original a été retrouvé dans les archives du MIT. Un nouvel ouvrage, « Inventing ELIZA: How the First Chatbot Shaped the Future of AI », publié par MIT Press en 2026, présente les résultats de cette véritable archéologie logicielle menée par une équipe de chercheurs, qui propose aussi une émulation fidèle du programme, consultable par les lecteurs. Leur analyse révèle qu'ELIZA n'était pas un simple outil de reconnaissance de motifs textuels, mais une plateforme sophistiquée capable d'incarner plusieurs « personas », chacune définie par un script distinct, avec des fonctions avancées comme l'édition de scripts et une forme de mémoire contextuelle. Le script le plus connu, celui du thérapeute, portait en réalité le nom de « Doctor » et n'était qu'une des facettes du programme. Cette découverte change la manière dont l'histoire de l'intelligence artificielle doit être racontée. Elle montre que les innovations techniques de Weizenbaum étaient bien plus abouties que ce que ses publications de l'époque laissaient supposer, et met au jour un écart entre les descriptions théoriques d'un système et sa mise en œuvre réelle en code, une tension que les chercheurs jugent toujours d'actualité dans le développement de l'IA moderne. Pour les concepteurs de chatbots contemporains, souvent réglés pour adopter différentes personnalités selon le contexte, ELIZA apparaît ainsi comme un précurseur direct plutôt qu'une simple curiosité historique. Le travail des auteurs s'inscrit dans un mouvement plus large de relecture critique des débuts de l'IA à partir des sources primaires plutôt que des récits reconstruits après coup. En exhumant le code plutôt que de s'appuyer sur des résumés, ils exposent les hypothèses de Weizenbaum sur le langage, la thérapie et l'interaction homme-machine, des questions qui restent au cœur des débats actuels sur les assistants conversationnels, leur usage en santé mentale et les limites de l'anthropomorphisation des machines.

💬 Le code source d'ELIZA vient de ressortir des archives du MIT, et ça change pas mal ce qu'on racontait sur elle : c'était pas un script figé mais une plateforme à plusieurs personas, le thérapeute n'étant qu'une facette parmi d'autres. L'écart entre ce que Weizenbaum publiait sur son programme et ce que le code faisait vraiment, c'est exactement le même fossé qu'on retrouve aujourd'hui entre les papiers de recherche en IA et le comportement des modèles une fois en prod. Le tout premier chatbot de l'histoire était déjà plus malin que ce qu'on nous en a raconté pendant soixante ans.

Une seule couche suffit : adapter les encodeurs visuels pré-entraînés pour la génération d'images

L'article fourni est tronqué (il s'arrête à "Representation encoders benefit from high-dimensional latents that capture diverse hypotheses for…"), je n'ai que l'introduction du papier, pas son corps ni ses résultats. Pour respecter la consigne de précision (chiffres, dates, noms), il me faut le texte complet. Peux-tu me passer le reste de l'article (méthode, résultats, benchmarks) ? Sinon je peux résumer uniquement l'intro disponible, mais ce sera partiel et sans les chiffres/résultats qui font la valeur d'un article sur ce genre de papier de recherche.

CLaRa : relier recherche documentaire et génération grâce au raisonnement latent continu

Des chercheurs présentent CLaRa (Continuous Latent Reasoning), un nouveau cadre technique destiné à améliorer la génération augmentée par récupération (RAG), une méthode qui permet aux grands modèles de langage de s'appuyer sur des documents externes pour répondre aux questions. Le problème identifié par les auteurs est double: les contextes récupérés sont souvent trop longs à traiter, et les étapes de récupération et de génération sont optimisées séparément, ce qui limite les performances globales du système. CLaRa propose de résoudre ces deux limites en unifiant récupération et génération dans un même espace continu, où les documents sont compressés sous forme de vecteurs plutôt que conservés en texte intégral. Pour produire ces représentations compressées, l'équipe a développé SCP, une méthode de synthèse de données qui préserve les informations clés en s'appuyant sur des exercices de question réponse et de reformulation. L'enjeu pratique est de taille pour les applications d'IA générative en entreprise, où le RAG est devenu un standard pour connecter les modèles de langage à des bases de connaissances propriétaires sans réentraînement complet. Réduire la longueur des documents transmis au générateur diminue les coûts de calcul et la latence, tout en conservant les informations essentielles grâce à des vecteurs plus denses sémantiquement. Une optimisation conjointe entre récupération et génération pourrait aussi améliorer la pertinence des réponses produites, un point faible connu des systèmes RAG classiques où les deux composants sont entraînés indépendamment. Cette recherche s'inscrit dans une tendance plus large visant à repenser l'architecture du RAG face à l'explosion des besoins en contexte long. Plusieurs laboratoires travaillent actuellement sur des méthodes de compression et de raisonnement latent pour rendre les modèles plus efficaces sans sacrifier la qualité des réponses, un compromis central alors que les entreprises déploient massivement ces technologies à grande échelle.

Quantification de l'incertitude pour l'appel de fonctions dans les LLM

Les modèles de langage (LLM) sont de plus en plus déployés pour accomplir de manière autonome des tâches concrètes, notamment grâce au paradigme dit du "function calling", qui leur permet d'appeler des outils externes pour agir sur le monde réel. Ce mécanisme est aujourd'hui largement utilisé pour doter les LLM de capacités d'usage d'outils, que ce soit pour interroger une base de données, exécuter du code ou déclencher une action dans une application tierce. Le problème soulevé par des chercheurs est qu'un appel de fonction incorrect peut avoir des conséquences graves, en particulier lorsque l'action déclenchée est irréversible, comme un virement bancaire ou la suppression de données. Face à ce risque, les auteurs proposent d'évaluer la confiance du modèle dans la justesse d'un appel de fonction avant même de l'exécuter, via des méthodes de quantification de l'incertitude, ou "Uncertainty Quantification" (UQ). Cette approche change la donne pour les entreprises qui intègrent des agents IA autonomes dans leurs systèmes de production. Plutôt que de laisser un modèle exécuter aveuglément chaque action qu'il génère, la quantification de l'incertitude permettrait de détecter en amont les appels de fonction douteux et de les soumettre à une validation humaine ou de les bloquer purement et simplement. Pour les secteurs sensibles comme la finance, la santé ou la gestion de données critiques, ce type de garde-fou pourrait devenir un prérequis avant tout déploiement à grande échelle d'agents capables d'agir sans supervision constante. Cette recherche s'inscrit dans un mouvement plus large de la communauté IA visant à rendre les agents autonomes plus fiables et plus sûrs, alors que leur adoption s'accélère dans les entreprises. Les mécanismes de function calling, bien que puissants, restent une source de fragilité: un modèle peut mal interpréter une requête, halluciner des paramètres ou choisir le mauvais outil. En couplant ces systèmes à des méthodes de quantification de l'incertitude, les chercheurs espèrent ouvrir la voie à des agents capables d'évaluer eux-mêmes leur propre fiabilité, une étape jugée essentielle avant de leur confier des tâches à fort enjeu.

L'évaluation des modèles devient encore plus difficile

Ce succès pourrait sembler technique, mais il touche au cœur même de la course à l'intelligence artificielle : comment savoir si un modèle est réellement performant. Lors de la conférence ICML, qui s'est tenue la semaine dernière, plusieurs chercheurs ont souligné une difficulté grandissante. À mesure que les modèles progressent, ils saturent rapidement les référentiels d'évaluation existants, obligeant la communauté scientifique à concevoir sans cesse de nouveaux tests plus exigeants. Mais un problème plus insidieux se profile : certains modèles sont désormais capables de travailler sur une tâche pendant des heures, voire des jours entiers. Noam Brown, chercheur chez OpenAI, a averti lors d'un panel à l'ICML que l'on s'approche rapidement d'un point où les modèles pourront fonctionner "pendant des semaines, voire indéfiniment". Cette évolution pose un problème pratique majeur : si un modèle met des jours à accomplir une tâche, évaluer sa performance prend tout autant de temps. Brown a précisé que le processus de vérification pourrait bientôt durer plus longtemps que l'entraînement du modèle lui-même. Pour des applications comme la découverte de médicaments, un modèle pourrait passer des semaines à mener des expériences et à analyser les résultats obtenus, un scénario où cette autonomie prolongée devient un atout plutôt qu'un obstacle. Mais du point de vue de la recherche, cela complique considérablement le travail des équipes chargées de mesurer les progrès réels de l'IA. Ce constat s'inscrit dans un débat plus large sur la manière de mesurer le progrès en intelligence artificielle à l'heure où les capacités des modèles dépassent les outils censés les évaluer. Les benchmarks traditionnels, conçus pour des tâches courtes et ponctuelles, deviennent obsolètes face à des systèmes capables d'autonomie prolongée sur des missions complexes. Ce décalage risque de ralentir le rythme du développement des modèles, puisque les équipes de recherche devront attendre plus longtemps avant de pouvoir juger si une nouvelle version constitue réellement une amélioration. La question qui se pose désormais est de savoir comment concevoir des méthodes d'évaluation adaptées à des IA de plus en plus autonomes, sans pour autant freiner l'innovation.

💬 Les benchmarks classiques mesuraient des minutes de raisonnement, pas des semaines d'autonomie, et c'est tout le système d'évaluation qui craque. Ce que dit Noam Brown est limpide : bientôt, vérifier un modèle prendra plus de temps que l'entraîner. Et ça change la donne différemment selon le métier : un atout pour la découverte de médicaments qui a le temps devant elle, un vrai casse-tête pour les labos qui veulent itérer vite sur leurs versions.

Recherche sur les environnements proactifs d'agents : simuler des utilisateurs actifs pour évaluer les assistants proactifs

Cet article de recherche présente Pare (Proactive Agent Research Environment), un nouveau cadre conçu pour construire et évaluer des agents IA proactifs, capables d'anticiper les besoins d'un utilisateur et d'exécuter des tâches de façon autonome sans attendre d'instruction explicite. Contrairement aux approches existantes, qui modélisent les applications comme de simples API à appel d'outils, Pare représente les applications sous forme de machines à états finis. Cette modélisation permet de capturer la nature séquentielle et dépendante du contexte des interactions numériques, un aspect jusqu'ici mal reproduit par les frameworks de simulation d'utilisateurs. L'enjeu est de taille pour le développement des assistants numériques de nouvelle génération. Un agent proactif efficace doit comprendre non seulement ce qu'un utilisateur demande, mais aussi anticiper ce dont il aura besoin ensuite, en tenant compte de l'état changeant des applications qu'il utilise, e-mail, calendrier, outils de gestion de tâches. En l'absence d'un environnement de simulation réaliste, il était jusqu'à présent difficile de mesurer si un agent proactif se comporte de manière pertinente et sûre, ou s'il agit de façon intempestive et contre-productive. Pare comble ce vide en offrant un banc d'essai standardisé, ce qui pourrait accélérer la comparaison et l'amélioration des futurs assistants IA. Ce travail s'inscrit dans une tendance plus large de la recherche en intelligence artificielle vers des agents capables d'initiative, au-delà des simples chatbots réactifs qui attendent une requête pour répondre. Les grands laboratoires et équipes académiques cherchent depuis plusieurs mois à doter les agents d'une meilleure compréhension du contexte applicatif dans lequel ils évoluent. En simulant des utilisateurs actifs au sein d'environnements numériques dynamiques, Pare ouvre la voie à des méthodes d'évaluation plus rigoureuses, un préalable jugé nécessaire avant un déploiement à grande échelle de ces assistants proactifs dans des usages professionnels ou grand public.

Recherche sémantique multilingue pour la recherche musicale sur Apple Music

Apple a présenté un système de recherche sémantique multilingue conçu pour améliorer la recherche musicale sur Apple Music, service disponible dans plus de 150 pays et dans des dizaines de langues, dont le catalogue s'enrichit de centaines de milliers de nouveaux titres chaque jour. Le cœur du système est un modèle bi-encodeur siamois de 305 millions de paramètres, affiné à partir de GTE-multilingual-base grâce à un entraînement multi-objectifs organisé selon un calendrier progressif (curriculum learning). Ce modèle a été intégré directement dans la pile technique de recherche d'Apple Music. L'enjeu principal concerne les requêtes mal orthographiées, translittérées ou formulées dans une langue différente de celle du contenu recherché, des cas qui constituent la majorité des requêtes uniques, notamment les requêtes rares dites de longue traîne. Pour un service de l'ampleur d'Apple Music, la capacité à retrouver un titre malgré une faute de frappe, une transcription phonétique ou une requête en anglais visant un artiste francophone ou coréen devient un facteur déterminant de la qualité de l'expérience utilisateur et donc de l'engagement global sur la plateforme. Cette avancée s'inscrit dans une tendance plus large de l'industrie musicale et technologique vers des moteurs de recherche capables de comprendre le sens plutôt que la simple correspondance textuelle, à l'image des efforts similaires chez Spotify ou YouTube Music. À mesure que les catalogues s'internationalisent et que les usages se diversifient linguistiquement, ces systèmes de recherche sémantique multilingue pourraient devenir un standard incontournable pour toute plateforme de streaming ambitionnant une audience véritablement mondiale. Note : l'article source est tronqué après "intégré dans la pile de recherche via un…", je n'ai donc pas les détails sur l'architecture d'intégration finale ni les résultats chiffrés (gains de recall, A/B tests). Si tu as le texte complet, je peux affiner le premier paragraphe.