Aller au contenu principal
LLMsMarkTechPost · 2 min de lecture

Photon-1 d'Induction Labs simule des bureaux, joue aux dames et modélise la physique du billard à partir d'un seul entraînement

Source originale ↗·

Induction Labs a publié la semaine dernière Photon-1, un modèle d'IA capable de comprendre et de contrôler un ordinateur après avoir simplement observé des vidéos d'écran, sans jamais recevoir d'étiquettes indiquant quelle action correspond à quelle image. Ce transformeur de type mixture-of-experts (MoE) totalise 106 milliards de paramètres, dont 5 milliards actifs à chaque inférence, et a été entraîné sur l'équivalent de 18 années de vidéos de démonstration informatique, soit 575 millions d'images extraites d'un corpus initial de 2 milliards de vidéos publiques, filtré jusqu'à environ 2 millions d'enregistrements d'écrans. L'entraînement complet, mené en une seule époque sur 552 milliards de tokens avec un contexte de 32 000 tokens, a nécessité environ 30 000 heures de calcul sur GPU H200, soit 4,4×10²² opérations en virgule flottante, avec une utilisation soutenue de 40 % de la capacité matérielle grâce à des noyaux personnalisés développés en PyTorch. Sur un benchmark interne d'utilisation d'ordinateur, Induction Labs affirme que Photon-1 surpasse Gemini 3.1 Flash-Lite tout en consommant nettement moins de calcul à l'entraînement et en coûtant environ trois fois moins cher à faire fonctionner, avec un coût pondéré de 0,11 dollar contre 0,36 dollar par million de tokens.

Cette approche renverse une contrainte considérée jusqu'ici comme incontournable dans l'entraînement d'agents autonomes: la nécessité de labelliser chaque action associée à une image vidéo. En prédisant simplement les images futures dans un espace de représentation compressé, plutôt qu'en générant des pixels, le modèle développe ce qu'Induction Labs appelle une "politique implicite": il apprend le concept général d'une tâche accomplie par un humain, sans jamais voir explicitement un clic de souris étiqueté. Concrètement, cela pourrait réduire drastiquement le coût et la complexité de l'entraînement d'agents capables de naviguer sur des interfaces graphiques, un enjeu central pour les entreprises qui cherchent à automatiser des tâches de bureau, remplir des formulaires ou piloter des logiciels métier sans développer d'intégrations spécifiques pour chaque application.

Techniquement, la prouesse repose sur un encodeur vidéo utilisant une quantification scalaire finie: chaque image est compressée en 960 tokens discrets de huit dimensions, chacune limitée à cinq valeurs possibles, pour un encodage d'environ 2,2 Ko par image, soit plus de cent fois plus compact que les représentations multimodales existantes tout en conservant texte, mise en page et changements d'état. Après cette phase de pré-entraînement, Induction Labs a affiné Photon-1 sur moins de 35 000 trajectoires d'utilisation réelle d'ordinateur pour lui apprendre à produire des actions concrètes, avant d'appliquer un apprentissage par renforcement en ligne sur des machines virtuelles Linux reproduisant cinq environnements de bureau différents (LXQt, Xfce, MATE, GNOME et Plasma), avec des comptes Google et un clone interne de ChatGPT sans limite de requêtes. Deux réserves accompagnent toutefois ces résultats: le chiffre de calcul attribué à Gemini reste une estimation prudente d'Induction Labs elle-même, et les modalités précises du benchmark comparatif n'ont pas été entièrement détaillées par l'entreprise.

Dans nos dossiers

Cet article vous a été utile ?

Vu une erreur factuelle dans cet article ? Signalez-la. Toutes les corrections valides sont publiées sur /corrections.

À lire aussi

Zyphra lance ZAYA1-8B : un modèle de raisonnement MoE entraîné sur matériel AMD aux performances bien supérieures à sa taille
1MarkTechPost 

Zyphra lance ZAYA1-8B : un modèle de raisonnement MoE entraîné sur matériel AMD aux performances bien supérieures à sa taille

Zyphra AI a publié ZAYA1-8B, un petit modèle de langage de type Mixture of Experts (MoE) comptant 760 millions de paramètres actifs pour 8,4 milliards de paramètres au total. Entraîné intégralement sur des processeurs AMD, un cluster de 1 024 cartes AMD Instinct MI300x interconnectées via AMD Pensando Pollara, construit en partenariat avec IBM, le modèle est désormais disponible sous licence Apache 2.0 sur Hugging Face et en endpoint serverless sur Zyphra Cloud. Malgré sa taille modeste, ZAYA1-8B affiche des performances compétitives avec des modèles bien plus grands sur les benchmarks de mathématiques et de code : il surpasse Claude 4.5 Sonnet et GPT-5-High sur le HMMT'25, une compétition de mathématiques avancées (89,6 points contre 88,3), et se rapproche des meilleurs modèles open-weight comme DeepSeek-V3.2. Cette efficacité repose sur une méthode inédite de calcul à l'inférence baptisée Markovian RSA, ainsi que sur une architecture MoE++ combinant trois innovations techniques : une attention convolutive compressée réduisant le KV-cache d'un facteur 8, un routeur basé sur un réseau de neurones MLP avec équilibrage de charge par contrôleur PID, et un mécanisme de mise à l'échelle résiduelle apprise pour stabiliser l'entraînement en profondeur. La distinction entre paramètres actifs et paramètres totaux est au coeur de l'intérêt du modèle. Dans un modèle classique, tous les paramètres s'activent à chaque token traité ; dans un MoE, seule une fraction des experts est sollicitée à chaque inférence. Avec seulement 760 millions de paramètres actifs par passe, ZAYA1-8B peut tourner en local sur des appareils grand public, s'intégrer dans des pipelines à calcul augmenté et servir des requêtes avec une latence réduite, tout en maintenant des performances proches de modèles dix fois plus grands. Pour les développeurs et entreprises qui cherchent à déployer des capacités de raisonnement avancées sans infrastructure lourde, ce rapport coût-performance représente une avancée concrète. ZAYA1-8B s'inscrit dans une tendance de fond qui voit plusieurs laboratoires challenger, DeepSeek en tête depuis début 2025, démontrer que l'architecture et la méthode d'entraînement comptent autant que la taille brute des modèles. Zyphra, encore peu connu du grand public, affirme avoir bâti un pipeline d'entraînement en cinq étapes post-préentraînement, intégrant notamment un échauffement au raisonnement, du reinforcement learning en cascade, et des étapes spécifiques de calcul augmenté à l'inférence. L'entraînement entièrement réalisé sur AMD est également un signal politique : dans un secteur dominé par Nvidia, valider une chaîne de production complète sur hardware concurrent ouvre la voie à une diversification des infrastructures IA. Les prochains modèles de Zyphra, selon ses propres communications, viseront des tailles supérieures avec la même philosophie d'efficacité par paramètre.

LLMsOpinion
1 source
Meta Superintelligence Labs lance Muse Spark 1.1, un modèle de raisonnement multimodal pour les tâches à base d'agents sur Meta Model API
2MarkTechPost 

Meta Superintelligence Labs lance Muse Spark 1.1, un modèle de raisonnement multimodal pour les tâches à base d'agents sur Meta Model API

Meta Superintelligence Labs a dévoilé Muse Spark 1.1, un modèle de raisonnement multimodal conçu pour les tâches agentiques, et a ouvert en parallèle un aperçu public de la Meta Model API. Ce second élément marque un tournant structurel : jusqu'ici, les modèles de Meta étaient distribués principalement en poids ouverts, alors que Muse Spark 1.1 est fermé, hébergé et facturé au token. Le modèle dispose d'une fenêtre de contexte d'un million de tokens (1 048 576 selon la documentation technique de l'API) et accepte du texte, des images, de la vidéo et des documents en entrée, avec une sortie textuelle. Son effort de raisonnement est ajustable à chaque requête, et l'API propose en complément la sortie structurée, l'appel d'outils en parallèle, une Files API, la mise en cache des prompts et un outil de recherche web renvoyant des réponses sourcées. Côté accès, les particuliers profitent du mode "Thinking" gratuitement dans l'application Meta AI et sur meta.ai, tandis que les développeurs paient 1,25 dollar par million de tokens en entrée et 4,25 dollars par million en sortie, avec 20 dollars de crédits offerts à la création d'un compte. Le lancement reste pour l'instant réservé aux États-Unis, sans disponibilité en Europe. Sur le plan des performances, Meta positionne clairement Muse Spark 1.1 comme un modèle d'orchestration plutôt qu'un champion du code. Il domine les benchmarks liés à l'usage d'outils : 88,1 sur MCP Atlas contre 82,2 pour Opus 4.8, 75,3 pour GPT-5.5 et 78,2 pour Gemini 3.1 Pro, et 54,7 sur JobBench contre 48,4, 38,3 et seulement 15,9 pour Gemini. Il obtient aussi le meilleur score sur Humanity's Last Exam (62,1). En revanche, sur le code pur, il se classe troisième, avec 61,5 sur SWE-Bench Pro et 53,3 sur DeepSWE 1.1, loin derrière Gemini 3.1 Pro sur ce dernier test (67,0). Ce qui distingue vraiment le modèle, c'est sa gestion active de son contexte massif : il mémorise ses actions, retrouve des informations issues de travaux antérieurs et compacte ce qu'il conserve. Il peut aussi déléguer des tâches à des sous-agents en parallèle lorsqu'il agit comme agent principal, et exécuter fidèlement une mission tout en sachant remonter un problème lorsqu'il agit comme sous-agent, avec une capacité de généralisation immédiate à de nouveaux outils, serveurs MCP ou compétences personnalisées. Cette sortie s'inscrit dans une bataille plus large entre grands laboratoires d'IA pour dominer les usages agentiques, où la capacité à orchestrer des outils et des sous-tâches complexes compte désormais autant que la performance brute sur le code. En rendant son API compatible avec le format OpenAI, Meta facilite l'intégration : migrer vers Muse Spark 1.1 revient essentiellement à changer une URL de base plutôt qu'à réécrire une application, et les environnements compatibles avec le format Anthropic peuvent pointer vers l'équivalent Messages API. Pour l'automatisation d'ordinateur, le modèle a été entraîné à choisir entre écrire un script ou cliquer directement selon ce qui est le plus efficace, générant des lots d'actions à chaque étape. L'absence d'accès européen et le choix par Meta de son propre jeu de benchmarks invitent toutefois à la prudence avant d'en tirer des conclusions définitives sur sa supériorité réelle face aux modèles concurrents.

💬 Muse Spark 1.1 n'essaie pas de battre GPT-5.5 ou Gemini sur le code, il joue une autre partie : celle de chef d'orchestre qui délègue à des sous-agents et gère un million de tokens de contexte sans perdre le fil. C'est révélateur d'un vrai basculement dans la course à l'IA, la bataille se déplace du "qui code le mieux" vers "qui orchestre le mieux", et les scores sur MCP Atlas ou JobBench comptent maintenant autant que SWE-Bench. Reste que c'est fermé, payant, réservé aux US, et benchmarké par Meta lui-même, donc j'attends de voir ça tourner ailleurs qu'en démo avant de crier au génie.

LLMsActu
1 source
Des chercheurs affirment avoir entraîné un modèle fondamental de zéro pour environ 1 500 dollars
3VentureBeat AI 

Des chercheurs affirment avoir entraîné un modèle fondamental de zéro pour environ 1 500 dollars

Des chercheurs de la startup Sapient Intelligence affirment avoir entraîné un grand modèle de langage de zéro pour environ 1 500 dollars. Le modèle, baptisé HRM-Text, compte un milliard de paramètres et repose sur une architecture radicalement différente des Transformers classiques : le Hierarchical Recurrent Model (HRM), introduit par Sapient en 2025. Contrairement aux LLM traditionnels qui s'entraînent sur des prédictions de tokens bruts à partir de milliards de pages web, HRM-Text se forme exclusivement sur des paires instruction-réponse, mimant directement les cas d'usage réels en entreprise. Malgré cette empreinte réduite en données et en calcul, le modèle atteint des performances comparables à des modèles open source bien plus volumineux sur les benchmarks sectoriels de référence, selon les résultats publiés par l'équipe de recherche. Ce résultat bouleverse une hypothèse fondamentale de l'industrie : que l'entraînement d'un modèle fondationnel est réservé aux géants disposant de centaines de millions de dollars. Pour les secteurs comme la finance, l'assurance ou la banque, cela ouvre une voie concrète vers des modèles propriétaires entraînés sur des données internes, sans dépendre d'un fournisseur externe comme OpenAI ou Google. Guan Wang, PDG de Sapient Intelligence, résume l'enjeu : une banque ou un fonds spéculatif peut avoir besoin d'un modèle qui comprend ses règles de conformité, ses modèles de risque et ses mémos d'analystes, sans jamais exposer ces données à l'extérieur. HRM-Text rend ce scénario économiquement viable, là où le fine-tuning de modèles denses existants reste lourd, coûteux et difficile à contrôler. L'architecture HRM découple le traitement en deux couches distinctes : une couche stratégique à évolution lente, chargée du raisonnement de haut niveau, et une couche d'exécution rapide pour les décisions immédiates. Cette séparation permet au modèle de concentrer sa puissance de calcul sur la compréhension de la tâche plutôt que sur la mémorisation de données internet sans rapport. Wang pointe les limites du paradigme dominant : "L'addiction à l'échelle dit : quand le modèle échoue, agrandis-le, ajoute des données, ajoute des GPU. Cela a fonctionné, mais on atteint un point de rendements décroissants." L'approche de Sapient s'inscrit dans un courant émergent qui remet en cause la toute-puissance du scaling, aux côtés d'autres travaux comme ceux de DeepSeek sur l'efficience architecturale. Si les performances annoncées se confirment à plus grande échelle et dans des cas d'usage réels, le modèle économique de l'IA d'entreprise pourrait être profondément reconfiguré.

UELes banques et assureurs européens pourraient entraîner des modèles propriétaires sur leurs données internes pour moins de 2 000 dollars, réduisant leur dépendance aux fournisseurs externes et facilitant la conformité aux exigences de l'AI Act en matière de contrôle des données sensibles.

LLMsPaper
1 source
Nemotron Labs : comment les modèles ouverts donnent aux entreprises et aux États une IA fiable, maîtrisable et personnalisable
4NVIDIA AI Blog 

Nemotron Labs : comment les modèles ouverts donnent aux entreprises et aux États une IA fiable, maîtrisable et personnalisable

Traduction résumée de l'article : NVIDIA a publié un nouveau billet dans sa série de blog Nemotron Labs, consacrée à sa famille de modèles ouverts Nemotron. Le texte détaille comment plusieurs entreprises ont déjà personnalisé ces modèles pour des usages métiers précis. Abridge construit ainsi le premier modèle de fondation conçu spécifiquement pour les conversations cliniques. Glean a développé Waldo, un modèle de recherche agentique qui combine Nemotron avec des modèles fermés plus volumineux pour offrir une recherche d'entreprise à latence réduite et avec moins de tokens consommés. H Company a créé Holotron 3 Nano en post-entraînant Nemotron 3 Nano Omni sur des données propriétaires d'utilisation d'ordinateur, atteignant plus de 76% de précision sur OSWorld-Verified, un benchmark de référence pour les tâches informatiques, tout en égalant les modèles fermés les plus avancés pour une fraction du coût. Harvey a de son côté post-entraîné Nemotron 3 Ultra sur son propre benchmark juridique et obtenu une précision de niveau frontière, équivalente aux meilleurs modèles fermés sur des tâches juridiques complexes, avec un coût par exécution au moins dix fois inférieur. Heidi Health atteint des résultats comparables aux modèles de pointe en documentation clinique sans recourir à une puissance de calcul massive, tandis que YTL AI Labs a adapté un modèle Nemotron à la langue malaisienne pour la communauté de développeurs du pays. L'enjeu central mis en avant par NVIDIA est celui du contrôle et de la confiance. Contrairement aux modèles fermés, dont l'accès reste limité à une interface d'utilisation, les modèles ouverts permettent aux entreprises d'inspecter leur fonctionnement, de les évaluer selon leurs propres critères métier et de les affiner sans faire transiter leurs données sensibles par un tiers. Cet avantage est particulièrement décisif dans des secteurs comme la santé ou le droit, où une erreur peut avoir des conséquences lourdes et où les exigences de traçabilité et de conformité sont strictes. Pour ces industries, pouvoir auditer l'entraînement d'un modèle et le corriger devient un critère aussi important que sa performance brute. Cette approche s'inscrit dans une tendance plus large où l'avantage compétitif en IA ne dépend plus seulement du choix d'un modèle, mais de la manière dont il est adapté et intégré. NVIDIA promeut une architecture hybride où des modèles ouverts comme Nemotron gèrent des tâches spécialisées aux côtés de modèles fermés plus puissants chargés du raisonnement complexe, une répartition qui permet d'optimiser les coûts d'inférence tout en conservant de la flexibilité. L'exemple malaisien avec YTL AI Labs illustre par ailleurs un enjeu de souveraineté numérique, montrant comment des nations peuvent s'approprier des capacités d'IA adaptées à leur langue et à leur contexte local plutôt que de dépendre entièrement de fournisseurs étrangers.

LLMsActu
1 source

Recevez l'essentiel de l'IA chaque jour

Une sélection éditoriale quotidienne, sans bruit. Directement dans votre boîte mail.

Recevez l'essentiel de l'IA chaque jour

Gratuit · 1 email le matin, l'essentiel de l'IA · désinscription en un clic