Aller au contenu principal

Actualités IA — page 16

9 260 articles au fil, du plus récent au plus ancien.

Rencontre l'ingénieur d'Anthropic chargé de garder son agent IA fiable
Illustration générée par IA
301IEEE Spectrum AI 

Rencontre l'ingénieur d'Anthropic chargé de garder son agent IA fiable

Gurmeet Saran est ingénieur à Anthropic, à San Francisco, où il occupe un poste de « member of technical staff ». Cet ingénieur, membre senior de l'IEEE, développe une infrastructure destinée à comprendre les mécanismes qui gouvernent le comportement de Claude et à vérifier que l'architecture sous-jacente produit des résultats fiables. Il décrit sa mission ainsi : s'assurer que les données sont exactes, structurées et dignes de confiance, et que les données privées le restent. Originaire de Calcutta, il a obtenu en 2004 une licence en électronique et télécommunications à l'université de Kalyani, puis, en 2010, un master en génie logiciel au Birla Institute of Technology and Science de Pilani. Sa carrière commence en 2007 chez Yahoo, à Bangalore, comme responsable technique de l'équipe data. Il y affronte un problème récurrent : plusieurs équipes calculaient la même métrique, comme le nombre d'utilisateurs actifs quotidiens d'un site, avec des logiques légèrement différentes, et obtenaient des chiffres contradictoires. Son équipe a bâti un dépôt central de métriques définies, une « source unique de vérité ». Saran a modélisé précisément quels événements comptaient et comment traiter les cas limites. Cela a débouché sur Yahoo! Digits, un outil interne d'analyse web utilisé pour tous les produits du groupe. En 2010, il rejoint Intuit à Mountain View, en Californie, comme ingénieur de rang « staff ». Il y contribue à l'infrastructure analytique qui unifie les données des produits de l'entreprise, dont TurboTax et le logiciel comptable QuickBooks. L'enjeu dépasse le parcours individuel. Saran explique que sans confiance dans la logique d'un système, on ne peut formuler aucune affirmation fiable sur son comportement, ce qui a des conséquences directes sur la sécurité. Pour les grands modèles de langage, le défi est particulièrement aigu : selon lui, il existe de bons outils pour surveiller des bases de données ou des services web, mais pour les LLM, le secteur est encore en train de défricher le terrain. Rendre l'observation et la compréhension des modèles possibles pour les chercheurs est donc une condition préalable à toute garantie de sûreté. Il insiste aussi sur un principe tiré de son expérience : la confidentialité ne peut pas être une couche ajoutée après coup, elle doit être intégrée à l'architecture dès l'origine. Ce travail s'inscrit dans la mission affichée d'Anthropic : faire de Claude un agent « réellement utile » aux personnes avec lesquelles il travaille comme à la société, tout en évitant les actions dangereuses, contraires à l'éthique ou trompeuses. Le fil conducteur de Saran est ancien. Enfant à Calcutta, il passait le plus de temps possible dans la salle informatique de son école, fasciné par une machine qui exécutait ses instructions à la lettre, sans ambiguïté. Chez Yahoo, la bataille des définitions de métriques lui a montré que des décisions de direction sur les ressources et les produits reposent sur des chiffres dont la provenance doit être claire. Son parcours chez Yahoo, Intuit puis Meta, centré sur la qualité des données, nourrit aujourd'hui son approche de l'observabilité des modèles d'IA, un domaine où les standards restent à construire.

SociétéActu
1 source
La Russie n'était pas préparée à la guerre des centres de données qu'elle a déclenchée contre l'Ukraine
Illustration générée par IA
302Ars Technica AI 

La Russie n'était pas préparée à la guerre des centres de données qu'elle a déclenchée contre l'Ukraine

Des frappes de drones ukrainiens ont mis hors service en quelques jours trois des plus grands centres de données de Yandex, le géant technologique russe, provoquant des pannes étendues dans les services numériques du pays. Des blogueurs prokremlin cités dans des messages traduits par le chercheur indépendant pseudonyme ChrisO_wiki avertissent que l'économie numérique russe, très centralisée, pourrait s'effondrer. Selon eux, la Russie n'était pas préparée à la « guerre des centres de données » qu'elle a elle-même déclenchée. Ces commentateurs russes estiment aussi que les services numériques ukrainiens, plus décentralisés, pourraient se révéler plus résilients que le système russe si les deux pays continuent à s'échanger de tels coups. L'enjeu dépasse la seule entreprise Yandex, dont les services sont omniprésents dans la vie quotidienne et économique russe. La concentration de l'infrastructure dans quelques sites majeurs la rend vulnérable : la perte de trois d'entre eux suffit à perturber des services utilisés par des millions de personnes et d'entreprises. Le constat des blogueurs prokremlin est révélateur, puisqu'il émane d'un camp qui soutient l'effort de guerre et admet une faiblesse stratégique. Il suggère que l'avantage supposé d'une architecture centralisée, plus simple à contrôler et à surveiller pour l'État, se transforme en point de défaillance unique lorsque les infrastructures deviennent des cibles militaires. À l'inverse, l'Ukraine, qui a dû disperser et redonder ses services sous la pression des attaques, semble mieux armée pour encaisser ce type de frappes. Ce scénario découle d'une escalade amorcée par Moscou. Fin septembre, la Russie a lancé une campagne de frappes de drones contre les centres de données et les réseaux de téléphonie mobile ukrainiens. Ces attaques ont temporairement coupé Internet et le service mobile pour jusqu'à 100 000 foyers dans la capitale, Kyiv. Elles s'inscrivaient dans une campagne plus large de frappes à longue portée, mêlant missiles et drones à réaction, qui visent le réseau électrique, les nœuds de transport et même des immeubles d'habitation. Les frappes ukrainiennes contre Yandex apparaissent comme une riposte symétrique, qui ouvre un nouveau front où les infrastructures numériques deviennent des cibles à part entière. Reste à savoir si la Russie parviendra à renforcer rapidement la protection et la redondance de ses sites, ou si elle devra faire face à de nouvelles défaillances.

InfrastructureOpinion
1 source
Modèles GPT d'OpenAI sur Amazon Bedrock : accès en Thaïlande, Malaisie, Singapour, Indonésie et Taïwan via l'inférence interrégionale globale
Illustration générée par IA
303AWS ML Blog 

Modèles GPT d'OpenAI sur Amazon Bedrock : accès en Thaïlande, Malaisie, Singapour, Indonésie et Taïwan via l'inférence interrégionale globale

Amazon Bedrock propose désormais les modèles GPT-6 d'OpenAI via l'inférence interrégionale globale à des équipes établies en Thaïlande, en Malaisie, à Singapour, en Indonésie et à Taïwan. Les profils global.openai.gpt-6-sol et global.openai.gpt-6-luna sont accessibles depuis cinq Régions AWS : Asie-Pacifique (Singapour, ap-southeast-1), Jakarta (ap-southeast-3), Malaisie (ap-southeast-5), Thaïlande (ap-southeast-7) et Taipei (ap-east-2). Le profil global.openai.gpt-6-astra n'est pour l'instant disponible que depuis Singapour. Les trois modèles acceptent le texte et l'image en entrée, l'appel d'outils côté client et la mise en cache des prompts. Ils se distinguent par le niveau de raisonnement : Sol et Luna acceptent les réglages none, low, medium, high, xhigh et max, tandis qu'Astra accepte les mêmes niveaux à l'exception de none. Sol vise les tâches complexes de raisonnement et de code, Luna les tâches ciblées et répétitives à gros volume, et Astra le raisonnement complexe, le code et les longs documents. Pour les utiliser, il suffit de passer l'identifiant du profil à la place de l'identifiant du modèle, via l'API Converse, les API compatibles OpenAI ou des clients de programmation existants, sur le point d'accès bedrock-runtime. Le principal intérêt est de contourner les limites de capacité d'une seule Région. Lorsque la demande dépasse les ressources locales, l'inférence mono-Région peut être bridée, ce qui pénalise les équipes d'Asie du Sud-Est et de Taïwan qui veulent exploiter les derniers modèles d'OpenAI en production. Avec le routage global, Amazon Bedrock choisit lui-même la Région de destination parmi les Régions commerciales où le modèle est déployé, ce qui donne accès à une capacité bien plus large. Pour les entreprises soumises à des exigences de gouvernance, l'exploitation reste centralisée : la facturation, le suivi des quotas, AWS CloudTrail et Amazon CloudWatch restent rattachés à la Région source, celle d'où part l'appel. Seule cette Région doit être activée, les Régions de destination s'appuyant sur la capacité gérée par Bedrock. Singapour est activée par défaut, alors que Jakarta, la Malaisie et la Thaïlande nécessitent une activation préalable. Ce lancement s'inscrit dans la montée en puissance de la distribution des modèles d'OpenAI par les grands fournisseurs de cloud, qui permet aux clients d'accéder à ces modèles dans leur environnement AWS existant, avec leurs outils de gestion des identités et des coûts. L'article, publié par AWS, détaille aussi la configuration des autorisations IAM, des politiques de contrôle de service (SCP), la gestion des quotas et la supervision. Il rappelle que la disponibilité des profils et des Régions évolue au fil de l'ajout de nouvelles Régions, et invite à vérifier les fiches de chaque modèle avant de concevoir une architecture. Les tarifs par jeton sont consultables sur la page de tarification d'Amazon Bedrock. Il est probable qu'AWS élargisse à terme le profil Astra à d'autres Régions sources.

InfrastructureOutil
1 source
Andreessen Horowitz et General Catalyst se battent pour garantir à leurs startups l'accès aux puces dont elles ont besoin
Illustration générée par IA
304The Information AI 

Andreessen Horowitz et General Catalyst se battent pour garantir à leurs startups l'accès aux puces dont elles ont besoin

Andreessen Horowitz envisage d'étendre l'offre de puissance de calcul qu'il propose à ses start-up. Il y a deux ans, le fonds de capital-risque avait constitué un cluster de 20 000 processeurs graphiques (GPU) à leur intention. Selon des sources proches du dossier, il discute aujourd'hui d'un élargissement, possiblement via deux sociétés de centres de données dans lesquelles il a investi. General Catalyst construit de son côté un centre de données destiné à alimenter en calcul les jeunes pousses de son portefeuille, selon deux autres personnes informées. Plusieurs autres fonds ont enfin recours à des courtiers pour dénicher les puces très recherchées dont leurs entreprises ont besoin. Ces initiatives montrent que l'accès aux serveurs d'intelligence artificielle est devenu un enjeu de survie pour les start-up, au point que les investisseurs s'en mêlent directement. Pour un fondateur, la promesse de capacités de calcul garanties peut peser autant qu'un chèque dans le choix d'un fonds. Les start-up qui n'ont pas de tels appuis risquent de se retrouver en position de faiblesse face à des concurrents mieux servis. Le métier de capital-risqueur évolue lui aussi, puisque certains fonds se rapprochent d'un rôle de fournisseur d'infrastructure. Cette évolution découle de la course effrénée aux GPU, dont l'offre reste limitée face à une demande portée par les grands laboratoires et les géants du cloud, qui captent l'essentiel des livraisons. Les jeunes entreprises, moins bien placées pour négocier, cherchent donc des intermédiaires. Si ces fonds poursuivent dans cette voie, d'autres pourraient suivre, avec des investissements lourds et de possibles conflits d'intérêts entre rôle d'investisseur et de fournisseur.

InfrastructureActu
1 source
Peut-on modifier l'architecture d'un modèle d'IA sans le réentraîner de zéro ?
Illustration générée par IA
305Amazon Science 

Peut-on modifier l'architecture d'un modèle d'IA sans le réentraîner de zéro ?

Les modèles Transformer paient une « taxe mémoire » qui croît avec le nombre de jetons traités, un coût qui s'alourdit à mesure que les agents d'IA mènent des sessions plus longues et des raisonnements plus profonds. Pour y remédier, plusieurs architectures hybrides combinent attention parcimonieuse (qui ne retient qu'un sous-ensemble des jetons passés), attention à fenêtre glissante (qui ne conserve que les jetons les plus récents) et modèles à espace d'états (qui compressent tout l'historique dans un état de taille fixe). Jusqu'ici, comparer ces approches imposait d'entraîner chaque architecture de zéro, avec des milliers de milliards de jetons et des centaines de milliers d'heures de GPU. Une équipe d'Amazon Web Services publie « Priming : modèles hybrides à espace d'états issus de Transformers préentraînés », une méthode qui réutilise les poids d'un Transformer existant comme point de départ et réduit de plus de 99 % le coût de préentraînement d'un hybride. Les chercheurs ont comparé trois types de modèles à espace d'états : Gated KalmaNet (GKA), Gated DeltaNet (GDN) et Mamba-2. Dans des conditions contrôlées, GKA arrive en tête, suivi de GDN puis de Mamba-2. Les modèles à espace d'états surpassent systématiquement l'attention à fenêtre glissante, même lorsque celle-ci dispose d'un budget mémoire doublé. Un hybride de 32 milliards de paramètres basé sur GKA égale son Transformer d'origine sur des tests de raisonnement, tout en décodant jusqu'à deux fois plus vite avec 128 000 jetons de contexte et en atteignant la bonne réponse en seulement deux tiers du temps réel. L'enjeu est d'abord économique et scientifique. Quand chaque expérience coûte un entraînement complet, seuls quelques grands laboratoires peuvent explorer l'espace de conception des architectures, et les comparaisons rigoureuses restent rares. Avec le priming, les développeurs peuvent désormais tester des questions jusque-là inabordables à grande échelle : quelles couches d'attention remplacer par des couches plus efficaces, combien en remplacer sans perdre en qualité, quelle couche à espace d'états est la meilleure, et à quoi ressemble le compromis entre vitesse et précision. Les résultats livrent aussi un enseignement concret : un résumé approximatif de tout l'historique vaut mieux qu'un enregistrement parfait du passé récent. GKA offre en outre une particularité précieuse, un calcul d'inférence de longueur variable sans réentraînement, qui permet à l'utilisateur de choisir lui-même sa position sur la frontière vitesse-précision. Pour les entreprises qui déploient des agents à long contexte, cela se traduit par des réponses plus rapides et des coûts de serveur réduits. Ces travaux s'inscrivent dans la multiplication des architectures hybrides, qui cherchent à contourner la limite structurelle de l'attention. Dans un Transformer, chaque jeton produit une requête, une clé et une valeur par multiplication avec des matrices de projection apprises. La pertinence se calcule en comparant la requête courante à la clé de chaque jeton précédent, et le contexte à conserver grandit avec chaque jeton généré. Les approches hybrides diffèrent par la manière dont elles retiennent et exploitent le passé. Pour encourager la recherche, l'équipe d'AWS publie sous licence Apache 2.0 un ensemble de modèles hybrides primés à 8 et 32 milliards de paramètres, destinés au raisonnement à long contexte et au suivi d'instructions, avec le code d'entraînement, des noyaux optimisés et un plugin de service pour vLLM. Reste à voir si la communauté s'emparera de ces outils pour confronter systématiquement les architectures.

RecherchePaper
1 source
Meta présente de nouveaux modèles d'IA baptisés Wonder Full
Illustration générée par IA
306The Verge AI 

Meta présente de nouveaux modèles d'IA baptisés Wonder Full

Meta a lancé Muse Wonder et Muse Wonder Full, deux nouveaux modèles d'intelligence artificielle que le groupe présente comme capables de rivaliser avec les meilleurs de l'industrie. Les deux sont disponibles dès aujourd'hui pour les abonnés à Muse Code, et Wonder peut aussi être utilisé via l'API Meta Model. Meta indique qu'elle compte à terme faire fonctionner son agent d'IA Muse avec Wonder, en commençant par ses abonnés. Elle prévoit ensuite de développer des modèles spécialisés qu'elle pourra proposer à tous les utilisateurs de Muse. Le groupe n'a pour l'instant donné ni précisions techniques ni calendrier. Ce lancement compte parce qu'il montre la volonté de Meta de redevenir un acteur de premier plan sur le terrain des modèles les plus performants. L'ouverture de Wonder par API permet aux développeurs de l'intégrer à leurs propres produits. Le déploiement progressif vers l'agent Muse laisse aussi entrevoir une présence plus large de ces modèles auprès du grand public. En revanche, les performances annoncées restent des déclarations de l'entreprise, sans comparaison indépendante pour l'instant, et l'absence de calendrier invite à la prudence. Meta cherche à rattraper un retard dans la course à l'IA. Elle a d'abord présenté Muse Spark, premier modèle issu de sa division Superintelligence Labs, réorganisée pour l'occasion. Elle a ensuite lancé Muse, un agent d'IA qui a suscité beaucoup d'attention. Wonder et Wonder Full prolongent cette série. Reste à savoir quand et comment ils alimenteront l'agent Muse, et si les modèles spécialisés promis arriveront rapidement.

Vider l'historique de conversation aide les agents IA à trouver de meilleures solutions
Illustration générée par IA
307The Decoder 

Vider l'historique de conversation aide les agents IA à trouver de meilleures solutions

Des chercheurs de Microsoft ont montré que les agents d'IA autonomes se retrouvent piégés dans ce qu'ils appellent des « bassins d'idées » (idea basins). Ce phénomène vient de l'accumulation de l'historique de conversation : plus le contexte grossit, plus l'agent reste cantonné à une région locale de solutions dont il ne parvient pas à sortir. Pour y remédier, l'équipe propose une méthode baptisée « Fork-and-Flush », qui consiste à vider l'historique de conversation tout en conservant l'espace de travail, c'est-à-dire les fichiers, le code et les résultats déjà produits. À budget de calcul identique, cette approche obtient jusqu'à 66 % de meilleurs résultats. L'enjeu est considérable pour toute organisation qui confie à des agents des tâches longues et ouvertes, comme l'optimisation de code, la recherche de solutions ou l'exploration scientifique. Le gain annoncé ne vient pas d'un modèle plus puissant ni de ressources supplémentaires, mais d'une simple gestion du contexte, ce qui rend la méthode peu coûteuse à adopter. Elle suggère aussi qu'un historique plus long n'est pas toujours un avantage : il peut ancrer l'agent dans ses premières pistes et réduire la diversité de ses tentatives. Les développeurs d'agents pourraient donc repenser la manière dont ils organisent la mémoire de travail de leurs systèmes. Ces travaux s'inscrivent dans une réflexion plus large sur les limites des agents autonomes sur de longues durées. Les fenêtres de contexte s'étendent à des millions de jetons, mais les chercheurs constatent de plus en plus que davantage de contexte ne signifie pas de meilleurs raisonnements, car les anciennes hypothèses pèsent sur chaque décision suivante. La séparation entre la mémoire conversationnelle, qui est jetable, et l'état du travail, qui est durable, pourrait devenir un principe de conception courant. Reste à voir comment cette méthode se comporte sur d'autres types de tâches et si les grands acteurs de l'IA l'intégreront dans leurs outils d'agents.

RecherchePaper
1 source
Simuler l'apprentissage des élèves pour améliorer le tutorat par IA
Illustration générée par IA
308Microsoft Research 

Simuler l'apprentissage des élèves pour améliorer le tutorat par IA

StudentSim est un système de recherche qui crée des simulateurs personnalisés d'élèves, afin d'évaluer et d'améliorer des tuteurs d'intelligence artificielle avant de les tester auprès d'apprenants réels. Chaque simulateur est adapté à un élève précis. Il apprend à partir de dossiers d'apprentissage publics, diffusés pour la recherche et dépersonnalisés, sans aucune donnée permettant d'identifier une personne. Il modélise la façon dont l'élève répond à une question, puis dont sa réponse évolue après les conseils d'un tuteur. Le projet s'accompagne de StudentSimEval, un banc d'essai et un protocole d'évaluation couvrant trois domaines : les échecs, l'écriture en anglais langue seconde et les mathématiques. Dans ces trois domaines, StudentSim surpasse les principales méthodes de référence. Il fournit aussi un signal de retour utile pour entraîner un tuteur IA. Les auteurs précisent que ce n'est ni un produit, ni un outil déployé en classe, ni un substitut aux enseignants. L'enjeu est pratique. La qualité d'un tuteur ne se juge pas à la seule réponse qu'il produit. Il faut savoir si l'élève a corrigé son erreur, si l'indice l'a aidé à raisonner ou s'il lui a donné trop d'éléments, et si un autre élève aurait eu besoin d'un autre type de soutien. Répondre à ces questions suppose aujourd'hui des études auprès de vrais apprenants, précieuses mais lentes et coûteuses, donc difficilement compatibles avec des itérations rapides sur les modèles. Un simulateur fiable permettrait d'obtenir un retour d'élève beaucoup plus tôt dans le développement. Il resterait un signal préliminaire de recherche, qui ne dispense pas de valider les résultats avec des élèves réels. Le contexte tient aux limites des approches existantes. La méthode la plus simple consiste à demander à un grand modèle de langage de jouer un élève, par exemple un écolier en difficulté en mathématiques. Le modèle peut adopter le ton et exprimer des doutes, mais il conserve souvent des connaissances et des capacités de raisonnement bien supérieures à celles du jeune qu'il imite. Le tuteur paraît alors efficace uniquement parce que l'élève simulé est trop compétent, ce qui fausse l'entraînement. Les modèles classiques de suivi des connaissances et de prédiction de comportement s'appuient sur de vrais historiques d'apprentissage et estiment bien les acquis d'un élève. Beaucoup n'ont toutefois pas été conçus pour accepter en entrée un langage naturel, comme une explication, un indice ou une question socratique. StudentSim définit donc sa cible selon deux dimensions inspirées de la recherche en éducation. La première est de répondre comme un élève précis. La seconde est de se mettre à jour après les conseils du tuteur. Cette seconde dimension reprend la distinction des pédagogues entre ce qu'un apprenant sait faire seul et ce qu'il réussit avec un accompagnement.

RecherchePaper
1 source
Microsoft prévoit de déployer ses puces IA Maia à l'échelle du gigawatt d'ici 2027
Illustration générée par IA
309The Decoder 

Microsoft prévoit de déployer ses puces IA Maia à l'échelle du gigawatt d'ici 2027

Microsoft prévoit de faire de ses puces maison Azure Maia le principal système d'inférence IA de ses produits à partir de 2027, avec un déploiement à l'échelle de plusieurs gigawatts. La prochaine génération, baptisée Maia 300, doit selon le groupe délivrer 40 % de jetons supplémentaires par mégawatt que les meilleurs systèmes à base de GPU actuellement disponibles. Le PDG Satya Nadella présente ce projet comme « notre plus gros pari à ce jour sur notre propre silicium ». L'objectif est d'étendre la présence de ces processeurs bien au-delà des usages expérimentaux, en les plaçant au cœur de l'infrastructure qui fait tourner les services d'IA de l'entreprise. Cette annonce a des conséquences directes sur l'économie de l'IA générative. L'inférence, c'est-à-dire l'exécution des modèles au quotidien pour répondre aux requêtes des utilisateurs, représente désormais l'essentiel de la facture énergétique et financière des fournisseurs de cloud. Gagner 40 % d'efficacité par mégawatt revient à servir davantage de requêtes avec la même puissance électrique, un avantage décisif à l'heure où l'accès à l'énergie freine la construction de centres de données. Pour les clients d'Azure et les utilisateurs des produits Microsoft, cela pourrait se traduire par des coûts réduits et une capacité plus abondante. Pour Nvidia, principal fournisseur de Microsoft, c'est un signal que ses plus gros clients cherchent à réduire leur dépendance. Le mouvement s'inscrit dans une tendance de fond chez les géants du cloud. Google développe ses TPU depuis des années, Amazon mise sur ses puces Trainium et Inferentia, et Meta conçoit ses propres accélérateurs. Microsoft avait dévoilé la première génération de Maia fin 2023, mais le programme a longtemps été perçu comme en retard sur ses concurrents. En visant l'échelle du gigawatt dès 2027, le groupe cherche à rattraper cet écart et à mieux maîtriser ses coûts face à l'explosion de la demande. Reste à voir si les performances annoncées se confirmeront en conditions réelles et si Microsoft tiendra son calendrier.

InfrastructureActu
1 source
Gemini Live va bientôt pouvoir se taire quand vous le souhaitez
Illustration générée par IA
310Frandroid 

Gemini Live va bientôt pouvoir se taire quand vous le souhaitez

Google prépare une refonte de l'interface de Gemini Live, son assistant vocal conversationnel, et plusieurs changements ont été repérés dans les versions en préparation. Le plus notable est un nouveau bouton qui permettrait de couper la voix de l'assistant à la demande, sans passer par le volume du smartphone. L'utilisateur pourrait ainsi interrompre la réponse parlée tout en gardant la session active. La fonction n'est pas encore déployée, et Google n'a communiqué ni calendrier ni détail officiel sur sa disponibilité. Ce changement répond à un besoin concret. Aujourd'hui, faire taire l'assistant oblige à baisser le volume du téléphone, ce qui affecte aussi les autres sons, ou à mettre fin à la conversation. Un bouton dédié rendrait Gemini Live plus pratique dans les situations où l'on veut garder la main sans déranger, par exemple dans les transports, au bureau ou en pleine conversation avec quelqu'un. Il permettrait aussi de poursuivre l'échange à l'écrit ou de consulter une réponse sans l'entendre. Pour les utilisateurs Android, c'est un gain de contrôle qui rapproche l'assistant d'un usage quotidien plus souple. Cette évolution s'inscrit dans la stratégie de Google, qui fait de Gemini le cœur de son écosystème, en remplacement progressif de l'ancien Assistant Google. Gemini Live, lancé pour permettre des échanges vocaux naturels et fluides, a connu de nombreux ajustements depuis ses débuts. Face à la concurrence des modes vocaux d'OpenAI et d'autres acteurs, Google multiplie les améliorations d'ergonomie pour fidéliser ses utilisateurs. Ces nouveautés, découvertes en amont par l'analyse de versions de l'application, peuvent encore changer ou être abandonnées avant un éventuel déploiement.

OutilsActu
1 source
Comment la nouvelle patronne d'Office chez Microsoft a redressé Copilot et convaincu Nadella
Illustration générée par IA
311The Information AI 

Comment la nouvelle patronne d'Office chez Microsoft a redressé Copilot et convaincu Nadella

Durant l'été 2025, Microsoft recevait de nombreuses plaintes de clients au sujet de Copilot, son assistant d'intelligence artificielle. Les utilisateurs le jugeaient bogué et insuffisamment capable d'automatiser des tâches dans Excel ou PowerPoint. Face à ce constat, Charles Lamanna, alors président chez Microsoft et étoile montante du groupe, est allé voir le PDG Satya Nadella avec une proposition audacieuse: envisager de payer pour utiliser les modèles d'Anthropic afin d'améliorer Copilot. « À l'époque, c'était une hérésie », a-t-il confié dans un entretien. L'enjeu dépasse la simple correction de défauts techniques. Copilot est la vitrine de la stratégie de Microsoft pour faire payer l'IA aux entreprises qui utilisent ses logiciels de bureautique. Si l'assistant déçoit dans les applications les plus employées au monde, c'est la crédibilité de cette offre qui est menacée. En acceptant d'écouter l'idée de Lamanna, Nadella a montré que la qualité du produit pouvait passer avant la fidélité à un fournisseur. Pour les clients, cela ouvre la perspective d'outils plus fiables au quotidien. Pour Lamanna, l'épisode a visiblement contribué à sa promotion à la tête d'Office. Le mot « hérésie » s'explique par la relation privilégiée de Microsoft avec OpenAI, dans laquelle le groupe a investi massivement et dont les modèles alimentent une grande partie de ses produits. Se tourner vers Anthropic, concurrent direct d'OpenAI, revenait à admettre qu'un autre acteur faisait mieux sur certains usages. Cette démarche illustre une tendance plus large: les géants du numérique cherchent à diversifier leurs sources de modèles plutôt que de dépendre d'un seul partenaire. La suite dépendra de la capacité de Copilot à convaincre durablement les entreprises clientes.

BusinessActu
1 source
Le nouveau processeur d'IA de Microsoft réduit sa dépendance aux GPU de Nvidia
Illustration générée par IA
312The Verge AI 

Le nouveau processeur d'IA de Microsoft réduit sa dépendance aux GPU de Nvidia

Microsoft a dévoilé Maia 300, la troisième génération de sa puce d'intelligence artificielle conçue en interne. Le groupe la présente comme le « système d'inférence IA principal » de ses produits et services. La puce vise à réduire le coût et à améliorer l'efficacité de l'exécution des charges de travail IA dans le cloud. Elle est aussi mieux adaptée aux derniers modèles de raisonnement et aux tâches dites agentiques. Son déploiement en production doit commencer en 2027. Scott Guthrie, vice-président exécutif du groupe cloud de Microsoft, affirme s'attendre à ce que Maia 300 fournisse 40 % de jetons en plus par mégawatt que les meilleurs systèmes à base de GPU. Cette annonce compte d'abord pour l'économie de l'IA. L'inférence, c'est-à-dire l'exécution des modèles au quotidien pour les utilisateurs, représente une part croissante des coûts des fournisseurs de cloud. Or l'énergie en est devenue le facteur limitant. Mesurer la performance en jetons par mégawatt montre que Microsoft cherche à tirer davantage de chaque centrale électrique et de chaque centre de données. Une puce maison plus efficace peut aussi diminuer la dépendance du groupe envers Nvidia, dont les GPU restent rares et coûteux. Cette stratégie s'inscrit dans un mouvement plus large chez les grands acteurs du cloud, qui conçoivent leurs propres accélérateurs pour mieux maîtriser leurs coûts et leur approvisionnement. Maia 300 prolonge une série de puces lancée par Microsoft pour ses propres services. Le calendrier, avec une montée en puissance en 2027, laisse penser que les GPU Nvidia resteront indispensables dans l'intervalle, et qu'ils coexisteront ensuite avec ces puces maison.

Andrej Karpathy (Anthropic) estime que le monde extérieur n'a vu que « l'avant-première » des vraies capacités de l'IA
Illustration générée par IA
313The Decoder 

Andrej Karpathy (Anthropic) estime que le monde extérieur n'a vu que « l'avant-première » des vraies capacités de l'IA

Andrej Karpathy, cofondateur d'OpenAI et désormais chez Anthropic, décrit un fossé de connaissances qui se creuse autour de l'intelligence artificielle. Selon lui, environ 75 % de la population mondiale n'a presque jamais touché à un grand modèle de langage. À l'autre extrémité, quelque 5 000 personnes ont accès à des systèmes internes de pointe. Ces systèmes déploient des essaims d'agents capables d'accomplir un travail qui demanderait des années à des experts de haut niveau. Pour le grand public, dans le meilleur des cas, l'IA se résume à un chatbot un peu étrange. Karpathy résume la situation ainsi : le monde extérieur n'a vu que l'avant-première de ce que l'IA peut réellement faire. Ce constat dessine une société à deux vitesses face à une technologie en pleine accélération. Si les capacités les plus avancées restent confinées à un cercle minuscule, les décisions sur leur usage, leur régulation et leurs effets économiques risquent d'être prises sans que la majorité des citoyens, des entreprises ou des responsables politiques mesure l'ampleur du phénomène. Pour les professionnels, l'écart entre l'expérience d'un assistant conversationnel grand public et la réalité des agents autonomes pourrait conduire à sous-estimer l'impact sur les métiers qualifiés. Ce diagnostic vient d'une figure qui a vu les deux mondes, du laboratoire fondateur d'OpenAI jusqu'à Anthropic. Il s'inscrit dans le débat plus large sur la transparence des laboratoires de pointe et sur le rythme auquel leurs avancées doivent être rendues accessibles. La question de la diffusion de ces outils, et de la préparation du public à leur arrivée, reste ouverte.

SociétéOpinion
1 source
Amazon compte plus d'un million de robots dans ses entrepôts : quel avenir pour ses employés ?
Illustration générée par IA
314Ars Technica AI 

Amazon compte plus d'un million de robots dans ses entrepôts : quel avenir pour ses employés ?

Aucune organisation au monde n'exploite autant de robots qu'Amazon. Le géant du commerce en ligne compte désormais plus d'un million de robots dans ses entrepôts, qui fonctionnent jour et nuit pour permettre des dizaines de millions de livraisons le jour même ou le lendemain, chaque jour. L'entreprise s'apprête à étendre nettement cette flotte dans les années à venir, en ouvrant de nouvelles usines chargées de produire des robots toujours plus performants. Pourtant, Amazon reste le deuxième employeur privé de la planète, avec plus de 1,5 million de salariés à temps plein et à temps partiel, selon son rapport annuel 2025. Les dirigeants du groupe affirment que cette flotte allège la charge des employés en prenant en charge les tâches les plus pénibles des centres logistiques, celles qui exposent le plus à la fatigue physique et aux blessures. Mais des organisations de défense des travailleurs et des chercheurs indépendants nuancent ce tableau : l'automatisation des entrepôts portée par l'intelligence artificielle n'est pas bénéfique à tous égards pour les humains qui travaillent à leurs côtés. Le sujet dépasse Amazon, car il préfigure ce que pourraient vivre les salariés de tout secteur où des robots collaboratifs s'installent au plus près des équipes. Brian Greenwood, professeur de gestion à l'université George Mason, souligne une rupture historique. Pendant un siècle, explique-t-il, l'automatisation s'est le plus souvent déroulée à distance des travailleurs : on retirait une tâche dangereuse à l'ouvrier, sans qu'une machine ne partage physiquement son espace. Les robots collaboratifs changent la donne pour deux raisons. D'une part, ils évoluent à proximité immédiate des humains. D'autre part, ils sont en mesure d'imposer la cadence de travail, ce qui peut accroître la pression sur les employés même lorsque les gestes les plus lourds leur sont épargnés. Cette tension s'inscrit dans la trajectoire de long terme d'Amazon, qui a fait de la logistique automatisée un avantage concurrentiel majeur depuis le rachat de la société de robotique Kiva en 2012. L'enjeu est désormais double : poursuivre les gains de productivité tout en répondant aux critiques sur les conditions de travail, alors que les syndicats, les chercheurs et les pouvoirs publics scrutent de plus en plus l'effet des cadences algorithmiques. La question de l'avenir des emplois humains, à mesure que les robots gagnent en capacités, reste ouverte.

RobotiqueOpinion
1 source
REA : comment un projet open source se propose de tout décompiler
Illustration générée par IA
315Next INpact 

REA : comment un projet open source se propose de tout décompiler

Le projet Reverse Engineer Anything (REA) fait l'objet d'une attention soudaine dans le monde du développement : son dépôt GitHub, créé en avril 2026 et distribué sous licence MIT, a dépassé les 120 000 étoiles, dont l'essentiel a été gagné depuis le 4 octobre. REA n'est ni un décompilateur ni un agent d'IA. C'est une couche intermédiaire, livrée sous forme de paquet Node.js contenant un serveur MCP et une interface en ligne de commande, qui donne à un agent comme Claude ou ChatGPT un accès piloté à des outils d'analyse déjà existants. Pour les binaires natifs, il délègue à Hopper, Ghidra ou IDA. Pour Android, il passe par JADX ou Apktool. Pour les micrologiciels, il s'appuie sur Binwalk ou Unblob, et pour le WebAssembly sur WABT. Le JavaScript et .NET n'exigent aucun moteur externe. À l'installation, le serveur est inscrit auprès de l'agent, qui reçoit aussi des instructions expliquant comment mener une enquête de rétro-ingénierie. Concrètement, l'utilisateur donne une consigne en langage naturel, par exemple « comprends comment fonctionne la recherche dans cette application et construis l'équivalent ». L'agent enchaîne alors les outils nécessaires. Sur une application native, REA ouvre le binaire avec la commande openbinary en choisissant le moteur adapté, demande une vue d'ensemble avec binaryoverview, puis inspecte une fonction précise avec analyze_function. Les sorties sont normalisées et les preuves peuvent s'enchaîner d'une étape à l'autre, ce qui automatise un travail jusqu'ici réservé à des spécialistes. L'enjeu tient à cette simplification. Les outils de décompilation existent depuis des années, mais leur maîtrise exigeait une expertise rare. En la réduisant à une instruction donnée à un assistant, REA met l'analyse de logiciels propriétaires à portée de presque tous, et ravive des questions juridiques sur la propriété intellectuelle, les licences d'utilisation et la reproduction d'une application à partir de l'étude de son fonctionnement. Les éditeurs, dont le secret de fabrication repose en partie sur l'opacité du code compilé, sont les premiers concernés. À l'inverse, les chercheurs en sécurité, les équipes chargées de la maintenance de logiciels abandonnés et les développeurs souhaitant assurer l'interopérabilité y voient un gain de temps considérable. Cet engouement s'inscrit dans la montée en puissance de l'IA agentique et des « harnais » qui permettent aux modèles de piloter des outils externes via le protocole MCP. La rétro-ingénierie y trouve un terrain naturel, puisqu'elle consiste à enchaîner des inspections successives et à en tirer des conclusions. Le droit encadre cette pratique de façon variable selon les juridictions, avec des exceptions pour l'interopérabilité, mais aussi des clauses contractuelles qui l'interdisent souvent. La suite dépendra de la réaction des éditeurs et des autorités, et de la capacité du projet à rester dans un cadre acceptable alors que son succès attire désormais toute l'industrie logicielle.

OutilsOutil
1 source
AlphaProof Nexus de Google DeepMind résout des dizaines de problèmes mathématiques ouverts, avec validation par des pairs
Illustration générée par IA
316The Decoder 

AlphaProof Nexus de Google DeepMind résout des dizaines de problèmes mathématiques ouverts, avec validation par des pairs

Google DeepMind a publié dans la revue Science une étude consacrée à AlphaProof Nexus, un système d'IA qui a résolu plusieurs dizaines de problèmes mathématiques ouverts. Parmi eux figurent neuf problèmes d'Erdős, dont deux restaient sans solution depuis 56 ans. Ces énoncés, formulés par le mathématicien hongrois Paul Erdős, sont devenus une référence pour mesurer la capacité des machines à produire des résultats nouveaux plutôt qu'à reproduire des connaissances existantes. Point notable, les résultats ont été soumis à une relecture par les pairs avant leur publication. Ce choix de méthode pèse autant que les résultats eux-mêmes. Les démonstrations produites par une IA sont difficiles à évaluer sans examen indépendant, et la communauté mathématique exige une validation rigoureuse avant d'accepter une preuve. En passant par une revue scientifique, DeepMind donne à ses annonces une crédibilité que les simples communiqués ou dépôts de fichiers ne peuvent offrir. Pour les chercheurs, cela signifie que des preuves générées par une machine peuvent désormais entrer dans le circuit académique habituel, avec ses garde-fous. Les lecteurs disposent ainsi de résultats vérifiés, et non de revendications à prendre sur parole. La publication intervient alors qu'OpenAI fait face à un appel au boycott. Le groupe est accusé d'avoir déversé sur GitHub des preuves produites par IA sans aucune relecture par des pairs, ce qui laisse à la communauté la charge de les vérifier. Les deux laboratoires rivalisent pour démontrer que leurs modèles contribuent réellement à la recherche mathématique de pointe. Cette compétition rend la question de la méthode décisive, car la confiance accordée à ces systèmes dépendra de la fiabilité des vérifications. Reste à voir si les autres acteurs du secteur adopteront le même standard de validation externe, et si les mathématiciens intégreront durablement ces outils à leur pratique.

RechercheActu
1 source
Les 12 meilleurs outils de traduction en direct par IA en 2026 : latence, langues et tarifs
Illustration générée par IA
317MarkTechPost 

Les 12 meilleurs outils de traduction en direct par IA en 2026 : latence, langues et tarifs

Le marché de la traduction vocale par intelligence artificielle s'étend désormais des applications grand public aux API pour développeurs, en passant par les modules de visioconférence et les plateformes d'événements. Un comparatif de douze outils, établi à partir des pages officielles de produits, de tarifs et de documentation, en donne un panorama précis. Palabra.ai propose de la traduction voix à voix bidirectionnelle avec clonage automatique de la voix, une latence annoncée sous la seconde et une API WebRTC et WebSocket facturée 0,04 dollar la minute, les forfaits pour réunions démarrant à 60 dollars par mois. Gemini 3.5 Live Translate de Google couvre plus de 70 langues, conserve l'intonation et le rythme, avec quelques secondes de décalage, dans l'application Translate comme dans l'API Gemini Live en préversion. Apple Live Translation fonctionne entièrement sur l'appareil, via des AirPods récents et un iPhone compatible Apple Intelligence sous iOS 26, pour 10 variantes de langues. DeepL Voice traduit plus de 40 langues dans Teams, Zoom et Google Meet, efface les données à la fin de l'appel et inclut 30 minutes mensuelles dans ses forfaits Pro. L'agent Interpreter de Microsoft Teams, inclus dans la licence Copilot à hauteur de 20 heures par utilisateur et par mois, gère 9 ou 10 langues selon la documentation consultée. JotMe (200 langues cibles, 10 dollars par mois en facturation annuelle) et Talo (60 langues, 80 dollars par mois pour 400 minutes) complètent l'offre pour réunions. Côté événements, Wordly annonce plus de 3 000 paires de langues dès 1 500 dollars les dix heures, Interprefy 82 langues, KUDO 77 langues et 12 000 interprètes humains, Boostlingo plus de 130 langues avec une précision revendiquée de 90 à 98 % et la conformité HIPAA, et Maestra Live plus de 125 langues dès 79 dollars par mois. Ce panorama montre que le choix dépend d'abord de l'usage. Les sous-titres conviennent aux webinaires, tandis que la voix de synthèse est nécessaire aux échanges bilatéraux. Pour les entreprises, la différence se joue sur des critères concrets : confidentialité des données, avec le traitement local d'Apple ou la suppression des données chez DeepL, absence de robot dans l'appel pour JotMe, conformité sectorielle pour la santé et le droit chez Boostlingo, ou intégration à un parc Microsoft 365 existant. Les écarts de tarification sont considérables, de quelques dollars par mois pour un particulier à plusieurs milliers pour une conférence, et plusieurs acteurs ne publient aucun prix. Les chiffres de langues sont par ailleurs difficiles à comparer : les 200 langues de JotMe sont des cibles de traduction, avec seulement 13 en mode rapide, et les 10 variantes d'Apple ne représentent pas 10 langues distinctes. Ces outils reposent presque tous sur la même chaîne technique : reconnaissance vocale, traduction automatique puis synthèse vocale, ce qui explique les latences de l'ordre de la seconde à quelques secondes. Les grands groupes comme Google, Apple et Microsoft intègrent désormais cette fonction à leurs plateformes, au risque de fragiliser les spécialistes indépendants. Ceux-ci répondent en se différenciant par la qualité, la clonage de voix, les API ouvertes ou l'association à des interprètes humains, comme le font Interprefy, KUDO et Boostlingo pour les contextes à forts enjeux. La suite dépendra de la réduction de la latence et de la fiabilité sur les langues peu dotées. Elle dépendra aussi de la clarté des offres, car les affirmations de couverture linguistique restent déclaratives et rarement vérifiées de façon indépendante.

OutilsOutil
1 source
TII publie Falcon-ASR : un modèle vocal arabe de 1,6 milliard de paramètres à 20,92 % de WER
Illustration générée par IA
318MarkTechPost 

TII publie Falcon-ASR : un modèle vocal arabe de 1,6 milliard de paramètres à 20,92 % de WER

L'Institut d'innovation technologique (TII) d'Abou Dhabi a publié Falcon-ASR, un modèle de reconnaissance vocale de 1,6 milliard de paramètres centré sur l'arabe et en particulier sur le dialecte émirati. Il transcrit aussi l'anglais, le français, l'espagnol et le portugais. Les cinq langues partagent les mêmes poids. Aucun indicateur de langue n'est nécessaire: le texte sort dans la langue parlée, avec des horodatages mot à mot. Selon l'évaluation de TII, le modèle atteint un taux d'erreur de mots (WER) moyen de 20,92 % sur six jeux de test arabes, soit 2,25 points de moins que le meilleur résultat publié dans le classement de référence, Audar-ASR-V1-Turbo (23,17 %, 2,35 milliards de paramètres). Viennent ensuite Cohere Transcribe Arabic (25,87 %) et omniASR LLM 7B (28,32 %). Sur un jeu de test interne émirati et du Golfe, Falcon-ASR obtient 22,73 % de WER, contre 26,80 % pour Qwen3-Omni-30B-A3B-Instruct et 27,89 % pour Audar. En anglais, il affiche 5,74 % de WER moyen sur les sept jeux du classement Open ASR de Hugging Face, de 1,75 % sur LibriSpeech clean à 11,86 % sur Earnings-22, son point faible. L'intérêt tient à la taille du modèle. Un système de 1,6 milliard de paramètres qui devance des concurrents plus gros, jusqu'à 7 milliards, pourrait rendre la transcription arabe plus abordable pour le sous-titrage, l'indexation d'enregistrements ou les comptes rendus de réunion. Le dialecte compte beaucoup, car les arabes dialectaux disposent de bien moins de données transcrites que l'arabe standard moderne. Un modèle entraîné sur de la parole quotidienne, avec alternance de langues, répond à un besoin réel dans le Golfe. Il y a toutefois une limite pour les développeurs: le modèle n'est accessible que par une démo hébergée, qui accepte des extraits de 60 secondes et 20 Mo maximum. Aucun poids, aucune version quantifiée, aucune licence ni API ne sont publiés, même si une API et des applications natives sont annoncées. Tous les scores sont par ailleurs fournis par TII lui-même. Falcon-ASR prolonge les travaux Falcon3-Audio de TII, des modèles audio-langage construits sur des grands modèles de langage et des encodeurs Whisper, entraînés sur moins de 30 000 heures d'audio public. L'architecture exacte et la taille des données d'entraînement de Falcon-ASR n'ont pas été divulguées. Pour l'entraînement, l'institut a enrichi l'audio de bruit de fond, de voix superposées, de musique, de réverbération et d'effets téléphoniques, et a fait varier vitesse et hauteur. TII a suivi le protocole de l'Open Universal Arabic ASR Leaderboard du centre ELM Research, qui classe les systèmes par WER moyen sur six jeux de test. Les chiffres des concurrents sont les moyennes publiées, vérifiées le 30 septembre 2026. Le résultat de Falcon-ASR vient toutefois d'une exécution propre à TII et ne figure pas au classement. Le jeu émirati étant privé, il ne peut pas être reproduit. Audar annonce de son côté 19,4 % de WER sur un autre jeu émirati, Mixat, ce qui interdit toute comparaison directe. La publication des poids et d'évaluations indépendantes dira si ces performances se confirment.

LLMsActu
1 source
Les grands modèles de langage pour l'annotation de la qualité en traduction automatique : humains et modèles en difficulté
Illustration générée par IA
319Apple Machine Learning 

Les grands modèles de langage pour l'annotation de la qualité en traduction automatique : humains et modèles en difficulté

Une étude publiée sous le titre « Large Language Models for Machine Translation Quality Annotation: Humans and Models Are Both Challenged » examine la fiabilité des grands modèles de langage (LLM) pour évaluer la qualité des traductions automatiques. Les auteurs testent les LLM sur deux schémas d'annotation réputés : les Multidimensional Quality Metrics (MQM) et l'Error Span Annotation (ESA). Ils mesurent leur degré d'accord avec des annotateurs humains. L'évaluation couvre plusieurs paires de langues, plusieurs domaines et différents niveaux de granularité d'annotation. Ce travail touche un enjeu pratique pour toute la filière de la traduction automatique. Les LLM sont présentés comme une alternative plus rapide et moins coûteuse au jugement humain, qui reste lent et onéreux à grande échelle. Mais cette substitution n'a de sens que si les modèles se comportent de façon fiable dans des conditions variées. Le titre suggère un constat nuancé : les modèles ont des difficultés, mais les humains aussi, ce qui oblige à relativiser le jugement humain comme référence absolue. Le contexte est celui d'une évaluation de la traduction qui s'éloigne des simples scores globaux. Le MQM repose sur une typologie détaillée des erreurs, classées par catégorie et par gravité. L'ESA est plus léger : les annotateurs repèrent les segments fautifs directement dans le texte. Ces méthodes servent de base aux comparaisons de systèmes et aux campagnes d'évaluation du domaine. Si les LLM s'avéraient peu fiables sur certaines langues ou certains types d'erreurs, leur usage généralisé comme juges risquerait de biaiser le classement des systèmes. L'étude invite donc à valider ces modèles dimension par dimension avant de leur confier l'évaluation.

RecherchePaper
1 source
Minions : un cloud GPU virtuel, dynamique et distribué, bâti sur les appareils Apple Silicon inactifs
Illustration générée par IA
320Apple Machine Learning 

Minions : un cloud GPU virtuel, dynamique et distribué, bâti sur les appareils Apple Silicon inactifs

Des chercheurs présentent Minions, un cloud GPU virtuel, dynamique et distribué, qui agrège les processeurs graphiques inactifs d'appareils macOS équipés de puces Apple Silicon pour exécuter des charges d'inférence de machine learning à grande échelle. Le système part d'un constat double. La demande d'inférence accélérée par GPU ne cesse de croître, ce qui met en difficulté les infrastructures centralisées. Parallèlement, les Mac récents embarquent des GPU puissants qui restent largement inutilisés pendant un usage ordinaire. Minions propose aux équipes de s'appuyer sur le matériel qu'elles possèdent déjà, plutôt que de louer des capacités dans un centre de données. L'enjeu est d'abord économique et pratique. Les infrastructures GPU centralisées souffrent de coûts élevés, d'une élasticité limitée et de longs délais d'attente quand les ressources se raréfient. Transformer un parc de machines de bureau ou d'ordinateurs portables en réserve de calcul pourrait réduire la facture des organisations, raccourcir les files d'attente et valoriser un équipement déjà amorti. Pour les petites équipes et les laboratoires, qui n'ont pas toujours accès aux cartes graphiques les plus convoitées, cette approche offre une alternative crédible. Ce travail s'inscrit dans un mouvement plus large de décentralisation du calcul pour l'IA, alimenté par la pénurie de GPU haut de gamme et par les progrès des puces Apple, dont l'architecture à mémoire unifiée convient bien à l'inférence. Les défis restent importants : fiabilité de machines qui s'éteignent ou changent d'usage, hétérogénéité du parc, ordonnancement des tâches et sécurité des données. La suite dépendra de la capacité du système à tenir ces contraintes à l'échelle.

InfrastructurePaper
1 source