Aller au contenu principal

Dossier AWS — page 9

835 articles · page 9 sur 17

Ce qu'on suit chez AWS côté IA : Bedrock et ses modèles, SageMaker, les puces Trainium et Inferentia, l'investissement dans Anthropic et l'offre cloud IA.

401AWS ML Blog BusinessActu

Jefferies optimise ses opérations de trading avec un assistant IA dédié au trade

Jefferies, banque d'investissement internationale spécialisée dans les services financiers complets, a déployé un assistant de trading basé sur l'intelligence artificielle agentique pour ses bureaux de trading actions, en s'appuyant sur l'infrastructure d'Amazon Web Services (AWS). L'outil, baptisé Front Office Trade Assistant, repose sur Strands Agents, un kit de développement permettant de construire des agents IA capables de raisonner, planifier et agir en orchestrant des appels à des modèles de fondation et à des outils externes. La solution combine Amazon Bedrock, Amazon Bedrock Knowledge Bases et le protocole ouvert Model Context Protocol (MCP), qui permet aux agents de se connecter de façon sécurisée à diverses sources de données. Le modèle de langage utilisé pour interpréter les requêtes des traders et générer les instructions SQL correspondantes est Claude, développé par Anthropic. L'assistant se présente sous la forme d'un widget intégré à Global Flow Monitor (GFM), le système de business intelligence interne de Jefferies, accessible après authentification via un service tournant sur Amazon Elastic Kubernetes Service (EKS). L'enjeu pour Jefferies était de résoudre un goulot d'étranglement classique des salles de marché: les traders manipulent des millions de lignes de données réparties entre plusieurs outils de visualisation, mais n'ont ni le temps ni les compétences en programmation pour construire eux-mêmes des tableaux de bord adaptés à leurs besoins immédiats. Jusqu'ici, obtenir une analyse sur mesure impliquait de solliciter des experts métier puis les équipes informatiques, un processus pouvant s'étaler sur plusieurs jours, voire des semaines. Avec ce nouvel assistant, un trader peut désormais poser une question en langage naturel et obtenir une réponse quasi instantanée, générée directement à partir des données de trading, des fichiers de messages FIX (Financial Information Exchange) et de bases en mémoire, sans passer par une file d'attente informatique. L'interface conversationnelle conserve le contexte tout au long de la session, ce qui permet d'approfondir une analyse par des questions successives, un peu comme un dialogue avec un analyste. Pour répondre aux exigences réglementaires strictes du secteur bancaire, la solution intègre plusieurs couches de sécurité via Amazon Bedrock Guardrails: modération de contenu, filtrage des informations personnelles identifiables, et surtout des droits d'accès aux données au niveau de la ligne, afin d'éviter qu'un trader n'accède accidentellement à des informations sensibles concernant d'autres clients. Chaque échange est également journalisé pour constituer une piste d'audit conforme aux obligations de conformité du secteur financier. Ce projet illustre une tendance plus large chez les grandes banques d'investissement, qui cherchent à démocratiser l'accès à l'analyse de données complexes sans dépendre systématiquement des équipes techniques, tout en maintenant un contrôle rigoureux sur la gouvernance et la sécurité des données clients.

1 source
402AWS ML Blog 

Couchbase construit une architecture IA multi-modèle pour Capella iQ avec Amazon Bedrock

Le fournisseur de bases de données Couchbase a fait évoluer son assistant de développement Capella iQ pour s'appuyer sur Amazon Bedrock et la famille de modèles Claude d'Anthropic, en remplacement d'une architecture d'inférence à modèle unique. Le projet, décrit dans un billet co-écrit avec Tushar Madaan de Couchbase, repose sur une infrastructure déployée sur deux régions AWS, us-east-1 et us-west-2, afin de garantir une haute disponibilité. Un cluster Amazon EKS héberge trois microservices clés dans us-east-1 : cp-api, qui reçoit les requêtes des développeurs et orchestre les appels d'inférence ; cp-internal-api, qui gère la communication interne et la logique de routage des modèles ; et cp-ns, qui gère la configuration au niveau des espaces de noms, notamment les préférences de fournisseur de modèles par client. Un point de terminaison d'interface VPC assure une connectivité privée entre ce cluster et le runtime d'Amazon Bedrock, permettant d'exploiter l'inférence multi-région (Cross-Region Inference, ou CRIS) sur trois régions américaines : us-east-1, us-east-2 et us-west-2. Cette bascule répond à un besoin très concret de résilience opérationnelle et de flexibilité pour les grandes entreprises clientes de Couchbase. En s'appuyant sur l'inférence multi-région d'Amazon Bedrock, Capella iQ peut absorber des pics de trafic soudains et basculer automatiquement vers une région disponible en cas de dégradation, sans capacité pré-provisionnée et sans logique applicative supplémentaire à gérer côté Couchbase. Autre point important pour les clients entreprise : l'intégralité du trafic d'inférence, prompts et réponses inclus, transite exclusivement par l'infrastructure privée d'AWS et ne passe jamais par l'internet public, ce qui répond aux exigences de sécurité et de résidence des données propres à ce type de clientèle. Concrètement, quand un développeur demande à Capella iQ de générer une requête SQL++, de recommander un index ou de poursuivre une conversation multi-tours, le pod cp-api authentifie la demande, récupère le contexte de session, construit le prompt en intégrant l'historique de conversation, puis transmet l'appel via le point de terminaison VPC vers Bedrock, avant de renvoyer la réponse normalisée au développeur. Cette évolution s'inscrit dans la tendance plus large des éditeurs de logiciels d'entreprise à adopter des architectures d'inférence agnostiques par rapport au modèle, plutôt que de rester dépendants d'un unique fournisseur de LLM. Face à la croissance de l'adoption de Capella iQ, Couchbase avait besoin d'un système capable de s'adapter aux préférences de déploiement variées de ses clients tout en conservant une infrastructure scalable et robuste. Le choix d'Amazon Bedrock comme couche d'inférence permet à Couchbase de bénéficier directement des capacités de basculement régional et de répartition de charge gérées par AWS, sans avoir à développer cette logique en interne. Cette approche illustre aussi comment les modèles Claude d'Anthropic s'intègrent de plus en plus dans des produits d'infrastructure de données critiques, où la fiabilité, la confidentialité des données et la conformité pèsent autant que la qualité pure des réponses générées.

InfrastructureActu
1 source
403AWS ML Blog 

Évolution du BI traditionnel vers l'IA à base d'agents chez Tradeshift avec Amazon Quick

Tradeshift, plateforme de comptabilité fournisseurs et de conformité e-facturation opérant dans plus de 70 pays, a remplacé son outil de business intelligence développé en interne par Amazon Quick, le nouvel espace de travail d'intelligence artificielle agentique d'AWS. L'article, co-écrit par Raphael Bres, Robert Iordache, Anca Andone et Ioana Millon (Ploesteanu) côté Tradeshift ainsi que Roy Yung côté AWS, détaille cette migration. L'ancien outil BI maison, utilisé depuis plusieurs années, limitait les requêtes à 10 000 lignes maximum, plafonnait les rapports programmés à 25 Mo et ne conservait que six mois d'historique de données. Sa maintenance mobilisait environ 50 % du temps d'un employé à temps plein, au détriment du développement produit. Les équipes Service Client, Data et Analytics, ainsi que Commercial, perdaient des heures chaque semaine à produire des rapports manuellement, entre exports CSV et macros Excel. Avec le passage à Amazon Quick, Tradeshift a obtenu des temps de réponse aux requêtes jusqu'à 30 fois plus rapides et une réduction de 40 % du coût total de possession. Cette transition dépasse la simple modernisation technique : elle transforme l'analytique embarquée en produit générateur de revenus pour Tradeshift. Amazon Quick combine plusieurs briques agentiques, dont un agent conversationnel permettant d'interroger les données métier en langage naturel, un module Flows pour automatiser des workflows multi-étapes sans code, et un moteur de recherche approfondie appelé Quick Research capable de produire des rapports analytiques longs à partir de sources multiples. Concrètement, Tradeshift a construit sur cette base un agent baptisé AP Auditor, dédié aux questions courantes sur les documents et les opérations, ce qui réduit la dépendance des équipes métier envers les analystes BI. Les clients externes de Tradeshift, qui devaient auparavant solliciter les équipes d'ingénierie pour obtenir des rapports personnalisés sur leurs flux de comptabilité fournisseurs, disposent désormais d'un accès en libre-service à des analyses plus poussées. Le choix d'Amazon Quick s'est imposé après évaluation de plusieurs alternatives, aucune autre solution n'offrant simultanément la scalabilité nécessaire pour de gros volumes de données, un accès embarqué multi-appareils, l'interrogation en langage naturel, l'automatisation par workflows, et une analytique unifiée pour les usages internes comme pour les clients. Ce cas d'usage illustre une tendance plus large dans l'industrie de la comptabilité et de la finance d'entreprise : le passage d'outils BI traditionnels, rigides et gourmands en maintenance, vers des plateformes d'IA agentique capables d'automatiser des tâches entières plutôt que de simplement afficher des tableaux de bord. Pour Tradeshift, qui sert à la fois acheteurs et vendeurs sur son réseau transactionnel, cette évolution répond à un besoin spécifique de démocratiser l'analyse statistique avancée auprès d'utilisateurs non techniques, tout en ouvrant potentiellement de nouvelles sources de revenus liées aux services analytiques proposés à ses clients.

OutilsActu
1 source
Vision agents : créer une intelligence visuelle avec Amazon Bedrock et des serveurs MCP
404AWS ML Blog 

Vision agents : créer une intelligence visuelle avec Amazon Bedrock et des serveurs MCP

L'entreprise technologique Amazon Web Services a présenté une nouvelle architecture combinant vision par ordinateur, agents IA et protocole standardisé MCP (Model Context Protocol) au sein d'Amazon Bedrock, sa plateforme de modèles génératifs. Baptisée Computer Vision MCP Server, cette solution s'appuie sur trois briques technologiques assemblées pour la première fois dans un pipeline unifié : Amazon Rekognition pour l'analyse d'images (détection d'objets, extraction d'éléments), Strands Agents, un framework open source pour construire des agents IA compatibles avec plusieurs fournisseurs de modèles, et le protocole MCP, qui standardise la connexion entre modèles d'IA et sources de données externes. L'ensemble repose sur une architecture centrée sur un rôle IAM (Identity and Access Management) unique servant de passerelle de sécurité, éliminant le besoin d'identifiants embarqués côté client, tandis qu'Amazon S3 gère le stockage des fichiers et Amazon OpenSearch permet l'indexation et la recherche dans les données. L'interface utilisateur, développée avec Streamlit, propose un chat permettant de choisir le modèle d'analyse, par défaut Claude 4 Sonnet en mode raisonnement, avec une alternative vers Claude 3.7 Sonnet. Les utilisateurs peuvent y importer des images (PNG, JPG, JPEG, GIF, WEBP) ou des vidéos (MP4, AVI, MOV, MKV, WEBM, MPEG4) jusqu'à 200 Mo, par glisser-déposer ou sélection manuelle. L'intérêt de cette approche réside dans la suppression d'un obstacle technique récurrent : la difficulté de faire communiquer entre eux des systèmes capables de voir, de raisonner et d'agir. Jusqu'ici, les développeurs devaient construire des intégrations complexes et coûteuses, multipliant les API et les connecteurs sur mesure pour chaque paire modèle/source de données, au prix de solutions souvent fragiles. En unifiant ces briques via une interface standardisée, AWS rend ces capacités accessibles à un plus large éventail d'applications et d'équipes techniques, sans expertise poussée en intégration système. Concrètement, un utilisateur peut téléverser une photo ou une vidéo, puis dialoguer avec l'agent pour obtenir un recadrage d'objets, une détection d'étiquettes ou une analyse détaillée du contenu, le tout piloté en langage naturel. Cette initiative s'inscrit dans une tendance de fond du secteur : le passage de modèles d'IA génératifs isolés vers des agents capables d'orchestrer plusieurs outils et sources de données de façon autonome. Le protocole MCP, popularisé notamment par Anthropic, s'impose progressivement comme un standard de facto pour connecter les grands modèles de langage à des systèmes tiers, et son adoption par AWS au sein de Bedrock illustre sa montée en puissance chez les grands fournisseurs cloud. Pour Amazon, l'enjeu est aussi concurrentiel face à Google Cloud et Microsoft Azure, qui développent des approches similaires d'agents multimodaux. Les prochaines étapes attendues concernent l'extension de cette architecture à d'autres cas d'usage sectoriels, comme la surveillance industrielle, le contrôle qualité ou l'analyse de contenus vidéo en temps réel.

OutilsOutil
1 source
Flo Health met à l'échelle la revue de contenu médical avec Amazon Bedrock (partie 2)
405AWS ML Blog 

Flo Health met à l'échelle la revue de contenu médical avec Amazon Bedrock (partie 2)

Flo Health, l'application de santé féminine qui compte des millions d'utilisatrices, a transformé une preuve de concept développée avec l'AWS Generative AI Innovation Center en un système de production complet basé sur Amazon Bedrock pour la révision et la génération de contenu médical. Ce travail, mené par Konstantin Lekh, Sasha Zinchuk et Eugene Sergueev côté Flo Health, avec Liza Zinovyeva côté AWS, a permis de réduire le temps de révision de 60% et de tripler le volume de contenu produit, sans agrandir l'équipe médicale. Auparavant, les experts médicaux de Flo Health passaient en moyenne sept jours ouvrés par article pour vérifier les faits, croiser les références avec des sources fiables et appliquer une checklist de conformité médicale en dix points. Le nouveau système repose sur une validation en trois couches: d'abord un contrôle du contenu par rapport aux directives médicales internes de l'entreprise, avec signalement des problèmes potentiels et suggestions de corrections; ensuite une vérification croisée avec des sources médicales externes reconnues, allant des outils d'aide à la décision clinique fondés sur des preuves aux revues à comité de lecture et aux organismes de régulation; enfin une relecture humaine par les experts médicaux, effectuée via une interface qui met en évidence les règles appliquées et fournit des liens directs vers les sources pertinentes. Cette avancée répond à un problème structurel bien identifié dans le secteur de la santé numérique: le recrutement de professionnels médicaux qualifiés capables de produire et vérifier du contenu est difficile, lent et coûteux, ce qui rend le simple ajout de personnel non viable pour suivre la demande croissante des utilisateurs. En s'appuyant sur l'intelligence artificielle générative plutôt que sur des outils génériques, Flo Health répond aussi à un enjeu de confiance critique: les systèmes d'IA classiques peuvent produire des hallucinations, c'est-à-dire des informations non ancrées dans des sources vérifiables, un risque inacceptable quand des millions de personnes s'appuient sur ce contenu pour comprendre leur propre santé. En construisant un système qui ne délivre que des informations sourcées et traçables, l'entreprise démultiplie l'impact de ses experts existants tout en maintenant, voire en renforçant, ses standards de fiabilité. Cette évolution s'inscrit dans une stratégie d'adoption progressive de l'IA, pensée pour bâtir la confiance par une validation continue plutôt qu'un remplacement brutal du jugement humain. Les métriques de succès retenues par Flo Health portent principalement sur deux axes: la réduction du temps de révision et la diminution du nombre de corrections requises de la part des experts. Le système intègre également des "juges IA" spécialisés, chacun dédié à une dimension particulière de la révision médicale, ainsi qu'un module de génération de contenu s'appuyant sur la génération augmentée par récupération (RAG) pour ancrer les textes produits dans des sources vérifiées. Cette approche illustre une tendance plus large dans le secteur de la santé numérique, où l'IA générative est de plus en plus déployée non pas pour remplacer l'expertise médicale, mais pour l'amplifier, ouvrant la voie à d'autres cas d'usage où fiabilité et scalabilité doivent coexister.

OutilsActu
1 source
Renforcement de l'inférence entreprise sur Amazon SageMaker HyperPod grâce à l'intégration de Hugging Face, NVMe et Route 53
406AWS ML Blog 

Renforcement de l'inférence entreprise sur Amazon SageMaker HyperPod grâce à l'intégration de Hugging Face, NVMe et Route 53

Amazon vient d'enrichir SageMaker HyperPod, sa plateforme d'inférence pour l'intelligence artificielle générative en entreprise, avec plusieurs nouvelles fonctionnalités destinées à améliorer l'observabilité et la flexibilité du déploiement de modèles. La première nouveauté majeure est la capture de données d'inférence, qui permet d'enregistrer les requêtes et réponses à trois niveaux distincts du chemin d'inférence : au niveau du endpoint SageMaker AI, au niveau de l'Application Load Balancer (ALB), et au niveau du pod du modèle lui-même. Chaque niveau se configure indépendamment via une définition de ressource personnalisée (CRD) déclarative, avec un stockage des données capturées dans un bucket Amazon S3, chiffrement optionnel via AWS KMS, et réglages fins du taux d'échantillonnage, de la taille des lots et des limites de charge utile. Par exemple, le niveau du pod capture par défaut 100% des entrées et sorties, tandis que le niveau ALB active les journaux d'accès classiques incluant adresses IP clients, chemins de requêtes et latences. Autre avancée : le déploiement direct de modèles depuis des hubs communautaires comme Hugging Face, sans avoir à pré-charger les poids dans un espace de stockage objet ou fichier, avec prise en charge de l'accès restreint (gated), de l'épinglage de versions et de l'isolation des tokens, compatible avec les moteurs d'inférence vLLM, TGI et SGLang. Ces évolutions répondent à un besoin croissant des entreprises qui déploient des modèles de langage à grande échelle en production : pouvoir surveiller précisément ce qui transite dans leurs pipelines d'inférence, tout en réduisant les frictions opérationnelles. La possibilité de charger les poids d'un modèle directement depuis un stockage NVMe local au nœud de calcul réduit sensiblement la latence de démarrage à froid, un problème récurrent qui pénalise les applications d'IA nécessitant une mise à l'échelle rapide, avec un repli automatique vers le stockage cloud en cas de besoin. La gestion automatique des enregistrements DNS pour les domaines personnalisés via Route 53 simplifie par ailleurs le travail des équipes d'infrastructure, qui bénéficient également de permissions IAM granulaires au niveau de chaque pod pour renforcer les frontières de sécurité. Pour les équipes techniques, cela signifie livrer des applications d'IA plus rapidement sans sacrifier la gouvernance des données ni la visibilité opérationnelle, deux exigences de plus en plus scrutées à mesure que les modèles génératifs s'intègrent dans des processus métiers sensibles. Ces annonces s'inscrivent dans la course que se livrent les grands fournisseurs cloud, Amazon Web Services en tête, pour simplifier l'exploitation de modèles d'IA génératifs à grande échelle, un domaine où la complexité opérationnelle freine encore de nombreuses entreprises. HyperPod, lancé pour l'entraînement de modèles massifs, élargit ainsi son périmètre vers l'inférence de production, un segment où la concurrence avec Google Cloud et Microsoft Azure s'intensifie. L'intégration native avec Hugging Face illustre aussi la volonté d'AWS de faciliter l'accès aux modèles open source les plus populaires, sans complexité de préparation de l'infrastructure. À mesure que les entreprises multiplient les cas d'usage en production, la demande pour des outils d'audit, de traçabilité et de contrôle des coûts d'inférence devrait continuer de croître, poussant les fournisseurs cloud à approfondir ces capacités de gestion fine des workloads d'IA.

UEImpact indirect uniquement: les entreprises françaises et européennes utilisant AWS SageMaker HyperPod pourraient bénéficier de ces améliorations opérationnelles, mais aucune régulation ni acteur français/européen n'est concerné directement.

InfrastructureActu
1 source
« Faire progresser la recherche scientifique : BYOKG et GraphRAG pour la recherche pharmaceutique intelligente »
407AWS ML Blog 

« Faire progresser la recherche scientifique : BYOKG et GraphRAG pour la recherche pharmaceutique intelligente »

Les chercheurs en pharmacie perdent un temps considérable à croiser des informations dispersées entre PubMed, leurs notes de laboratoire internes et les bases de données génomiques, un problème qu'Amazon Web Services (AWS) affirme pouvoir résoudre grâce à une architecture combinant bases de données en graphe et intelligence artificielle générative. Dans la découverte de médicaments en phase précoce, le taux de réussite des méthodes traditionnelles ne dépasse pas 5%, et chaque cycle de criblage initial prend plus de six mois. Pour répondre à ce problème, AWS propose une solution baptisée GraphRAG (Graph-based Retrieval Augmented Generation), qui s'appuie sur Amazon Neptune Analytics pour le traitement de graphes à haute performance, couplé à Amazon Bedrock pour les capacités génératives. Le système permet aux chercheurs de poser des questions en langage naturel et d'obtenir des réponses instantanées, appuyées sur des preuves, issues d'un graphe de connaissances unifié reliant interactions moléculaires, expression génique et études cliniques. L'enjeu dépasse le simple gain de temps. En affichant les chemins de citation et les étapes de traversée du graphe utilisées pour construire chaque réponse, l'outil rend le raisonnement de l'IA transparent et vérifiable, un point critique dans un secteur où chaque conclusion doit pouvoir être tracée jusqu'à ses sources pour satisfaire les autorités de régulation. Cette traçabilité permet aussi de préserver la mémoire institutionnelle des laboratoires: quand un chercheur quitte une équipe, les connaissances tacites qu'il avait accumulées ne disparaissent plus avec lui, puisqu'elles restent capturées dans le graphe. Pour l'industrie pharmaceutique, où chaque mois de retard se traduit en coûts financiers mais aussi en vies humaines, cette capacité à générer des hypothèses plus rapidement, tout en gardant un contrôle scientifique rigoureux sur les résultats, représente un avantage compétitif direct. Cette approche s'inscrit dans une tendance plus large où les entreprises technologiques cherchent à dépasser les limites du RAG classique, souvent limité à une simple recherche documentaire, en y ajoutant la dimension relationnelle des graphes de connaissances. AWS positionne explicitement Neptune Analytics et Bedrock comme les briques permettant de construire ce type de système, appelé BYOKG (Bring Your Own Knowledge Graph), pour que chaque organisation pharmaceutique puisse connecter ses propres données propriétaires à cette infrastructure. Reste à voir combien de laboratoires franchiront le pas d'unifier des systèmes historiquement cloisonnés, une transition technique et organisationnelle qui pourrait s'avérer aussi longue que les essais cliniques qu'elle vise à accélérer.

OutilsActu
1 source
Automatiser le tri et la priorisation de vos boîtes mail avec Amazon Bedrock
408AWS ML Blog 

Automatiser le tri et la priorisation de vos boîtes mail avec Amazon Bedrock

Amazon Web Services a publié un guide technique détaillant une solution d'intelligence artificielle destinée aux organismes du secteur public, en particulier aux collectivités locales britanniques, pour trier et prioriser automatiquement leurs courriels entrants grâce à Amazon Bedrock. Le système fonctionne ainsi : les messages électroniques sont déposés dans un espace de stockage Amazon S3, via Amazon Simple Email Service, une intégration tierce ou le SDK AWS. Chaque nouvel objet S3 déclenche une notification transmise à Amazon EventBridge, qui l'achemine vers une file d'attente Amazon SQS de type FIFO. Cette file est reliée, via EventBridge Pipes, à une machine à états AWS Step Functions, laquelle récupère le contenu du courriel puis interroge un modèle Amazon Bedrock, en l'occurrence Amazon Nova Pro, par le biais de l'API InvokeModel. Un prompt spécifique demande au modèle de classer chaque message selon le service municipal concerné (transports, aides sociales, taxe d'habitation, action sociale, gestion des déchets, environnement, informatique, protection de l'enfance, logement) et d'en évaluer le degré d'urgence, dans un format structuré. En cas d'échec de traitement, les messages sont redirigés vers une file d'attente de lettres mortes pour investigation. Cette automatisation répond à trois difficultés concrètes identifiées par AWS dans la gestion actuelle des courriels des collectivités. D'abord une crise des délais de réponse, avec des centaines de messages reçus chaque jour où les demandes urgentes se retrouvent noyées dans le flux général. Ensuite, un usage inefficace du temps des agents, qui consacrent des heures au tri manuel, un même message pouvant être examiné à plusieurs reprises par différents services avant d'aboutir au bon interlocuteur. Enfin, une évaluation de la gravité des demandes qui manque de cohérence d'un agent à l'autre. En automatisant ce triage, la solution vise à garantir que les dossiers urgents reçoivent une attention immédiate, tout en libérant le personnel administratif pour des tâches à plus forte valeur ajoutée dans le service aux citoyens. Cette initiative s'inscrit dans une tendance plus large d'adoption de l'IA générative par les administrations publiques, confrontées à des contraintes budgétaires et des effectifs limités alors que les attentes des usagers en matière de rapidité de traitement ne cessent de croître. AWS présente cette architecture comme une base de départ, conçue pour être adaptée et enrichie par les organismes qui l'adoptent plutôt que comme un produit fini. Le déploiement s'appuie exclusivement sur des services managés d'AWS, ce qui limite la charge d'exploitation pour des collectivités locales disposant rarement d'équipes informatiques dédiées à l'intelligence artificielle, tout en respectant les bonnes pratiques de sécurité recommandées pour le stockage de données sensibles sur Amazon S3, notamment le chiffrement et le principe du moindre privilège.

OutilsOutil
1 source
Monitoring des modèles de machine learning discriminatifs avec Amazon SageMaker AI et MLflow
409AWS ML Blog 

Monitoring des modèles de machine learning discriminatifs avec Amazon SageMaker AI et MLflow

Amazon Web Services a publié une architecture de référence pour surveiller en production les modèles de machine learning discriminatifs (classification et régression), combinant Amazon SageMaker AI, MLflow et la bibliothèque open source Evidently. Le constat de départ est simple : la précision d'un modèle commence à se dégrader dès la fin de son entraînement, sous l'effet de deux phénomènes distincts. Le premier, appelé dérive des données (data drift), correspond à un changement dans les propriétés statistiques des données d'entrée, par exemple une source de données amont qui change silencieusement le type d'une colonne, ou l'arrivée de nouvelles gammes de produits jamais vues à l'entraînement. Le second, la dérive de modèle (model drift), traduit une perte de justesse des prédictions parce que les motifs probabilistes appris ne correspondent plus à la réalité, un phénomène qui peut survenir par exemple lors d'un changement de comportement des consommateurs dû à une évolution économique. L'architecture proposée couvre tout le cycle de vie, de l'entraînement jusqu'au déploiement, avec un cas d'usage en inférence par lot : un job d'entraînement calcule les métriques du modèle et les stocke dans MLflow, le jeu de données de référence est conservé séparément dans un bucket Amazon S3, puis un job de transformation par lot exécute les prédictions en production dont les résultats sont eux aussi archivés dans S3. Cette approche répond à un besoin concret des équipes qui utilisent des services managés comme SageMaker AI mais qui ont besoin de davantage de flexibilité, que ce soit pour maîtriser les coûts sur l'ensemble du cycle de vie du modèle, pour surveiller des cas d'usage spécifiques non couverts par les outils managés standards, ou pour intégrer la surveillance de modèles dans des tableaux de bord et pipelines d'observabilité déjà existants dans l'entreprise. Concrètement, les résultats produits par cette chaîne de surveillance peuvent alimenter un tableau de bord personnalisé, déclencher des alertes vers des outils comme Slack pour prévenir les équipes concernées, ou même lancer automatiquement un pipeline de réentraînement du modèle dès qu'une dérive significative est détectée. Pour les organisations qui opèrent des modèles critiques en production, cette capacité à réagir avant que la baisse de performance ne devienne problématique représente un enjeu direct de fiabilité et de confiance envers les systèmes d'IA. Ce travail s'inscrit dans la distinction plus large qu'AWS établit entre le monitoring des modèles discriminatifs classiques et celui des grands modèles de langage génératifs, ces derniers faisant l'objet d'une architecture de surveillance séparée et dédiée sur les endpoints d'inférence temps réel de SageMaker AI. La démarche illustre une tendance de fond dans l'industrie du machine learning en production : au-delà du simple déploiement, la capacité à détecter automatiquement les dérives de données et de modèle devient un pilier de la gouvernance des systèmes d'IA, aux côtés des outils d'observabilité plus classiques qui surveillent la latence et la disponibilité des applications. En s'appuyant sur des briques open source comme Evidently plutôt que sur des solutions entièrement fermées, AWS laisse aux équipes techniques la liberté d'adapter la granularité et les métriques de surveillance à leurs propres exigences métier.

OutilsActu
1 source
Amazon déploie une infrastructure d'apprentissage par renforcement multi-tours pour Nova sur SageMaker HyperPod
410AWS ML Blog 

Amazon déploie une infrastructure d'apprentissage par renforcement multi-tours pour Nova sur SageMaker HyperPod

Amazon a détaillé un dispositif technique permettant d'entraîner des agents IA capables d'exécuter des tâches complexes en plusieurs étapes, en s'appuyant sur Amazon Nova Forge et Amazon SageMaker HyperPod. Le problème visé est concret: les agents d'entreprise qui interrogent des bases de données, appellent des API, croisent des résultats et doivent récupérer après un échec en cours de route ne peuvent pas être correctement entraînés par les méthodes classiques comme le RLHF, qui optimisent chaque réponse isolément. Amazon propose donc une infrastructure de renforcement multi-tours (multi-turn RL) qui optimise des séquences d'interactions entières plutôt que des réponses uniques. Le système déployé fonctionne en pipeline événementiel: l'utilisateur dépose un jeu de données sur Amazon S3, ce qui déclenche automatiquement le provisionnement des ressources de calcul, le routage des récompenses et le lancement de l'entraînement, via Amazon EventBridge et AWS Step Functions. Trois couches techniques interviennent: un cluster SageMaker HyperPod sur instances P5 qui génère les réponses du modèle et applique les mises à jour de poids selon l'algorithme GRPO (Group Relative Policy Optimization), un service ECS sur AWS Fargate qui héberge l'environnement de récompense (l'exemple donné est le jeu Wordle, utilisé comme cas d'école), et le SDK Nova Forge qui fait office de proxy pour router les messages entre le modèle et cet environnement tout en suivant l'état de la conversation sur plusieurs tours. Cette architecture répond à un vrai enjeu industriel: former des agents capables de raisonnement séquentiel et de correction d'erreurs a une valeur directe pour les entreprises qui déploient des assistants autonomes sur des workflows métier, là où un agent qui valide ses données avant de continuer évite des cascades d'erreurs coûteuses en aval. Amazon souligne que le fine-tuning supervisé, la génération augmentée par récupération (RAG) et le pré-entraînement continu restent des techniques complémentaires mais insuffisantes pour enseigner seules ce type de prise de décision séquentielle. En parallèle du service managé sans serveur déjà proposé par SageMaker AI, cette version sur HyperPod cible les équipes qui veulent garder le contrôle total de leur pile: environnement d'agent personnalisé, orchestration sur mesure ou configuration d'instances spécifique. Le déploiement se fait en deux temps: une installation initiale via AWS CDK provisionne l'infrastructure durable (VPC, clusters EKS/HyperPod, ECS, S3, IAM, pipeline), tandis que chaque session d'entraînement génère ses propres ressources éphémères. Cette séparation évite de laisser du calcul GPU inactif entre deux sessions et permet d'itérer sans redéployer l'ensemble du système. Amazon Nova, positionné comme offrant des performances de pointe à un bon rapport prix, s'inscrit ainsi dans une compétition plus large entre fournisseurs cloud pour proposer des outils d'entraînement d'agents multi-étapes, un axe jugé stratégique à mesure que les entreprises cherchent à automatiser des tâches toujours plus complexes.

InfrastructureActu
1 source
Diffusion en continu des résultats de benchmarks et recommandations vers MLflow avec Amazon SageMaker AI
411AWS ML Blog 

Diffusion en continu des résultats de benchmarks et recommandations vers MLflow avec Amazon SageMaker AI

Amazon Web Services a annoncé l'intégration de MLflow avec les tâches de benchmarking et de recommandation d'inférence optimisée d'Amazon SageMaker AI, permettant de centraliser le suivi des expériences de test de modèles d'intelligence artificielle générative. Concrètement, lorsqu'un utilisateur soumet une tâche de recommandation d'inférence optimisée ou une tâche de benchmark sur SageMaker AI, les résultats sont désormais automatiquement transmis vers une application SageMaker MLflow choisie par l'équipe. La mise en place nécessite trois étapes : créer une application MLflow depuis Amazon SageMaker Studio, accorder les permissions nécessaires en ajoutant le droit sagemaker-mlflow:* au rôle d'exécution de la tâche via l'ARN de l'application MLflow, puis transmettre la configuration MlflowConfig lors de la création de la tâche de benchmark ou de recommandation. Plusieurs tâches peuvent être rattachées à une même expérience MLflow, ce qui permet ensuite de les comparer côte à côte directement dans l'interface, par exemple pour évaluer les performances du modèle qwen2-0.5b sur une instance ml.g4dn.12xlarge face à une instance ml.p4d.24xlarge. Cette nouveauté répond à un problème concret pour les équipes qui déploient des modèles d'IA générative en production : elles doivent souvent tester des dizaines de combinaisons de types d'instances GPU, de conteneurs de service, de stratégies de parallélisme et de techniques d'optimisation comme le décodage spéculatif, un processus qui peut prendre des semaines et se solde généralement par une compilation manuelle et fastidieuse des résultats. Avec cette intégration, les métriques de latence et de débit sont désormais diffusées en temps réel dans l'interface MLflow au fur et à mesure que chaque configuration est testée, ce qui permet de surveiller des tâches qui durent parfois plusieurs heures et d'interrompre un test si le débit ne correspond pas aux attentes, plutôt que d'attendre la fin complète du processus. Chaque exécution conserve aussi une trace complète et interrogeable pendant des mois, incluant les paramètres, les horodatages, les métriques par étape et les artefacts produits, ce qui facilite l'identification des configurations à l'origine de gains de performance. Cette annonce s'inscrit dans la stratégie plus large d'AWS visant à simplifier l'optimisation de l'inférence des modèles d'IA générative, un chantier lancé avec les recommandations d'inférence optimisées de SageMaker AI destinées à remplacer les approches par essais-erreurs manuels par une méthode guidée et fondée sur les données. L'enjeu dépasse la seule commodité technique : dans un contexte où le coût du calcul GPU reste un facteur déterminant pour la rentabilité des déploiements d'IA générative, disposer d'un référentiel unique et partagé des expériences testées réduit la duplication des efforts entre équipes, améliore la gouvernance des projets et facilite les transmissions entre collègues ou entre équipes travaillant en horaires décalés. Cette évolution illustre aussi la tendance du secteur à intégrer des outils d'observabilité et de MLOps, comme MLflow, directement dans les plateformes cloud managées, afin de répondre à la demande croissante de traçabilité et de reproductibilité dans les cycles d'entraînement et de déploiement des modèles.

OutilsOutil
1 source
Se retire de GovCloud (US) : NVIDIA Nemotron et OpenAI GPT OSS accessibles sur Amazon Bedrock
412AWS ML Blog 

Se retire de GovCloud (US) : NVIDIA Nemotron et OpenAI GPT OSS accessibles sur Amazon Bedrock

Cette semaine, Amazon a annoncé l'arrivée de nouveaux modèles ouverts sur Amazon Bedrock, dans la région AWS GovCloud (US), un environnement cloud isolé réservé aux agences gouvernementales américaines, au secteur de la défense et du renseignement, ainsi qu'à leurs sous-traitants. Concrètement, Bedrock prend désormais en charge les modèles GPT OSS d'OpenAI (versions 120 milliards et 20 milliards de paramètres) ainsi que la famille NVIDIA Nemotron 3, comprenant Nemotron 3 Super (120 milliards de paramètres, architecture hybride de mélange d'experts n'activant que 12 milliards de paramètres par token) et les modèles Nemotron 3 Nano (versions 9B, 12B et 30B). Ces modèles fonctionnent entièrement sur une infrastructure exploitée par AWS, physiquement située aux États-Unis et administrée exclusivement par des citoyens américains, à l'intérieur du périmètre de conformité GovCloud. Cette région répond à des référentiels réglementaires stricts, dont le FedRAMP High, les niveaux d'impact 2, 4 et 5 du DoD Cloud Computing Security Requirements Guide, les règles ITAR sur le trafic d'armes, et les exigences CJIS pour les données judiciaires. Cette annonce répond à une tension centrale pour les administrations américaines : elles doivent pouvoir exploiter des modèles d'IA aussi performants que ceux utilisés dans le secteur privé, sans jamais faire sortir de données sensibles du périmètre réglementaire qui les encadre. Jusqu'ici, l'accès aux modèles ouverts les plus avancés impliquait souvent des compromis sur la souveraineté ou la conformité des données. En intégrant GPT OSS et Nemotron directement dans Bedrock au sein de GovCloud, Amazon permet aux agences fédérales, aux équipes de renseignement et à leurs prestataires de construire des applications agentiques pour des cas d'usage concrets : analyse de renseignement, planification de missions, examen de documents d'acquisition et de contrats, analyse de journaux de sécurité, évaluation automatisée de contrôles de sécurité, synthèse multi-documents et vérification de conformité réglementaire. L'accès via une API unifiée permet en outre de changer de modèle selon le besoin sans modifier le code applicatif, ce qui simplifie l'adoption pour des équipes techniques gouvernementales souvent contraintes par des cycles d'certification longs. Cette évolution s'inscrit dans la course plus large que se livrent les grands fournisseurs cloud pour capter la demande croissante en IA générative des administrations publiques, un marché où la confiance réglementaire pèse autant que la performance technique. Amazon Bedrock fonctionne comme une plateforme neutre donnant accès à des modèles de plusieurs fournisseurs indépendants, une stratégie qui contraste avec l'intégration verticale d'autres acteurs du cloud. L'arrivée de modèles ouverts d'OpenAI et de NVIDIA dans un environnement aussi cloisonné que GovCloud illustre aussi la normalisation des modèles à poids ouverts, autrefois cantonnés à la recherche ou aux usages commerciaux, dans des contextes de mission critique. Reste à voir combien d'autres familles de modèles ouverts suivront ce chemin vers les environnements souverains et régulés, et si cette disponibilité accélérera réellement l'adoption de l'IA agentique au sein des agences fédérales et des acteurs de la défense.

InfrastructureActu
1 source
HippoRAG : RAG neuro-inspiré avec Amazon Bedrock, Amazon Neptune et un PageRank personnalisé
413AWS ML Blog 

HippoRAG : RAG neuro-inspiré avec Amazon Bedrock, Amazon Neptune et un PageRank personnalisé

HippoRAG est un nouveau framework RAG (Retrieval Augmented Generation) inspiré du système de mémoire hippocampique du cerveau humain, conçu pour mieux gérer les tâches de raisonnement multi-sauts qui nécessitent de relier des informations dispersées entre plusieurs documents. L'implémentation présentée s'appuie entièrement sur l'infrastructure AWS: Amazon Bedrock fournit les capacités de modèle de langage pour extraire les triplets du graphe de connaissances et identifier les entités nommées, Amazon Neptune Database stocke la structure du graphe, Amazon Neptune Analytics exécute les algorithmes de graphe avancés, notamment le Personalized PageRank pour le classement de pertinence, et Amazon Titan Embeddings génère les représentations vectorielles du texte. Le pipeline de données démarre à partir du jeu de données HotpotQA au format JSON: une classe nommée HotpotQANeptuneImporter orchestre la lecture du fichier source, la génération de fichiers CSV compatibles avec le chargeur en masse de Neptune, leur envoi vers un bucket Amazon S3, puis leur chargement effectif dans le cluster Neptune. Les prérequis incluent un compte AWS avec accès à Bedrock et Neptune, un cluster Neptune configuré, un graphe Neptune Analytics créé à partir de celui-ci, ainsi que les permissions IAM nécessaires pour Bedrock, Neptune, Neptune Analytics et S3. L'intérêt de cette approche tient au fait que les méthodes RAG classiques traitent chaque document de façon isolée, ce qui les rend peu efficaces dès qu'une question exige de croiser des informations provenant de plusieurs sources différentes. En s'appuyant sur un graphe de connaissances et sur l'algorithme Personalized PageRank pour la recherche de pertinence, HippoRAG permet une récupération multi-sauts en une seule étape, là où les architectures RAG traditionnelles ont souvent besoin de plusieurs itérations successives pour reconstituer le fil du raisonnement. Pour les entreprises qui déploient des systèmes de questions-réponses ou de recherche documentaire à grande échelle, cela promet des réponses plus précises sur des requêtes complexes, tout en conservant la fiabilité et la scalabilité des services managés d'AWS plutôt que de dépendre d'une infrastructure de graphe maison. Cette architecture s'inscrit dans la théorie de l'indexation hippocampique de la mémoire à long terme, selon laquelle le néocortex traite les informations perceptives tandis que l'hippocampe construit un index d'associations entre les souvenirs, permettant au cerveau humain d'intégrer efficacement des expériences variées. C'est cette division des rôles que le système technique cherche à reproduire, en séparant le traitement du langage confié à Bedrock de l'indexation relationnelle confiée à Neptune. À mesure que les entreprises accumulent des bases documentaires massives et hétérogènes, ce type d'approche hybride, combinant graphes de connaissances et grands modèles de langage, pourrait devenir un standard pour dépasser les limites actuelles du RAG classique, avec des extensions envisageables vers d'autres jeux de données que HotpotQA et vers des cas d'usage d'entreprise plus larges.

OutilsOutil
1 source
Une tour à 15 274 €, deux GPU AMD et aucun abonnement cloud : on a testé l’IA locale à son maximum [Sponso]
414Numerama 

Une tour à 15 274 €, deux GPU AMD et aucun abonnement cloud : on a testé l’IA locale à son maximum [Sponso]

Une configuration à 15 274 euros, assemblée sous un bureau et équipée de deux cartes graphiques AMD, a été testée pour évaluer ce qu'une machine dédiée à l'intelligence artificielle peut réellement accomplir en local, sans recourir au moindre service cloud. L'objectif de ce test, mené en collaboration avec AMD, était de faire fonctionner une chaîne complète de production logicielle d'IA, de l'entraînement à l'inférence, entièrement sur du matériel physique installé chez l'utilisateur. Le contenu a été produit par les rédacteurs indépendants de l'entité Humanoid xp, sans intervention de la rédaction de Numerama, dans le cadre d'un partenariat commercial clairement identifié. Cette démarche illustre un intérêt croissant pour les infrastructures d'IA locales, à contre-courant du modèle dominant fondé sur les abonnements aux plateformes cloud comme AWS, Azure ou Google Cloud. Pour les professionnels et les entreprises soucieux de maîtriser leurs coûts récurrents, leurs données sensibles ou leur dépendance à des fournisseurs tiers, une tour équipée de GPU AMD représente une alternative tangible, même si l'investissement initial reste conséquent. Cela change la donne pour les studios, les chercheurs ou les PME qui veulent expérimenter avec des modèles d'IA sans exposer leurs données à des serveurs externes ni subir la facturation à l'usage. Le marché du matériel dédié à l'IA locale s'est intensifié ces dernières années, porté par la demande de puissance de calcul pour l'entraînement et l'inférence de modèles toujours plus lourds. AMD y voit une opportunité de concurrencer Nvidia, acteur dominant du secteur, en misant sur des configurations multi-GPU accessibles aux particuliers avertis et aux petites structures. Ce type de démonstration commerciale s'inscrit dans une bataille plus large pour convaincre les utilisateurs que l'IA locale peut rivaliser, en performance comme en autonomie, avec les offres cloud des géants du secteur.

💬 Une tour à 15 000 balles pour causer IA sans dépendre du cloud, c'est le genre de démo commerciale qu'on regarde avec un sourcil levé, financée par AMD pour vendre du multi-GPU. Mais le vrai signal derrière, c'est que le prix d'entrée pour sortir du modèle abonnement-cloud devient un calcul économique sérieux, pas juste un fantasme de geek paranoïaque des données. Reste à voir si une PME normale a vraiment besoin de ça, parce que pour la plupart, un bon abonnement API reste largement moins cher que d'amortir une tour à cinq chiffres.

InfrastructureActu
1 source
« Simplifier l'accès multi-comptes aux modèles Amazon Bedrock avec les habilitations gérées »
415AWS ML Blog 

« Simplifier l'accès multi-comptes aux modèles Amazon Bedrock avec les habilitations gérées »

Les organisations qui exploitent des dizaines, voire des centaines de comptes AWS font face à un dilemme récurrent pour l'accès aux modèles d'intelligence artificielle sur Amazon Bedrock. AWS distingue trois catégories de modèles : les modèles Amazon comme Nova, les modèles vendus par Amazon tels que ceux de Meta, Mistral ou DeepSeek, accessibles immédiatement avec de simples permissions Bedrock, et les modèles tiers commercialisés via AWS Marketplace, comme Claude d'Anthropic, ceux de Cohere ou de Stability AI, qui exigent un abonnement Marketplace distinct dans chaque compte. Jusqu'ici, les équipes devaient soit accorder largement des permissions Marketplace à tous les comptes de travail, au risque de fragiliser la gouvernance, soit activer manuellement chaque abonnement compte par compte, une charge opérationnelle lourde qui ralentit l'adoption de l'IA à grande échelle. AWS présente désormais les "managed entitlements" pour Bedrock, une fonctionnalité qui permet de souscrire une seule fois depuis un compte central puis de distribuer l'accès aux modèles à travers toute l'organisation, via AWS License Manager, sans qu'aucune permission Marketplace ne soit nécessaire dans les comptes membres. Cette nouveauté change concrètement la donne pour les équipes cloud et sécurité chargées de gouverner l'usage de l'IA générative à l'échelle d'un groupe. Elle s'adresse en priorité aux organisations qui font tourner des charges de travail sur de multiples comptes AWS, qui veulent éviter de diffuser des droits Marketplace à chaque équipe, qui ont négocié des tarifs préférentiels via une offre privée et souhaitent les appliquer uniformément, ou qui ont besoin d'une visibilité centralisée sur qui accède à quels modèles. À l'inverse, les structures qui n'utilisent que des modèles Amazon ou partenaires, qui opèrent sur un compte unique, ou dont les équipes gèrent déjà leurs abonnements de façon autonome n'ont pas vraiment besoin de ce mécanisme. Le bénéfice principal réside dans la réduction du risque de mauvaise configuration et dans l'accélération du déploiement de modèles comme Claude à travers de grandes organisations, tout en gardant un contrôle centralisé. Sur le plan technique, la mise en place suppose qu'AWS Organizations soit configuré avec toutes les fonctionnalités activées, qu'un accès au compte de gestion soit disponible avec les permissions AWS Marketplace et AWS License Manager, et que des rôles liés aux services (service-linked roles) soient créés pour ces deux services. Le concept central repose sur deux notions : la licence, qui représente le droit de l'organisation à utiliser un modèle donné, et les attributions ("grants"), le mécanisme par lequel ce droit est partagé avec des comptes spécifiques. Cette approche s'inscrit dans la suite logique d'autres outils Bedrock comme l'évaluation de modèles ou les garde-fous (guardrails), qui visent tous à concilier autonomie des équipes et gouvernance centralisée des déploiements d'IA en entreprise.

InfrastructureActu
1 source
« Mise en œuvre de patterns de résilience avec Amazon Bedrock et une passerelle LLM »
416AWS ML Blog 

« Mise en œuvre de patterns de résilience avec Amazon Bedrock et une passerelle LLM »

Amazon Web Services a publié un article technique détaillant cinq patterns de résilience pour les déploiements d'inférence de grands modèles de langage (LLM) sur Amazon Bedrock, conçus pour accompagner les charges de travail d'IA générative qui passent de la phase expérimentale à la production à grande échelle. Le premier de ces patterns repose sur l'inférence cross-Region (CRIS) d'Amazon Bedrock, une fonctionnalité native qui redirige automatiquement les requêtes depuis une région source vers la région de destination optimale, en tenant compte en temps réel de la disponibilité, de la latence et de la demande. Les patterns suivants montent en complexité jusqu'à une orchestration multi-modèles via une passerelle LLM (LLM gateway), permettant de combiner plusieurs fournisseurs et modèles selon les besoins. Un dépôt GitHub accompagne l'article avec des exemples de code pour chaque pattern, afin que les développeurs puissent les tester directement dans leur propre environnement AWS. Cette approche progressive répond à des problèmes concrets rencontrés par les équipes qui exploitent des applications IA en production: l'épuisement soudain des quotas lors de pics de trafic imprévus, les effets de "voisin bruyant" dans les environnements multi-tenants, ou encore le besoin de répartir géographiquement l'inférence pour maximiser la disponibilité. Au-delà de la simple continuité de service, ces patterns ouvrent aussi la voie à une optimisation des coûts grâce à un routage intelligent des requêtes, et donnent aux équipes la liberté de basculer entre plusieurs modèles ou fournisseurs selon les contraintes de performance ou de budget. Pour des entreprises qui dépendent désormais de l'IA générative dans leurs produits, ces garanties de résilience deviennent aussi critiques que celles déjà appliquées aux architectures cloud traditionnelles. AWS rappelle que les bonnes pratiques classiques de résilience, comme la stabilité statique ou les mécanismes de backoff et de nouvelles tentatives, restent valables, mais que l'IA générative introduit des contraintes inédites: disponibilité fluctuante des modèles, quotas qui évoluent rapidement, limites de tokens variables selon les fournisseurs, et nécessité de maintenir une cohérence de comportement face aux nouvelles versions de modèles publiées régulièrement. L'article structure sa réflexion autour de quatre dimensions clés, la disponibilité, le temps de réponse, le coût et le débit, en précisant que ce premier volet se concentre sur la disponibilité via le basculement, la répartition géographique et l'isolation des quotas. AWS annonce que de prochains articles approfondiront l'optimisation du temps de réponse et le routage sensible aux coûts, signe que la firme entend documenter une stratégie complète de résilience pour les architectures d'inférence LLM en production.

InfrastructureActu
1 source
L'optimisation mathématique là où l'intuition échoue : des décisions à grande échelle
417AWS ML Blog 

L'optimisation mathématique là où l'intuition échoue : des décisions à grande échelle

Face aux décisions d'entreprise trop complexes pour l'intuition humaine, optimiser des milliers de routes de livraison, coordonner des centaines de robots en usine sans collision, gérer les plannings d'un hôpital 24h/24 en respectant toutes les contraintes réglementaires, des organisations de premier plan se tournent vers l'optimisation mathématique, une branche spécialisée de l'IA distincte du machine learning. L'équipe scientifique du AWS Generative AI Innovation Center accompagne ces entreprises en combinant expertise en modélisation mathématique, informatique quantique et calcul haute performance, entièrement déployés sur l'infrastructure AWS. Parmi les cas concrets, le Fidelity Center for Applied Technology (FCAT) illustre bien l'enjeu : leurs modèles de machine learning produisaient déjà de solides prédictions pour les décisions d'investissement et la gestion du risque, mais manquaient d'interprétabilité. En collaborant avec l'Innovation Center, FCAT a intégré l'explicabilité directement dans la construction des modèles, sans sacrifier leur précision prédictive, et en produisant des cadres réutilisables pour les développements futurs. Ce que l'optimisation mathématique apporte, que le machine learning ne peut pas fournir seul, c'est une réponse définitive et prouvablement optimale, et non une approximation probabiliste. Le machine learning est une IA inductive : il apprend des régularités à partir de milliers d'exemples pour produire des prédictions. L'optimisation est déductive : elle applique des principes mathématiques à un problème spécifique pour délivrer la meilleure décision possible compte tenu de toutes les contraintes réelles. Là où un algorithme prédictif dira "cet itinéraire est probablement efficace", l'optimisation répond "voici l'itinéraire optimal en intégrant chaque contrainte de votre système". Pour des opérations soumises à des limites physiques, des fenêtres horaires serrées ou des exigences réglementaires non négociables, cette différence est décisive. L'essor de ces approches s'inscrit dans une transformation plus large de l'IA d'entreprise, qui cherche à dépasser la simple prédiction pour atteindre la prescription, dire non pas ce qui va se passer, mais ce qu'il faut faire. Les pipelines dits "predict-then-optimize" combinent les deux disciplines : le machine learning prédit la demande future, l'optimisation mathématique détermine ensuite le plan d'action optimal à partir de ces prévisions. AWS positionne son Innovation Center comme un accélérateur de cette convergence, en prenant en charge la complexité scientifique que peu d'entreprises peuvent internaliser. La compétition pour maîtriser ces outils s'intensifie dans la logistique, la finance, la santé et l'industrie manufacturière, secteurs où une décision sous-optimale à grande échelle se chiffre en millions, et où l'IA prescriptive commence à supplanter les règles métier manuelles comme standard opérationnel.

OutilsOutil
1 source
Baz améliore la précision de la revue de code par agents IA grâce à Amazon Bedrock AgentCore
418AWS ML Blog 

Baz améliore la précision de la revue de code par agents IA grâce à Amazon Bedrock AgentCore

Baz, une startup spécialisée dans l'automatisation des revues de code, a développé un agent IA capable de vérifier non seulement la qualité technique du code, mais aussi sa conformité aux spécifications produit et aux maquettes de design. Baptisé Spec Review Agent, ce système repose sur Amazon Bedrock et Amazon Bedrock AgentCore, les services d'IA managés d'AWS. Concrètement, l'agent s'active automatiquement à l'ouverture d'une pull request GitHub, interroge simultanément Figma pour récupérer les spécifications visuelles et Jira pour les exigences fonctionnelles, puis décompose l'ensemble en critères vérifiables. Il spawne ensuite des sous-agents parallèles, un par exigence, qui analysent le code source et interagissent avec l'environnement de prévisualisation via l'outil AgentCore Browser Tool, capable d'inspecter le DOM, de simuler des interactions utilisateur et de comparer visuellement l'interface rendue avec les maquettes Figma. L'enjeu est considérable pour les équipes de développement modernes. Jusqu'ici, la vérification qu'une fonctionnalité correspondait réellement à ce que le product owner avait demandé ou que le designer avait conçu reposait entièrement sur des tests manuels effectués par des équipes QA. Ces vérifications prenaient des heures, introduisaient des incohérences d'une release à l'autre et s'appuyaient sur une connaissance interne non documentée et donc fragile. En automatisant cette couche de validation, Baz cherche à supprimer le délai systématique entre la livraison du code et la détection des écarts, réduisant ainsi les régressions et accélérant les cycles de mise en production. Pour les équipes engineering qui travaillent à haute vélocité, c'est potentiellement une transformation profonde du workflow de review, qui passe d'une vérification de syntaxe à une validation de comportement réel. Ce projet s'inscrit dans une tendance plus large d'industrialisation des agents IA dans le cycle de développement logiciel, après l'émergence des assistants de génération de code comme GitHub Copilot. Amazon Bedrock AgentCore, lancé récemment par AWS, propose des primitives spécifiquement conçues pour l'orchestration d'agents multi-étapes en production, incluant la navigation web autonome, la gestion de la mémoire et l'exécution de code dans des environnements isolés. Baz exploite ces capacités pour bâtir une infrastructure d'orchestration déployée sur Amazon EKS, avec un Application Load Balancer en entrée. La prochaine étape logique pour ce type de système sera d'étendre la couverture au-delà des critères d'acceptation Jira et des maquettes Figma, vers des dimensions comme la performance ou l'accessibilité, transformant progressivement la revue de code en audit produit complet piloté par l'IA.

OutilsOutil
1 source
Lauréats des Amazon Research Awards annoncés
419Amazon Science 

Lauréats des Amazon Research Awards annoncés

Amazon a annoncé les lauréats de son programme Amazon Research Awards (ARA) pour le cycle automne 2025, sélectionnant 68 chercheurs issus de 49 universités réparties dans 11 pays. Ces prix, qui consistent en financements non restreints et en crédits AWS, couvrent six domaines de recherche prioritaires : la sécurité de l'information par l'IA, l'IA agentique, le raisonnement automatisé, la cryptographie AWS, les technologies de cybersécurité et anti-abus, ainsi que la durabilité. Parmi les lauréats figurent des chercheurs de Virginia Tech, Texas A&M, Arizona State University, l'Université d'Édimbourg, la Carnegie Mellon University et l'USC, travaillant sur des sujets allant de la détection de menaces dans le cloud à la sécurisation des systèmes d'IA agentique. Les bénéficiaires accèdent à plus de 700 jeux de données publics d'Amazon et aux services AWS d'IA/ML via leurs crédits promotionnels, tout en bénéficiant d'un référent Amazon pour les conseiller. Ce programme illustre la montée en puissance des enjeux de sécurité liés à l'IA agentique, c'est-à-dire ces systèmes capables d'agir de façon autonome pour accomplir des tâches complexes. Comme le souligne Wei Ding, responsable de la science appliquée pour GuardDuty chez AWS, l'IA reconfigure la cybersécurité à une vitesse sans précédent, exigeant des garanties renforcées de robustesse et de fiabilité pour les agents autonomes. De leur côté, les recherches sur la lutte contre la fraude et les abus en ligne visent à augmenter les coûts opérationnels des acteurs malveillants, protégeant ainsi les consommateurs, les vendeurs et les plateformes de commerce en ligne à l'échelle de l'ensemble du Web. Lancé en 2020, l'ARA s'inscrit dans une stratégie plus large d'Amazon visant à tisser des liens étroits entre la recherche académique et les défis industriels réels. En favorisant la publication des résultats et la mise en open source des codes associés, Amazon cherche à produire des effets systémiques bien au-delà de ses propres infrastructures. L'engouement pour cet appel à projets, jugé exceptionnel en volume et en qualité selon les responsables du programme, témoigne d'une prise de conscience croissante dans la communauté scientifique face aux risques posés par l'IA agentique et les menaces cyber émergentes. Amazon continuera à lancer des appels à projets tout au long de l'année dans de nouveaux domaines, signalant que ces investissements en recherche fondamentale sont appelés à s'intensifier à mesure que l'IA s'intègre dans des systèmes critiques.

RechercheActu
1 source
Halliburton améliore la création de workflows sismiques avec Amazon Bedrock et l'IA générative
420AWS ML Blog 

Halliburton améliore la création de workflows sismiques avec Amazon Bedrock et l'IA générative

Halliburton, l'un des plus grands groupes de services pétroliers au monde, a développé en partenariat avec l'AWS Generative AI Innovation Center un assistant intelligent intégré à son logiciel Seismic Engine, une application cloud dédiée au traitement des données sismiques. Concrètement, la configuration d'un workflow de traitement nécessitait jusqu'ici la sélection et le paramétrage manuel d'environ 100 outils spécialisés, un processus long et exigeant une expertise pointue. Désormais, les géoscientifiques et data scientists peuvent décrire leurs besoins en langage naturel, et le système génère automatiquement les workflows exécutables correspondants. La solution repose sur Amazon Bedrock, Amazon Bedrock Knowledge Bases, le modèle Amazon Nova et Amazon DynamoDB. Techniquement, une application FastAPI déployée sur AWS App Runner reçoit les requêtes utilisateurs via une interface en streaming ; un routeur d'intention alimenté par Amazon Nova Lite détermine si la demande concerne la génération d'un workflow ou une question documentaire, puis redirige vers l'agent approprié. Pour la création de workflows, le modèle Claude d'Anthropic, accessible via Amazon Bedrock, sélectionne parmi 82 outils disponibles et produit des fichiers YAML directement exploitables. Les résultats du proof-of-concept font état d'une accélération allant jusqu'à 95 % du temps de création des workflows. Cet outil change fondamentalement le rapport des ingénieurs à un logiciel jusqu'ici réservé aux experts maîtrisant des dizaines de paramètres techniques. En rendant Seismic Engine accessible via une conversation, Halliburton élargit le cercle des utilisateurs capables de configurer des traitements sismiques complexes sans formation approfondie sur chaque outil. Pour l'industrie pétrolière et gazière, où l'interprétation des données de subsurface conditionne directement les décisions d'exploration et les investissements en milliards de dollars, réduire d'un ordre de grandeur le temps consacré à ces tâches représente un gain opérationnel considérable. La gestion du contexte conversationnel via DynamoDB permet en outre des échanges multi-tours, rendant possible l'ajustement itératif des workflows sans repartir de zéro à chaque interaction. Cette initiative s'inscrit dans un mouvement plus large d'adoption de l'IA générative dans les industries à forte intensité de données techniques, où les workflows complexes freinent depuis longtemps la productivité. Halliburton, qui opère dans plus de 70 pays, dispose d'une base d'utilisateurs pour laquelle chaque gain de temps sur l'analyse sismique se traduit directement en avantage concurrentiel. Le choix d'AWS comme partenaire reflète la domination du cloud américain dans les déploiements d'IA en entreprise, Amazon Bedrock servant de couche d'abstraction pour accéder à plusieurs modèles fondateurs, dont ceux d'Anthropic. La prochaine étape probable est le passage de ce proof-of-concept à une intégration production dans la suite Landmark DS365, potentiellement étendue à d'autres modules d'analyse de subsurface.

OutilsOutil
1 source
421AWS ML Blog 

Des heures aux minutes : comment les agents IA ont redonné du temps aux marketeurs pour l'essentiel

L'équipe Technology, AI, and Analytics (TAA) d'AWS Marketing a développé, en partenariat avec la startup Gradial, une solution d'IA agentique capable de réduire le temps de publication d'une page web de quatre heures à environ dix minutes, soit une diminution de plus de 95 %. Déployée sur Amazon Bedrock, cette solution s'appuie sur les modèles Anthropic Claude et Amazon Nova pour orchestrer l'ensemble du workflow de création de contenu : interprétation des briefs en langage naturel, assemblage des composants de page, validation des standards d'accessibilité et de conformité, jusqu'au lancement effectif sur les canaux digitaux. Le système intègre un serveur Model Context Protocol (MCP) pour la validation en temps réel et se connecte directement aux systèmes de gestion de contenu (CMS) d'entreprise. Cette accélération libère les équipes marketing, Digital Marketing Managers et Product Marketing Managers chez AWS, des tâches de coordination et d'assemblage répétitives qui monopolisaient leur temps. Auparavant, la publication d'une seule page nécessitait un appel de lancement, une file d'attente de priorisation, plusieurs allers-retours entre équipes, puis des cycles de révision successifs pour valider les textes, les visuels, les liens et la conformité technique. Un seul problème d'accessibilité sur une image suffisait à relancer un nouveau cycle complet. En automatisant cette orchestration, les équipes peuvent désormais se concentrer sur les tâches à plus forte valeur ajoutée : identifier les problèmes clients, affiner les messages et concevoir des campagnes plus efficaces. Ce projet s'inscrit dans une tendance de fond où les grandes entreprises tech cherchent à industrialiser leurs workflows marketing grâce à l'IA agentique. AWS, qui opère l'une des infrastructures digitales les plus complexes au monde, fait face à des exigences particulièrement élevées en matière de cohérence de marque, d'accessibilité et de conformité réglementaire à grande échelle. Le recours à Gradial, une startup spécialisée dans la modernisation des organisations marketing, illustre la montée en puissance des solutions verticales construites sur des plateformes d'IA fondationnelles comme Bedrock. L'enjeu dépasse AWS : toute organisation publiant du contenu web en volume est confrontée aux mêmes goulots d'étranglement. La généralisation de ce type d'agent autonome capable de piloter des CMS d'entreprise pourrait profondément transformer les métiers du marketing digital, en faisant de la coordination humaine l'exception plutôt que la règle.

OutilsOutil
1 source
422AWS ML Blog 

Rede Mater Dei de Saúde surveille ses agents IA dans le circuit de facturation avec Amazon Bedrock AgentCore

Le réseau hospitalier brésilien Rede Mater Dei de Saúde déploie actuellement une suite de douze agents d'intelligence artificielle pour automatiser l'ensemble de son cycle de facturation médicale, en s'appuyant sur Amazon Bedrock AgentCore, le service d'infrastructure d'agents d'AWS. Cette initiative, développée en partenariat avec le cabinet de données A3Data et le AWS Generative AI Innovation Center, vise à réduire drastiquement le taux de refus de remboursement des assureurs, qui a bondi en 2024 de 11,89 % à 15,89 % dans le secteur hospitalier privé brésilien, selon l'association nationale Anahp, représentant jusqu'à 10 milliards de reais de revenus non perçus pour le secteur. Parmi les premiers agents déployés figurent un agent Contrats, qui centralise les règles contractuelles dispersées dans des documents hétérogènes, un agent Paramétrage, qui traduit automatiquement ces règles dans le système ERP de l'hôpital, et un agent Autorisation, qui automatise les échanges avec les compagnies d'assurance santé. L'enjeu est directement financier et opérationnel. Rede Mater Dei, qui gère des établissements à Belo Horizonte, Salvador, Goiânia, Uberlândia et plusieurs autres villes brésiliennes, faisait face à des centaines d'employés affectés à des tâches manuelles répétitives, à des données fragmentées et à un fort turnover sur ces postes. Chaque erreur dans le cycle de facturation, de l'accréditation des prestataires jusqu'à la facturation finale, se traduisait par des refus de remboursement coûteux et des corrections chronophages. Les agents IA fonctionnent désormais de manière orchestrée et continue, structurés en trois couches : une couche de données (DEL), une couche d'exécution des agents (AEL) et une couche de gouvernance et conformité (TCL), garantissant traçabilité et auditabilité de chaque décision automatisée. Ce projet s'inscrit dans un contexte de pression croissante sur la rentabilité des hôpitaux privés en Amérique latine, où les processus administratifs restent largement manuels et les systèmes d'information souvent morcelés. Rede Mater Dei, fort de 45 ans d'histoire, fait figure de pionnier continental en testant AgentCore Evaluation dans un environnement de production réel à haute criticité. Amazon Bedrock AgentCore, lancé comme service d'exécution serverless pour agents IA, offre nativement la gestion de la mémoire, l'intégration d'outils et l'observabilité en production, des capacités indispensables lorsque des agents autonomes prennent des décisions impactant directement les flux de trésorerie d'un réseau hospitalier. La suite complète de douze agents, une fois déployée intégralement, ambitionne de constituer une véritable "force de travail numérique" capable de percevoir, décider et agir sans intervention humaine sur l'ensemble du cycle de revenus.

OutilsActu
1 source
Comment Uber optimise ses millions de trajets et son IA avec Amazon
423Le Big Data 

Comment Uber optimise ses millions de trajets et son IA avec Amazon

Uber a annoncé un renforcement significatif de son partenariat avec Amazon Web Services pour optimiser en temps réel la gestion de ses millions de trajets quotidiens à l'échelle mondiale. Au cœur de cette collaboration, deux puces développées par AWS jouent des rôles complémentaires : Graviton4, conçue pour les calculs cloud intensifs, et Trainium3, spécialisée dans l'entraînement de modèles d'intelligence artificielle à partir de volumes massifs de données. Concrètement, Uber migre une part croissante de ses opérations critiques vers ces architectures matérielles, notamment ses Trip Serving Zones, des serveurs chargés de traiter en continu la localisation des chauffeurs, leur disponibilité et le calcul des itinéraires. Rich Geraffo, vice-président d'AWS, a qualifié Uber de l'une des applications en temps réel les plus exigeantes au monde, soulignant l'ampleur du défi technique que représente cette infrastructure. L'enjeu est considérable : à chaque ouverture de l'application, le système dispose de moins d'une seconde pour attribuer un chauffeur, définir un itinéraire et estimer le délai d'arrivée, et ce pour des millions d'utilisateurs simultanément, sans marge d'erreur même lors des pics de demande. Le passage à Graviton4 permet à Uber d'améliorer sa réactivité, de réduire sa consommation énergétique et de mieux absorber les surcharges de trafic qui peuvent atteindre 2 à 25 fois le niveau normal selon AWS. En parallèle, Trainium3 permet d'affiner les algorithmes d'IA qui analysent des millions de trajets et de livraisons pour améliorer la sélection des chauffeurs, la précision des temps d'arrivée et l'optimisation des options de livraison. Cette montée en puissance technologique vise à maintenir la qualité de service à mesure que les volumes de données traitées augmentent. Ce partenariat s'inscrit dans une tendance lourde du secteur : les grandes plateformes de mobilité à la demande investissent massivement dans des infrastructures cloud sur mesure pour rester compétitives. Uber, qui opère dans des dizaines de pays et traite des milliards de points de données quotidiens, ne peut plus se contenter d'architectures génériques. Toutefois, plusieurs défis subsistent. La migration vers ces nouvelles puces implique d'adapter des algorithmes complexes, de tester chaque scénario de calcul et d'assurer la compatibilité avec les systèmes existants, ce qui représente un investissement en temps, en expertise et en budget considérable. Par ailleurs, même les architectures les plus robustes peuvent être prises de court par des événements imprévisibles, qu'il s'agisse de pics explosifs lors du Black Friday ou d'incidents de circulation en temps réel. L'IA reste tributaire de la qualité et de la fraîcheur des données disponibles, ce qui constitue une limite structurelle que la puissance matérielle seule ne peut pas résoudre.

InfrastructureActu
1 source
Amazon Bedrock lance l'inférence d'IA générative en Asie-Pacifique (Nouvelle-Zélande)
424AWS ML Blog 

Amazon Bedrock lance l'inférence d'IA générative en Asie-Pacifique (Nouvelle-Zélande)

Amazon Web Services vient d'ouvrir l'accès à Amazon Bedrock depuis la région Asie-Pacifique (Nouvelle-Zélande), identifiée sous le code ap-southeast-6 et basée à Auckland. Les clients néo-zélandais peuvent désormais appeler directement les modèles d'Anthropic — Claude Opus 4.5 et 4.6, Sonnet 4.5 et 4.6, et Haiku 4.5 — ainsi que les modèles Amazon Nova 2 Lite, sans passer par une région étrangère. Le mécanisme repose sur l'inférence cross-région : lorsqu'une requête est émise depuis Auckland, Amazon Bedrock la distribue dynamiquement vers une ou plusieurs régions de destination — Auckland elle-même, Sydney (ap-southeast-2) ou Melbourne (ap-southeast-4) — en fonction de la charge et de la disponibilité. Toutes les données transitent exclusivement sur le réseau privé AWS, chiffrées en transit, sans jamais passer par l'internet public. Les appels sont enregistrés dans AWS CloudTrail depuis la région source, et les logs d'invocation peuvent être dirigés vers CloudWatch ou S3 dans la même région. Cette disponibilité régionale répond à une demande concrète des entreprises néo-zélandaises soumises à des exigences de résidence des données. Le profil géographique « AU » permet désormais de garantir que les traitements d'inférence restent dans le périmètre Australie–Nouvelle-Zélande, ce qui est décisif pour des secteurs comme la santé, la finance ou les services publics, où la localisation des données est une contrainte légale ou réglementaire. En parallèle, les organisations sans contrainte de résidence peuvent opter pour le profil global, qui route vers n'importe quelle région commerciale AWS dans le monde pour maximiser le débit disponible. Ce double choix de routage offre une flexibilité opérationnelle rare sur le marché du cloud. Amazon Bedrock s'étend ainsi progressivement dans la zone Pacifique, une région stratégique pour AWS face à la concurrence de Google Cloud et Microsoft Azure, qui ont également multiplié leurs ouvertures de datacenters locaux ces dernières années. La Nouvelle-Zélande, bien que marché de taille modeste, représente un point d'ancrage important pour les entreprises multinationales opérant dans la région ANZ. L'intégration d'Auckland dans le profil cross-région AU — sans modifier les comportements existants de Sydney et Melbourne — illustre une approche incrémentale conçue pour ne pas perturber les architectures déjà en production. La prochaine étape probable sera l'élargissement du catalogue de modèles accessibles depuis cette nouvelle région source, au fur et à mesure que les capacités d'inférence locales monteront en charge.

InfrastructureActu
1 source
Vaincre les hallucinations des LLM dans les secteurs réglementés : les modèles déterministes d'Artificial Genius sur Amazon Nova
425AWS ML Blog 

Vaincre les hallucinations des LLM dans les secteurs réglementés : les modèles déterministes d'Artificial Genius sur Amazon Nova

La startup Artificial Genius, en partenariat avec AWS, propose une architecture de "troisième génération" de modèles de langage qui combine la puissance générative d'Amazon Nova avec une couche déterministe brevetée, éliminant les hallucinations. Contrairement aux LLMs classiques qui génèrent des réponses de manière probabiliste, leur approche utilise le modèle de façon non-générative : le modèle comprend le contexte via interpolation, mais ne génère pas la réponse par prédiction de tokens. Cette solution, entraînée via Amazon SageMaker AI, vise spécifiquement les secteurs réglementés (finance, santé) où la reproductibilité et l'auditabilité des sorties sont des exigences non négociables.

LLMsOutil
1 source
Fonds souverain britannique pour l'IA consolide sa structure cybernétique
426AI News 

Fonds souverain britannique pour l'IA consolide sa structure cybernétique

Le Royaume-Uni lance officiellement le 16 avril son fonds souverain pour l'IA, doté de 500 millions de livres sterling, avec pour objectif de développer une infrastructure informatique nationale indépendante des hyperscalers étrangers (AWS, Google Cloud, Azure). Piloté par James Wise de Balderton Capital, le fonds s'appuie sur des supercalculateurs domestiques comme Isambard-AI à Bristol et Dawn à Cambridge, et a déjà investi 8 millions de livres dans le consortium OpenBind, qui cartographie les interactions moléculaires à une échelle 20 fois supérieure aux bases de données existantes. L'initiative vise à protéger la propriété intellectuelle locale et à réduire les coûts de R&D — jusqu'à 40 % dans le secteur pharmaceutique — tout en capitalisant sur un marché tech national estimé à 1 000 milliards de livres et plus de 5 800 entreprises d'IA.

RégulationActu
1 source
OpenAI et Amazon annoncent un partenariat stratégique
427OpenAI Blog 

OpenAI et Amazon annoncent un partenariat stratégique

OpenAI et Amazon ont annoncé un partenariat stratégique pour déployer la plateforme Frontier d'OpenAI sur AWS, afin de développer l'infrastructure d'IA, les modèles personnalisés et les agents d'IA d'entreprise. Ce partenariat vise à renforcer les capacités technologiques et les solutions d'IA pour les entreprises.

BusinessActu
1 source