OutilsAWS ML Blog3h

Amazon Bedrock Projects : gérer les coûts de l'IA

1 source couvre ce sujet·Source originale ↗·

Amazon a lancé une nouvelle fonctionnalité appelée Amazon Bedrock Projects, qui permet aux équipes techniques d'attribuer précisément les coûts d'inférence IA à des charges de travail spécifiques. Concrètement, chaque "projet" dans Bedrock constitue une frontière logique représentant une application, un environnement ou une expérimentation. Les développeurs associent des tags de ressources à ces projets et transmettent un identifiant de projet dans leurs appels API. Ces données remontent ensuite dans AWS Cost Explorer et AWS Data Exports, les outils de suivi financier d'Amazon Web Services, permettant de filtrer, regrouper et analyser les dépenses par dimension métier : application, équipe, environnement ou centre de coûts. La fonctionnalité est compatible avec les API OpenAI (Responses API et Chat Completions API), ce qui facilite l'intégration pour les équipes déjà habituées à ces standards. Les requêtes envoyées sans identifiant de projet sont automatiquement rattachées à un projet par défaut dans le compte AWS concerné.

L'enjeu est direct pour les grandes organisations qui font tourner plusieurs applications IA en parallèle : sans attribution précise, impossible de savoir quelle équipe consomme quoi, ni d'effectuer des refacturations internes (chargebacks) ou d'investiguer des pics de dépenses inexpliqués. Bedrock Projects répond à ce besoin en donnant une visibilité granulaire sur la facture IA, département par département. Une équipe "CustomerExperience" peut ainsi être distinguée d'une équipe "DataScience", chacune avec son propre centre de coûts. Cela permet également de guider les décisions d'optimisation : identifier quels workloads sont disproportionnément coûteux par rapport à leur valeur métier, et agir en conséquence.

Cette annonce s'inscrit dans une tendance plus large de maturité de la FinOps appliquée à l'IA. À mesure que les déploiements LLM passent du stade expérimental à la production à grande échelle, la gestion financière devient un enjeu stratégique autant que technique. AWS rejoint ainsi des préoccupations déjà bien présentes chez les DSI et les directeurs financiers, qui voient les budgets cloud IA gonfler rapidement sans toujours disposer des outils pour les piloter. La stratégie de tags recommandée par Amazon -- Application, Environment, Team, CostCenter -- reflète les pratiques standard de gouvernance cloud, mais appliquées désormais spécifiquement à la couche inférence. Les prochaines étapes logiques pourraient inclure des alertes budgétaires par projet ou des quotas d'utilisation, des mécanismes déjà existants dans AWS pour d'autres services et qui manquent encore à Bedrock Projects dans sa forme actuelle.

Impact France/UE

Les organisations européennes utilisant AWS Bedrock peuvent désormais mieux contrôler et attribuer leurs coûts d'inférence IA, un enjeu croissant pour les DSI soumis à des contraintes budgétaires strictes.

À lire aussi

1MarkTechPost

Combiner Google Search, Google Maps et fonctions personnalisées dans un appel Gemini avec chaînes d'agents multi-étapes

Google a annonce en mars 2026 une mise a jour majeure de son API Gemini permettant desormais de combiner dans un seul appel API des outils integres comme Google Search et Google Maps avec des fonctions personnalisees definies par le developpeur. Jusqu'ici, ces capacites devaient etre appelees separement, necessitant plusieurs requetes et une orchestration manuelle cote client. La mise a jour introduit egalement trois mecanismes cles : la circulation de contexte, qui preserve l'historique complet de chaque appel d'outil et de chaque reponse entre les tours de conversation ; les identifiants uniques de reponse d'outil, qui permettent de lier precisement chaque appel de fonction parallele a son resultat correspondant ; et le "Grounding with Google Maps", qui injecte des donnees de localisation en temps reel directement dans le raisonnement du modele. Les modeles concernes sont gemini-3-flash-preview pour les combinaisons d'outils et gemini-2.5-flash pour l'ancrage cartographique, les deux etant accessibles sans configuration de facturation. Cette evolution transforme la facon dont les developpeurs peuvent construire des agents IA autonomes. Auparavant, orchestrer plusieurs sources d'information, une recherche web, une donnee meteo via API tierce, et une localisation geographique, exigeait plusieurs allers-retours et une logique de coordination externe complexe. Desormais, un unique appel suffit pour que Gemini planifie, execute et synthetise des informations issues de sources heterogenes en une seule chaine de raisonnement. Pour les applications metier, assistants de voyage, outils de veille concurrentielle, agents de support client, cela reduit la latence, simplifie l'architecture et rend les systemes multi-outils beaucoup plus accessibles aux equipes de taille modeste. L'introduction des identifiants de reponse paralleles resout par ailleurs un probleme concret de fiabilite : quand plusieurs fonctions sont appelees simultanement, il etait auparavant difficile de garantir que chaque reponse correspondait bien a la bonne requete. Ces annonces s'inscrivent dans une competition intense entre Google, OpenAI et Anthropic pour imposer leur API comme la couche d'orchestration de reference pour les agents IA. OpenAI avait deja introduit le "parallel function calling" dans GPT-4 en 2023, et Anthropic a renforce les capacites d'outils de Claude tout au long de 2025. Google repond avec une integration native de son ecosysteme, Search et Maps etant des atouts considerables qu'aucun concurrent ne peut repliquer a l'identique. La prochaine etape probable est une extension de ce modele a d'autres services Google (Gmail, Calendar, Drive), transformant Gemini en un agent capable d'agir directement dans l'infrastructure numerique quotidienne des entreprises. La question qui demeure est celle du controle et de la transparence : a mesure que les chaines agentiques se complexifient, auditer ce qu'un modele a reellement fait, et pourquoi, devient un enjeu critique pour la confiance des utilisateurs professionnels.

OutilsOutil

1 source

2MarkTechPost

Comment deployer Open WebUI avec integration securisee de l'API OpenAI, tunnel public et acces au chat depuis le navigateur

Un tutoriel publié récemment détaille comment déployer Open WebUI dans Google Colab, l'environnement de notebooks Python hébergé par Google, en le connectant à l'API officielle d'OpenAI pour obtenir une interface de chat accessible directement depuis un navigateur. La procédure repose entièrement sur Python et couvre l'installation des dépendances via pip, la configuration sécurisée de la clé API OpenAI par saisie terminal (via getpass, pour éviter que les identifiants n'apparaissent en clair dans le notebook), la définition des variables d'environnement nécessaires, le lancement du serveur Open WebUI sur le port 8080, et la création d'un tunnel public via l'outil Cloudflared de Cloudflare. Ce tunnel génère une URL partageable qui permet d'accéder à l'interface depuis n'importe quel navigateur, même en dehors de Colab. Le modèle par défaut configuré dans l'exemple est gpt-4o-mini, mais l'utilisateur peut en choisir un autre au démarrage. Un répertoire de données dédié est créé dans /content/open-webui-data pour stocker les données d'exécution, et une clé secrète aléatoire est générée automatiquement pour sécuriser l'interface web. Ce type de déploiement intéresse principalement les développeurs, chercheurs et équipes techniques qui souhaitent expérimenter Open WebUI sans disposer d'un serveur dédié ni passer par une installation locale complexe. Colab offre une machine virtuelle gratuite (ou quasi-gratuite) avec accès réseau, ce qui en fait un terrain de test rapide pour des outils comme Open WebUI qui nécessitent normalement un environnement serveur. La capacité à exposer le service via un tunnel Cloudflare résout le problème classique d'accessibilité des services locaux dans Colab, rendant l'interface partageable en quelques minutes. Pour les équipes qui évaluent des alternatives à ChatGPT ou qui veulent tester Open WebUI avant un déploiement en production, cette approche réduit drastiquement la friction d'entrée. Open WebUI est une interface web open source conçue pour interagir avec des modèles de langage, qu'ils soient hébergés localement via Ollama ou accessibles via des API tierces comme celle d'OpenAI. Le projet a gagné en popularité depuis 2023 comme alternative auto-hébergeable aux interfaces propriétaires, avec des fonctionnalités comme la gestion de conversations, le support multi-modèles et la personnalisation des prompts système. Cloudflare Tunnel, l'outil utilisé ici pour l'exposition publique, est un service qui crée des connexions sécurisées sortantes sans nécessiter d'ouverture de ports ni de configuration réseau avancée. La combinaison de ces deux outils dans Colab reflète une tendance plus large : rendre les infrastructures IA accessibles à des non-ops, en abaissant les prérequis techniques pour expérimenter des stacks qui étaient jusqu'ici réservées aux équipes disposant de leurs propres serveurs.

OutilsTuto

1 source

3Latent Space

1 milliard de tokens par jour, 1M lignes de code, 0% de code humain : l'ingénierie extrême d'OpenAI

Ryan Lopopolo, ingénieur chez OpenAI au sein de l'équipe Frontier, a publié un essai remarqué sur ce qu'il appelle le "harness engineering", une approche radicale du développement logiciel entièrement délégué à des agents IA. Sur une période de cinq mois, son équipe a construit et livré un produit interne en bêta sans écrire une seule ligne de code manuellement : plus d'un million de lignes dans le dépôt, des milliers de pull requests générées par Codex, zéro code écrit par un humain, et surtout zéro relecture humaine avant les merges. Le projet a également abouti à Symphony, une bibliothèque de référence en Elixir conçue par Alex Kotliarskyi, qui orchestre un réseau massif d'agents Codex travaillant en parallèle avec des spécifications détaillées mais sans implémentation prédéfinie. Lopopolo affirme qu'il serait presque "négligent" de ne pas consommer plus d'un milliard de tokens par jour, ce qui représente environ 2 000 à 3 000 dollars de dépenses quotidiennes aux tarifs actuels. Ce qui rend cette expérience significative, c'est le changement de paradigme qu'elle illustre : le vrai goulot d'étranglement dans le développement logiciel piloté par l'IA n'est plus la puissance de calcul ni la qualité du modèle, mais l'attention humaine. Quand un agent échouait, l'équipe ne l'encourageait pas à "réessayer", elle se demandait quelle capacité, quel contexte ou quelle structure manquait au système. Résultat : les humains ont progressivement cessé de relire du code pour se concentrer sur la construction de l'infrastructure d'observabilité, des specs, des tests et des scores de qualité qui permettent aux agents de réviser, corriger et fusionner leur propre travail. La boucle de compilation a été optimisée pour rester sous la minute, condition indispensable pour maintenir les agents productifs. OpenAI positionne Codex comme bien plus qu'un simple assistant de code : la messagerie interne de l'entreprise, illustrée par leur campagne Super Bowl ("you can just build things"), signale une ambition claire de faire des agents de vrais coéquipiers autonomes plutôt que des copilotes. Lopopolo vient d'une trajectoire entre Snowflake, Brex, Stripe et Citadel, et travaille désormais sur le déploiement sûr d'agents à l'échelle entreprise. L'équipe Frontier représente un laboratoire vivant pour tester ce futur : un modèle d'organisation où le code est écrit pour le modèle autant que pour l'ingénieur, où les compétences, la documentation et les trackers Markdown deviennent des vecteurs pour encoder le "goût" technique directement dans le contexte de l'agent. Le harness engineering pourrait bien redéfinir ce que signifie être ingénieur logiciel dans les années à venir.

UELes équipes d'ingénierie européennes pourraient être amenées à repenser leurs pratiques de développement logiciel si l'approche 'harness engineering' se démocratise au-delà d'OpenAI.

OutilsOutil

1 source

4AWS ML Blog

Amazon Nova 2 Sonic : créer des podcasts conversationnels en temps réel

Amazon a lancé Nova Sonic 2, un modèle de compréhension et de génération vocale intégré à sa plateforme Bedrock, capable de produire des conversations audio naturelles en temps réel avec une latence très faible. Le modèle prend en charge sept langues dont le français, l'allemand, l'espagnol et l'hindi, et dispose d'une fenêtre de contexte pouvant atteindre un million de tokens. Nova Sonic 2 offre une API de streaming pour les conversations multi-tours, avec des capacités d'instruction complexe, d'appel d'outils externes et de bascule fluide entre voix et texte. Amazon illustre ses usages avec un générateur de podcasts automatisé : deux hôtes IA conversent en temps réel sur n'importe quel sujet, sans intervention humaine, depuis la recherche jusqu'à la diffusion audio finale. L'enjeu est direct pour les créateurs de contenu et les organisations médias. Produire un podcast traditionnel mobilise studio, matériel, talents vocaux, montage et coordination de planning, des contraintes qui limitent la cadence de publication et le volume de sujets couverts. Nova Sonic 2 supprime la plupart de ces frictions : pas de conflits d'agenda, pas d'irrégularités liées à la disponibilité humaine, et une personnalisation potentielle en temps réel selon le profil de l'auditeur. Pour les entreprises qui cherchent à déployer du contenu audio à grande échelle, formation interne, support client vocal, newsletters audio, le rapport coût-performance revendiqué par Amazon représente un changement structurel dans l'économie de la production audio. Le marché du podcast a connu une croissance explosive ces dernières années, porté par son avantage d'accessibilité unique : il se consomme en faisant autre chose, là où le contenu visuel exige l'attention totale. Plusieurs acteurs technologiques cherchent à capter cette dynamique avec de l'IA générative vocale. OpenAI avec ses voix dans ChatGPT, Google avec NotebookLM Audio Overviews, qui génère déjà des podcasts synthétiques à partir de documents, et ElevenLabs avec ses outils de clonage vocal se positionnent sur ce segment. Amazon entre dans la compétition avec l'avantage de l'intégration native à Bedrock, ses Guardrails de sécurité, ses Agents et ses bases de connaissances, ce qui facilite l'adoption en entreprise. La prochaine étape logique sera la personnalisation dynamique du contenu par auditeur, un terrain encore peu défriché mais que Nova Sonic 2, avec sa fenêtre de contexte d'un million de tokens, semble techniquement en mesure d'adresser.

UELe support natif du français et l'intégration à AWS Bedrock facilitent l'adoption par les médias et entreprises européennes souhaitant automatiser leur production audio.

OutilsOpinion

1 source