Aller au contenu principal

Actualités IA — page 264

9 335 articles au fil, du plus récent au plus ancien.

Claude Code : ce que fait la commande /goals
Illustration générée par IA
5261VentureBeat AI 

Claude Code : ce que fait la commande /goals

Anthropic a introduit une nouvelle fonctionnalité dans Claude Code appelée /goals, qui sépare formellement l'exécution d'une tâche de son évaluation. Concrètement, lorsqu'un développeur définit un objectif via cette commande, par exemple /goal all tests in test/auth pass, and the lint step is clean, un second modèle, Claude Haiku par défaut, intervient après chaque étape pour vérifier si la condition est réellement remplie. Si ce n'est pas le cas, l'agent continue à travailler. Ce n'est qu'une fois la condition satisfaite que le système enregistre l'objectif atteint dans la transcription de la conversation et efface l'instruction. Haiku est retenu pour ce rôle d'évaluateur car sa décision est binaire : terminé ou pas terminé. Le problème que /goals cherche à résoudre est concret et coûteux : un agent de migration de code peut terminer son exécution, afficher un pipeline vert, mais avoir laissé plusieurs composants non compilés, une erreur qui peut prendre plusieurs jours à détecter. Ce n'est pas une défaillance du modèle en tant que tel, c'est l'agent qui décide qu'il a fini avant que ce soit réellement le cas. Pour les entreprises qui déploient des pipelines IA en production, cette confusion entre ce qui a été accompli et ce qui reste à faire représente un risque opérationnel sérieux. Avec ce mécanisme natif, Anthropic affirme qu'il n'est plus nécessaire de s'appuyer sur une plateforme d'observabilité tierce ni sur des journaux personnalisés pour reconstruire après coup ce qui s'est passé. D'autres acteurs du secteur ont identifié le même obstacle. OpenAI permet aux utilisateurs d'ajouter leurs propres évaluateurs mais laisse au modèle la responsabilité de décider quand s'arrêter. LangGraph et le Google Agent Development Kit (ADK) rendent possible une évaluation indépendante, mais exigent que les développeurs définissent eux-mêmes le nœud critique, la logique de terminaison et la configuration de l'observabilité. Google ADK propose un LoopAgent aux capacités comparables, mais l'architecture reste entièrement à la charge du développeur. Anthropic, en intégrant l'évaluateur directement dans Claude Code avec des paramètres par défaut, mise sur la simplicité de déploiement comme avantage différenciant. Sean Brownell, directeur solutions chez Sprinklr, tempère toutefois l'enthousiasme : la boucle tâche/juge fonctionne, mais l'approche d'Anthropic n'est pas fondamentalement unique. Cette évolution s'inscrit dans une tendance plus large où les systèmes de vérification indépendants deviennent un composant standard des agents à longue durée d'exécution, aux côtés d'outils comme Devin ou SWE-agent.

OutilsOutil
1 source
Amazon Lex améliore la précision des bots grâce au NLU assisté
Illustration générée par IA
5262AWS ML Blog 

Amazon Lex améliore la précision des bots grâce au NLU assisté

Amazon a enrichi son service de création de chatbots Amazon Lex avec une fonctionnalité baptisée Assisted NLU (Natural Language Understanding), qui intègre des grands modèles de langage pour améliorer significativement la compréhension des requêtes utilisateurs. Concrètement, le système atteint en moyenne 92 % de précision dans la classification des intentions et 84 % dans la résolution des paramètres de conversation (les "slots"). Parmi les centaines de clients déjà déployés sur cette fonctionnalité, les retours terrain font état d'une amélioration de 11 à 15 % de la classification des intentions, d'une réduction de 23,5 % des réponses de type "je n'ai pas compris", et d'une meilleure gestion de 30 % des entrées ambiguës ou mal formulées. La fonctionnalité est disponible en deux modes : un mode primaire où le LLM traite chaque entrée utilisateur, et un mode de secours où il n'intervient que lorsque le système traditionnel est en faible confiance. Elle est incluse sans surcoût dans la tarification standard d'Amazon Lex. L'enjeu est de taille pour toutes les entreprises qui déploient des assistants conversationnels en production. Les systèmes classiques basés sur des règles imposaient aux développeurs de configurer manuellement des dizaines de variantes pour chaque formulation possible, sans jamais couvrir l'exhaustivité du langage naturel. Un bot de réservation hôtelière entraîné sur "réserver une chambre" échouait dès qu'un client disait "j'aimerais prendre une suite pour mon séjour à Seattle du 15 au 18 décembre", perdant au passage le type de chambre, la ville et les dates. Avec Assisted NLU, ces requêtes complexes ou ambiguës sont gérées sans configuration supplémentaire, ce qui réduit directement le taux d'abandon des conversations et allège la charge de maintenance pour les équipes techniques. Amazon Lex existe depuis 2017, initialement comme le moteur NLU d'Alexa adapté aux développeurs tiers. La montée en puissance des LLMs a créé une pression sur tous les fournisseurs de plateformes conversationnelles pour intégrer ces modèles dans leurs pipelines. L'approche hybride retenue ici, combiner le ML traditionnel avec un LLM en mode fallback ou primaire, reflète une tendance de fond dans l'industrie : ne pas remplacer les anciens systèmes d'un coup, mais les augmenter progressivement pour amortir la transition. Plusieurs clients pilotes auraient déjà annoncé un déploiement plus large après leurs tests initiaux. La prochaine étape pour les équipes produit sera probablement d'affiner la façon dont les descriptions d'intentions et de slots alimentent le LLM, car c'est là que se joue désormais l'essentiel de la qualité de compréhension.

OutilsOutil
1 source
L'IA de prise de notes de votre médecin peut inventer des informations, révèle un audit en Ontario
Illustration générée par IA
5263Ars Technica AI 

L'IA de prise de notes de votre médecin peut inventer des informations, révèle un audit en Ontario

Le bureau de la vérificatrice générale de l'Ontario a publié un rapport alarmant sur l'utilisation des assistants IA de prise de notes médicales dans le système de santé provincial. À l'issue d'une série de tests menés sur 20 fournisseurs de logiciels approuvés et préqualifiés par le gouvernement ontarien pour une utilisation par les professionnels de santé, les auditeurs ont constaté que la totalité de ces outils présentait des problèmes d'exactitude ou d'exhaustivité dans au moins l'un des deux scénarios simulés. Parmi ces 20 solutions, neuf ont inventé des informations sur les patients, douze ont transcrit incorrectement des données médicales, et dix-sept ont omis des éléments essentiels relatifs à des troubles de santé mentale évoqués lors des consultations fictives. Parmi les erreurs documentées figurent des références à des analyses sanguines ou des thérapies qui n'ont jamais été prescrites, des noms de médicaments mal transcrits, et des détails critiques sur l'état psychologique des patients simplement ignorés. Ces résultats ont des implications directes sur la sécurité des patients. Un outil de prise de notes qui hallucine une ordonnance ou omet un antécédent psychiatrique peut induire le médecin suivant en erreur, conduire à des prescriptions inappropriées ou à l'absence de prise en charge adaptée. La vérificatrice générale souligne explicitement que ces défaillances pourraient "potentiellement entraîner des plans de traitement inadéquats ou dangereux, avec un impact réel sur la santé des patients." Le fait que ces outils soient officiellement approuvés par le gouvernement provincial accentue la gravité du constat : les établissements de santé qui les ont acquis l'ont fait en faisant confiance à une validation publique. L'essor des assistants IA de transcription médicale répond à une réalité bien documentée : les médecins consacrent une part croissante de leur temps à la documentation administrative au détriment du soin. Ces outils promettent d'automatiser la rédaction des comptes rendus à partir des échanges oraux en consultation. Mais leur intégration rapide dans des contextes à enjeux élevés s'est faite sans évaluation rigoureuse préalable. Ce rapport ontarien s'inscrit dans un débat plus large sur la fiabilité des modèles de langage dans les environnements médicaux, et interpelle directement les régulateurs sur la nécessité de standards de certification plus stricts avant toute recommandation officielle.

SécuritéActu
1 source
Agents vocaux en temps réel avec Stream Vision Agents et Amazon Nova 2 Sonic
Illustration générée par IA
5264AWS ML Blog 

Agents vocaux en temps réel avec Stream Vision Agents et Amazon Nova 2 Sonic

Amazon et Stream ont annoncé une intégration combinant le framework open-source Vision Agents de Stream avec Amazon Nova 2 Sonic, un modèle de fondation voix-à-voix disponible via Amazon Bedrock. Cette solution permet de construire des agents vocaux en temps réel capables d'être déployés en production en quelques minutes. Nova 2 Sonic prend en charge l'intégralité du pipeline vocal, entrée audio, détection de tour de parole, appel de fonctions et sortie audio, sans recourir à des services séparés de reconnaissance ou de synthèse vocale. Vision Agents, côté Stream, est un framework Python open-source proposant plus de 25 intégrations, des SDK clients pour React, iOS, Android, Flutter et React Native, et une architecture modulaire basée sur des décorateurs. Le réseau edge mondial de Stream complète le dispositif, avec des temps de connexion inférieurs à 500 ms et une latence audio typique de moins de 30 ms. L'enjeu est considérable pour les équipes qui développent des applications vocales : une conversation naturelle exige que la totalité du pipeline, capture du micro, traitement, génération de réponse, restitution audio, s'exécute en quelques centaines de millisecondes. Jusqu'ici, les développeurs devaient consacrer l'essentiel de leur temps non pas à l'IA elle-même, mais à la gestion des connexions WebRTC, aux logiques de reconnexion automatique, à la compatibilité navigateur et à la dégradation gracieuse en cas d'indisponibilité d'un service. Cette charge infrastructure forçait les équipes soit à investir plusieurs mois dans des solutions maison, soit à se contenter de produits clés en main trop rigides. L'intégration Vision Agents + Nova 2 Sonic absorbe cette complexité et libère les développeurs pour se concentrer sur les cas d'usage : support client, automatisation de workflows, actions pilotées par API. La course à l'agent vocal de qualité production s'est intensifiée ces derniers mois, avec OpenAI, Google et Mistral qui proposent chacun des modèles natifs voix-à-voix. Amazon positionne Nova 2 Sonic comme une réponse enterprise via Bedrock, en s'appuyant sur l'écosystème AWS et le réseau de partenaires comme Stream pour accélérer l'adoption. Le support multilingue natif et les capacités de function calling de Nova 2 Sonic ouvrent la voie à des agents vocaux connectés à des systèmes tiers, CRM, bases de données, outils métier, sans couche d'intégration supplémentaire. La prochaine étape pour cet écosystème sera probablement l'extension vers des agents multimodaux combinant voix et vision, une direction que Vision Agents anticipe déjà avec son nom et son architecture.

OutilsOutil
1 source
Des données cloisonnées aux analyses unifiées : accès Athena multi-comptes dans Amazon QuickSight
Illustration générée par IA
5265AWS ML Blog 

Des données cloisonnées aux analyses unifiées : accès Athena multi-comptes dans Amazon QuickSight

Amazon vient d'annoncer une nouvelle fonctionnalité pour Amazon QuickSight, sa plateforme de business intelligence alimentée par l'IA : l'accès Athena inter-comptes (cross-account). Concrètement, les entreprises qui centralisent leur déploiement de QuickSight dans un seul compte AWS peuvent désormais interroger des données stockées dans d'autres comptes AWS via Amazon Athena, le service de requêtes SQL serverless d'Amazon qui analyse directement les données hébergées dans Amazon S3. Jusqu'à présent, ce scénario poussait les équipes à maintenir plusieurs abonnements QuickSight distincts, ou à faire absorber tous les coûts de requêtes par le compte central. Avec cette mise à jour, les frais de traitement sont facturés au compte où réside la donnée, et non au compte central. L'impact est direct pour les grandes organisations financières, industrielles ou multidivisionnelles qui fonctionnent avec une architecture AWS multi-comptes. Une banque, par exemple, peut avoir ses données de banque de détail dans un compte A, ses activités d'investissement dans un compte B et sa gestion des risques dans un compte C, tout en pilotant QuickSight depuis un compte central unique. Cette nouvelle fonctionnalité supprime le besoin de dupliquer les abonnements ou de centraliser les coûts de façon artificielle. Elle simplifie aussi la gouvernance : chaque unité métier conserve la maîtrise de ses données et de sa facturation cloud, pendant que les équipes analytiques accèdent à l'ensemble depuis un tableau de bord unifié. Le mécanisme technique repose sur un enchaînement de rôles IAM en deux étapes, appelé role chaining. QuickSight commence par endosser un rôle dit RunAsRole (Rôle A) dans le compte central, qui ne détient aucun accès aux données mais dispose uniquement de la permission de basculer vers un second rôle. Ce second rôle (Rôle B), situé dans le compte consommateur, détient lui les droits d'accès à Athena, au catalogue AWS Glue et aux fichiers S3. Pour éviter les attaques de type "confused deputy", un identifiant externe (ExternalId) lié à l'ARN de la source de données est intégré dans les politiques de confiance. Cette approche s'inscrit dans une tendance plus large d'AWS à décloisonner les silos de données tout en maintenant des contrôles d'accès granulaires, à mesure que les entreprises basculent vers des architectures data mesh distribuées où la donnée reste souveraine au niveau de chaque domaine métier.

OutilsOutil
1 source
Contrôlez la navigation de vos agents IA avec les politiques Chrome Enterprise sur Amazon Bedrock AgentCore
Illustration générée par IA
5266AWS ML Blog 

Contrôlez la navigation de vos agents IA avec les politiques Chrome Enterprise sur Amazon Bedrock AgentCore

Amazon a annoncé le support des politiques d'entreprise Chrome et des certificats CA racine personnalisés dans Amazon Bedrock AgentCore Browser. Cette mise à jour permet aux organisations de configurer plus de 450 paramètres de navigateur via des fichiers JSON conformes au standard Chrome Enterprise, stockés dans Amazon S3 et appliqués à chaque session d'agent. Concrètement, les équipes peuvent désormais définir des listes blanches et noires d'URL, bloquer les téléchargements de fichiers, désactiver le gestionnaire de mots de passe ou contrôler le remplissage automatique de formulaires, le tout appliqué au niveau du navigateur, indépendamment de la logique ou des instructions de l'agent. Le support des certificats CA racine, stockés dans AWS Secrets Manager, permet en outre aux agents de se connecter aux services internes qui utilisent une autorité de certification privée, résolvant ainsi les erreurs de validation HTTPS qui bloquaient jusqu'ici l'accès aux infrastructures d'entreprise. L'enjeu est significatif pour les organisations qui déploient des agents IA autonomes sur le web. Un agent sans restriction de navigation peut accéder à des domaines non autorisés, stocker des identifiants dans le navigateur, télécharger des fichiers hors des flux de travail approuvés, voire exfiltrer des données sensibles. Le nouveau système introduit une séparation claire des responsabilités : les équipes de sécurité configurent les politiques au niveau du navigateur via l'API de plan de contrôle, tandis que les développeurs se concentrent sur la logique métier de l'agent, sans avoir à intégrer des décisions de conformité dans le code applicatif. Les politiques dites "managed", stockées côté service et non surchargeables, s'appliquent à toutes les sessions créées à partir d'un navigateur donné, alors que les politiques "recommended", définies au démarrage de session, jouent le rôle de préférences utilisateur et sont écrasées en cas de conflit. Cette évolution s'inscrit dans une tendance plus large : les agents IA accèdent de plus en plus à des interfaces web réelles pour exécuter des tâches, de la saisie de données à la recherche documentaire en passant par la gestion de portails métier. Cette capacité, aussi puissante soit-elle, ouvre des vecteurs d'attaque inédits, manipulation via des pages web malveillantes (prompt injection), exfiltration involontaire, navigation hors périmètre. En s'appuyant sur l'écosystème Chrome Enterprise, déjà utilisé par des millions d'entreprises pour gérer les navigateurs humains, Amazon évite de réinventer une couche de politique maison et offre aux DSI un cadre familier. L'intégration native avec S3 et Secrets Manager renforce l'alignement avec les architectures AWS existantes, ce qui devrait faciliter l'adoption dans les environnements régulés, finance, santé, administration, où le contrôle granulaire de l'accès aux données est non négociable.

OutilsOpinion
1 source
Ai2 publie un modèle de robotique ouvert conçu pour l'automatisation réelle par IA
Illustration générée par IA
5267Robotics & Automation News 

Ai2 publie un modèle de robotique ouvert conçu pour l'automatisation réelle par IA

L'Allen Institute for AI (Ai2), centre de recherche indépendant basé à Seattle et fondé par Paul Allen en 2014, a publié cette semaine MolmoAct 2, un modèle de fondation robotique open source conçu pour améliorer l'exécution de tâches physiques en environnement réel. Contrairement aux approches précédentes centrées sur des scénarios de laboratoire hautement contrôlés, MolmoAct 2 cible la généralisation à des environnements non structurés, en s'appuyant sur l'architecture multimodale de Molmo, le modèle vision-langage qu'Ai2 avait rendu public en 2024. Le modèle est diffusé sous licence ouverte, avec poids et code disponibles publiquement. L'enjeu pour l'industrie est direct : les modèles de fondation robotiques à diffusion ouverte réduisent la barrière d'entrée pour les intégrateurs et les équipes R&D qui ne disposent pas des ressources pour entraîner des politiques de zéro. MolmoAct 2 s'inscrit dans la lignée des travaux sur les VLA (Vision-Language-Action models), une architecture qui couple perception visuelle, compréhension du langage naturel et génération de commandes motrices. L'ouverture du modèle permet des audits indépendants et une adaptation à des morphologies robotiques variées, ce qui est difficile avec des modèles propriétaires comme GR00T N2 de NVIDIA ou π0 de Physical Intelligence. Ai2 est surtout connu pour ses contributions au NLP (AllenNLP, Semantic Scholar) avant de pivoter vers la robotique incarnée. MolmoAct 2 le place directement en concurrence avec les initiatives open source existantes comme OpenVLA (Berkeley) et les modèles RT-X de Google DeepMind, dans un secteur où Physical Intelligence, Figure AI et 1X Technologies se disputent le leadership sur les déploiements industriels. L'article source étant partiellement tronqué, les métriques de performance (taux de succès, benchmarks sur manipulation) et les éventuels partenariats de déploiement n'ont pas pu être vérifiés.

RobotiqueOpinion
1 source
Plus de 100 agents IA mis en compétition par Microsoft pour détecter des failles dans Windows
Illustration générée par IA
5268The Decoder 

Plus de 100 agents IA mis en compétition par Microsoft pour détecter des failles dans Windows

Microsoft a développé un système baptisé MDASH qui mobilise plus d'une centaine d'agents IA spécialisés, mis en compétition les uns contre les autres pour détecter des failles de sécurité dans ses logiciels. Lors du dernier Patch Tuesday, ce dispositif a permis d'identifier 16 vulnérabilités dans Windows en une seule session, dont quatre classées critiques. Microsoft ne divulgue pas quels modèles d'IA alimentent le système, mais l'ampleur du déploiement témoigne d'une infrastructure de recherche offensive d'envergure inédite. Cette approche marque un changement de paradigme dans la manière dont les grandes entreprises tech traquent leurs propres failles. Plutôt que de s'appuyer uniquement sur des équipes humaines ou des outils d'analyse statique, Microsoft automatise désormais une partie du "red teaming", la simulation d'attaques internes pour trouver des faiblesses avant les pirates. Quatre vulnérabilités critiques découvertes en un seul cycle de patch représentent un gain de sécurité concret pour les centaines de millions d'utilisateurs Windows dans le monde. La course aux agents IA autonomes capables de raisonner sur du code complexe s'intensifie dans tout le secteur. Google, OpenAI et des startups spécialisées comme Endor Labs investissent massivement dans des outils similaires. Pour Microsoft, qui gère l'un des écosystèmes logiciels les plus ciblés au monde, industrialiser la détection de vulnérabilités via l'IA devient une nécessité stratégique face à des attaquants qui utilisent eux-mêmes ces technologies. MDASH pourrait préfigurer un futur où la sécurité logicielle repose sur des armées d'agents se testant mutuellement en continu.

SécuritéOpinion
1 source
Dix entreprises chinoises dont ByteDance auraient obtenu un accord américain pour des puces IA qui leur sont interdites
Illustration générée par IA
5269The Decoder 

Dix entreprises chinoises dont ByteDance auraient obtenu un accord américain pour des puces IA qui leur sont interdites

Une dizaine d'entreprises chinoises, dont Alibaba, Tencent et ByteDance, ont reçu l'autorisation du gouvernement américain d'acquérir jusqu'à 75 000 puces Nvidia H200 chacune. Ces autorisations, révélées par le secrétaire au Commerce Howard Lutnick, représentent un assouplissement notable des restrictions américaines sur les exportations de semi-conducteurs avancés vers la Chine. Pourtant, pas une seule puce n'a encore été livrée. La raison de ce blocage ne vient pas de Washington, mais de Pékin. Selon Lutnick, c'est le gouvernement chinois lui-même qui empêche ces achats, dans le but de protéger son industrie nationale de semi-conducteurs. Cette situation crée un paradoxe inédit : des entreprises chinoises de premier plan se voient refuser par leur propre gouvernement l'accès à des composants que les États-Unis ont accepté de leur vendre. Pour ces géants technologiques, l'impossibilité d'acquérir du matériel de pointe freine directement le développement de leurs modèles d'IA. Cet épisode s'inscrit dans une guerre technologique plus large entre les deux premières puissances mondiales. Depuis 2022, Washington a progressivement renforcé ses contrôles à l'exportation de puces avancées vers la Chine, poussant Pékin à accélérer ses investissements dans des acteurs comme Huawei et SMIC pour atteindre l'autonomie technologique. En bloquant ces achats, la Chine envoie un signal fort : elle préfère consolider sa filière domestique plutôt que de rester dépendante de fournisseurs américains, même lorsque la porte est temporairement ouverte.

InfrastructureOpinion
1 source
L'AGI est au coeur du procès Musk contre OpenAI
Illustration générée par IA
5270The Information AI 

L'AGI est au coeur du procès Musk contre OpenAI

Les avocats d'Elon Musk et d'OpenAI ont présenté leurs plaidoiries finales dans le cadre d'un procès où Musk accuse l'entreprise d'avoir trahi la mission caritative pour laquelle elle avait été fondée. L'affaire, instruite devant la juge fédérale Yvonne Gonzalez Rogers à San Francisco, tourne autour d'une question centrale : OpenAI a-t-elle trahi une promesse juridiquement contraignante en abandonnant son statut d'organisation à but non lucratif au profit d'une structure commerciale ? Au coeur de ces débats se trouve un concept aux contours flous : l'intelligence artificielle générale, l'AGI, définie comme une IA capable d'égaler les capacités cognitives humaines, qui figure explicitement dans la mission fondatrice d'OpenAI. L'AGI n'est pas un simple détail rhétorique dans ce procès : elle est inscrite dans les statuts originels de l'organisation, qui s'engage à "garantir que l'AGI bénéficie à l'humanité". C'est précisément sur cet engagement que Musk fonde ses accusations, estimant qu'OpenAI a dévié de sa vocation première au profit d'intérêts commerciaux, notamment sous l'influence de Microsoft. La juge Gonzalez Rogers a toutefois choisi de circonscrire les débats, interdisant aux deux parties d'entrer dans le détail des risques liés à l'AGI, et rappelant au jury que "la question ici est de savoir s'il y a eu violation d'une fiducie caritative", non un procès technique sur la sécurité de l'IA. Ce procès s'inscrit dans une rupture retentissante entre deux figures fondatrices de l'IA moderne. Elon Musk a cofondé OpenAI en 2015 aux côtés de Sam Altman, avant de quitter le conseil d'administration en 2018 et de lancer sa propre entreprise concurrente, xAI, en 2023. Sa plainte déposée l'an dernier accuse OpenAI d'avoir trahi les principes qui justifiaient son soutien financier initial. L'issue du procès pourrait avoir des implications majeures pour la gouvernance des organisations d'IA à but non lucratif, et plus largement pour la façon dont l'industrie devra rendre des comptes sur ses engagements publics en matière d'intérêt général.

RégulationReglementation
1 source
Promptimus : améliorer automatiquement des prompts LLM déjà performants
Illustration générée par IA
5271Amazon Science 

Promptimus : améliorer automatiquement des prompts LLM déjà performants

Amazon Web Services a dévoilé Promptimus, une méthode d'optimisation automatique des prompts pour grands modèles de langage (LLM), destinée aux entreprises qui cherchent à améliorer des prompts déjà bien rodés sans repartir de zéro. La particularité du système repose sur une boucle d'itération en quatre étapes : il prend en entrée un prompt existant, un petit jeu de données JSONL de 20 à 50 exemples, et des métriques de performance définies par l'utilisateur. Trois agents IA spécialisés collaborent en coulisses, un analyseur de métriques, un agent de débogage et un agent de nettoyage de code, pour identifier précisément les points de défaillance, en diagnostiquer les causes profondes, et affiner chirurgicalement le prompt en conséquence. Le système inclut également un mode édition qui permet de modifier uniquement les parties défaillantes d'un prompt complexe, sans toucher à la logique métier qui fonctionne déjà. L'enjeu est considérable pour les entreprises. Dans les déploiements industriels, les prompts ne sont pas de simples instructions génériques : ils encodent des exigences légales précises, comme la conformité HIPAA pour les systèmes de santé, ou des règles de tolérance au risque pour les plateformes de trading financier. Ces prompts sont construits par des experts métier sur des semaines, voire des mois. Or, chaque fois qu'un fournisseur comme Anthropic, OpenAI, Google, Meta ou Alibaba sort un nouveau modèle, ces prompts soigneusement calibrés perdent en efficacité, les différences de comportement entre modèles suffisent à dégrader les performances. Promptimus est conçu pour être agnostique au modèle : il peut réoptimiser un prompt conçu pour un modèle source et l'adapter rapidement à un modèle cible, en comparant les résultats entre les deux. La difficulté sous-jacente que Promptimus cherche à résoudre est bien connue des équipes d'ingénierie prompt : les méthodes d'optimisation automatique existantes fonctionnent bien pour créer des prompts depuis zéro, mais peinent à améliorer ceux qui sont déjà excellents. Les suggestions génériques comme « sois plus créatif » ou « ajoute des exemples » n'ont aucun effet sur un prompt déjà optimisé, dont les marges d'amélioration restent très spécifiques et difficiles à cibler. Les scores scalaires comme retour d'information ne donnent aucune indication sur le pourquoi des échecs. Face à la cadence d'évolution des modèles fondamentaux, la reoptimisation manuelle est coûteuse et retarde l'adoption de modèles plus performants. Promptimus vise à industrialiser ce processus de migration, en automatisant entièrement l'analyse des métriques et la génération des points de contrôle de débogage via du code Python importable.

OutilsOutil
1 source
Conseil sur le feedback des agents
Illustration générée par IA
5272Ben's Bites 

Conseil sur le feedback des agents

Un développeur partage une technique récente pour fluidifier ses échanges avec des agents IA : plutôt que de taper ses retours ou d'utiliser la dictée vocale, il enregistre son écran en commentant à voix haute ce qu'il fait, puis fournit cette vidéo directement à l'agent. Ce dernier analyse les images, transcrit la voix, extrait les moments clés horodatés et génère un rapport HTML structuré, avec des GIFs illustrant les points importants et une liste d'actions à accomplir. La méthode permet aussi de naviguer vers d'autres applications pour montrer des exemples de référence, que l'agent intègre dans son analyse. Ben a formalisé cette approche en une "skill" réutilisable baptisée video-to-html, qui instruit l'agent pour convertir n'importe quelle vidéo en document HTML structuré avec keyframes, horodatages et animations courtes. Les fichiers générés servent également de journal de bord du projet, consultables à tout moment. Cette technique s'attaque à un problème concret dans les workflows avec des agents : la difficulté à communiquer un retour visuel précis et contextualisé. Là où les feedbacks textuels restent abstraits et les captures d'écran statiques, la vidéo permet de montrer l'interface en situation réelle, de naviguer entre applications, et de commenter en temps réel ce qui fonctionne ou non. L'approche consomme davantage de tokens, mais l'auteur note que les agents analysent efficacement les frames extraites, rendant une compression préalable via ffmpeg superflue pour la plupart des usages. Pour les équipes travaillant régulièrement avec des agents de développement ou de design, ce type de boucle de feedback visuel structuré pourrait accélérer les itérations de manière significative, en réduisant les allers-retours d'éclaircissement. Cette semaine apporte également plusieurs annonces importantes pour l'écosystème IA. Anthropic a annoncé un changement de politique à compter du 15 juin : les utilisateurs de Claude via des outils tiers comme Cursor, Zed ou T3 Code disposeront d'un quota distinct, équivalent en valeur à leur abonnement mensuel, sans report possible ni tokens subventionnés au-delà. En compensation, les limites hebdomadaires augmentent de 50 % pendant les deux prochains mois. Vercel, de son côté, a publié un index de production basé sur l'usage réel de son AI Gateway : Anthropic capte 61 % des dépenses (porté par Opus), Google représente 38 % des volumes de tokens (grâce à Flash), et les workloads agentiques constituent désormais 59 % de la totalité des tokens consommés. Notion a lancé une plateforme développeur avec une API markdown permettant la synchronisation de données externes et l'intégration d'agents comme Claude directement dans l'outil, accompagnée d'un CLI nommé ntn. Google a présenté "Gemini Intelligence" pour Android, incluant l'autocomplétion de formulaires et la transformation de notes vocales en texte structuré, à quelques jours de sa conférence I/O.

OutilsOutil
1 source
Qwen-Image-2.0 d'Alibaba divise par deux la compression et réduit les étapes de génération de 40 à 4
Illustration générée par IA
5273The Decoder 

Qwen-Image-2.0 d'Alibaba divise par deux la compression et réduit les étapes de génération de 40 à 4

Alibaba a publié un rapport technique détaillant les innovations architecturales de Qwen-Image-2.0, son nouveau modèle de génération d'images. Le modèle compresse les images deux fois plus agressivement que la majorité de ses concurrents, s'appuie sur un transformeur remanié pour stabiliser l'entraînement, et intègre un module dédié qui étend automatiquement les prompts courts des utilisateurs en descriptions détaillées. Une version distillée du modèle ramène le nombre d'étapes de débruitage de 40 à seulement 4, sans sacrifier la qualité de sortie. Sur LMArena, plateforme de comparaisons en aveugle où des utilisateurs réels évaluent les modèles côte à côte, Qwen-Image-2.0 se classe actuellement 9e. Ce gain de vitesse est significatif pour les applications industrielles : passer de 40 à 4 étapes de débruitage réduit drastiquement le coût de calcul et le temps de réponse, rendant le modèle viable pour des usages en temps réel ou à grande échelle. L'expansion automatique des prompts abaisse aussi la barrière d'entrée pour les utilisateurs non experts, qui obtiennent de meilleurs résultats sans avoir à maîtriser l'art du prompt engineering. Alibaba s'inscrit dans une course intense à la génération d'images où Midjourney, Stability AI, Adobe Firefly et les modèles de Google et Meta rivalisent pour la suprématie technique. La stratégie de Qwen combine efficacité computationnelle et facilité d'usage, deux axes devenus centraux pour séduire les développeurs et les entreprises. La publication du rapport technique suggère qu'Alibaba cherche à attirer l'adoption internationale, notamment hors de Chine, en jouant la carte de la transparence.

CréationOpinion
1 source
Présentation : accélérer la productivité des développeurs grâce aux LLM chez Zoox
Illustration générée par IA
5274InfoQ AI 

Présentation : accélérer la productivité des développeurs grâce aux LLM chez Zoox

Zoox, filiale autonome d'Amazon spécialisée dans les véhicules sans conducteur, a présenté les détails de "Cortex", sa plateforme interne d'intelligence artificielle dédiée à la productivité des développeurs. Amit Navindgi, ingénieur au sein de l'entreprise, a expliqué comment Zoox a construit cet écosystème sécurisé combinant RAG (génération augmentée par récupération), des LLMs multimodaux et des APIs ouvertes aux contributions internes. L'objectif affiché : remplacer une documentation fragmentée et des flux de travail cloisonnés par un système unifié piloté par des agents IA. L'enjeu dépasse la simple automatisation. Il s'agit de faire basculer toute la culture d'ingénierie vers des workflows autonomes, capables de raisonner et d'agir sans intervention humaine à chaque étape. Pour y parvenir, l'équipe a misé sur deux leviers concrets : la désignation d'"AI champions" au sein des équipes pour accélérer l'adoption en interne, et l'organisation de hackathons permettant aux développeurs d'expérimenter directement avec la plateforme. Cette approche bottom-up vise à ancrer l'IA dans les pratiques quotidiennes plutôt que de l'imposer par directive. La démarche de Zoox s'inscrit dans une tendance qui touche l'ensemble de l'industrie tech : la transition des LLMs utilisés comme simples assistants vers des agents capables d'orchestrer des tâches complexes de bout en bout. Dans un secteur aussi exigeant que la conduite autonome, où la fiabilité est critique, sécuriser les accès aux modèles tout en maintenant la confiance des équipes représente un défi structurel. Le modèle Cortex, avec ses APIs ouvertes aux contributions internes, pourrait servir de référence à d'autres entreprises cherchant à industrialiser l'IA sans sacrifier la sécurité ni l'autonomie des développeurs.

OutilsOutil
1 source
Les grands gagnants de l'introduction en bourse de Cerebras : Foundation, Benchmark et OpenAI
Illustration générée par IA
5275The Information AI 

Les grands gagnants de l'introduction en bourse de Cerebras : Foundation, Benchmark et OpenAI

Cerebras Systems a fixé mercredi soir le prix de son introduction en bourse à 185 dollars par action, valorisant l'entreprise à 56 milliards de dollars en tenant compte de l'ensemble des options, attributions et bons de souscription en circulation. Cette cotation récompense des investisseurs comme les fonds Foundation et Benchmark, ainsi qu'OpenAI, qui ont maintenu leurs positions malgré une décennie marquée par les turbulences. La société a déposé une nouvelle demande d'introduction en bourse en avril 2026, après avoir retiré son prospectus initial l'année précédente. L'introduction en bourse de Cerebras représente un test majeur pour le marché des semi-conducteurs spécialisés dans l'intelligence artificielle. L'entreprise développe des puces conçues comme alternative aux GPU de Nvidia, qui dominent aujourd'hui l'entraînement et l'inférence des grands modèles de langage. Une valorisation de 56 milliards de dollars signalerait que les investisseurs croient à l'existence d'un marché viable pour des architectures concurrentes, ce qui aurait des répercussions sur l'ensemble de l'écosystème matériel de l'IA. Le parcours de Cerebras illustre les difficultés colossales du secteur des semi-conducteurs : la société n'a livré ses premières puces que cinq ans après sa fondation. Son premier dossier d'IPO en 2024 avait été bloqué par le gouvernement américain, inquiet de ses liens avec G42, conglomérat technologique des Émirats arabes unis et client stratégique. La résolution de ce différend réglementaire a ouvert la voie à cette deuxième tentative, dans un contexte où la demande mondiale en puces pour l'IA atteint des niveaux historiques.

BusinessActu
1 source
La souveraineté en matière d'IA et de données à l'ère des systèmes autonomes
Illustration générée par IA
5276MIT Technology Review 

La souveraineté en matière d'IA et de données à l'ère des systèmes autonomes

Face aux risques croissants liés à la dépendance aux grandes plateformes d'intelligence artificielle, un mouvement de fond s'organise au sein des entreprises mondiales. Selon une enquête menée par EDB auprès de plus de 2 050 cadres dirigeants, 70 % d'entre eux estiment désormais avoir besoin d'une plateforme souveraine de données et d'IA pour rester compétitifs. Kevin Dallas, PDG d'EDB, résume le problème central : lorsqu'une entreprise déploie une application propulsée par un grand modèle de langage hébergé dans le cloud, elle risque de perdre sa propriété intellectuelle et son avantage concurrentiel, car ses données transitent par des systèmes qu'elle ne contrôle pas, soumis à des politiques qui peuvent changer à tout moment. En janvier 2026, Jensen Huang, PDG de Nvidia, a enfoncé le clou lors du Forum économique mondial de Davos, en appelant chaque pays à bâtir sa propre infrastructure d'IA, à exploiter sa langue et sa culture comme ressources naturelles, et à intégrer une intelligence nationale dans son écosystème technologique. L'enjeu dépasse la simple prudence juridique. Pour de nombreuses organisations, les données constituent désormais le principal actif immatériel, l'équivalent d'un brevet ou d'un secret de fabrication. Confier ces données à des modèles tiers, c'est potentiellement alimenter les systèmes de concurrents ou s'exposer à des fuites lors de mises à jour de conditions d'utilisation. La souveraineté en matière d'IA, c'est-à-dire la capacité à héberger, entraîner et gouverner ses propres modèles ainsi que ses données, devient ainsi un impératif stratégique autant qu'une nécessité réglementaire, en particulier dans des secteurs comme la finance, la santé ou la défense, où la confidentialité des informations est non négociable. Ce virage s'inscrit dans une trajectoire plus longue. Depuis les premières expérimentations avec l'IA générative en entreprise, le pari implicite était d'accepter une perte partielle de contrôle en échange de gains de productivité rapides. Mais l'arrivée des systèmes agentiques, capables d'agir de façon autonome sur des processus métier critiques, a rendu ce compromis intenable pour beaucoup. Les entreprises réévaluent aujourd'hui les fondements de leur infrastructure IA, cherchant à rapatrier modèles et données dans des environnements qu'elles maîtrisent réellement. Ce rapport d'EDB, réalisé en partenariat avec MIT Technology Review Insights, dessine les contours d'un marché en pleine recomposition, où la souveraineté numérique cesse d'être un idéal politique pour devenir un critère concret de choix technologique.

RégulationReglementation
1 source
Les services financiers face aux exigences de données pour l'IA à base d'agents
Illustration générée par IA
5277MIT Technology Review 

Les services financiers face aux exigences de données pour l'IA à base d'agents

Plus de la moitié des équipes de services financiers ont déjà déployé ou prévoient de déployer une IA agentique, selon Gartner. Ces systèmes, capables de planifier et d'exécuter des tâches de manière autonome plutôt que de simplement générer des réponses, suscitent un intérêt croissant dans le secteur bancaire et assurantiel. Mais selon Steve Mayzak, directeur général mondial du Search AI chez Elastic, leur succès dépend moins de la sophistication des algorithmes que de la qualité des données sous-jacentes. "Tout commence par les données", résume-t-il. Une étude Forrester révèle pourtant que 57 % des organisations financières sont encore en train de développer les capacités internes nécessaires pour exploiter pleinement ces technologies agentiques. L'enjeu est considérable : une IA agentique amplifie autant les forces que les failles de son infrastructure data. Dans un secteur aussi réglementé, les exigences vont bien au-delà de la simple performance. Les entreprises doivent pouvoir tracer et justifier chaque décision prise par le modèle, données d'entrée comprises. "Il ne suffit pas d'expliquer d'où viennent les données et ce qu'elles sont devenues. Il faut une manière auditable et gouvernable d'expliquer quelle information le modèle a retenue et pourquoi elle était pertinente pour l'étape suivante", insiste Mayzak. Les hallucinations, les réponses incohérentes et les décisions difficiles à retracer minent la confiance des régulateurs, des clients et des équipes internes. Pour les transactions, les signaux de risque, les politiques internes ou l'historique client, la donnée doit être indexée, centralisée et accessible, pas enfouie dans des silos séparés. Le défi est structurel autant que technique. Les données financières existent sous des formats hétérogènes, accumulés sur des décennies d'histoire bancaire, mélangeant données structurées (tableurs, bases transactionnelles) et non structurées (notes de conseillers, échanges clients, documents contractuels). Or le langage naturel est, par nature, bien plus ambigu que les données tabulaires, ce qui rend leur nettoyage et leur organisation particulièrement complexes. Mayzak illustre la difficulté : "Il existe de nombreuses façons de décrire comment exécuter un ordre de bourse dans une banque. Dans un monde piloté par des agents IA, ces descriptions doivent être déterministes, donner le même résultat à chaque fois. Pourtant, on construit sur des modèles puissants mais non déterministes. C'est incroyablement délicat, mais pas impossible." Les prochaines années verront les acteurs financiers investir massivement dans la gouvernance des données, condition sine qua non pour transformer l'IA agentique d'outil prometteur en avantage compétitif réel.

InfrastructureOpinion
1 source
Les entreprises peuvent entraîner des modèles d'IA personnalisés depuis leurs workflows de production, sans équipe ML
Illustration générée par IA
5278VentureBeat AI 

Les entreprises peuvent entraîner des modèles d'IA personnalisés depuis leurs workflows de production, sans équipe ML

Empromptu AI, une startup basée à San Francisco, a lancé jeudi une plateforme baptisée Alchemy Models, conçue pour transformer automatiquement les workflows de production d'entreprise en données d'entraînement pour des modèles d'IA personnalisés. Le principe est simple : chaque requête traitée par une application IA, chaque correction apportée par un expert métier à ses résultats, constitue un signal d'apprentissage. Jusqu'ici, ces données disparaissaient dans le vide. Alchemy les capte en continu via une infrastructure appelée Golden Data Pipelines, soumet les sorties de l'application à des experts internes pour validation, puis utilise ces données vérifiées pour lancer des cycles de fine-tuning successifs. Les modèles résultants, que la société appelle Expert Nano Models, sont de petits modèles spécialisés sur une tâche précise plutôt que sur le raisonnement général. L'entreprise est dirigée par Shanea Leven, qui a présenté la plateforme en exclusivité à VentureBeat. Les clients conservent la propriété intégrale des poids du modèle, qui sont portables et exportables moyennant frais. La plateforme est compatible avec Llama, Qwen et d'autres modèles de base. L'enjeu commercial est direct pour les entreprises qui s'appuient aujourd'hui sur des API de modèles fondamentaux : les coûts d'inférence augmentent avec l'usage, les données qui entraînent ces modèles profitent aux fournisseurs et non aux clients, et la personnalisation pour des tâches métier spécifiques reste limitée. Alchemy propose une sortie de cette dépendance en faisant de l'application elle-même la source de données d'entraînement, sans équipe ML ni étape séparée de collecte et d'étiquetage. Comme le résume Leven : "L'application IA que les clients construisent déjà nettoie les données." La gouvernance, les garde-fous et les contrôles de conformité sont intégrés au même pipeline, ce qui signifie que la traçabilité suit le processus d'entraînement. La contrainte principale reste le volume : les premiers déploiements tournent sur le modèle de base le temps que l'application accumule suffisamment de données de production pour déclencher un cycle de fine-tuning utile. Sur le marché du fine-tuning entreprise, Empromptu se positionne face à des acteurs établis comme OpenAI avec son API de fine-tuning et Amazon Web Services avec Bedrock Custom Models. Ces deux solutions imposent aux organisations d'apporter leurs propres jeux de données préparés séparément et de gérer le processus en dehors de leur stack applicatif, ce qui nécessite une équipe ML dédiée. La différenciation d'Alchemy repose sur l'intégration : le workflow applicatif est le pipeline d'entraînement, et non un projet distinct. La question de la soutenabilité économique et du délai avant le premier cycle de fine-tuning efficace reste ouverte, Leven elle-même reconnaissant sans détour que "l'entraînement du modèle prendra du temps". La startup s'adresse à un moment charnière où de nombreuses entreprises cherchent à protéger leur avantage compétitif face à la généralisation rapide des outils IA.

OutilsOutil
1 source
Pornographie deepfake : corps volés, et l'IA qui divulgue des numéros privés
Illustration générée par IA
5279MIT Technology Review 

Pornographie deepfake : corps volés, et l'IA qui divulgue des numéros privés

En 2023, une femme prénommée Jennifer a passé sa photo de profil professionnelle dans un logiciel de reconnaissance faciale pour vérifier si ses anciennes vidéos pour adultes remonteraient dans les résultats. Elles sont apparues, mais avec une surprise : une de ses vidéos originales avait été modifiée, son visage remplacé par celui d'une autre personne. Son corps, lui, était toujours là. Ce cas illustre une réalité peu discutée du deepfake pornographique : si le débat se concentre habituellement sur les victimes dont le visage est incrusté sans consentement dans des contenus explicites, les créatrices de contenu adulte dont le corps est utilisé comme base sont quasi invisibles dans ce débat. Elles témoignent que des systèmes d'IA s'entraînent sur leurs productions, clonent leurs apparences, et génèrent des contenus qu'elles n'ont jamais approuvés, sans protection juridique réelle ni moyen de contrôle. En parallèle, une autre atteinte à la vie privée prend de l'ampleur : des chatbots IA comme Gemini divulguent des numéros de téléphone personnels. Un développeur a commencé à recevoir des messages WhatsApp de parfaits inconnus après que Gemini avait rendu son numéro accessible. Une chercheuse universitaire a réussi à obtenir le numéro privé d'une collègue via le même outil. Un utilisateur Reddit a vu affluer des appels de personnes cherchant des avocats, son numéro ayant été fourni par erreur par l'IA. Ces deux phénomènes ont des conséquences concrètes et durables. Pour les créatrices de contenu adulte, la perte de contrôle sur leur image corporelle menace directement leurs revenus et leur sécurité, dans un secteur déjà vulnérable juridiquement. Pour les victimes de fuites de numéros, le harcèlement involontaire généré est difficile à stopper : les experts consultés par le MIT Technology Review estiment que ces données personnelles proviennent des corpus d'entraînement des modèles, et qu'aucun mécanisme simple ne permet aux victimes d'y remédier. Ces incidents révèlent une fragilité systémique : l'IA rend triviale la recherche d'informations qui étaient auparavant dispersées ou inaccessibles. Ces problèmes s'inscrivent dans un contexte plus large de régulation encore balbutiante autour de l'IA générative. Le droit à l'image, la propriété intellectuelle sur les corps, et la protection des données personnelles n'ont pas été conçus pour répondre à ces usages. Pendant ce temps, d'autres signaux alimentent les tensions autour de l'IA : Sam Altman détient plus de deux milliards de dollars d'investissements dans des entreprises ayant des relations commerciales avec OpenAI, soulevant des accusations de conflits d'intérêts examinées par le Parti républicain. Et une étude relayée par 404 Media suggère que les développeurs perdent leurs capacités techniques à force de déléguer à l'IA, alimentant un début de backlash populaire contre sa généralisation.

ÉthiqueActu
1 source
Claude Mythos devient le premier modèle d'IA à réussir toutes les simulations de cyberattaque de l'agence britannique de sécurité de l'IA
Illustration générée par IA
5280The Decoder 

Claude Mythos devient le premier modèle d'IA à réussir toutes les simulations de cyberattaque de l'agence britannique de sécurité de l'IA

L'Institut de sécurité de l'IA du Royaume-Uni (AISI) vient de réviser à la baisse, pour la deuxième fois, son estimation du rythme de progression des capacités cyber de l'IA. D'abord ramenée de huit à 4,7 mois, cette estimation s'est avérée trop conservatrice : Claude Mythos Preview d'Anthropic et GPT-5.5 d'OpenAI ont dépassé ce seuil révisé. Mythos est devenu le premier modèle à réussir l'intégralité des simulations d'attaques informatiques conçues par l'AISI, une performance qu'aucun système d'IA n'avait atteinte jusqu'ici. Cet accomplissement soulève des interrogations sérieuses sur la vitesse à laquelle les modèles d'IA atteignent des capacités offensives critiques. Que des systèmes commerciaux puissent désormais réussir toutes les simulations d'attaques d'un organisme gouvernemental de sécurité signifie que le fossé entre capacités théoriques et menaces réelles se referme rapidement. Pour les entreprises, gouvernements et infrastructures critiques, cela implique que les défenses actuelles pourraient devenir insuffisantes face à des acteurs malveillants équipés de ces outils. Logan Graham, responsable du red teaming chez Anthropic, tempère pourtant l'ampleur de l'exploit : "D'ici un an, Mythos paraîtra probablement assez limité", a-t-il déclaré. Cette mise en perspective illustre le problème central auquel font face les régulateurs : les benchmarks de sécurité deviennent obsolètes presque aussi vite qu'ils sont établis. L'AISI, créé en 2023 sous l'impulsion du gouvernement britannique pour évaluer les risques des modèles frontier, doit désormais accélérer sa propre cadence d'évaluation pour rester pertinent face à une progression que plus personne ne semble capable d'anticiper correctement.

SécuritéOpinion
1 source