Le patron de l'IA générale chez Amazon estime que la fiabilité des agents IA, plus que leurs capacités, freine leur adoption en entreprise (VB Transform 2026)
Lors de la conférence VB Transform 2026, mardi, Bryan Silverthorn, directeur de l'autonomie AGI chez Amazon, a expliqué pourquoi l'industrie de l'IA en entreprise reste bloquée entre le pilote et la production. Selon des données de Cisco, 85% des entreprises testent des agents IA, mais seulement 5% les ont réellement déployés en production. Silverthorn, arrivé chez Amazon via le rachat d'Adept AI et qui dirige aujourd'hui l'entraînement d'agents multimodaux au sein du laboratoire AGI du groupe, a présenté un cadre en quatre dimensions pour mesurer la fiabilité des agents : la cohérence, la robustesse, la prédictibilité et la sécurité, un modèle qu'il attribue à des recherches menées à Princeton. Il a illustré son propos avec l'exemple d'un client ayant déployé un agent de contrôle qualité logicielle chargé d'extraire des numéros de série affichés à l'écran. L'outil a fonctionné sans faille pendant deux mois avant de commencer à lire des chiffres erronés par intermittence. La cause : l'encodeur visuel sous-jacent réagissait différemment selon l'emplacement du numéro de série à l'écran, et une modification logicielle imperceptible pour un humain avait déclenché la panne. Ce cas illustre un problème plus large que confirme une étude propriétaire de VentureBeat présentée en amont de la session : la moitié des entreprises interrogées ont déployé des agents qui réussissaient leurs évaluations internes mais échouaient face aux vrais clients. Beaucoup d'entreprises surveillent la disponibilité de leurs agents sans jamais vérifier la justesse de leurs réponses, une approche que Silverthorn compare à prendre le pouls sans poser de diagnostic. Il souligne aussi que la plupart des entreprises se contentent des évaluations fournies par les éditeurs de modèles, sans développer leurs propres tests, ce qui revient à un pari entre confiance aveugle envers le fournisseur et absence totale de vérification. Pour lui, la priorité n'est donc pas d'attendre de meilleurs modèles mais d'adapter la rigueur de mesure aux enjeux réels de chaque application. Sur le plan organisationnel, le laboratoire AGI d'Amazon a adopté une approche pour le moins inhabituelle : ses chercheurs y surnomment leurs agents des "stagiaires", capables de prouesses remarquables comme de dérapages spectaculaires, et qu'il faut donc encadrer avec des réflexes de management plutôt que d'ingénierie pure, en anticipant les erreurs possibles et en prévoyant des filets de sécurité. Amazon accepte ainsi qu'un agent lance parfois la mauvaise expérience en échange d'une vitesse de recherche accrue, certains fonctionnant même en continu sur leurs propres plans de recherche. Silverthorn reste prudent sur l'auto-amélioration des IA, qu'il juge encore lointaine, tout en citant l'exemple d'un client du transport routier utilisant déjà l'automatisation de navigateur pour traiter des réclamations de garantie dispersées sur plusieurs systèmes, une brique appelée à coexister avec des protocoles comme MCP et des API plutôt qu'à les remplacer.
