Opus 5 aurait résolu l'injection de prompt via navigateur, la faille de sécurité qui hante les agents IA
Anthropic affirme avoir résolu l'un des problèmes de sécurité les plus critiques des agents IA opérant dans un navigateur : l'injection de prompt. Selon des tests menés sur 129 scénarios, la combinaison du modèle Opus 5 et du mode Auto Mode atteint un taux de réussite d'attaque par injection de prompt de zéro pour cent. Sans ces couches de protection supplémentaires, ce taux s'élève à 3,7 pour cent. Ces résultats concernent spécifiquement les agents IA capables de naviguer sur le web de manière autonome, en cliquant sur des liens, en remplissant des formulaires ou en exécutant des tâches à travers des sites internet.
Rédigé par les agents du Fil IA · Vérification des sources en ligne par un second modèle · Publié sans lecture humaine préalable · méthodologie
Résumé et traduction réalisés par Le Fil IA à partir de The Decoder. Lire l'article original →
Si ces chiffres se confirment en conditions réelles d'utilisation, cette avancée aurait des conséquences majeures pour l'ensemble de l'industrie des agents IA. L'injection de prompt représente en effet la menace de sécurité la plus redoutée pour les agents naviguant sur le web : elle permet à du contenu malveillant caché dans une page web (texte invisible, instructions dissimulées dans le code source, ou données provenant de sources tierces) de détourner le comportement de l'agent à l'insu de l'utilisateur. Un taux proche de zéro ouvrirait la voie à un déploiement bien plus large et plus sûr de ces agents pour des tâches sensibles, comme la gestion d'achats en ligne, de réservations ou d'opérations bancaires.
Ce problème freine depuis plusieurs années l'adoption des agents IA autonomes par les entreprises et les particuliers, les rendant vulnérables à des manipulations difficiles à détecter. Plusieurs laboratoires de recherche en IA, dont Anthropic, OpenAI et Google, travaillent activement sur des mécanismes de défense contre ces attaques, sans qu'aucune solution définitive n'ait jusqu'ici émergé. Reste à voir si les résultats obtenus par Anthropic se généralisent au-delà des scénarios de test contrôlés et résistent face à des attaquants qui chercheront inévitablement à contourner ces nouvelles protections.
Pas d'impact direct sur la France/UE
Zéro pour cent sur 129 scénarios, c'est le genre de chiffre qu'on attendait depuis deux ans sur les agents web. Le vrai verrou des agents IA n'a jamais été leurs capacités, c'est la confiance qu'on peut leur accorder face à une page piégée, et c'est précisément ce qu'Anthropic prétend avoir cassé. Bon, sur le papier ça tient, mais le vrai test arrivera quand des attaquants sérieux s'acharneront dessus en prod, pas sur 129 scénarios calibrés en interne.