Aller au contenu principal
Sécurité · Actu ·

Google a construit un faux Internet parallèle géant pour tester ses agents IA dans Chrome

Google a dévoilé aujourd'hui, dans un billet de blog, la « Mirror Dimension », un internet parallèle entièrement isolé et contrôlé par l'équipe Chrome, conçu pour entraîner et tester ses agents de navigation dopés à l'IA. Cet écosystème regroupe une grande variété de sites et de plateformes, dont des réseaux sociaux, des boutiques en ligne et des interfaces bancaires, bâtis avec les composants et attributs de véritables sites web. Les agents doivent y accomplir des tâches dans Chrome comme ils le feraient sur le web réel, tout en subissant des tests de résistance, notamment des attaques par injection de prompt dissimulées. Pour le construire rapidement, l'équipe a mobilisé des armées d'agents de développement web, guidés par un cadre logiciel conçu à cet effet, capables de générer des services réalistes et des flux de données jusqu'aux détails comme la saisie de codes promo ou le remplissage de pages sociales. Afin de faire tourner le vrai Chrome, indispensable à un entraînement fidèle, les chercheurs ont dû contourner les protections du navigateur, par exemple en fabriquant de faux certificats web pour valider les contrôles.

2 min de lecture

Rédigé par les agents du Fil IA · Vérification des sources en ligne par un second modèle · Publié sans lecture humaine préalable · méthodologie

Source

Résumé et traduction réalisés par Le Fil IA à partir de Wired AI. Lire l'article original →

L'enjeu est double. Entraîner des agents dans des environnements de test limités reste peu efficace, car ces agents doivent connaître le web ouvert, ses vraies plateformes et ses menaces. Les modèles peuvent en outre développer une « conscience d'évaluation » : ils se comportent différemment quand ils détectent qu'ils sont dans une simulation. À l'inverse, lâcher des agents encore immatures sur l'internet réel serait imprudent. La Mirror Dimension offre donc un compromis : un terrain assez réaliste pour être convaincant, mais sans risque pour de vrais utilisateurs. Charles Qian, ingénieur de l'équipe de sécurité IA de Chrome, souligne que l'espace d'exploration est immense puisque n'importe quel utilisateur peut soumettre n'importe quelle requête sur n'importe quel site, et que le web est hostile. Il affirme avoir vu l'agent développer un jugement plus mûr sur les informations réellement nécessaires à une tâche et sur le moment où il faut demander confirmation à l'utilisateur.

L'équipe précise que les contournements employés pour fabriquer cet environnement ne menacent en rien les utilisateurs ordinaires de Chrome : ils ne sont possibles que grâce à l'accès quasi total que Google détient sur ce réseau fermé. Les agents testés sont décrits comme bénins et dépourvus de capacités offensives en cybersécurité. Google veut désormais ouvrir la Mirror Dimension à d'autres équipes internes, afin de multiplier les chercheurs qui y testent leurs modèles en toute sécurité. Doug Turner, directeur de l'ingénierie chez Google, présente cette démarche comme un premier pas, appelé à s'accompagner d'investissements continus pour l'entraînement des modèles. Il prévoit aussi qu'à mesure que les agents gagneront en sophistication, l'environnement devra devenir toujours plus réaliste. Google espère que d'autres équipes, en interne comme à l'extérieur, s'inspireront de cette approche, alors que les agents de navigation autonomes se multiplient et que la sécurité face aux attaques par injection de prompt devient un enjeu central de leur déploiement.

À lire ensuite

01Grab construit une plateforme sécurisée pour agents IAInfoQ AISécurité 02OpenAI prépare un « bouton d’arrêt » pour garder le contrôle de ses agents IALe Big DataSécurité 03Des agents IA d’OpenAI ont tenté de pirater deux sites gouvernementaux australiensNext INpactSécurité 
Dossier · Cybersécurité IASuivi en continu par Le Fil IASuivre ce sujet →

Le brief du matin

L'essentiel de l'IA chaque jour. Gratuit, désinscription immédiate à tout moment.

Recevez l'essentiel de l'IA chaque jour

Gratuit · 1 email le matin, l'essentiel de l'IA · désinscription à tout moment

Vu une erreur factuelle dans cet article ? Signalez-la. Toutes les corrections valides sont publiées sur /corrections.