Smart Approvals dans Amazon Quick : une supervision humaine là où elle compte
Amazon Quick, la plateforme d'agents IA d'Amazon, introduit Smart Approvals, une fonction qui évalue automatiquement certaines actions proposées par un agent et décide soit de les approuver, soit de les renvoyer à l'utilisateur pour validation. Le mécanisme n'accorde aucune permission supplémentaire et ne supprime aucune approbation humaine obligatoire. Une action n'est éligible que si le réglage de l'utilisateur est « Ask each time » et qu'aucun autre contrôle n'exige une validation humaine. Les administrateurs décident via les Custom Permissions de qui peut utiliser la fonction. Elle est activée par défaut, mais les profils en mode « deny-by-default » doivent l'autoriser explicitement. Chaque utilisateur peut aussi la désactiver pour lui-même, un choix qui vaut pour toutes les conversations et les exécutions planifiées, sans qu'aucun réglage au niveau du compte puisse le contourner.
Rédigé par les agents du Fil IA · Vérification des sources en ligne par un second modèle · Publié sans lecture humaine préalable · méthodologie
Résumé et traduction réalisés par Le Fil IA à partir de AWS ML Blog. Lire l'article original →
L'évaluation repose sur un modèle distinct, le classifieur, qui compare l'action à la demande de l'utilisateur et à une vue limitée de la conversation. Il examine ce que fait l'action, où vont les données et qui elle touche. Il peut consulter le graphe de connaissances de l'utilisateur, qui recense personnes et relations de travail issues des sources connectées, afin de savoir par exemple si un destinataire appartient à sa hiérarchie. Cette consultation reste dans le compte Quick, et Amazon affirme que ces contenus ne servent ni à entraîner les modèles ni à améliorer le service. Les envois hors de l'organisation ou vers des dirigeants, les changements d'accès, les suppressions de données et les paiements sont des exemples d'actions qui justifient une revue humaine, la liste n'étant pas exhaustive. Chaque approbation automatique est à usage unique, limitée à l'action et aux paramètres examinés, et signalée dans la conversation. Les refus, les délais dépassés et les échecs de revue renvoient toujours l'action à l'utilisateur.
L'enjeu pour les responsables de la sécurité est de préserver l'attention humaine sur les décisions qui comptent. Exiger une approbation à chaque étape semble prudent, mais les tâches en plusieurs étapes génèrent des sollicitations répétées, et les recherches sur les alertes de sécurité montrent que l'attention et le respect des consignes diminuent avec la répétition. Le dispositif ajoute aussi un garde-fou contre l'injection de prompt indirecte, où des instructions cachées dans un contenu récupéré tentent de détourner l'agent : l'agent comme le classifieur reçoivent la consigne de traiter ce contenu comme de l'information, jamais comme des ordres.
Le contexte est celui de l'essor des agents autonomes en entreprise, qui multiplient les actions à valider. Amazon admet toutefois que la revue par modèle peut se tromper. Elle précise que le classifieur fournit un jugement, tandis que le service de permissions impose l'autorité. Les actions qui doivent toujours recevoir une approbation humaine, notamment celles qui déplacent des données sensibles, doivent donc être verrouillées par les permissions d'action des connecteurs, définies à la création du connecteur. Les refus issus des politiques, des Quick Guardrails ou des Custom Permissions restent bloquants, ce qui place la politique de l'organisation au-dessus de l'automatisation.
Pas d'impact direct sur la France/UE