4Amazon Science
Les contrôleurs de machines industrielles peuvent coordonner l'apprentissage automatique multitâche
Une équipe de chercheurs d'Amazon Web Services a présenté lors de la conférence ICML de cette année un nouveau cadre appelé ControlG, destiné à résoudre un problème récurrent de l'apprentissage automatique multitâche appliqué aux graphes. Le travail a été mené par Karish Grover, doctorant en stage chez AWS dans le cadre du programme Amazon PhD Fellowship, sous la supervision du chercheur Amazon Scholar Christos Faloutsos et d'un second mentor. Le sujet est l'apprentissage auto-supervisé sur graphes (graph SSL), une technique qui entraîne un réseau de neurones à traiter des données structurées en graphe pour des tâches comme la classification de nœuds. Ce domaine dispose de plusieurs objectifs d'entraînement complémentaires : la prédiction de liens entre nœuds, la reconstruction de nœuds masqués, ou encore la maximisation de l'information mutuelle entre un nœud et son voisinage. Or, aucun de ces objectifs ne domine systématiquement selon les jeux de données, ce qui pousse les chercheurs à vouloir les combiner. La méthode habituelle consiste à mélanger les gradients de tous les objectifs à chaque étape d'entraînement, ce qui produit des compromis permanents entre objectifs concurrents. Ce mélange constant pose trois problèmes concrets identifiés par l'équipe : le désaccord, où des gradients contradictoires dégradent un objectif au profit d'un autre ; la dérive, où un objectif utile en début d'entraînement devient inutile sans que sa pondération s'adapte assez vite ; et l'assèchement, où certains objectifs voient leur poids tomber à zéro au point de devenir invisibles dans le modèle final. Ces défaillances limitent la qualité des représentations apprises et compliquent le diagnostic des modèles multitâches. C'est pour cette raison que l'équipe a voulu repenser la coordination des objectifs non plus comme un problème de pondération instantanée, mais comme un problème de planification dans le temps : à chaque instant, quel objectif doit recevoir le budget de calcul disponible plutôt que d'être mélangé aux autres. ControlG s'inspire directement des régulateurs proportionnel-intégral-dérivé (PID), des dispositifs de contrôle en boucle fermée largement utilisés dans l'industrie et même dans les régulateurs de vitesse automobile, pour décider à chaque bloc d'étapes quel objectif mérite l'attention du modèle. Fait notable, les chercheurs montrent qu'même une simple sélection aléatoire d'objectif à chaque bloc suffit à surpasser des méthodes de pointe existantes : sur des tâches de regroupement de nœuds, cette approche aléatoire obtient un rang moyen de 5,0, devançant AutoSSL (7,3), ParetoGNN (8,1), PCGrad (7,8), CAGrad (8,4) et WAS (10,0). La seule séparation temporelle des objectifs suffit donc à éliminer les conflits de gradients instantanés, même si elle laisse encore de la performance sur la table par rapport à une allocation pilotée par PID. Ce résultat ouvre une piste plus large pour repenser l'entraînement multitâche en apprentissage automatique, en traitant l'allocation des ressources de calcul comme un véritable problème d'ordonnancement plutôt que de simple pondération mathématique.
