Les limites de la confiance dans les modèles de diffusion
Des chercheurs examinent les limites théoriques des modèles de diffusion discrète, une famille de générateurs de séquences qui inclut les échantillonneurs par remasquage et par états uniformes. À chaque étape, ces modèles écrivent plusieurs positions de jetons à la fois. Chaque jeton est tiré d'une distribution propre à sa position, et le choix des positions à écrire repose sur ces mêmes distributions, c'est-à-dire sur la confiance du modèle. L'étude établit qu'une étape ne reproduit la distribution d'entraînement que si les positions écrites sont conditionnellement indépendantes, sachant les jetons déjà fixés. Elle montre aussi qu'aucun produit de distributions par position ne peut reproduire un groupe de positions dépendantes entre elles. L'enjeu est direct pour tous les domaines où les éléments d'une séquence dépendent les uns des autres, qu'il s'agisse de pixels, de phonèmes ou de mots. Écrire plusieurs jetons en parallèle est précisément ce qui rend la diffusion attractive face à la génération séquentielle, car cela accélère le décodage. Or le résultat indique que ce gain de vitesse a un coût structurel : tant que le groupe écrit contient des jetons dépendants, la fidélité à la distribution apprise ne peut pas être garantie. Se fier à la confiance par position pour sélectionner ce qu'on écrit devient donc une stratégie dont les limites sont mathématiques, et non de simples défauts d'ingénierie. Ce travail s'inscrit dans l'essor des modèles de diffusion appliqués au texte et à d'autres données discrètes, présentés comme une alternative aux modèles autorégressifs. Le débat porte sur le compromis entre nombre d'étapes, rapidité et qualité. En formalisant la condition d'indépendance conditionnelle, l'étude donne un cadre pour juger les heuristiques de sélection actuelles et pourrait orienter la conception de samplers qui tiennent compte des dépendances entre positions.
