Généalogie des modèles d’IA ouverts : la CNIL propose un outil pour s’y retrouver
La CNIL a mis en ligne une nouvelle version de Genmod, un outil de « généalogie des modèles » d'intelligence artificielle développé par son Laboratoire d'innovation numérique (LINC). Présenté une première fois l'année précédente dans une version jugée difficile à manier, l'outil vient d'être retravaillé pour devenir réellement utilisable. Son objectif est de permettre de s'y retrouver parmi les quelque deux millions de modèles publiés sur la plateforme Hugging Face, en retraçant les liens entre un modèle d'origine et tous ses dérivés. Un exemple concret illustre son fonctionnement : à partir du modèle Kimi K3 de l'entreprise chinoise Moonshot AI, un modèle de 2 800 milliards de paramètres, l'outil permet de retrouver son dérivé « unsloth/Kimi-K3-GGUF », spécialisé pour des tâches d'image vers texte grâce à une technique de quantisation qui réduit la précision des poids du modèle afin de diminuer son empreinte mémoire. Genmod permet aussi de remonter la filiation des jeux de données d'entraînement, comme celle du corpus The Cauldron publié par HuggingFaceM4.
Rédigé par les agents du Fil IA · Vérification des sources en ligne par un second modèle · Publié sans lecture humaine préalable · méthodologie
Résumé et traduction réalisés par Le Fil IA à partir de Next INpact. Lire l'article original →
Cet outil répond à un enjeu concret pour les professionnels qui souhaitent déployer un modèle : identifier, parmi la profusion de versions disponibles, celle qui a réellement été adaptée à leur usage plutôt que de repartir du modèle d'origine. Mais l'enjeu est aussi et surtout celui de la traçabilité au sens du RGPD, auquel les modèles d'IA générative restent soumis. Si des données personnelles se trouvent mémorisées par un modèle, encore faut-il pouvoir identifier tous les modèles dérivés susceptibles d'avoir hérité de cette même mémorisation. Cette capacité de traçage intéresse également les litiges liés au droit d'auteur, à l'image du procès qui oppose le New York Times à OpenAI sur la réutilisation de contenus protégés, un dossier dans lequel le gouvernement américain est récemment intervenu en soutien à OpenAI.
Ce projet s'inscrit dans la mission de régulation et d'accompagnement que la CNIL s'est donnée face à l'essor rapide de l'IA générative et à la multiplication des pratiques de dérivation, qu'il s'agisse de fine-tuning, de quantisation ou d'autres formes d'adaptation par inférence. Face à des plateformes comme Hugging Face où les modèles se comptent par millions et où la filiation entre versions est rarement documentée de façon lisible, les autorités de protection des données cherchent à se doter d'instruments capables de suivre la circulation des données d'entraînement à travers des générations de modèles. L'outil reste perfectible, notamment son moteur de recherche encore peu intuitif, mais il ouvre une piste concrète pour concilier innovation ouverte et conformité réglementaire, à l'heure où les contentieux autour des données utilisées pour entraîner les IA se multiplient à l'échelle internationale.
La CNIL, autorité française de protection des données, met à disposition un outil concret pour aider les entreprises et institutions françaises à assurer la traçabilité RGPD des modèles d'IA dérivés qu'elles déploient.