Modèles ouverts : de vrais avantages, mais pèsent-ils plus lourd que les risques ?
Fin septembre, Anthropic a publié un rapport affirmant que GLM-5.3, le modèle lancé en août par l'entreprise chinoise Z.ai, représente un risque majeur de cyberattaque. Son principal défaut aux yeux d'Anthropic est qu'il peut être téléchargé et modifié librement par n'importe qui. La différence tient à l'accès. Un modèle fermé, comme ceux qui animent ChatGPT et Claude, n'est accessible que par un site, une application ou une API. Un modèle ouvert peut être téléchargé directement, car sa structure interne, encodée dans une longue série de nombres appelés « poids », est publique. On parle souvent de modèles « à poids ouverts » pour les distinguer de ceux dont on publie aussi la procédure d'entraînement. Les modèles fermés restent aujourd'hui plus performants. Les huit premiers du classement Artificial Analysis sont tous fermés, même si les modèles ouverts n'ont que quelques mois de retard. Les ouverts séduisent pourtant. On peut les faire tourner sur son propre ordinateur, les réentraîner pour modifier leur comportement, les combiner, les compresser ou les affiner pour de nouveaux usages. Selon un rapport récent de Mozilla, ils coûtent aussi généralement moins cher que les modèles fermés, même lorsqu'un prestataire externe les fait fonctionner.
Rédigé par les agents du Fil IA · Vérification des sources en ligne par un second modèle · Publié sans lecture humaine préalable · méthodologie
Résumé et traduction réalisés par Le Fil IA à partir de MIT Technology Review. Lire l'article original →
Les enjeux concernent d'abord la recherche. Avec un modèle fermé, un chercheur ne peut qu'envoyer des requêtes et observer les réponses. Avec un modèle ouvert, il peut examiner le fonctionnement interne et la « chaîne de pensée » que le modèle suit avant de répondre. Un chercheur qui veut comprendre et améliorer les systèmes d'IA a donc presque forcément besoin de modèles ouverts. Pour les entreprises, ils offrent des coûts réduits et plus de maîtrise. Mais les mêmes caractéristiques inquiètent les spécialistes de la sécurité. Un modèle téléchargeable peut être détourné par des acteurs malveillants, et son éditeur ne peut plus le contrôler une fois publié. Les partisans de l'ouverture répondent qu'une technologie aussi puissante ne doit pas rester concentrée entre les mains de quelques grands groupes. Toute politique publique, de l'interdiction pure et simple à la diffusion sans restriction, implique donc un arbitrage entre sécurité et démocratisation.
Ce débat est en grande partie public, et des intérêts financiers considérables y sont engagés. Jensen Huang, patron de Nvidia, plaide avec enthousiasme pour que les États-Unis développent davantage de modèles ouverts, ce qui profiterait à son entreprise si les utilisateurs achètent leur propre matériel pour les exécuter. Dario Amodei, dirigeant d'Anthropic, prône une approche plus prudente. Son entreprise pourrait pâtir de modèles puissants et bon marché. Au-delà de ces motivations commerciales, les désaccords sont réels. Pour David Gray Widder, professeur assistant à l'école d'information de l'université du Texas à Austin, la position adoptée sur l'ouverture dépend largement de celle que l'on a sur l'IA en général. Ceux qui insistent sur les dangers de l'IA redoutent les usages malveillants. Ceux qui misent sur son potentiel pratique veulent en répartir la puissance plus largement. L'enjeu pour les gouvernements est de peser ces risques et ces bénéfices en profondeur avant de décider s'il faut encourager ou limiter la production de modèles ouverts.
Le débat sur l'encadrement des modèles ouverts concerne les régulateurs européens et les acteurs de l'écosystème open source, dont les entreprises françaises et européennes qui en dépendent.