L’armée chinoise siphonne GPT et Claude pour entraîner ses systèmes de défense
Une enquête de Reuters, fondée sur l'analyse de plus de 80 articles scientifiques et brevets chinois, dont une soixantaine compilés par la Jamestown Foundation, révèle que des chercheurs liés à l'Armée populaire de libération ont utilisé GPT-3.5 d'OpenAI et Claude 3 Haiku d'Anthropic pour entraîner des systèmes d'intelligence artificielle militaires chinois. Le cas le plus sensible concerne l'unité 96941, associée au renseignement et à la cyberguerre : ses chercheurs se sont servis de GPT-3.5 pour résumer du code source militaire, puis ont entraîné un modèle chinois sur ces résumés, obtenant un système capable de fonctionner dans les réseaux de l'armée sans transmettre de données classifiées à un service étranger. Des chercheurs de la North University of China ont de leur côté exploité Claude 3 Haiku pour générer des données synthétiques destinées à un modèle de surveillance des réseaux sociaux. D'autres travaux ont permis de compresser des modèles de vision pour équiper des drones capables d'analyser de la vidéo en direct, de naviguer et d'assister le ciblage même lorsque les communications sont coupées.
Résumé et traduction réalisés par Le Fil IA à partir de Le Big Data. Lire l'article original →
Cette méthode, appelée distillation, consiste à faire produire des réponses par un grand modèle enseignant puis à transformer ces sorties en données d'entraînement pour un modèle élève plus petit et moins coûteux. Elle a des usages parfaitement légitimes, mais ici elle a permis d'extraire sans autorisation des capacités de raisonnement avancées que les fournisseurs américains n'auraient jamais accordées à des fins militaires. Pour Washington, qui misait sur le contrôle des exportations de puces avancées pour freiner les ambitions militaires chinoises, la découverte est embarrassante : une simple requête envoyée à un chatbot a suffi à transférer un savoir-faire stratégique, contournant les restrictions matérielles. Anthropic prévient d'ailleurs qu'un modèle distillé peut perdre les garde-fous de sécurité de l'original, laissant circuler des capacités de programmation ou d'analyse sans les filtres censés bloquer les usages sensibles.
L'affaire s'inscrit dans une série de révélations inquiétantes pour Anthropic, qui avait déjà accusé DeepSeek, Moonshot AI et MiniMax d'avoir mené des millions d'échanges frauduleux avec Claude via des milliers de faux comptes, avant que des soupçons similaires ne visent des acteurs liés à Alibaba. L'entreprise, directement concernée par ces pratiques, n'est pas un observateur neutre, mais ses constats rejoignent les publications militaires analysées par la Jamestown Foundation. Reste que Reuters ne prétend pas que chaque drone chinois embarque un descendant direct de GPT ou de Claude : les modèles américains fournissent des briques de connaissance, que la distillation compacte et que les laboratoires militaires chinois adaptent ensuite à leurs propres besoins, dans un jeu du chat et de la souris technologique qui questionne durablement l'efficacité des contrôles à l'exportation américains.
Pas d'impact direct sur la France/UE
Une simple requête à un chatbot a fait sauter des années de contrôle à l'export de puces, ça résume tout. Bon, sur le papier la distillation a plein d'usages légitimes, mais là on parle d'un savoir-faire militaire stratégique aspiré en quelques prompts, sans transfert de données classifiées, donc indétectable par design. Washington a misé toutes ses billes sur le hardware pendant que le vrai transfert de capacités se faisait par API, c'est ce paradoxe qui rend l'affaire embarrassante.