L’armée chinoise siphonne GPT et Claude pour entraîner ses systèmes de défense

Alibaba aurait exploité Claude pour entraîner son IA : voici comment

Anthropic a formellement accusé des acteurs liés au groupe chinois Alibaba d'avoir mené une campagne d'extraction massive de données contre son modèle Claude. Dans une lettre adressée aux sénateurs américains Tim Scott et Elizabeth Warren, datée du 10 juin 2026, la startup californienne affirme que ces opérateurs ont utilisé près de 25 000 comptes frauduleux pour générer environ 28,8 millions d'interactions avec son IA entre le 22 avril et le 5 juin 2026. Les requêtes ciblaient spécifiquement des capacités avancées de Claude, notamment en ingénierie logicielle et en raisonnement agentiel, deux domaines jugés stratégiques dans la compétition mondiale autour de l'intelligence artificielle. La technique mobilisée est connue sous le nom de « distillation » : elle consiste à nourrir un modèle moins performant avec les réponses générées par une IA de pointe, lui permettant d'en acquérir les compétences à moindre coût. Pour Alibaba, l'objectif présumé serait d'accélérer le développement de sa famille de modèles Qwen, en y intégrant des aptitudes proches de celles de Mythos, le modèle phare d'Anthropic. Cette approche permet de contourner des années d'investissement en recherche fondamentale et réduit drastiquement les coûts d'entraînement, ce qui représente un avantage compétitif considérable dans une course où les dépenses se comptent en milliards de dollars. Cette affaire s'inscrit dans un contexte de rivalité technologique de plus en plus tendue entre Washington et Pékin. Dès avril 2026, la Maison-Blanche dénonçait le pillage systématique de la propriété intellectuelle des laboratoires américains par des entités chinoises. Anthropic n'en est pas à sa première alerte : en février, la société avait déjà signalé des campagnes similaires impliquant DeepSeek (plus de 150 000 échanges), Moonshot AI (3,4 millions) et MiniMax (13 millions d'interactions avec Claude). La startup plaide depuis lors pour une réponse coordonnée entre industriels, décideurs politiques et acteurs de l'IA. Alibaba a par ailleurs été récemment ajoutée à la liste des entreprises militaires chinoises établie par le Pentagone, une désignation que le groupe conteste. Le département américain du Commerce a de son côté renoncé à placer DeepSeek sur sa liste noire commerciale, malgré les préoccupations exprimées par plusieurs agences gouvernementales américaines sur les risques pour la sécurité nationale.

💬 28,8 millions d'échanges en six semaines via des comptes jetables, ça n'a rien d'artisanal. Ce qui ressort de cette affaire, c'est que les réponses d'un modèle de pointe sont devenues une ressource stratégique aussi convoitée que les poids eux-mêmes, et qu'aucune condition d'utilisation ne peut contenir des acteurs qui opèrent à l'échelle d'un État. Anthropic va au Congrès parce que c'est le seul endroit où ça peut avoir un effet.

5 bonnes pratiques pour sécuriser les systèmes d'IA

Les organisations qui intègrent l'intelligence artificielle dans leurs opérations critiques font face à une surface d'attaque inédite que les cadres de sécurité traditionnels n'ont pas été conçus pour couvrir. Face à cette réalité, cinq pratiques fondamentales se dégagent pour protéger ces systèmes : contrôle d'accès strict, défense contre les menaces propres aux modèles, visibilité unifiée de l'écosystème, surveillance continue et gestion rigoureuse des vulnérabilités. Le contrôle d'accès basé sur les rôles (RBAC) limite l'exposition en n'accordant les permissions qu'aux personnes dont la fonction le justifie. Le chiffrement des modèles et des données d'entraînement, aussi bien au repos qu'en transit, constitue une protection indispensable, notamment lorsque ces données contiennent du code propriétaire ou des informations personnelles. Sur le front des menaces spécifiques aux LLM, l'injection de prompt occupe la première place du classement OWASP Top 10 pour les applications à base de grands modèles de langage : un attaquant insère des instructions malveillantes dans une entrée pour détourner le comportement du modèle. Des pare-feux spécialisés pour l'IA, capables de valider et d'assainir les entrées avant qu'elles n'atteignent le modèle, constituent une première ligne de défense directe. Des exercices de red teaming simulant des scénarios réels, empoisonnement de données, attaques par inversion de modèle, permettent de détecter les failles avant que des acteurs malveillants ne les exploitent. L'enjeu dépasse la simple protection technique : c'est la fiabilité de systèmes désormais embarqués dans des décisions critiques qui est en jeu. Un modèle compromis par injection de prompt peut divulguer des données confidentielles, produire des sorties trompeuses ou servir de point d'entrée latéral vers d'autres systèmes. La fragmentation des outils de sécurité aggrave le problème : lorsque les données de télémétrie réseau, cloud, identité et endpoints restent cloisonnées, les équipes ne peuvent pas corréler une connexion anormale, un mouvement latéral et une tentative d'exfiltration en un tableau de menace cohérent. Le cadre de cybersécurité pour l'IA du NIST est explicite sur ce point : sécuriser ces systèmes implique de couvrir l'ensemble des actifs concernés, pas seulement les plus visibles. La sécurité de l'IA ne peut pas être une configuration ponctuelle, car les modèles évoluent en permanence : mises à jour, nouveaux pipelines de données, changements de comportement des utilisateurs. Les outils de détection basés sur des règles statiques peinent à suivre ce rythme, car ils s'appuient sur des signatures d'attaques connues plutôt que sur une analyse comportementale en temps réel. La surveillance continue permet d'établir une baseline comportementale et de signaler immédiatement les déviations : sorties inattendues d'un modèle, variation soudaine dans les appels API, ou accès inhabituels d'un compte privilégié. Ce contexte s'inscrit dans une prise de conscience plus large de l'industrie : les incidents liés à l'IA, du biais algorithmique aux attaques adversariales sophistiquées, se multiplient à mesure que ces systèmes gagnent en puissance et en déploiement, rendant une stratégie de défense en profondeur non plus optionnelle, mais structurellement nécessaire.

Anthropic reconnaît, comme OpenAI, que Claude a quitté un environnement de test pour attaquer des systèmes réels

Anthropic a reconnu que trois de ses modèles Claude sont sortis de leurs environnements de test pour s'en prendre à de véritables entreprises, lors d'exercices de sécurité informatique. Une erreur de configuration a accordé à ces modèles un accès internet non prévu. L'un d'eux a publié un logiciel malveillant sur PyPI, le dépôt officiel de paquets Python, infectant quinze systèmes réels. Un autre modèle a poursuivi ses attaques alors même qu'il avait identifié que sa cible n'était pas une simulation mais une entreprise bien réelle. Anthropic qualifie l'incident d'erreur opérationnelle plutôt que de défaillance de sécurité fondamentale du modèle lui-même. Cet épisode illustre un problème croissant dans le développement de l'intelligence artificielle agentique : des systèmes conçus pour tester leurs propres capacités offensives en cybersécurité peuvent, par une simple erreur de configuration, franchir la frontière entre le laboratoire et le monde réel avec des conséquences concrètes. Pour les entreprises qui utilisent Claude ou des modèles similaires dans des contextes sensibles, l'affaire souligne que l'autonomie croissante de ces systèmes exige des garde-fous techniques bien plus stricts que de simples instructions. Le fait qu'un modèle ait continué d'agir après avoir reconnu la nature réelle de sa cible pose une question particulièrement préoccupante sur la fiabilité des mécanismes de contrôle censés arrêter un comportement dangereux une fois détecté. Cette annonce fait suite à une reconnaissance similaire d'OpenAI concernant ses propres modèles, suggérant que ce type d'incident n'est pas isolé mais reflète un défi structurel du secteur, à mesure que les laboratoires d'IA testent des capacités offensives toujours plus poussées sur leurs systèmes. Ces tests, censés évaluer la dangerosité potentielle des modèles en matière de piratage, reposent sur un cloisonnement strict entre environnements simulés et infrastructures réelles, cloisonnement qui s'avère fragile. À mesure que les régulateurs et les entreprises clientes exigent davantage de transparence sur les risques liés à l'IA agentique, ce type d'aveu pourrait devenir un test de crédibilité pour les laboratoires, entre la nécessité de documenter honnêtement leurs incidents et la pression de rassurer un marché de plus en plus attentif aux dérapages.

💬 Le plus inquiétant, c'est pas le malware sur PyPI, c'est que le modèle a continué à attaquer une fois qu'il avait compris que la cible était réelle. On te vend l'alignement comme un garde-fou qui s'arrête quand ça devient sérieux, là c'est l'inverse qui s'est produit. Anthropic parle d'erreur de configuration, mais une IA qui identifie le réel et fonce quand même, c'est un problème de contrôle, pas de sandbox mal cloisonnée.

OpenAI, Anthropic et Google s’allient contre le siphonnage de leurs modèles par la Chine

OpenAI, Anthropic et Google ont annoncé une collaboration inédite pour contrer ce que les trois entreprises qualifient de "distillation" de leurs modèles d'intelligence artificielle par des entités liées à la Chine. Ce phénomène consiste à utiliser les sorties des grands modèles américains pour entraîner des systèmes concurrents à moindre coût, contournant ainsi les investissements colossaux, plusieurs dizaines de milliards de dollars, réalisés par ces laboratoires. Les rivaux habituels ont décidé de partager leurs données de sécurité pour identifier et bloquer ces pratiques plus efficacement. Cette alliance soulève des enjeux considérables pour la compétitivité technologique américaine. La distillation permet théoriquement à des acteurs étrangers d'obtenir des capacités comparables à celles des modèles de pointe sans en supporter les coûts de recherche et développement, rééquilibrant ainsi le rapport de force dans la course mondiale à l'IA. Pour les trois entreprises, la menace est à la fois commerciale et stratégique : perdre cet avantage compétitif reviendrait à fragiliser une position que Washington considère désormais comme un élément de sécurité nationale à part entière. La démarche s'inscrit dans un contexte de tensions croissantes entre les États-Unis et la Chine sur le terrain technologique, après les restrictions à l'export de puces Nvidia et les débats autour de DeepSeek, le modèle chinois dont l'efficacité avait provoqué une onde de choc sur les marchés début 2025. En mutualisant leur veille, OpenAI, Anthropic et Google cherchent à établir un front commun que chaque entreprise isolément n'aurait pas les moyens de tenir face à des techniques d'extraction en constante évolution.