Anthropic affirme avoir réduit jusqu'à 99 % le vol des jetons de raisonnement de Claude, face à la distillation à grande échelle
Anthropic affirme avoir réduit de 90 à 99 % l'extraction des jetons de raisonnement internes de Claude, c'est-à-dire les étapes intermédiaires que le modèle produit avant de formuler sa réponse. L'entreprise décrit ces opérations comme des attaques de distillation menées à l'échelle industrielle. Elle les relie à deux sociétés chinoises, Zhipu et Moonshot, et indique avoir déjà banni des dizaines de milliers de comptes utilisés pour collecter ces données.
Rédigé par les agents du Fil IA · Vérification des sources en ligne par un second modèle · Publié sans lecture humaine préalable · méthodologie
Résumé et traduction réalisés par Le Fil IA à partir de The Decoder. Lire l'article original →
Ces traces de raisonnement sont particulièrement précieuses pour un concurrent. Elles permettent d'entraîner un modèle plus petit ou plus récent à imiter les capacités de Claude sans supporter le coût de la recherche et du calcul nécessaires pour les développer. Pour Anthropic, la protection de ce matériau est donc un enjeu à la fois économique et stratégique. La réduction annoncée montre que des contre-mesures techniques et des politiques de bannissement peuvent freiner ces pratiques de façon sensible. Elle pose aussi la question de la fiabilité de ces chiffres, qui proviennent de l'entreprise elle-même et que rien ne permet de vérifier de l'extérieur.
Cette annonce s'inscrit dans la rivalité croissante entre laboratoires américains et chinois dans l'intelligence artificielle. Les premiers accusent régulièrement leurs concurrents d'exploiter leurs modèles via l'accès par interface de programmation pour rattraper leur retard. Les conditions d'utilisation interdisent déjà cet usage, mais leur application reste difficile quand les requêtes sont réparties sur de nombreux comptes. Les deux entreprises citées n'ont pas, à ce stade, été présentées comme ayant répondu. La suite pourrait passer par des mesures de détection renforcées, des restrictions d'accès supplémentaires, voire un traitement politique de la question.
Pas d'impact direct sur la France/UE