Anthropic nie pouvoir saboter ses outils d'IA en temps de guerre

Votre Mac n’avait plus de secrets : l’IA d’Anthropic pouvait tout explorer sans autorisation

Le Mac n'avait plus aucun secret pour l'agent de bureau de Claude Cowork, l'assistant IA d'Anthropic destiné à macOS. Des chercheurs en sécurité de la société Accomplish AI ont démontré qu'après avoir simplement partagé un dossier avec l'agent et lui avoir envoyé une courte instruction, celui-ci pouvait sortir de l'environnement isolé qui lui était censé être réservé et accéder à l'intégralité du disque de la machine, en lecture comme en écriture. L'outil s'appuie pourtant sur une machine virtuelle Linux dans laquelle l'agent tourne avec un compte limité, sans privilèges administrateur. Mais le disque entier du Mac se trouvait relié à cet espace virtuel sans restriction suffisante. En exploitant une vulnérabilité Linux déjà connue, l'agent pouvait obtenir les privilèges les plus élevés et ainsi parcourir ou modifier n'importe quel fichier appartenant à l'utilisateur, y compris les clés SSH et les identifiants enregistrés sur la machine. Les chercheurs précisent qu'il s'agissait uniquement d'une démonstration en laboratoire et que personne n'a exploité la faille de façon malveillante. Cette découverte interroge directement la confiance que l'on peut accorder aux agents IA de bureau, une catégorie d'outils en plein essor censée automatiser la rédaction de code, la gestion de fichiers ou des tâches répétitives sans intervention humaine constante. Le principe même de ces agents repose sur un périmètre d'action restreint à un dossier ou une tâche précise. Si cette limite peut être contournée aussi facilement, c'est la promesse de sécurité de toute la catégorie qui vacille, avec un risque concret d'exfiltration de données personnelles ou professionnelles sensibles pour les utilisateurs qui installent ces assistants sur leur ordinateur principal. Accomplish AI estime qu'environ 500 000 utilisateurs de macOS auraient pu être concernés avant que la faille ne soit neutralisée, un chiffre avancé par l'entreprise mais non confirmé par Anthropic. Face à ce signalement, Anthropic l'a classé comme simplement « informatif » et n'a publié aucun correctif dédié à cette vulnérabilité précise. L'entreprise a toutefois fait évoluer son produit : la version suivante de l'outil exécute désormais les tâches à distance par défaut, via ses propres serveurs, ce qui neutralise ce scénario d'attaque pour la majorité des utilisateurs. Les personnes continuant à utiliser une exécution entièrement locale restent en revanche exposées au même risque. Les chercheurs notent enfin qu'une protection équivalente existait déjà dans le logiciel pour bloquer une faille similaire, mais qu'elle n'avait simplement jamais été étendue à ce nouveau cas de figure.

Anthropic renforce sa position sur les risques des modèles à poids ouverts, tout en niant avoir demandé une interdiction

Anthropic CEO Dario Amodei a de nouveau mis en garde contre les risques posés par les modèles d'IA à poids ouverts (open-weight), tout en insistant sur le fait qu'il n'a jamais appelé à leur interdiction. Selon lui, des États autoritaires comme la Chine pourraient dépasser les États-Unis dans la course à l'IA, et des modèles ouverts pourraient être détournés pour mener des attaques biologiques ou informatiques. Amodei, dirigeant d'une entreprise qui commercialise des modèles fermés comme Claude, a tenu à clarifier sa position publique après avoir été accusé de vouloir freiner la diffusion de modèles concurrents. Il maintient que ses inquiétudes portent sur la sécurité et non sur la volonté de limiter l'accès à la technologie. Cette prise de position a une portée concrète pour l'ensemble de l'industrie de l'IA. Les modèles ouverts, comme ceux développés par Meta ou des laboratoires chinois, permettent à davantage d'acteurs d'innover sans dépendre des grandes plateformes fermées, mais soulèvent aussi des questions de sécurité difficiles à trancher. Si les arguments d'Amodei influencent les régulateurs américains, cela pourrait freiner la diffusion de modèles open source aux États-Unis, avec des conséquences directes sur les startups et chercheurs qui s'appuient sur ces outils accessibles et moins coûteux. Des critiques accusent cependant Amodei de défendre avant tout les intérêts commerciaux d'Anthropic, dont le modèle économique repose sur des produits propriétaires facturés, menacés par la concurrence de modèles ouverts gratuits ou peu coûteux. Ce débat s'inscrit dans une tension plus large entre sécurité de l'IA et ouverture technologique, opposant les grands laboratoires américains, les acteurs open source et les gouvernements soucieux de préserver leur avantage stratégique face à la Chine. La suite dépendra largement des orientations réglementaires que prendront Washington et les autres capitales dans les mois à venir.

IA générative : Anthropic accuse Alibaba de distiller ses modèles

Le 10 juin 2026, Anthropic a transmis une lettre confidentielle aux sénateurs républicain Tim Scott et démocrate Elizabeth Warren, révélant ce que l'entreprise décrit comme la plus vaste campagne d'exploitation illicite de son modèle Claude jamais observée. Entre le 22 avril et le 5 juin, des opérateurs liés à Alibaba et à son laboratoire d'IA Alibaba Qwen auraient généré plus de 28,8 millions d'échanges avec Claude via près de 25 000 comptes frauduleux. L'objectif présumé est la distillation : utiliser massivement les réponses d'un modèle concurrent pour entraîner le sien, acquérant ainsi des capacités avancées à moindre coût et en un temps record. Pour échapper à la détection, Alibaba aurait eu recours à des techniques d'obfuscation et à des réseaux de proxys, ce qui, selon Anthropic, signale l'existence d'une véritable économie souterraine du contournement en pleine expansion en Chine. L'enjeu est considérable pour l'industrie de l'IA : la distillation non autorisée permet à un acteur de copier les performances d'un modèle de pointe sans en supporter les coûts de recherche et développement, qui se chiffrent en centaines de millions de dollars. Si la technique est légalement utilisée par tous les grands laboratoires pour créer des versions allégées de leurs propres modèles, son usage à grande échelle contre un concurrent direct fragilise le modèle économique des entreprises qui investissent massivement dans la recherche fondamentale. Anthropic souligne qu'Alibaba est cotée à la Bourse de New York et doit donc répondre aux régulateurs américains, ce qui rend d'autant plus grave l'absence de réaction après la note de service de l'administration Trump de février dernier qualifiant ces pratiques d'inacceptables. Ce dossier s'inscrit dans une confrontation technologique et géopolitique plus large entre Washington et Pékin. En février déjà, Anthropic et OpenAI avaient visé DeepSeek, Moonshot et MiniMax pour des accusations similaires. Le 8 juin, l'administration Trump a inscrit Alibaba sur sa liste des entreprises liées à l'armée chinoise aux côtés de BYD, Baidu et NIO, bloquant leur accès au marché du département de la Défense. Alibaba a contesté cette décision en justice le 23 juin. Pendant ce temps, de nouveaux outils d'IA générative chinois émergent : 360 Digital Security Group, aussi connue sous le nom de Qihoo 360, a annoncé Tulongfeng et Yitianzhen, des assistants conçus pour rivaliser directement avec des plateformes occidentales comme Mythos. Les batailles juridiques et les listes noires dessinent ainsi les contours d'une guerre de l'IA qui se joue autant dans les tribunaux que dans les data centers.

💬 28,8 millions d'échanges via 25 000 faux comptes, c'est pas de la veille concurrentielle un peu agressive, c'est une opération industrielle planifiée. Ce que ça révèle surtout, c'est qu'on peut désormais copier des années de R&D pour le prix d'un réseau de proxys bien organisé, et aucun accord de licence n'était prévu pour ça. Reste à voir si Alibaba, cotée à Wall Street, va vraiment devoir en répondre, ou si on en restera aux lettres de sénateurs.

☕️ Washington veut pouvoir tester les nouveaux modèles IA avant tout le monde

Microsoft, Google et xAI ont conclu des accords avec le Centre américain pour les standards et l'innovation en IA (CAISI) afin de lui fournir un accès anticipé à leurs modèles les plus avancés avant tout déploiement public. Ces modèles seront livrés sans garde-fous de sécurité, ce qui permettra aux chercheurs gouvernementaux de tester leurs capacités dans des scénarios hostiles réalistes. Le CAISI, qui avait déjà signé des accords similaires avec OpenAI et Anthropic, compte à ce jour une quarantaine d'évaluations de modèles à son actif, dont certains n'avaient pas encore été mis à la disposition du grand public. Microsoft a confirmé auprès de Reuters cette collaboration visant à identifier des "comportements inattendus" dans ses systèmes, et a par ailleurs signé un accord comparable avec l'AI Security Institute britannique. Cette initiative répond à une préoccupation croissante à Washington : ne pas découvrir les capacités réelles d'un nouveau modèle IA en même temps que le reste du monde, hackers inclus. Le lancement récent de Mythos, le modèle de pointe d'Anthropic, a cristallisé ces inquiétudes chez les spécialistes de la cyberdéfense. Entre les mains de pirates informatiques, un tel système pourrait potentiellement identifier et exploiter des failles dans des infrastructures critiques à une vitesse et une échelle inédites. C'est précisément pour limiter ce risque que le déploiement de Mythos a été restreint à une cinquantaine d'organisations sélectionnées. Le CAISI a ainsi fait évoluer sa mission : au-delà du développement de standards de tests, il évalue désormais les risques stratégiques et militaires que font peser ces modèles sur la sécurité nationale. Créé sous l'administration Biden comme AI Safety Institute, rattaché au département du Commerce, cet organisme a été rebaptisé CAISI par l'administration Trump tout en conservant ses attributions fondamentales. Son rôle s'inscrit dans un resserrement général des liens entre Washington et l'industrie de l'IA. La semaine précédant ces annonces, le Pentagone dévoilait des accords avec plusieurs fournisseurs d'IA pour l'exploitation de leurs modèles dans des missions classifiées, écartant notamment Anthropic du lot principal, même si Mythos pourrait malgré tout y être intégré selon certaines sources. La course aux modèles de frontière confronte ainsi les grandes puissances à un dilemme inédit : plus ces systèmes sont capables, plus ils deviennent à la fois des atouts stratégiques et des vecteurs de risques que les États cherchent à anticiper avant que le marché ne les diffuse à tous.