OpenAI, Anthropic et Google s’allient contre le siphonnage de leurs modèles par la Chine

Anthropic : son modèle Mythos serait utilisé par la NSA pour des opérations offensives contre la Chine et l'Iran

Anthropic a déployé une demi-douzaine d'ingénieurs directement au sein de la NSA pour adapter son modèle d'IA Mythos à des opérations cyber offensives. Selon des informations rapportées par The Decoder, ce modèle serait utilisé pour mener des intrusions dans des réseaux en Chine et en Iran. Il s'agit d'un positionnement inédit pour une entreprise d'IA qui se présente habituellement sous l'angle de la sécurité responsable et du développement maîtrisé des systèmes d'intelligence artificielle. Cette collaboration soulève des questions importantes sur la frontière entre IA commerciale et IA militaire. Anthropic, comme d'autres acteurs du secteur, avait formulé des engagements publics limitant certains usages de ses modèles, notamment la surveillance de masse. Or, ces restrictions s'appliquent explicitement aux seuls citoyens américains, laissant une marge d'utilisation considérable pour des opérations visant des populations étrangères. L'intégration directe d'ingénieurs civils dans une agence de renseignement militaire marque un pas supplémentaire vers la militarisation de l'IA grand public. Ce mouvement s'inscrit dans une dynamique plus large de course aux capacités cyber entre les États-Unis, la Chine et l'Iran, dans laquelle les grands modèles de langage jouent un rôle croissant pour automatiser la détection de vulnérabilités et la conception d'attaques. Anthropic rejoint ainsi OpenAI et d'autres laboratoires qui ont noué des partenariats avec le Pentagone ou les agences fédérales américaines. Le modèle Mythos, distinct des produits commerciaux comme Claude, semble avoir été conçu ou adapté spécifiquement pour répondre aux besoins classifiés de la communauté du renseignement.

💬 Le discours "sécurité responsable" d'Anthropic vient de prendre un sacré coup. Des ingénieurs civils intégrés directement à la NSA, un modèle dédié et classifié pour de la cyber offensive, des engagements publics qui s'appliquent aux seuls citoyens américains (le reste du monde, bonne chance) : c'est le genre de décision qui se justifie probablement en interne avec "si ce n'est pas nous, ce sera quelqu'un d'autre". OpenAI a fait le même virage, mais Anthropic se vendait différemment.

Anthropic : les modèles IA plus puissants négocient mieux, et les perdants ne s'en rendent pas compte

Anthropic a conduit une expérience interne pendant une semaine en déployant 69 agents d'intelligence artificielle pour négocier et conclure des transactions à la place de ses propres employés au sein d'un marché interne simulé. Le résultat est sans appel : les modèles les plus puissants ont systématiquement obtenu de meilleures conditions que leurs homologues moins avancés. Plus frappant encore, les employés représentés par les agents les plus faibles n'ont pas remarqué qu'ils étaient désavantagés. Ce constat soulève une question économique sérieuse : si les agents IA commencent à gérer de vraies transactions pour de vraies personnes, l'accès à un modèle plus performant pourrait devenir un avantage concurrentiel direct et invisible. Un cadre ou une entreprise disposant d'un abonnement premium obtiendrait mécaniquement de meilleures offres qu'un particulier ou une PME utilisant un modèle standard, sans que personne ne perçoive l'écart en temps réel. Ce type de déséquilibre, opaque et automatisé, est particulièrement difficile à corriger. Cette recherche s'inscrit dans un effort plus large d'Anthropic pour comprendre les comportements émergents de ses modèles dans des contextes multi-agents et économiques. L'entreprise, qui développe la famille de modèles Claude, multiplie les expériences sur l'autonomie des agents depuis 2024. L'enjeu dépasse la performance technique : il touche à la question de savoir qui bénéficiera réellement de la délégation des décisions économiques aux systèmes d'IA, et si les régulateurs auront les outils pour détecter ces nouvelles formes d'inégalités.

💬 Le truc qui me frappe, c'est pas que les meilleurs modèles négocient mieux (ça, on s'en doutait depuis un moment), c'est que les perdants ne le voient pas. Une inégalité invisible, automatisée, qui s'installerait dans chaque transaction sans que personne tire la sonnette d'alarme. L'AI Act va avoir du boulot.

La technologie de tatouage numérique SynthID de Google adoptée par OpenAI, Nvidia et d'autres

Google a annoncé que sa technologie de marquage SynthID, développée pour identifier les contenus générés par intelligence artificielle, est désormais adoptée par des acteurs majeurs du secteur, dont OpenAI et Nvidia. Lancée il y a trois ans, SynthID a déjà permis de labelliser 100 milliards d'images et de vidéos, ainsi que l'équivalent de 60 000 ans d'audio. Ce déploiement massif s'accélère avec l'ouverture de la technologie à des partenaires extérieurs à Google. Parallèlement, Google renforce son engagement envers le standard C2PA, une norme qui intègre des métadonnées dans les fichiers pour décrire leur mode de création. Les smartphones Pixel 10 sont les premiers à embarquer C2PA nativement : chaque photo prise avec l'appareil contient des informations sur son traitement, et les images comportant des éléments génératifs sont automatiquement taguées. Cette fonctionnalité sera étendue aux vidéos des Pixel 8, 9 et 10 dans les prochaines semaines. L'enjeu est considérable à une époque où les deepfakes et les contenus synthétiques atteignent un niveau de réalisme qui rend leur détection impossible à l'œil nu. Là où l'on repérait autrefois facilement une IA aux doigts en trop sur une image, les générateurs actuels produisent des visuels indiscernables du réel. SynthID répond à ce problème en inscrivant un filigrane numérique imperceptible directement dans le contenu, sans dégrader sa qualité. L'adoption par OpenAI et Nvidia élargit significativement la portée de cette solution, couvrant potentiellement une part croissante des contenus IA produits à l'échelle mondiale. Google intègre également ces capacités dans ses propres produits : Gemini sera bientôt capable d'analyser la provenance d'un fichier en s'appuyant sur les métadonnées C2PA, et cette même fonctionnalité arrivera dans Chrome et Google Search dans quelques mois. Cette stratégie à deux niveaux, SynthID pour le marquage invisible, C2PA pour les métadonnées explicites, positionne Google comme un acteur central dans la bataille pour la traçabilité des contenus à l'ère de l'IA générative, un sujet qui mobilise régulateurs, plateformes et sociétés civiles autour du monde.

Google et Microsoft s'allient pour contrer Anthropic et OpenAI

Google, Microsoft, Salesforce, Snowflake et ServiceNow ont annoncé mercredi un accord commun pour soutenir un protocole logiciel destiné aux systèmes d'IA en entreprise. L'initiative réunit certains des plus grands acteurs du logiciel d'entreprise mondial autour d'un standard technique partagé, dans le but d'unifier la façon dont les outils d'IA s'intègrent aux infrastructures existantes de leurs clients. L'enjeu est considérable pour les directions informatiques des grandes entreprises : en adoptant un protocole commun, ces éditeurs leur offrent une voie d'accès à l'IA qui s'appuie sur des systèmes déjà en place, sans dépendre exclusivement d'Anthropic ou d'OpenAI. Pour des sociétés comme Salesforce ou ServiceNow, dont les logiciels équipent des centaines de milliers d'organisations, c'est une façon de transformer leur base installée en levier stratégique face aux pure players de l'IA générative. Ce mouvement s'inscrit dans une compétition ouverte entre deux camps : d'un côté, les startups d'IA comme Anthropic et OpenAI qui cherchent à s'imposer directement comme couche d'intelligence dans les entreprises ; de l'autre, les éditeurs traditionnels qui misent sur leur profondeur d'intégration et leurs relations client de longue date pour ne pas être marginalisés. En créant un standard commun, Google, Microsoft et leurs partenaires cherchent à structurer le marché autour de règles du jeu qui valorisent l'écosystème existant plutôt que les modèles de fondation seuls.