Google donne un builder d’agents IA au Pentagone, et on ne sait même pas pourquoi

Pourquoi ne pas laisser la sélection du modèle par défaut dans Copilot, Gemini et autres outils IA

Le mathématicien Adam Kucharski a mis en évidence une faille frappante dans Microsoft Copilot : lorsqu'il a soumis à l'outil des jeux de données strictement identiques en changeant uniquement les étiquettes de pays, Copilot a produit des analyses détaillées faisant état de différences nationales qui n'existaient tout simplement pas. Au lieu de détecter l'absence de variation dans les chiffres, le modèle par défaut a généré des stéréotypes circonstanciés, présentant des résultats fabriqués comme s'ils étaient fondés sur les données réelles. Cette expérience, reproductible avec d'autres plateformes comme Gemini, révèle un angle mort systématique dans les outils d'IA généraliste utilisés au quotidien. Le problème n'est pas anodin : des professionnels s'appuient sur ces outils pour analyser des données économiques, sociales ou médicales, et un modèle qui confond ses propres biais culturels avec une analyse factuelle peut conduire à des décisions erronées sans que l'utilisateur s'en aperçoive. Les modèles dits "de raisonnement" (o3 d'OpenAI, les modes thinking de Gemini, etc.) parviennent à détecter ce type de piège, mais uniquement si l'utilisateur choisit activement de les activer, ce que la grande majorité ne fait pas. Ce constat pointe vers un problème de conception plus large : les interfaces de Copilot, Gemini ou ChatGPT proposent un modèle par défaut qui n'est pas nécessairement adapté à toutes les tâches, sans guider l'utilisateur vers le bon outil. Alors que Microsoft et Google intègrent l'IA dans des environnements professionnels sensibles, la question de la sélection automatique ou assistée du modèle selon le contexte d'usage devient un enjeu de fiabilité critique, que les éditeurs n'ont pas encore pleinement résolu.

💬 Le test d'Adam Kucharski est glaçant: données identiques, étiquettes de pays changées, et Copilot invente des différences nationales bien argumentées. Le modèle ne ment pas au sens classique, il comble les vides avec ses biais culturels, et ça passe parce que c'est fluide et ça semble fondé. Utiliser ces outils sur des données pro sans activer les modes raisonnement, c'est signer un rapport avec un outil qui hallucine en silence.

☕️ Pour le patron de Grammarly, tout expert pourrait tirer profit d’agents d’IA à son nom

Shishir Mehrotra, PDG de Superhuman (société éditrice de Grammarly), tente de défendre sa fonctionnalité « Expert Review » tout en admettant sa suppression précipitée. Lancée sans supervision suffisante, la décision aurait été prise par « un gestionnaire de produit et quelques ingénieurs » parmi les 1 500 employés de l'entreprise, elle permettait de réviser des textes en imitant le style d'auteurs, scientifiques et journalistes réels, sans leur consentement. Suspendue le 12 mars, quelques heures après que des médias francophones eurent identifié les noms de personnalités comme Valérie Masson-Delmotte, Annie Ernaux ou Florence Aubenas dans l'outil, la fonctionnalité cristallise désormais un débat plus large sur l'usage commercial des identités par l'IA. La controverse touche à une question fondamentale pour le secteur : peut-on utiliser le nom et l'œuvre d'une personnalité publique pour alimenter un produit commercial sans compensation ni accord préalable ? Mehrotra balaie d'abord les accusations d'usurpation d'identité comme « un peu exagérées », arguant que la visibilité en ligne constitue en soi une forme de bénéfice pour les experts cités. Cette position, vivement rejetée par la communauté des journalistes et des universitaires, place Grammarly dans une posture délicate à l'heure où la jurisprudence sur les droits des créateurs face aux LLM reste largement à construire. Sur le plan juridique, la journaliste Julia Angwin et d'autres plaignants ont engagé des poursuites aux États-Unis pour usage non consenti du nom et de l'identité. Techniquement, Mehrotra précise que les noms intégrés à l'outil « viennent directement des LLM populaires », Grammarly n'aurait fait qu'encapsuler une requête adressée à des modèles comme Claude ou Gemini, leur demandant d'améliorer un texte en s'appuyant sur les travaux des profils les plus pertinents. Aucune base de données propriétaire n'aurait donc été constituée, ce qui soulève une autre question : la responsabilité incombe-t-elle à l'éditeur du produit ou aux fournisseurs de modèles sous-jacents ? Pressé trois fois sur la question de la rémunération, le dirigeant finit par esquisser un modèle économique futur : des agents IA personnalisés représentant un expert, monétisables selon une répartition 70 % pour l'auteur, 30 % pour la plateforme, un schéma calqué sur l'économie des créateurs de contenu, sans que soit abordée la question du consentement initial. Cette proposition, formulée après une levée de fonds de un milliard de dollars, illustre la tendance du secteur à construire des modèles de partage de revenus après coup, une fois les usages établis et les contestations juridiques engagées.

Le Pentagone envisage de permettre aux entreprises d'IA de s'entraîner sur des données classifiées, selon un responsable de la défense

Le Pentagone envisage de créer des environnements sécurisés permettant aux grandes entreprises d'intelligence artificielle d'entraîner leurs modèles sur des données classifiées militaires, selon des informations obtenues par le MIT Technology Review. Ce développement marquerait une rupture significative avec la pratique actuelle, où des modèles comme Claude d'Anthropic sont déjà utilisés pour répondre à des questions en contexte classifié, notamment pour l'analyse de cibles en Iran, sans pour autant avoir accès aux données lors de leur phase d'entraînement. L'enjeu est de taille : entraîner des modèles directement sur des renseignements classifiés permettrait de les rendre sensiblement plus précis et efficaces pour des tâches militaires spécifiques. Cette initiative s'inscrit dans un contexte de forte demande, alors que le Pentagone a déjà conclu des accords avec OpenAI et xAI d'Elon Musk pour opérer leurs modèles dans des environnements sécurisés, et qu'il cherche à se transformer en une force de combat « IA-first » face à l'escalade des tensions avec l'Iran. Concrètement, l'entraînement se déroulerait dans des centres de données accrédités pour héberger des projets gouvernementaux classifiés. Le Département de la Défense conserverait la propriété des données, mais du personnel des entreprises d'IA disposant des habilitations appropriées pourrait, dans de rares cas, y avoir accès. Avant d'aller plus loin, le Pentagone prévoit néanmoins d'évaluer d'abord les performances des modèles sur des données non classifiées, comme des images satellites commerciales. Aalok Mehta, directeur du Wadhwani AI Center au Center for Strategic and International Studies, pointe le risque principal : des informations sensibles, comme l'identité d'un agent opérationnel, intégrées lors de l'entraînement pourraient être involontairement révélées à des unités militaires non autorisées à y accéder. Palantir, acteur incontournable de la sécurité, a déjà remporté d'importants contrats pour construire l'infrastructure permettant aux officiels d'interroger des modèles d'IA en environnement classifié. Mehta tempère toutefois les inquiétudes les plus extrêmes : avec une architecture correctement conçue, le risque de fuite vers l'internet public ou vers les serveurs des entreprises privées resterait « très limité ». Le défi principal demeure donc interne, cloisonner l'information entre les différents niveaux d'accréditation au sein même de l'appareil militaire américain.

OpenAI s’allie au Pentagone : sa cheffe de la robotique démissionne en dénonçant un manque de sécurité

Caitlin Kalinowski, responsable de la robotique chez OpenAI, a démissionné en dénonçant l'accord passé entre OpenAI et le Pentagone (Département de la défense de l'administration Trump). Elle critique l'absence de « cadre » de sécurité encadrant ce partenariat. Sa démission soulève des questions sur les garanties éthiques et sécuritaires dans les collaborations entre l'IA civile et le secteur militaire américain.