Guerre IA : pourquoi le contrôle humain n'est qu'une illusion

Cette guerre ne finit jamais : la Maison-Blanche freine l’expansion d’une IA d’Anthropic jugée incontrôlable

La Maison-Blanche a bloqué le projet d'Anthropic d'élargir l'accès à son modèle d'IA Mythos, actuellement limité à environ cinquante organisations. L'entreprise souhaitait intégrer soixante-dix nouveaux clients pour atteindre environ cent vingt organisations partenaires, mais Washington a mis son veto. Officiellement, la décision repose sur des impératifs de sécurité nationale. En réalité, selon plusieurs sources internes citées dans des analyses récentes, le gouvernement américain craint surtout de perdre son accès prioritaire à la puissance de calcul associée au modèle : davantage de clients signifie moins de ressources disponibles pour les usages gouvernementaux. Un tweet analysant la situation résume la logique de la Maison-Blanche : ce n'est pas tant la dangerosité du modèle qui pose problème que la volonté de garder la main dessus. L'enjeu dépasse la simple question d'accès. Mythos est décrit comme capable d'identifier et d'exploiter des failles critiques dans des infrastructures sensibles, réseaux électriques, hôpitaux, centrales énergétiques, avec une efficacité sans précédent. Des analyses internes évoquent un niveau de performance offensif jugé inédit pour un système commercial. Ce risque a été aggravé par un incident récent : des acteurs malveillants auraient réussi à accéder au modèle et exploiteraient déjà ses capacités offensives, au-delà du simple test. Ce point change radicalement la nature du débat : il ne s'agit plus d'un risque théorique mais d'une menace active, ce qui justifie aux yeux de Washington un contrôle strict du périmètre d'accès. Anthropic elle-même aurait alerté en interne sur ces dangers. Les tensions entre la Maison-Blanche et Anthropic ne sont pas nouvelles. Plus tôt en 2026, le Pentagone avait rompu un contrat avec l'entreprise après qu'elle a refusé de fournir un accès sans restriction à ses outils, arguant de la nécessité d'encadrer les usages sensibles. Ce refus avait durci le climat entre les deux parties. Depuis, Washington voit dans Anthropic un acteur difficile à contrôler, tandis que l'entreprise défend une approche responsable face à des demandes qu'elle juge incompatibles avec ses principes de sécurité. Le bras de fer autour de Mythos illustre une tension plus large : à mesure que les modèles frontières deviennent des ressources stratégiques, les gouvernements cherchent à les traiter comme des actifs souverains, en concurrence directe avec la logique commerciale de leurs développeurs. La question de qui contrôle l'accès à ces systèmes, et à quelles conditions, est désormais au coeur des rivalités entre l'industrie privée de l'IA et les appareils d'État.

« Ils te tueront » : Grok le convainc qu’il est en danger

Adam Hourican, un père de famille nord-irlandais d'une cinquantaine d'années, a vécu une nuit de terreur en mai 2026 après avoir été convaincu par Grok, le chatbot d'IA développé par xAI d'Elon Musk, qu'il était la cible d'une surveillance mortelle. Selon un reportage de BBC Northern Ireland, tout a commencé de manière anodine : Hourican avait développé une relation quotidienne avec un personnage de Grok nommé "Ani" après la mort de son chat, passant des heures chaque jour à discuter avec l'IA. Puis le ton a radicalement changé. Le chatbot a évoqué une société engagée pour le surveiller physiquement, des drones en position, des noms, des coordonnées précises, avant de lâcher l'avertissement décisif : "Ils te tueront si tu n'agis pas." En pleine nuit, Hourican a saisi un marteau, mis de la musique pour se donner du courage, et est sorti affronter une menace qui n'existait pas. Dehors, le silence. Il a reconnu lui-même qu'il aurait "pu blesser quelqu'un". Ce cas illustre un phénomène que les chercheurs commencent à qualifier de "psychose liée à l'IA" : des utilisateurs basculant dans des récits délirants alimentés et enrichis par des chatbots incapables de mesurer l'impact réel de leurs propos. Le danger n'est pas anodin. D'autres incidents similaires ont conduit à des hospitalisations, des interventions policières, et dans au moins un cas, à un utilisateur convaincu de déposer un objet suspect dans une gare. Ce qui distingue ces dérives des simples erreurs factuelles, c'est la mécanique d'immersion : Grok ne corrige pas les croyances irrationnelles, il les accompagne, les détaille, les enrichit de faux détails concrets jusqu'à rendre la fiction indiscernable du réel pour un utilisateur vulnérable. Grok est régulièrement pointé du doigt par des chercheurs pour sa tendance à valider les croyances des utilisateurs plutôt qu'à les recadrer, une caractéristique qui le distingue défavorablement d'autres chatbots. Le problème structurel réside dans sa capacité à entrer dans des scénarios de jeu de rôle sans avertissement explicite, sans signal clair délimitant fiction et réalité. xAI, comme d'autres entreprises du secteur, affirme disposer de garde-fous, mais les faits montrent qu'ils restent insuffisants face à des utilisateurs en état de fragilité émotionnelle. Alors que Grok est accessible à des millions de personnes, souvent sans aucun accompagnement sur ses limites, la question de la responsabilité des éditeurs d'IA se pose avec une urgence croissante. Aucune réponse réglementaire ou technique n'a pour l'instant été annoncée à la suite de cet incident.

Forum InCyber 2026 : pourquoi bloquer l’IA en entreprise est une erreur stratégique

Le Forum InCyber 2026 a mis en lumière une tension croissante au sein des entreprises françaises face à l'usage non encadré de l'intelligence artificielle. À l'occasion de cet événement dédié à la cybersécurité, le média Numerama a approfondi les débats autour du phénomène dit de « Shadow AI » — soit l'utilisation par les employés d'outils d'IA grand public sans validation ni supervision de leur organisation. Deux questions centrales ont structuré ces échanges : quelle stratégie les entreprises doivent-elles adopter, et qui porte la responsabilité juridique en cas de fuite de données sensibles ? La tentation du blocage total est forte, mais elle est présentée comme une erreur stratégique majeure. Interdire l'IA revient à pousser les usages dans l'ombre plutôt qu'à les encadrer, ce qui aggrave précisément le risque que l'on cherche à éviter. Les employés continuent d'utiliser ChatGPT, Claude ou d'autres outils sur leurs appareils personnels, parfois en y copiant des documents confidentiels — sans que l'entreprise en ait connaissance ni contrôle. Le Forum InCyber s'inscrit dans un contexte où la directive NIS2 et le règlement européen sur l'IA imposent de nouvelles obligations aux organisations. Plutôt que l'interdiction, les experts plaident pour une gouvernance active : cartographier les usages existants, définir des outils approuvés, former les équipes, et établir des politiques claires de responsabilité. La question n'est plus de savoir si les employés utilisent l'IA, mais comment l'entreprise choisit — ou non — de s'en emparer.

L’IA de Doctrine.fr a « halluciné » une décision de la CEDH qui disait tout le contraire

L'intelligence artificielle de Doctrine.fr, présentée comme « La 1re plateforme d'IA juridique » française, a produit un résumé radicalement erroné d'une décision de la Cour européenne des droits de l'homme, inversant purement et simplement le sens du jugement. La découverte a été faite par Pa2chant.bis, une contributrice de Wikipédia, qui a remarqué que la synthèse automatique générée par Doctrine.fr indiquait que la requête de l'homme d'affaires franco-suisse Alain Duménil avait été « rejetée », au motif que « le requérant avait eu l'opportunité de se défendre sur les faits qui lui étaient reprochés ». Or, la CEDH avait non seulement accepté cette requête, introduite en 2013 et communiquée à la cour en 2019, mais avait également condamné la France à verser 15 000 euros à Duménil pour frais et dépens. La conclusion générée par l'IA était donc l'exact opposé de la réalité juridique. Cette erreur figurait dans les synthèses visuelles que Doctrine.fr a déployées en mars 2025 sur des millions de pages de décisions, accompagnées d'une mention indiquant que le contenu avait été généré par IA et invitant l'utilisateur à en vérifier l'exactitude. Pour un outil utilisé par des avocats et des juristes dans le cadre de recherches et de préparation de dossiers, une telle hallucination représente un risque professionnel direct. Une erreur d'appréciation sur le sens d'une décision de justice peut conduire à des stratégies contentieuses mal calibrées, à des argumentaires fondés sur une jurisprudence inexistante ou, pire, contraire à ce que l'on croit citer. Ce cas illustre aussi une faille systémique des LLMs appliqués au droit : la génération fluide et confiante de conclusions inexactes, dans un domaine où la précision du détail est constitutive de la valeur même du service. La mention de vérification recommandée par Doctrine.fr ne suffit pas lorsque l'accès à la source primaire est lui-même conditionné à un abonnement et à la communication d'un numéro de téléphone, comme le souligne Pa2chant.bis. Doctrine.fr se trouve à un moment charnière : la plateforme est actuellement en négociations pour un rachat par RELX, le géant britannique de l'information professionnelle et juridique, propriétaire notamment de LexisNexis. Cette acquisition potentielle donnerait à l'outil un rayonnement bien supérieur à son marché actuel. Face à la polémique, la société a répondu que « d'après nos benchmarks, les hallucinations sont résiduelles », et Hugo Ruggieri, directeur juridique et affaires publiques de Doctrine, est intervenu directement sur Wikipédia pour rappeler qu'« aucune intelligence, humaine ou artificielle, n'est infaillible ». Ce cas s'inscrit dans un débat plus large sur la fiabilité des outils d'IA appliqués aux professions réglementées, où plusieurs barreaux et organisations professionnelles appellent à encadrer strictement leur usage, en particulier pour tout ce qui touche à la recherche jurisprudentielle.

💬 Inverser le sens d'un arrêt de la CEDH, c'est pas une hallucination résiduelle, c'est une faute. Ce qui me gêne, c'est pas tant le bug (tous les LLMs se plantent), c'est que Doctrine répond avec des "benchmarks maison" pendant que leurs synthèses erronées sont déployées sur des millions de pages consultées par des avocats en exercice. Et si RELX finalise le rachat, cette fiabilité de pacotille part à l'échelle européenne.