Défiant les mauvais usages de l'IA : Juin 2025

Les défis de gouvernance de l'IA à base d'agents face au règlement européen en 2026

Les agents d'intelligence artificielle capables d'agir de façon autonome, de déplacer des données entre systèmes et de déclencher des décisions sans intervention humaine posent un défi de gouvernance croissant pour les organisations européennes. À partir d'août 2026, l'entrée en vigueur des dispositions d'exécution de l'AI Act de l'Union européenne rendra ce défi juridiquement contraignant. Les articles 9 et 13 du texte imposent aux entreprises utilisant des systèmes d'IA dans des domaines à risque élevé, notamment le traitement de données personnelles ou les opérations financières, de maintenir une gestion des risques continue, documentée et révisable à chaque étape du déploiement, ainsi que de garantir que les sorties des systèmes soient interprétables par leurs utilisateurs. Les manquements à ces obligations exposeront les organisations à des pénalités substantielles. Pour les responsables informatiques, cela signifie concrètement qu'ils doivent être capables de prouver, pièces à l'appui, qu'un agent IA agit de façon sûre et légale. Or, beaucoup d'organisations échouent dès la première étape : elles ne disposent pas d'un registre centralisé de leurs agents en production, ni d'un enregistrement précis de leurs capacités et permissions. Sans traçabilité complète des actions, quand un agent interagit avec d'autres agents dans des architectures multi-agents, la chaîne de responsabilité devient impossible à reconstituer. Des solutions techniques existent, comme le SDK Python Asqav, qui signe cryptographiquement chaque action d'un agent et lie les enregistrements à une chaîne de hachage immuable, rendant toute falsification détectable. L'enjeu dépasse la technique : il touche directement à la capacité des entreprises à démontrer leur conformité réglementaire à tout instant. L'émergence des architectures agentiques complexes, où des systèmes délèguent des tâches à d'autres agents sans supervision humaine directe, a rendu obsolètes les approches traditionnelles de gouvernance logicielle. L'AI Act oblige désormais les entreprises à repenser leurs processus de bout en bout : tout agent doit avoir une identité unique, des permissions documentées, et surtout un mécanisme de révocation rapide, idéalement en quelques secondes, incluant la suppression immédiate des accès API et l'annulation des tâches en attente. La supervision humaine ne peut se limiter à un score de confiance ou à l'affichage d'une requête : les opérateurs doivent disposer d'un contexte suffisant pour intervenir avant qu'une erreur ne se produise. Les fournisseurs tiers d'IA sont également concernés, car leurs systèmes doivent être suffisamment documentés et interprétables pour que les entreprises clientes puissent en garantir un usage conforme à la loi.

Trump veut (enfin) réguler l’IA… mais seulement si les géants de la tech veulent bien

Donald Trump a signé mardi un décret autorisant les entreprises d'intelligence artificielle à partager leurs modèles les plus avancés avec le gouvernement fédéral avant leur lancement public. La mesure phare du texte fixe une fenêtre maximale de 30 jours de partage volontaire avant mise à disposition du public, une version allégée par rapport au projet initial, qui prévoyait entre 14 et 90 jours. Plusieurs agences fédérales devront en parallèle développer un système d'évaluation des capacités cybernétiques avancées de ces modèles. Les entreprises participantes bénéficieront de certaines protections en matière de confidentialité, mais leur participation reste entièrement facultative. Le décret prévoit également un renforcement des défenses fédérales face aux menaces liées à l'IA, notamment pour les infrastructures critiques. Ce texte marque un tournant notable dans la posture de l'administration Trump, jusqu'ici farouchement opposée à toute forme de régulation de l'IA au nom de la compétitivité américaine face à la Chine. Trump avait d'ailleurs repoussé la signature d'une première version du décret, craignant qu'elle ne bride l'innovation nationale. La version adoptée reçoit le soutien d'organisations spécialisées dans la sécurité de l'IA : Brad Carson, président d'Americans for Responsible Innovation, y voit la preuve que la Maison-Blanche prend désormais ces risques au sérieux, tandis que Brendan Steinhauser, dirigeant d'Alliance for Secure AI, appelle le Congrès à transformer ces mesures volontaires en obligations légales, ce que le décret lui-même exclut explicitement. Ce changement de cap s'inscrit dans un contexte de prise de conscience progressive des risques que font peser les modèles de frontier sur la sécurité nationale. Un élément concret a pu peser dans la balance : en avril, Anthropic a déployé de manière limitée son modèle Mythos, qui aurait permis d'identifier des milliers de vulnérabilités critiques dans les principaux systèmes d'exploitation et navigateurs web. Par ailleurs, Google, Microsoft et xAI ont déjà accepté le mois dernier de soumettre leurs modèles à l'examen du Centre pour les normes et l'innovation en IA (CAISI), rattaché au département du Commerce. OpenAI et Anthropic avaient pris un engagement similaire dès 2024, sous l'administration Biden. Le vrai test de ce décret sera donc la prochaine saison de lancements majeurs : sans obligation légale, tout repose sur la bonne volonté d'acteurs dont les intérêts commerciaux restent la priorité.

Le sénateur Mark Warner prépare un projet de loi sur les agents IA

Le sénateur démocrate Mark Warner (Virginie) prévoit de dévoiler lundi un projet de loi encadrant les agents d'intelligence artificielle, une première législative aux États-Unis dans ce domaine. Le texte, dont The Information a pu consulter une version préliminaire, constitue un cadre de discussion destiné à ouvrir le débat au Congrès sur cette catégorie d'IA en pleine expansion. Les agents couvrent un spectre large : des chatbots de service client sur les sites de réservation de voyage aux assistants plus sophistiqués comme OpenClaw, capables de rédiger des e-mails, d'effectuer des recherches ou d'accomplir des tâches complexes pour les utilisateurs. L'enjeu est considérable, car les agents constituent désormais le principal moteur de croissance et d'investissement dans le secteur de l'IA, bien au-delà des simples interfaces conversationnelles comme Claude ou ChatGPT. Le projet de Warner cible deux problématiques centrales : la confidentialité des données personnelles des utilisateurs lorsqu'elles sont traitées par ces systèmes autonomes, et le risque que des plateformes dominantes comme Google ou Meta exploitent leur position pour brider ou pénaliser les agents développés par des concurrents. Ce second point touche directement aux questions de concurrence et d'accès équitable dans l'écosystème numérique. Le texte s'inscrit dans une course législative plus large au Congrès américain, où des dizaines de projets de loi circulent actuellement sur des thématiques allant des deepfakes à la sécurité des modèles d'IA. Malgré l'urgence perçue, la proposition Warner se heurtera probablement à un calendrier législatif chargé et à l'approche des élections de mi-mandat, qui concentrent l'attention politique. Le fait que ce texte soit qualifié de "discussion draft" signale que son auteur cherche d'abord à fédérer autour d'une approche commune plutôt qu'à pousser rapidement un vote, laissant ouverte la question de son devenir dans un Congrès divisé.

Midjourney veut forcer Disney, Universal et Warner à dévoiler leur propre usage de l’IA

Midjourney, la start-up spécialisée dans la génération d'images par intelligence artificielle, a fait évoluer sa stratégie de défense dans le procès qui l'oppose à trois géants d'Hollywood, Universal, Disney et Warner Bros. Ces studios accusent l'entreprise d'avoir entraîné ses modèles sur des contenus protégés par le droit d'auteur, notamment des personnages emblématiques, sans autorisation ni compensation. En réponse, Midjourney a désormais demandé aux studios plaignants de dévoiler leurs propres pratiques internes en matière d'intelligence artificielle, dans le cadre de la procédure de discovery devant le tribunal. Cette manœuvre juridique vise à établir une possible contradiction entre les accusations portées contre Midjourney et l'usage que ces mêmes studios font de l'IA générative dans leurs productions, que ce soit pour des effets visuels, du doublage, de la retouche d'images ou d'autres usages en coulisses. Si les studios utilisent des outils similaires reposant sur des jeux de données à l'origine incertaine, l'argument de Midjourney gagnerait en force devant le juge, en pointant une forme de deux poids deux mesures de la part de l'industrie du cinéma. Cette affaire s'inscrit dans une vague plus large de contentieux entre créateurs de contenus et entreprises d'IA générative, où les ayants droit tentent de faire reconnaître leurs œuvres comme protégées face à des modèles entraînés sur des volumes massifs de données glanées sur internet. L'issue de ce bras de fer pourrait créer un précédent important pour définir les limites légales de l'entraînement des IA sur des contenus culturels, tout en clarifiant si les studios eux-mêmes respectent les règles qu'ils cherchent à faire appliquer à leurs concurrents technologiques.

💬 Malin, ce coup de billard à trois bandes. Midjourney retourne l'accusation contre ses plaignants : si Disney et Warner utilisent aussi des modèles entraînés sur des données douteuses en interne, leur procès s'effondre sur son propre argument. Ce dossier va au-delà d'un simple litige : il va forcer l'industrie du cinéma à choisir entre défendre le droit d'auteur ou continuer à utiliser l'IA générative en coulisses sans le crier sur les toits.