En juin 2025, nous détaillons notre approche pour perturber les utilisations malveillantes de l'IA grâce à des outils de sécurité qui détectent et contrent les abus, soutiennent les valeurs démocratiques et encouragent une mise en œuvre responsable de l'IA pour le bien commun.
Vu une erreur factuelle dans cet article ? Signalez-la. Toutes les corrections valides sont publiées sur /corrections.
Les agents d'intelligence artificielle capables d'agir de façon autonome, de déplacer des données entre systèmes et de déclencher des décisions sans intervention humaine posent un défi de gouvernance croissant pour les organisations européennes. À partir d'août 2026, l'entrée en vigueur des dispositions d'exécution de l'AI Act de l'Union européenne rendra ce défi juridiquement contraignant. Les articles 9 et 13 du texte imposent aux entreprises utilisant des systèmes d'IA dans des domaines à risque élevé, notamment le traitement de données personnelles ou les opérations financières, de maintenir une gestion des risques continue, documentée et révisable à chaque étape du déploiement, ainsi que de garantir que les sorties des systèmes soient interprétables par leurs utilisateurs. Les manquements à ces obligations exposeront les organisations à des pénalités substantielles. Pour les responsables informatiques, cela signifie concrètement qu'ils doivent être capables de prouver, pièces à l'appui, qu'un agent IA agit de façon sûre et légale. Or, beaucoup d'organisations échouent dès la première étape : elles ne disposent pas d'un registre centralisé de leurs agents en production, ni d'un enregistrement précis de leurs capacités et permissions. Sans traçabilité complète des actions, quand un agent interagit avec d'autres agents dans des architectures multi-agents, la chaîne de responsabilité devient impossible à reconstituer. Des solutions techniques existent, comme le SDK Python Asqav, qui signe cryptographiquement chaque action d'un agent et lie les enregistrements à une chaîne de hachage immuable, rendant toute falsification détectable. L'enjeu dépasse la technique : il touche directement à la capacité des entreprises à démontrer leur conformité réglementaire à tout instant. L'émergence des architectures agentiques complexes, où des systèmes délèguent des tâches à d'autres agents sans supervision humaine directe, a rendu obsolètes les approches traditionnelles de gouvernance logicielle. L'AI Act oblige désormais les entreprises à repenser leurs processus de bout en bout : tout agent doit avoir une identité unique, des permissions documentées, et surtout un mécanisme de révocation rapide, idéalement en quelques secondes, incluant la suppression immédiate des accès API et l'annulation des tâches en attente. La supervision humaine ne peut se limiter à un score de confiance ou à l'affichage d'une requête : les opérateurs doivent disposer d'un contexte suffisant pour intervenir avant qu'une erreur ne se produise. Les fournisseurs tiers d'IA sont également concernés, car leurs systèmes doivent être suffisamment documentés et interprétables pour que les entreprises clientes puissent en garantir un usage conforme à la loi.
UELes entreprises françaises et européennes déployant des agents IA dans des domaines à risque élevé doivent mettre en conformité leurs processus de gouvernance (registre d'agents, traçabilité, révocation) avant l'entrée en vigueur des articles 9 et 13 de l'AI Act en août 2026, sous peine de pénalités substantielles.
Donald Trump a signé mardi un décret autorisant les entreprises d'intelligence artificielle à partager leurs modèles les plus avancés avec le gouvernement fédéral avant leur lancement public. La mesure phare du texte fixe une fenêtre maximale de 30 jours de partage volontaire avant mise à disposition du public, une version allégée par rapport au projet initial, qui prévoyait entre 14 et 90 jours. Plusieurs agences fédérales devront en parallèle développer un système d'évaluation des capacités cybernétiques avancées de ces modèles. Les entreprises participantes bénéficieront de certaines protections en matière de confidentialité, mais leur participation reste entièrement facultative. Le décret prévoit également un renforcement des défenses fédérales face aux menaces liées à l'IA, notamment pour les infrastructures critiques. Ce texte marque un tournant notable dans la posture de l'administration Trump, jusqu'ici farouchement opposée à toute forme de régulation de l'IA au nom de la compétitivité américaine face à la Chine. Trump avait d'ailleurs repoussé la signature d'une première version du décret, craignant qu'elle ne bride l'innovation nationale. La version adoptée reçoit le soutien d'organisations spécialisées dans la sécurité de l'IA : Brad Carson, président d'Americans for Responsible Innovation, y voit la preuve que la Maison-Blanche prend désormais ces risques au sérieux, tandis que Brendan Steinhauser, dirigeant d'Alliance for Secure AI, appelle le Congrès à transformer ces mesures volontaires en obligations légales, ce que le décret lui-même exclut explicitement. Ce changement de cap s'inscrit dans un contexte de prise de conscience progressive des risques que font peser les modèles de frontier sur la sécurité nationale. Un élément concret a pu peser dans la balance : en avril, Anthropic a déployé de manière limitée son modèle Mythos, qui aurait permis d'identifier des milliers de vulnérabilités critiques dans les principaux systèmes d'exploitation et navigateurs web. Par ailleurs, Google, Microsoft et xAI ont déjà accepté le mois dernier de soumettre leurs modèles à l'examen du Centre pour les normes et l'innovation en IA (CAISI), rattaché au département du Commerce. OpenAI et Anthropic avaient pris un engagement similaire dès 2024, sous l'administration Biden. Le vrai test de ce décret sera donc la prochaine saison de lancements majeurs : sans obligation légale, tout repose sur la bonne volonté d'acteurs dont les intérêts commerciaux restent la priorité.
UELe décret américain, entièrement fondé sur le volontariat, contraste avec l'approche contraignante de l'AI Act européen et pourrait peser sur les discussions de convergence réglementaire transatlantique.
Après plusieurs suicides de mineurs prétendument liés à des chatbots d'IA, un avocat tente de tenir des entreprises comme OpenAI juridiquement responsables. Ces affaires mettent en lumière les risques des assistants conversationnels sur des utilisateurs vulnérables, notamment les jeunes. Les poursuites judiciaires cherchent à établir une responsabilité légale inédite pour les fabricants d'IA dans ce type de tragédies.
UELes poursuites américaines contre OpenAI pour décès de mineurs liés aux chatbots pourraient influencer la réglementation européenne sur la protection des mineurs dans l'AI Act.
Le Conseil d'État a validé une proposition de loi française visant à protéger les auteurs contre l'utilisation de leurs œuvres par les systèmes d'IA sans compensation. Ce texte, porté par des sénateurs, cherche à rééquilibrer le rapport de force entre créateurs et entreprises technologiques. La validation a été obtenue malgré l'opposition active des lobbys tech.
UEUne loi française pourrait imposer une compensation obligatoire aux entreprises d'IA utilisant des œuvres protégées, créant un précédent juridique majeur pour tout le marché européen.
Recevez l'essentiel de l'IA chaque jour
Une sélection éditoriale quotidienne, sans bruit. Directement dans votre boîte mail.
