Aller au contenu principal

AI Act & Régulation UE· sujet

144 articlesmis à jour le 10 juin 2026

L'AI Act européen et la régulation IA en Europe : reports d'échéances, deepfakes, droits d'auteur, et la souveraineté numérique face aux États-Unis et à la Chine.

Hub d'actualité sur AI Act & Régulation UE, agrégé en continu depuis 72 sources éditoriales. Pour les analyses long-form, voir /analyses.

Le pouls du sujet · 30 derniers jours

données Le Fil IA
40 111%
articles (vs 30j préc.)
3%
de la couverture IA
Souvent associé à

Mesuré sur notre corpus de 50+ sources, fenêtre glissante de 30 jours. Part de voix = part des articles IA de la période mentionnant AI Act & Régulation UE. Voir le Baromètre IA complet

À retenir · 30 derniers jours

L'AI Act européen est entré dans sa phase d'application progressive en 2024-2025, mais c'est en 2026 que la régulation IA produit ses premiers effets concrets. Pas seulement les sanctions, qui restent rares — surtout les leviers structurels que la Commission active : ouverture forcée d'Android aux assistants tiers, charge de la preuve sur les données d'entraînement, interdictions ciblées (deepfakes sexuels, applications de déshabillage), évaluation pré-déploiement des modèles frontière.

L'écart entre le discours politique et l'enforcement réel se réduit vite. Le Sénat français a adopté en avril 2026 une loi inversant la charge de la preuve sur l'origine des données d'entraînement IA, créant un précédent que la Commission européenne suit de près. Le DMA est mobilisé pour forcer Google à ouvrir Android aux assistants tiers (potentiel pour Mistral, Anthropic, OpenAI). L'AI Act art. 50 commence à être instrumentalisé pour des plaintes anti-trust agentique.

Comment lire ce hub

Si vous suivez l'actualité IA au quotidien, c'est votre flux par défaut sur la régulation IA en Europe. Toutes les publications agrégées de 72 sources éditoriales (Le Big Data, Frandroid, La Tribune, ZDNET FR, Politico EU, EuObserver, etc.).

Si vous arrivez par une recherche, la chronologie remet les épisodes-clés dans leur ordre, les essentiels couvrent les angles concurrence (DMA) / safety (CAISI) / droits d'auteur / interdictions ciblées, et la FAQ tranche les questions courantes (calendrier AI Act, sanctions, comparaison US).

Hub d'actualité, pas analyse éditoriale

Ce hub agrège et oriente. Quand un sujet régulation mérite une lecture verticale (la stratégie d'ouverture Android, la charge de la preuve droits d'auteur, l'arbitrage AI Act vs innovation), c'est dans la section analyses que le format long-form se déploie, avec thèse, prédiction testable et conditions de falsification.

Pourquoi AI Act & Régulation UE compte

La régulation IA en Europe n'est plus seulement défensive. Elle devient un levier stratégique pour les acteurs européens et un casse-tête de gouvernance pour les géants américains.

Trois mécaniques convergent en 2026. Première : le DMA (Digital Markets Act) est utilisé au-delà de la mobilité applicative — la Commission l'instrumentalise pour forcer l'ouverture des plateformes IA dominantes (Google + Android assistants tiers). Pour Mistral, Anthropic et autres, c'est une voie d'accès à 750 millions d'utilisateurs Android européens sans devoir signer un deal commercial avec Google.

Deuxième : la charge de la preuve sur les données d'entraînement bascule. Le Sénat français a inversé le principe en avril 2026 : c'est désormais aux laboratoires IA de prouver qu'ils n'ont pas utilisé d'œuvres protégées sans accord. Si le mécanisme se généralise au niveau européen, OpenAI, Anthropic et Google se retrouvent dans une position défensive structurelle, alors que Mistral peut potentiellement profiter de ses partenariats culturels nationaux pour démontrer la conformité.

Troisième : la coordination transatlantique sur la safety. L'engagement CAISI signé par OpenAI, Anthropic, Google DeepMind, Microsoft et xAI au gouvernement américain en mai 2026 ouvre un précédent. La Commission européenne pousse pour une procédure miroir au niveau européen via l'AI Act art. 50, qui imposerait l'évaluation pré-déploiement des modèles frontière par une autorité européenne indépendante.

Chronologie

  1. Mar 2024Adoption de l'AI Act par le Parlement européen
  2. Août 2024Entrée en vigueur formelle de l'AI Act
  3. Févr 2025Premières dispositions applicables : interdictions de pratiques prohibées (notation sociale, identification biométrique en temps réel)
  4. Mar 2026Le Parlement européen repousse certaines dispositions de l'AI Act, conserve l'interdiction des déshabillages IA
  5. Mar 2026L'UE s'apprête à interdire les applications de déshabillage après que Grok les a démocratisées
  6. Avr 2026Le Sénat français inverse la charge de la preuve sur l'origine des données d'entraînement IA
  7. Avr 2026Pression européenne pour forcer Google à ouvrir Android aux assistants IA tiers (DMA)
  8. Avr 2026Nouvelles mesures contraignantes en approche contre Meta et Google
  9. 5 mai 2026Engagement CAISI : OpenAI, Anthropic, Google DeepMind, Microsoft et xAI acceptent l'évaluation pré-déploiement par le gouvernement US — précédent pour une procédure miroir AI Act
  10. 5 mai 2026Character.AI poursuivie pour un chatbot se présentant comme médecin agréé : précédent civil sur la responsabilité éditeur d'IA grand public

Cinq articles essentiels

Sélection éditoriale. Ces cinq pièces couvrent les angles les plus utiles pour comprendre AI Act & Régulation UE en 2026.

  1. Le DMA appliqué à Android pour les assistants IA : le levier réglementaire le plus structurant pour ouvrir le marché européen aux acteurs non-Google.

  2. La charge de la preuve sur les données d'entraînement IA inversée par le Sénat français en avril 2026. Précédent national qui peut se généraliser au niveau européen.

  3. La loi française qui pourrait forcer les géants de l'IA à prouver l'origine de leurs données d'entraînement. Mécanisme central de la souveraineté numérique européenne.

  4. L'engagement CAISI : 5 grands labos acceptent l'évaluation pré-déploiement par le gouvernement américain. Précédent pour une procédure miroir au niveau européen.

  5. L'UE interdit les applications de déshabillage IA après que Grok les a démocratisées. Régulation ciblée sur les usages clairement nuisibles, modèle pour d'autres interdictions futures.

  6. Mesures contraignantes en approche contre Meta et Google : l'enforcement européen passe d'annonces à actes concrets en 2026.

Analyses long-form sur AI Act & Régulation UE

Quand un sujet mérite un format long, c'est ici.

Questions fréquentes

Quelles dispositions de l'AI Act s'appliquent en 2026 ?

Les pratiques prohibées (notation sociale, identification biométrique temps réel) sont interdites depuis février 2025. Les obligations sur les modèles frontière (évaluations pré-déploiement, transparence des données d'entraînement, gouvernance) entrent en application progressive sur 2025-2027. Certaines dispositions ont été repoussées par le Parlement en mars 2026 face à la pression industrielle.

Quelles sont les sanctions prévues par l'AI Act ?

Jusqu'à 35 millions d'euros ou 7 % du chiffre d'affaires mondial annuel pour les pratiques prohibées (le plus élevé des deux). Jusqu'à 15 M€ ou 3 % du CA pour les manquements aux obligations sur les modèles frontière. Les premières sanctions effectives sont attendues fin 2026 / début 2027.

Comment l'Europe peut-elle forcer Google à ouvrir Android aux assistants IA tiers ?

Via le Digital Markets Act (DMA), pas l'AI Act. La Commission européenne a déjà utilisé ce levier contre Apple sur l'App Store. La transposition aux assistants IA sur Android est en discussion en avril-mai 2026. Si elle aboutit, Mistral, Anthropic et OpenAI pourraient être préinstallables comme alternatives à Gemini.

Qu'est-ce que la charge de la preuve inversée sur les données d'entraînement ?

Le Sénat français a adopté en avril 2026 une loi qui oblige les laboratoires IA à prouver qu'ils n'ont pas utilisé d'œuvres protégées sans accord (au lieu que ce soit aux ayants droit de prouver l'inverse). C'est un retournement structurel : OpenAI, Anthropic et Google passent d'une position offensive à défensive sur les corpus.

L'Europe est-elle plus stricte que les États-Unis sur l'IA ?

Sur le papier oui. En pratique l'écart se réduit en 2026 : le CAISI américain (Center for AI Safety and Innovation) impose désormais une évaluation pré-déploiement aux 5 plus grands labos, similaire à l'AI Act art. 50 européen. La différence reste la philosophie : règles ex-ante détaillées en Europe, contrats volontaires + agences sectorielles aux États-Unis.

Toute l'actualité AI Act & Régulation UE

Flux automatique. Articles classés par pertinence, agrégés en continu.

Pas de Siri AI en Europe : Apple accuse la Commission d’interprétation « extrême » du DMA
1Next INpact RégulationReglementation

Pas de Siri AI en Europe : Apple accuse la Commission d’interprétation « extrême » du DMA

Apple a confirmé lors de la keynote d'ouverture de la WWDC 2026 que Siri AI, la version profondément remaniée de son assistant vocal promise dès 2024, ne sera pas disponible sur iPhone et iPad dans l'Union européenne au moment du lancement logiciel prévu plus tard cette année. La fonction sera en revanche accessible sur Mac équipé d'au moins une puce M1, avec les capacités les plus avancées, personnalisation vocale, LLM local, réservées aux machines disposant d'une puce M3 et de 12 Go de mémoire minimum. Craig Federighi, vice-président senior de l'ingénierie logicielle chez Apple, a publié un communiqué cinglant : « Nous sommes profondément déçus que nos utilisateurs européens n'aient pas Siri AI sur iPhone ou iPad. Leur refus de s'engager de manière constructive sur des solutions qui préservent la vie privée et la sécurité signifie que nous n'avons pas encore de calendrier pour la disponibilité de Siri AI sur iOS et iPadOS dans l'UE. » Le blocage tient au statut d'iOS et d'iPadOS comme « contrôleurs d'accès » au sens du Digital Markets Act. Le règlement européen impose à Apple de garantir que toute fonction structurante de la plateforme soit ouverte à la concurrence dans des conditions équivalentes, ce qui implique, selon la Commission, d'accorder aux assistants tiers les mêmes accès aux données privées des utilisateurs que ceux dont bénéficie Siri AI. Apple s'y refuse au nom de son architecture Private Compute Cloud, qu'elle décrit comme un système où elle-même n'a aucun accès aux données utilisateurs. Ouvrir ce périmètre à des tiers reviendrait, selon elle, à compromettre la sécurité de l'ensemble du système, Siri AI étant conçu pour interagir avec les messages, les achats, les fichiers et toutes les applications installées. Ce bras de fer s'inscrit dans une confrontation durable entre Apple et les régulateurs européens sur l'application du DMA, entré en vigueur en 2024. Apple affirme avoir cherché dès 2025 une voie de compromis, notamment via une proposition baptisée « Trusted System », rejetée par la Commission. L'entreprise juge l'interprétation européenne « extrême » et estime que les exigences actuelles sont incompatibles avec toute garantie de confidentialité sérieuse. Siri AI lui-même aura mis deux ans supplémentaires à atteindre la maturité promise lors de sa première présentation en 2024, un délai qui illustre la complexité technique du projet, désormais développé en partenariat avec Google. L'issue du contentieux réglementaire reste ouverte, Apple indiquant poursuivre le dialogue avec Bruxelles sans calendrier fixé.

UELes utilisateurs français et européens se voient privés de Siri AI sur iPhone et iPad, Apple et la Commission européenne n'ayant pas trouvé d'accord sur les modalités d'application du Digital Markets Act aux fonctions d'IA intégrées à iOS.

1 source
Les clés de la flexibilité de l'IA en Europe : guide sur l'inférence interrégionale pour le traitement des données et l'accès aux modèles
2AWS ML Blog 

Les clés de la flexibilité de l'IA en Europe : guide sur l'inférence interrégionale pour le traitement des données et l'accès aux modèles

Amazon Web Services a introduit une fonctionnalité appelée Cross-Region Inference (CRIS) dans Amazon Bedrock, son service d'IA générative managé, permettant aux entreprises européennes de router automatiquement leurs requêtes d'inférence vers plusieurs régions AWS au sein de zones géographiques prédéfinies. Concrètement, lorsqu'une application envoie une requête à un modèle comme Claude d'Anthropic ou un modèle Amazon Nova, CRIS peut la rediriger dynamiquement vers la région disposant de la meilleure capacité disponible, tout en maintenant les données dans un périmètre géographique contrôlé. Pour l'Europe, AWS propose des profils EU CRIS dont toutes les régions de destination sont situées exclusivement au sein de l'Union européenne. Les données transmises restent chiffrées et circulent uniquement sur le réseau privé AWS, sans jamais transiter par l'internet public. Ce mécanisme répond à un problème concret que rencontrent les entreprises européennes : la saturation des capacités de calcul GPU en période de forte demande, qui se traduit par des latences élevées ou des erreurs de disponibilité. En distribuant les requêtes sur plusieurs régions, les applications deviennent plus résilientes aux pics de charge et aux pannes locales. Du point de vue réglementaire, les profils EU CRIS sont conçus pour faciliter la conformité au RGPD, puisque le traitement reste borné à l'UE, un critère déterminant pour les secteurs soumis à des exigences strictes de résidence des données comme la finance, la santé ou les services publics. AWS souligne également que certains modèles sont disponibles à tarif réduit via les profils globaux CRIS, ajoutant un argument économique à l'argument technique. La pression réglementaire européenne sur le traitement des données par des fournisseurs cloud américains s'est intensifiée ces dernières années, notamment après les décisions de la CJUE sur les transferts transatlantiques de données. Les grands hyperscalers comme AWS, Google Cloud et Microsoft Azure ont tous investi massivement dans des infrastructures européennes et des offres de souveraineté pour répondre à ces contraintes. CRIS s'inscrit dans cette logique : plutôt que de forcer les clients à choisir une seule région et à subir ses limitations de capacité, AWS propose une abstraction qui optimise automatiquement tout en respectant les frontières réglementaires. La prochaine étape logique sera l'extension de ces profils géographiques à d'autres zones comme le Moyen-Orient ou l'Asie-Pacifique, et l'intégration de contrôles plus fins permettant aux entreprises de définir elles-mêmes les régions autorisées selon leurs obligations contractuelles ou sectorielles.

UELa fonctionnalité EU CRIS d'AWS Bedrock permet aux entreprises européennes de maintenir leurs traitements d'inférence IA exclusivement dans les frontières de l'UE, facilitant la conformité RGPD pour les secteurs finance, santé et services publics soumis à des exigences strictes de résidence des données.

InfrastructureOpinion
1 source
Meta revient (plus ou moins) sur son projet de surveillance de ses employés
3Next INpact 

Meta revient (plus ou moins) sur son projet de surveillance de ses employés

Meta a partiellement reculé sur son projet de surveillance étendue de ses employés, après plusieurs semaines de résistance interne. Annoncé en avril, l'outil baptisé Model Capability Initiative (MCI) devait enregistrer en continu les mouvements de curseur, les clics, les frappes au clavier et des captures d'écran périodiques de tous les salariés de l'entreprise. L'objectif affiché : collecter des données réelles d'utilisation des ordinateurs pour entraîner les agents IA de Meta. Face à la fronde, la direction a fait circuler un nouveau mémo le 2 juin, signé par Stephane Kasriel, vice-président des Superintelligence Labs. Il annonce plusieurs ajustements : les employés pourront désormais mettre MCI en pause jusqu'à 30 minutes à la fois, voire demander une exemption complète du programme. Une optimisation technique réduit également la pression sur la batterie des ordinateurs portables, un grief concret soulevé par ceux qui travaillent depuis chez eux et constataient une hausse de leur consommation internet. Ce recul partiel illustre la tension croissante entre les ambitions d'IA des grandes entreprises technologiques et les droits de leurs propres salariés. La résistance a été organisée et coordonnée : début mai, des flyers circulaient dans les bureaux américains qualifiant Meta d'« Employee Data Extraction Factory ». Plus de 1 500 personnes ont signé une pétition adressée directement à Mark Zuckerberg. Au Royaume-Uni, un groupe de travailleurs s'est rapproché du syndicat United Tech and Allied Workers (UTAW). Le mouvement est d'autant plus significatif qu'il émerge dans un secteur historiquement peu syndiqué, et que Meta n'a pas supprimé MCI mais seulement aménagé ses modalités, les concessions restent donc limitées. La controverse s'inscrit dans un contexte social particulièrement tendu au sein de Meta. L'entreprise a licencié 1 500 personnes ces derniers mois, déplacé 7 000 autres, et annoncé une réduction prochaine de 10 % de ses effectifs restants. Déployer simultanément un outil de surveillance généralisée des postes de travail a été perçu en interne comme une provocation. Meta justifiait pourtant la démarche par une nécessité technique : construire des agents capables d'assister les utilisateurs sur leurs ordinateurs exige des exemples concrets de la façon dont les gens utilisent leurs machines au quotidien. L'argument n'a pas convaincu. Le mémo de Kasriel reconnaît implicitement l'échec de la communication initiale, tout en maintenant que les protections de la vie privée étaient suffisantes dès le lancement. L'avenir du programme reste incertain, notamment en Europe où le cadre juridique du RGPD pourrait poser des obstacles supplémentaires à ce type de collecte de données salariées.

UELe RGPD pourrait bloquer ou fortement contraindre le déploiement du programme MCI en Europe, où la collecte massive de données de travail exige un cadre légal strict de consentement et de proportionnalité.

💬 Enregistrer les clics et frappes au clavier de tes propres employés pour entraîner tes agents IA, c'est culotté. Bon, sur le papier l'argument technique tient (les agents doivent apprendre comment les humains utilisent leurs machines), mais le lancer en pleine vague de licenciements massifs, c'est un timing particulièrement raté. La "pause de 30 minutes", c'est de la gestion de crise minimale, pas une vraie concession.

ÉthiqueOpinion
1 source
L’IA commence à construire notre jumeau numérique
4FrenchWeb 

L’IA commence à construire notre jumeau numérique

Les grands modèles de langage franchissent un nouveau cap dans la personnalisation. ChatGPT, développé par OpenAI, est désormais capable de mémoriser les habitudes de ses utilisateurs d'une session à l'autre : préférences de voyage, projets professionnels en cours, formats de documents favoris, contraintes récurrentes. Concrètement, un utilisateur qui demande à l'assistant de préparer un déplacement à Londres n'a plus besoin de tout réexpliquer : l'IA s'appuie sur un profil accumulé au fil des échanges pour produire une réponse immédiatement adaptée, sans friction. Ce changement redéfinit le rapport aux assistants numériques. Jusqu'ici, chaque conversation repartait de zéro, ce qui limitait leur utilité dans les tâches complexes et répétitives. Avec une mémoire persistante, l'IA devient un véritable collaborateur qui apprend, s'adapte et anticipe. Pour les professionnels, le gain de temps est réel : moins de répétition, des réponses plus pertinentes dès le premier échange. En revanche, la constitution progressive d'un profil aussi intime soulève des questions de confidentialité, notamment sur la nature des données conservées, leur durée de vie et les droits des utilisateurs à les contrôler ou les effacer. OpenAI a introduit la mémoire dans ChatGPT en 2024, d'abord en version bêta puis progressivement étendue aux abonnés payants. Google avec Gemini et Anthropic travaillent sur des fonctionnalités comparables. La course au profil utilisateur le plus complet est désormais ouverte, avec en arrière-plan un débat réglementaire croissant : en Europe, le RGPD impose des contraintes strictes sur la conservation des données personnelles, et les autorités de protection des données scrutent ces nouvelles capacités de mémorisation avec une attention particulière.

UELe RGPD impose aux plateformes proposant une mémoire persistante des contraintes strictes sur la conservation et le contrôle des données personnelles, poussant OpenAI et ses concurrents à adapter ces fonctionnalités pour les utilisateurs européens.

💬 C'est le truc qui change vraiment l'usage au quotidien, plus que la plupart des mises à jour qu'on a vues ces deux ans. Bon, sur le papier ça fait rêver, mais la vraie question c'est ce qu'OpenAI garde exactement et combien de temps. En Europe, le RGPD va forcer des compromis, et j'ai un doute sur si le profil mémorisé sera aussi complet que pour les utilisateurs américains.

LLMsOutil
1 source
Doctolib réfute livrer « les infos de ses utilisateurs » aux grands acteurs de l’IA
5Next INpact 

Doctolib réfute livrer « les infos de ses utilisateurs » aux grands acteurs de l’IA

Le Canard Enchaîné a affirmé, dans son édition du 2 juin 2026, que Doctolib transmettait les données de ses utilisateurs à Microsoft, Anthropic et Google dans le but d'entraîner leurs grands modèles de langage. L'article vise notamment l'assistant de consultation que la licorne française commercialise depuis 2024 auprès des professionnels de santé. Ce service écoute les consultations médicales, avec l'accord du patient, pour générer automatiquement comptes-rendus et courriers. Or, les documents contractuels de Doctolib consultés par la rédaction de Next confirment que Microsoft Azure, Anthropic et Google Irlande figurent bien dans la liste des « sous-traitants ultérieurs » de l'entreprise, avec pour service déclaré la « fourniture du modèle de LLM » et pour finalité l'« analyse et création de contenu à des fins d'automatisation de tâches ». Doctolib dément catégoriquement que ces données médicales servent à entraîner les modèles de ses fournisseurs. Selon un porte-parole de l'entreprise, Microsoft, Anthropic et Google interviennent exclusivement comme prestataires techniques, sur instructions strictes de Doctolib, dans un cadre contractuel qui leur interdit d'utiliser les données à d'autres fins que la fourniture du service. En clair : les LLM américains sont bien mobilisés pour faire tourner les fonctionnalités de transcription et de synthèse, mais les notes médicales ne serviraient pas à affiner leurs poids. Sur le plan du stockage, Doctolib assure que les données sont hébergées sur des serveurs européens certifiés Hébergement de Données de Santé. Le Canard Enchaîné objecte toutefois que la justice américaine peut contraindre ces entreprises à transmettre des données outre-Atlantique, indépendamment de leur localisation physique. Cette controverse s'inscrit dans un débat plus large sur la souveraineté numérique des données de santé en France. Doctolib, qui traite des dizaines de millions de consultations, est une infrastructure critique du système de soins français, et toute ambiguïté sur le traitement de ses données sensitives déclenche une réaction immédiate. La tension entre innovation IA et protection des données médicales est structurelle : utiliser des LLM de pointe implique presque inévitablement de s'appuyer sur les infrastructures des géants américains, Microsoft, Google ou Anthropic, faute d'alternatives européennes comparables. Le RGPD et la certification HDS imposent des garanties, mais le Cloud Act américain crée un angle mort juridique que ni les certifications ni les contrats ne peuvent complètement combler. L'affaire illustre la fragilité des engagements de confidentialité dès lors que les données de santé transitent, même partiellement, par des acteurs soumis au droit américain.

UELes données médicales de millions de patients français transitent par des sous-traitants américains soumis au Cloud Act, créant une faille juridique structurelle que ni la certification HDS ni le RGPD ne peuvent entièrement combler.

💬 La distinction que fait Doctolib entre "faire tourner" et "entraîner" un LLM, elle est réelle. Mais ça n'enlève pas le truc qui gratte : tes comptes-rendus médicaux passent par des serveurs d'entreprises soumises au Cloud Act, et aucun label HDS ne te protège de ça. C'est une impasse structurelle, pas une faute de Doctolib spécifiquement.

ÉthiqueReglementation
1 source
Le déploiement de l’IA dans le domaine juridique révolutionne ce secteur
6Le Big Data 

Le déploiement de l’IA dans le domaine juridique révolutionne ce secteur

L'intelligence artificielle s'impose progressivement dans le monde juridique français, transformant le quotidien des avocats, notaires, magistrats et juristes d'entreprise. Les applications concrètes sont nombreuses : analyse de dossiers volumineux, aide à la rédaction d'actes complexes, recherche de jurisprudences ciblées, ou pseudonymisation automatique des décisions de justice. La Cour de cassation a récemment publié un rapport examinant l'usage de l'IA pour les institutions judiciaires françaises, identifiant des gains potentiels significatifs en efficacité et en qualité pour les magistrats. Mais l'outil montre aussi ses limites : le Tribunal administratif d'Orléans a dû rappeler à l'ordre, dans une décision du 29 décembre 2025, un avocat qui avait cité une quinzaine de références juridiques inexistantes, produites par hallucination de son outil d'IA. L'impact dépasse les seuls prétoires. Au sein des entreprises, le déploiement de l'IA redéfinit le rôle des juristes internes et engage la responsabilité des employeurs. Plusieurs décisions récentes de tribunaux judiciaires ont rappelé que tout employeur d'au moins 50 salariés doit consulter son comité social et économique (CSE) avant d'introduire des outils d'IA susceptibles de modifier les conditions de travail. Autrement dit, chaque déploiement de logiciel ou plateforme IA utilisé par les équipes devient un sujet de gouvernance sociale, et pas seulement technique. Les représentants du personnel se trouvent ainsi contraints de monter en compétence sur ces questions pour rendre des avis éclairés, sous peine de valider des changements dont ils n'auraient pas mesuré les conséquences. Ce mouvement s'inscrit dans un contexte réglementaire qui se structure rapidement. La Cour de cassation souligne que le déploiement de l'IA dans la justice ne pourra se faire sans garanties solides : souveraineté numérique pour l'hébergement des données, sécurité des systèmes d'information, respect des droits fondamentaux, transparence des algorithmes et maintien du contrôle humain sur les décisions. Ces exigences rejoignent celles du règlement européen sur l'IA, qui classe les systèmes utilisés dans la justice parmi les applications à haut risque soumises à obligations renforcées. L'enjeu central reste le même pour toutes les professions concernées : intégrer l'IA comme un outil d'appui sans substituer sa logique probabiliste au raisonnement juridique, qui exige rigueur, déontologie et responsabilité individuelle que l'automatisation ne peut pas absorber.

UEL'AI Act classe les systèmes d'IA utilisés dans la justice parmi les applications à haut risque soumises à obligations renforcées ; en France, tout employeur d'au moins 50 salariés doit désormais consulter son CSE avant tout déploiement d'IA modifiant les conditions de travail, une obligation rappelée par plusieurs décisions récentes de tribunaux judiciaires français.

💬 Quinze jurisprudences fantômes dans un mémoire soumis au tribunal, c'est plus instructif que n'importe quel rapport sur l'IA dans le droit. L'outil aide vraiment sur l'analyse et la recherche, mais déléguer la citation de sources sans vérifier dans un domaine où chaque référence engage ta responsabilité directe, c'est une faute en attente de se produire. Le cadre arrive (AI Act, consultation CSE, rapport Cour de cassation), reste à voir combien de praticiens vont attendre leur propre affaire Orléans avant de prendre ça au sérieux.

SociétéReglementation
1 source
L’Europe veut désormais construire la technologie qu’elle régule
7FrenchWeb 

L’Europe veut désormais construire la technologie qu’elle régule

L'Union européenne, longtemps perçue comme un régulateur mondial du numérique, affiche désormais une ambition industrielle assumée : ne plus seulement encadrer les technologies, mais les concevoir et les déployer sur son propre sol. Après le RGPD en 2018, puis le Digital Markets Act, le Digital Services Act et l'AI Act, Bruxelles entend franchir un cap en combinant son arsenal réglementaire à une stratégie d'investissement et de souveraineté technologique. Ce virage est motivé par une double pression : la domination écrasante des géants américains, Microsoft, Google, Meta, Amazon, sur les infrastructures numériques européennes, et la montée en puissance de la Chine dans les secteurs clés de l'intelligence artificielle, des semi-conducteurs et du cloud. Pour les entreprises et institutions européennes, l'enjeu est concret : réduire une dépendance technologique jugée de plus en plus risquée, tant sur le plan économique que géopolitique, et créer les conditions d'une compétitivité à long terme. Cette ambition s'inscrit dans une trajectoire plus large amorcée par le plan RePowerEU, le Chips Act européen et les discussions autour d'un fonds souverain pour l'IA. Elle soulève cependant des questions structurelles : comment concilier une réglementation stricte, parfois accusée de freiner l'innovation, avec la nécessité de faire émerger des champions technologiques européens capables de rivaliser à l'échelle mondiale ? La réponse de Bruxelles pourrait redéfinir durablement le modèle européen de gouvernance du numérique.

UELa stratégie de souveraineté technologique de Bruxelles redéfinit directement les conditions de compétitivité des entreprises françaises et européennes face à la dépendance aux infrastructures numériques étrangères.

💬 L'Europe a passé dix ans à poser des garde-fous pendant que les Américains construisaient, et le réveil est tardif mais bienvenu. Ce qui me tracasse, c'est pas le financement (les milliards souverains sont là), c'est si les mêmes institutions qui pondent 200 pages de réglementation savent aussi accélérer des boîtes tech. C'est une autre compétence, pas forcément dans leurs gènes.

RégulationReglementation
1 source
IA et droit d’auteur : la proposition de loi qui inquiète Mistral arrive à l’Assemblée
8Next INpact 

IA et droit d’auteur : la proposition de loi qui inquiète Mistral arrive à l’Assemblée

La Commission des affaires culturelles de l'Assemblée nationale a adopté mardi 2 juin la proposition de loi visant à instaurer une présomption d'utilisation des contenus culturels par les fournisseurs d'intelligence artificielle. Votée à l'unanimité par le Sénat le 8 avril, la proposition est portée par la sénatrice Agnès Evren (LR). Son principe tient en un article unique : inverser la charge de la preuve en matière de droit d'auteur. Aujourd'hui, c'est à l'auteur ou à l'éditeur de démontrer qu'une entreprise d'IA a utilisé ses œuvres pour entraîner ses modèles. Demain, si la loi est adoptée, cette utilisation sera automatiquement présumée dès lors qu'un indice lié au développement ou aux résultats d'un système d'IA la rend vraisemblable. Les débats en commission se sont révélés relativement consensuels, l'ensemble des groupes, à l'exception du RN, jugeant le texte équilibré. Un amendement déposé par Prisca Thevenot (Renaissance) pour abaisser le seuil de déclenchement de la présomption a été rejeté, tout comme les 15 autres amendements présentés. Le texte sera examiné en séance publique le 11 juin. L'enjeu est considérable pour les créateurs et les sociétés de gestion de droits françaises, qui réclament ce type de dispositif depuis plusieurs années. En renversant la charge de la preuve, la loi contraindrait les grandes entreprises d'IA à démontrer qu'elles n'ont pas utilisé des œuvres protégées, ou à négocier des accords financiers avec les ayants droit pour se prémunir de poursuites judiciaires. Selon ses défenseurs, dont Agnès Evren, l'objectif n'est pas de multiplier les procès mais d'obliger l'industrie de l'IA à passer d'une logique de prédation à une logique de transparence et de rémunération. Les auteurs, musiciens, journalistes et autres créateurs dont les œuvres alimentent les modèles sans compensation pourraient ainsi voir leur situation radicalement changer. Le texte ne fait pourtant pas l'unanimité, et les débats en séance publique s'annoncent plus tendus qu'en commission. Le député Paul Midy (5e circonscription de l'Essonne) a publiquement tiré la sonnette d'alarme après l'adoption en commission, dénonçant une mesure susceptible de fragiliser Mistral AI, la principale entreprise française dans le secteur des grands modèles de langage. Cet argument de compétitivité nationale illustre la tension centrale du débat européen sur l'IA : comment protéger les droits des créateurs sans handicaper les acteurs locaux face aux géants américains et chinois, soumis à des cadres juridiques bien moins contraignants ? La France se retrouve ainsi à trancher un dilemme que l'Union européenne n'a pas su résoudre dans l'AI Act, et la séance du 11 juin déterminera si le législateur français choisit de pencher du côté des artistes ou de celui des investisseurs.

UESi adoptée, cette loi française inverserait la charge de la preuve en matière de droits d'auteur pour l'IA, contraignant Mistral AI et tous les développeurs de modèles actifs en France à démontrer qu'ils n'ont pas utilisé d'œuvres protégées, ou à négocier des accords de rémunération avec les ayants droit, un précédent susceptible d'influencer la régulation européenne.

💬 C'est la loi qui aurait dû exister il y a trois ans. Renverser la charge de la preuve, ça met fin à la logique absurde où c'est l'auteur spolié qui doit prouver qu'il s'est fait spolier. L'argument Mistral est compréhensible, mais si payer des droits aux créateurs les "fragilise", c'est qu'il y avait un problème de modèle économique depuis le début.

RégulationReglementation
1 source
Amnesty appelle à interdire les IA génératives entraînées sur du pillage de données
9Next INpact 

Amnesty appelle à interdire les IA génératives entraînées sur du pillage de données

Amnesty International a publié un rapport détaillé sur les violations des droits humains causées par l'intelligence artificielle générative, appelant explicitement à interdire les modèles entraînés sur du scraping de données non consenti. L'organisation analyse l'ensemble de la chaîne de production de l'IA, des fabricants de puces GPU jusqu'aux contenus générés, en passant par la constitution des jeux de données. Elle cible directement les outils grand public les plus utilisés : ChatGPT, DALL-E, Gemini, Midjourney, LLaMA, Stable Diffusion et DeepSeek. Selon Amnesty, ces modèles ont été construits à partir de données collectées "sans la connaissance ni le consentement des personnes à l'origine des données", qu'il s'agisse d'utilisateurs de réseaux sociaux ou d'artistes. La conclusion est sans appel : le scraping massif et non consenti est "fondamentalement incompatible avec le droit international relatif aux droits humains", notamment le Pacte international relatif aux droits civils et politiques adopté par l'ONU en 1966. L'impact dépasse la seule question de la vie privée. Amnesty identifie des violations du droit à la non-discrimination, à la liberté d'expression et à la liberté de pensée. Le rapport pointe également les coûts environnementaux de l'IA générative, dont l'augmentation continue de la taille des modèles et des volumes de données nécessaires à leur entraînement affecte de manière disproportionnée les pays du Sud global. À cela s'ajoute une domination culturelle et linguistique anglophone structurelle, intégrée dès la phase de collecte des données. Pour l'ONG, derrière l'apparence de sophistication technologique se cache "une réalité faite de principes de conception qui bafouent les droits humains", comparables aux dérives des outils d'IA antérieurs à la générative. Ce rapport s'inscrit dans un mouvement plus large de contestation juridique et institutionnelle du modèle économique des grandes plateformes d'IA. En Europe, l'organisation noyb a déjà menacé Meta d'une class action pour l'entraînement de ses modèles sur des données d'utilisateurs européens, et plusieurs artistes ainsi que des éditeurs de presse ont engagé des procédures similaires aux États-Unis contre OpenAI et Google. Le règlement européen sur l'IA impose des obligations de transparence sur les données d'entraînement, mais les ONG estiment ces mesures insuffisantes. En demandant une interdiction pure et simple des systèmes bâtis sur du scraping non consenti, Amnesty franchit un cap rhétorique notable : il ne s'agit plus de réguler ces pratiques, mais de les proscrire au nom du droit international, ce qui pourrait alimenter de nouvelles stratégies judiciaires et législatives dans les mois à venir.

UEL'AI Act impose déjà des obligations de transparence sur les données d'entraînement, et noyb menace Meta d'une class action pour l'exploitation des données d'utilisateurs européens, la position d'Amnesty pourrait renforcer ces procédures et peser sur les stratégies législatives et judiciaires dans l'UE dans les mois à venir.

💬 La position d'Amnesty est radicale, et c'est exactement là son intérêt : plus de régulation molle, on interdit ce qui viole les droits humains, point. Interdire ChatGPT et Gemini du jour au lendemain c'est pas pour demain, mais ancrer ce débat dans le droit international plutôt que dans la soft law de l'AI Act, c'est un changement de registre qui peut nourrir des procédures vraiment musclées. Reste à voir si les juges suivront.

ÉthiqueReglementation
1 source
L’AI Act : le cadre Européen qui redéfinit l’Impact sociologique de l’IA en entreprise
10Le Big Data 

L’AI Act : le cadre Européen qui redéfinit l’Impact sociologique de l’IA en entreprise

L'Union européenne a adopté l'AI Act, un règlement dont l'entrée en vigueur progressive s'étend désormais jusqu'en 2028, après que le calendrier initial prévoyait une application complète dès 2026. Ce texte impose des obligations sur l'entraînement des modèles d'IA, protège la propriété intellectuelle et introduit un système de classification des risques. Pour décrypter ses effets concrets, Mathieu Changeat, cofondateur de Dydu et directeur des opérations du groupe Zaion Dydu, livre une analyse de terrain. Selon lui, le glissement des délais ne doit pas masquer le vrai problème : le déficit de financement européen face aux géants américains et chinois. Malgré la valorisation milliardaire d'acteurs comme Mistral AI, la force de frappe financière nécessaire au développement et à la démocratisation des modèles d'IA générative reste insuffisante à l'échelle du continent. L'AI Act aura néanmoins un impact structurant sur la perception de confiance des utilisateurs et des entreprises. Le label de conformité qu'il introduit atteste d'un entraînement sur des données éthiques et renforce la transparence, sans pour autant éliminer les hallucinations algorithmiques, qui relèvent de l'architecture technique des modèles. Son effet le plus tangible se manifeste dans la quête de souveraineté numérique : grands groupes et secteur public privilégient désormais des solutions européennes, parfois au détriment de la performance pure, sous l'effet des tensions géopolitiques actuelles. Cette tendance à l'autorégulation précède le règlement lui-même, ce qui signifie que l'AI Act ne bouleversera pas les pratiques des acteurs déjà engagés dans cette direction, mais formalisera des comportements qui s'imposaient déjà de fait. Une fracture technologique se dessine cependant entre grandes entreprises et PME. Si les grands groupes disposent des ressources pour investir dans des solutions souveraines sur mesure, les petites structures risquent de rester dépendantes de solutions standards, souvent américaines, faute de moyens et de capacité à suivre la cadence réglementaire. En parallèle, l'émergence des agents IA autonomes, capables de collaborer sur des tâches complexes, soulève de nouvelles questions de gouvernance que l'AI Act n'avait pas anticipées dans sa version originelle, élaborée avant l'explosion de ChatGPT fin 2022. L'Europe se trouve ainsi dans une position ambivalente : pionnière sur le plan réglementaire, mais en retard sur le plan industriel, avec un règlement qui définit les règles du jeu sans garantir les moyens d'y jouer à armes égales.

UEL'AI Act impose aux entreprises françaises et européennes de classifier leurs systèmes d'IA par niveau de risque, créant une fracture prévisible entre grands groupes capables d'investir dans des solutions souveraines conformes et PME risquant de rester dépendantes d'outils non européens.

💬 L'AI Act réglemente un marché de 2022, les agents autonomes et tout ce qui a explosé depuis ChatGPT ne sont pas vraiment dedans. Le label de conformité va rassurer les grands comptes, ça oui, mais les PME vont rester sur AWS et GPT faute de moyens pour faire autrement. On crée le cadre réglementaire sans s'assurer qu'il y a une industrie derrière pour jouer le jeu.

RégulationReglementation
1 source
Robots domestiques : la collecte de données d’entraînement passe par le ménage gratuit
11Next INpact 

Robots domestiques : la collecte de données d’entraînement passe par le ménage gratuit

La startup allemande MicroAGI a lancé à New York un service baptisé Shift qui propose le nettoyage gratuit d'appartements par des professionnels, en échange d'un consentement précis : les agents portent des caméras filmant chacun de leurs gestes pendant l'intervention. Ces vidéos constituent des données d'entraînement pour des intelligences artificielles destinées à piloter des robots domestiques. L'entreprise rémunère par ailleurs des volontaires 20 dollars de l'heure pour enregistrer leurs tâches quotidiennes chez eux ou au travail. Au premier trimestre 2026, MicroAGI affirme avoir versé plus de 5 millions de dollars à 10 000 "opérateurs" répartis dans une dizaine de pays. Ce modèle répond à un problème structurel que toute l'industrie de la robotique humanoïde bute sur le même mur : l'absence de corpus de données équivalent à ce dont disposent les modèles de langage. Là où une IA générative peut s'alimenter de milliards de textes produits par l'humanité, un robot domestique a besoin de voir des milliers d'heures de mains humaines en train de frotter, plier, trier, saisir. Le constructeur 1X l'a illustré concrètement avec son humanoïde Neo, qui dépend encore régulièrement d'un téléopérateur humain pour accomplir certaines tâches chez le client. Shift contourne le problème en finançant la collecte par la valeur même des enregistrements, transformant le nettoyage en une transaction data contre service. La question de la vie privée est au coeur du modèle, et MicroAGI la gère avec des promesses techniques et juridiques dont la robustesse reste à éprouver. Les caméras floutent automatiquement visages, documents, écrans et pièces d'identité directement à la capture, avant tout téléversement. L'entreprise invoque le RGPD pour garantir un droit à l'effacement, mais considère simultanément que les données anonymisées échappent au champ des lois sur la protection des données, une position juridique contestable. Shift s'inscrit dans une tendance plus large de "travail du clic" appliqué à la robotique, où des entreprises comme Scale AI ou Labeling Tech ont construit des modèles comparables pour d'autres types de données. Avec des investissements massifs dans les humanoïdes chez Figure, Apptronik ou Tesla, la compétition pour ces corpus d'entraînement va s'intensifier, et les appartements new-yorkais ne seront vraisemblablement pas les derniers à servir de terrain de collecte.

UELa startup allemande MicroAGI invoque le RGPD pour légitimer sa collecte de données dans des domiciles privés, mais sa position juridique sur l'anonymisation des données est contestable et pourrait attirer l'attention des autorités européennes de protection des données.

RobotiqueOpinion
1 source
OpenAI déploie des cadres de gouvernance pour une IA d'entreprise sûre et évolutive
12AI News 

OpenAI déploie des cadres de gouvernance pour une IA d'entreprise sûre et évolutive

OpenAI a publié son Frontier Governance Framework (FGF), un document qui détaille comment l'organisation évalue et atténue les risques systémiques liés à ses modèles d'intelligence artificielle les plus avancés. Le framework s'aligne directement sur le Code de pratique pour l'IA généraliste de l'Union européenne ainsi que sur le Transparency in Frontier AI Act (TFAIA) de Californie. Il introduit une définition précise du risque systémique : tout scénario prévisible pouvant causer plus de 50 décès ou 1 milliard de dollars de dégâts matériels lors d'un seul incident. Les menaces sont réparties en catégories spécifiques, cybersécurité offensive, risques CBRN (chimique, biologique, radiologique, nucléaire), manipulation harmful et perte de contrôle, elles-mêmes subdivisées en niveaux de risque numérotés. Un modèle classé Tier 3 en cybersécurité est, par exemple, capable d'identifier et d'exploiter des failles zero-day dans des systèmes durcis sans intervention humaine ; en catégorie CBRN, un tel modèle pourrait autonomement compléter le cycle de synthèse d'un agent biologique de classe A selon les classifications CDC. Ce cadre fournit aux entreprises déployant des LLMs en production un blueprint concret pour structurer leur gouvernance interne. Plutôt que de traiter ces niveaux comme de simples avertissements, les équipes sécurité peuvent s'en servir pour fixer des seuils opérationnels précis, déclencher des audits tiers et dimensionner les ressources de monitoring post-déploiement. Pour les outils de marketing automation ou les assistants de code, cela se traduit par des obligations claires : classifieurs de contenu en temps réel, supervision humaine maintenue dans les workflows critiques, et fail-safes déterministes pour les agents autonomes gérant la logistique ou le trading financier. Le framework note également que la manipulation, influencer des comportements humains à des fins électorales ou propagandistes, reste un domaine exploratoire où les mitigations système au niveau du déploiement priment sur les évaluations pré-lancement. Le FGF s'inscrit dans une dynamique réglementaire accélérée : l'UE exige désormais des évaluations de risques systémiques pour les modèles frontier, et plusieurs États américains suivent avec leur propre législation sur la transparence des IA. OpenAI se positionne ici à la fois comme acteur régulé et comme producteur de standards de facto, en publiant des méthodologies que d'autres labs ou entreprises peuvent adopter. La catégorie "perte de contrôle" est particulièrement révélatrice des préoccupations du moment : un modèle Tier 3 y est décrit comme supérieur aux experts humains, capable d'opérer en autonomie prolongée tout en échappant aux mécanismes de détection, y compris le monitoring de sa propre chaîne de pensée. La publication du FGF intervient alors que la course aux agents autonomes s'intensifie chez OpenAI, Google et Anthropic, et que la question de savoir qui contrôle réellement ces systèmes devient un enjeu industriel et politique de premier plan.

UELe framework s'aligne explicitement sur le Code de pratique de l'UE pour les modèles d'IA généraliste, fournissant aux entreprises européennes un blueprint concret pour se conformer aux exigences d'évaluation des risques systémiques imposées par l'AI Act.

💬 OpenAI écrit les règles par lesquelles ils vont être évalués, c'est malin. Définir le risque systémique à 50 morts ou un milliard de dégâts, ça donne enfin du concret plutôt que des grands principes flous. Ce qui bloque, c'est la description du Tier 3 en "perte de contrôle" : un modèle capable d'échapper au monitoring de sa propre chaîne de pensée, c'est pas vraiment un avertissement, c'est presque une feuille de route.

RégulationReglementation
1 source
Airbus s’allie à Mistral AI pour développer une IA souveraine dans l’aéronautique
13Le Big Data 

Airbus s’allie à Mistral AI pour développer une IA souveraine dans l’aéronautique

Airbus et Mistral AI ont officialisé un partenariat stratégique le 28 mai 2026, lors du sommet "The AI Now Summit" organisé au Louvre à Paris. L'accord prévoit que le géant aéronautique européen déploie l'ensemble de la suite logicielle de la startup française au sein de ses opérations industrielles, de ses activités de défense et de ses futurs systèmes embarqués. Concrètement, Airbus utilisera des modèles d'IA installés sur site ou dans des clouds privés, contournant ainsi toute dépendance aux infrastructures cloud américaines. Le groupe bénéficiera également d'un accès direct aux équipes de recherche de Mistral AI et pourra influencer la feuille de route produit de la startup. Parmi les cas d'usage déjà identifiés : l'automatisation de la documentation technique pour avions commerciaux et hélicoptères, l'assistance à la conception et aux phases de certification, ainsi que l'intégration de modèles directement dans des aéronefs ou des systèmes spatiaux pour la reconnaissance d'objets et l'amélioration de la sécurité des vols. L'enjeu dépasse largement la productivité interne d'Airbus. Dans le secteur aéronautique et de la défense, chaque donnée traitée par un tiers représente un risque réglementaire et sécuritaire. En s'appuyant sur Mistral AI, Airbus s'assure que ses modèles d'IA respectent les contraintes strictes de confidentialité, de cybersécurité et de contrôle des données imposées notamment par les contrats militaires et les certifications aéronautiques. Pour les ingénieurs du groupe, cela signifie des outils réellement adaptés à leurs workflows, et non des solutions génériques taillées pour le marché grand public. Pour Mistral AI, le contrat valide sa capacité à adresser des environnements industriels à très forte contrainte, bien au-delà des usages bureautiques ou des administrations publiques qu'elle cible habituellement. Ce partenariat s'inscrit dans un mouvement plus large qui agite l'industrie européenne depuis deux ans. Face à la domination d'OpenAI, Microsoft, Google et Amazon dans le domaine de l'IA, les grands industriels du continent cherchent des alternatives capables de fonctionner hors des clouds américains, notamment pour leurs activités sensibles. Mistral AI, fondée en 2023 à Paris, a levé plusieurs centaines de millions d'euros et s'est imposée comme le principal champion européen de l'IA générative. Son annonce simultanée de partenariats avec BMW et EDF lors du même sommet confirme une stratégie d'ancrage dans les filières industrielles stratégiques. Pour Airbus, qui opère dans 50 pays et emploie 130 000 personnes, la prochaine étape sera de déployer ces solutions en production tout en naviguant entre les exigences des régulateurs européens, les certifications aéronautiques et les impératifs de souveraineté numérique que Bruxelles pousse activement depuis l'entrée en vigueur de l'AI Act.

UELe partenariat Airbus-Mistral AI renforce concrètement la souveraineté numérique européenne dans l'aéronautique et la défense, en déployant une IA on-premise française qui contourne les infrastructures cloud américaines, dans un contexte où l'AI Act pousse Bruxelles à exiger un contrôle strict des données industrielles sensibles.

💬 Airbus, BMW et EDF dans la même semaine, c'est la démonstration de force qu'on attendait de Mistral. L'aéro et la défense, c'est leur terrain de chasse parfait : des clients qui ne peuvent pas toucher aux clouds américains, des budgets solides, et des cas d'usage où une IA générique n'a aucune chance de passer les certifications. Reste à voir si ça tient quand les équipes terrain s'en emparent en prod.

BusinessOpinion
1 source
Le concept de "Magnifica Humanitas" du pape, un modèle pour faire face à l'IA
14MIT Technology Review 

Le concept de "Magnifica Humanitas" du pape, un modèle pour faire face à l'IA

Le pape Léon XIV a publié une encyclique intitulée Magnifica Humanitas ("Magnificence de l'humanité"), consacrée entièrement à l'intelligence artificielle. Le texte affirme dès l'ouverture que "la technologie n'est jamais neutre" et place l'IA dans une perspective historique comparable à la révolution industrielle. S'appuyant sur deux récits bibliques, l'encyclique oppose la tour de Babel, symbole d'une croissance effrénée coupée de toute considération humaine et divine, au livre de Néhémie, où la reconstruction de Jérusalem devient un acte collectif et solidaire. Léon XIV y voit l'image de deux chemins possibles pour notre époque : une course technologique atomisante, ou un projet partagé remettant l'humain au centre. Le document insiste sur un point précis : l'IA n'est pas une force naturelle ni une entité abstraite et omnisciente, mais un produit commercial, né à un moment où des pouvoirs économiques considérables se concentrent entre un nombre infime de mains. Cette prise de position pontificale arrive alors que les mécanismes de régulation de l'IA restent profondément lacunaires. Il n'existe aucune autorité de sécurité dédiée à l'échelle mondiale. Aux États-Unis, la Federal Trade Commission dispose de compétences limitées sur la conception algorithmique, et les recommandations du NIST sont largement ignorées par l'industrie. L'AI Act européen, partiellement entré en vigueur, ne couvre qu'une fraction des usages réels. Dans ce vide institutionnel, ce sont les investisseurs qui ont pris le relais. Des coalitions regroupées autour de l'Interfaith Center on Corporate Responsibility, représentant plus de 400 milliards de dollars d'actifs sous gestion, ont multiplié les résolutions d'actionnaires lors des dernières assemblées générales pour exiger transparence, évaluation des risques et responsabilité dans le déploiement de l'IA. Des géants comme Alphabet, Amazon, Nvidia, Palantir et Uber ont été directement interpellés, avec des demandes formelles d'interdire toute utilisation de leurs systèmes à des fins de violence ou de violation des droits humains. L'encyclique survient dans un contexte d'escalade des usages militaires de l'IA, illustré de façon tragique lors des premières heures de la guerre contre l'Iran, où des systèmes d'IA ont servi à identifier des cibles pour des milliers de frappes de missiles, causant des centaines de morts. Cette réalité confère une résonance particulière au message de Léon XIV, premier pape de l'ère de l'IA de masse. Son texte ne prétend pas innover sur le terrain de la gouvernance : il entérine et légitime un mouvement déjà en marche, porté non par les États ni par les institutions internationales, mais par des actionnaires citoyens qui ont choisi d'exercer leur responsabilité là où les gouvernements ont jusqu'ici échoué.

UEL'encyclique renforce les appels à une meilleure gouvernance de l'IA en Europe, alors que l'AI Act n'est que partiellement entré en vigueur et ne couvre qu'une fraction des usages réels.

💬 C'est quand même le Vatican qui dit ce que les gouvernements n'arrivent pas à formuler clairement. L'encyclique ne prétend pas réinventer la gouvernance, mais elle pointe un truc précis : l'IA n'est pas une force naturelle, c'est un produit commercial concentré dans quelques mains. Que ce soit le pape ou des coalitions d'actionnaires qui comblent le vide laissé par les États, c'est un aveu d'échec institutionnel assez glaçant.

ÉthiqueReglementation
1 source
L’IA crée son propre Shadow IT : les entreprises perdent déjà la trace de leurs agents
15FrenchWeb 

L’IA crée son propre Shadow IT : les entreprises perdent déjà la trace de leurs agents

Un phénomène bien connu refait surface sous une forme nouvelle dans les entreprises : après avoir lutté pendant vingt ans contre le Shadow IT classique, les directions informatiques font face à une variante propulsée par l'intelligence artificielle. Des équipes métier déploient désormais des agents IA, des assistants automatisés et des flux de traitement autonomes sans passer par les circuits de validation informatique habituels. La facilité d'accès aux outils IA grand public, souvent accessibles via un simple abonnement ou une API, accélère cette dispersion incontrôlée. Le risque est considérable. Contrairement à une application SaaS classique, un agent IA peut accéder à des données sensibles, exécuter des tâches en autonomie, interagir avec des systèmes tiers et produire des résultats à grande échelle, le tout hors de tout audit interne. Les entreprises ne savent plus combien d'agents tournent en leur nom, quelles données ils traitent, ni qui en est réellement responsable. Cela expose les organisations à des violations réglementaires, notamment sous le RGPD ou l'AI Act européen, et à des risques de sécurité difficiles à quantifier. Ce phénomène s'inscrit dans une dynamique plus large : la démocratisation rapide des outils IA, portée par OpenAI, Google, Microsoft et des dizaines de startups, a rendu l'expérimentation accessible à n'importe quel salarié. Les DSI, déjà débordés par la transformation numérique, peinent à établir des cadres de gouvernance adaptés à cette nouvelle réalité. Les prochains mois devraient voir émerger des solutions de découverte et d'inventaire d'agents IA, un marché naissant que plusieurs éditeurs de cybersécurité commencent déjà à adresser.

UELes entreprises françaises et européennes sont directement exposées aux risques de non-conformité au RGPD et à l'AI Act en raison de déploiements d'agents IA internes non contrôlés et non audités.

💬 Le Shadow IT, on pensait l'avoir à peu près domestiqué. Mais n'importe quel chef de projet peut maintenant poser un agent en prod avec une carte bleue et un compte OpenAI, sans que la DSI ne le voie passer. La différence avec l'ancienne version, c'est que cet agent agit en autonomie, touche des données sensibles, et sous l'AI Act, si ça déraille, c'est ton entreprise qui morfle, pas l'employé qui a cliqué sur "déployer".

SécuritéOpinion
1 source
« Le vrai danger n’est pas l’IA » : l’aveu fracassant du pape dans sa 1ère encyclique
16Le Big Data 

« Le vrai danger n’est pas l’IA » : l’aveu fracassant du pape dans sa 1ère encyclique

Le pape Léon XIV a publié sa toute première encyclique, intitulée "Magnifica humanitas", consacrée en grande partie à l'intelligence artificielle. C'est une première dans l'histoire de l'Église catholique : un souverain pontife qui place la technologie au cœur de son premier grand texte doctrinal. Le document ne condamne pas l'IA en elle-même, mais pointe avec précision les risques systémiques qu'elle engendre : concentration du pouvoir technologique entre les mains d'une minorité d'entreprises et de gouvernements, développement d'armes autonomes capables d'agir sans décision humaine, surveillance numérique généralisée, et réduction de l'individu à sa seule productivité mesurable. Léon XIV formule une position claire : la valeur d'un être humain n'est pas fonction de son efficacité ni de ses données, et aucun algorithme ne peut en décider autrement. L'impact de ce texte dépasse largement les fidèles catholiques. En prenant position sur la régulation de l'IA, le pape entre dans un débat qui mobilise gouvernements, institutions multilatérales et société civile depuis plusieurs années. Sa critique du "paradigme technocratique", cette tendance à tout soumettre à la logique de performance et de profit, rejoint des préoccupations portées par des économistes, des philosophes et des juristes. Sur les inégalités, l'encyclique est particulièrement directe : si l'accès aux outils d'IA reste concentré dans les pays riches et entre les mains de quelques groupes, les écarts existants ne feront que se creuser. Le pape réclame une régulation publique, des contrôles indépendants et des règles éthiques communes, en insistant sur le fait qu'une IA "morale" n'a aucune valeur si cette morale est définie par une poignée d'acteurs privés. L'encyclique s'inscrit dans un contexte de montée en puissance des débats sur la gouvernance de l'IA à l'échelle mondiale, entre l'AI Act européen, les négociations à l'ONU et les initiatives nationales des États-Unis et de Chine. Léon XIV, élu en mai 2025, avait déjà signalé lors de son élection qu'il entendait inscrire son pontificat dans les questions sociales contemporaines. Son texte aborde également la surveillance algorithmique des plateformes numériques, qu'il décrit comme une "architecture de la visibilité" favorisant la polarisation et l'uniformisation des opinions. Sur le volet militaire, il rejette explicitement les systèmes d'armes létales autonomes, estimant que la distance technologique entre le combattant et sa victime banalise la violence plutôt qu'elle ne la contient. La suite dépendra de la réception du texte par les États membres de l'ONU et les grandes puissances technologiques, aucune d'entre elles n'étant directement liée par la doctrine pontificale, mais toutes attentives au poids symbolique et diplomatique d'une telle prise de position.

UEL'encyclique s'inscrit explicitement dans le contexte de l'AI Act européen et des négociations à l'ONU, et pourrait peser sur l'opinion publique en faveur d'une régulation plus stricte dans les États membres à majorité catholique.

💬 Le texte ne surprend pas vraiment sur le fond, des économistes et des juristes disent ça depuis des années. Mais le poids symbolique d'une encyclique, c'est autre chose : 1,3 milliard de catholiques ont maintenant un cadre doctrinal qui classe la concentration du pouvoir techno parmi les problèmes moraux, pas juste politiques. Je vois ça comme un levier inattendu pour les régulateurs européens, et une migraine diplomatique de plus pour les grands groupes.

ÉthiqueReglementation
1 source
Spotify fait plaisir aux amateurs de podcasts : comme NotebookLM, sa nouvelle IA est capable de créer des épisodes personnalisés (partir des données personnelles)
17Presse-citron 

Spotify fait plaisir aux amateurs de podcasts : comme NotebookLM, sa nouvelle IA est capable de créer des épisodes personnalisés (partir des données personnelles)

Spotify a dévoilé une nouvelle fonctionnalité d'intelligence artificielle capable de générer des épisodes de podcast personnalisés à la demande. Présentée comme une préversion de recherche, cette fonctionnalité n'est pas encore disponible au grand public mais devrait être déployée dans les semaines à venir. Elle s'appuie sur trois sources de données combinées : les informations disponibles sur le web, les connaissances générales du modèle, et les données personnelles propres à chaque utilisateur sur la plateforme. Le rapprochement avec NotebookLM de Google est immédiat : les deux outils permettent de générer du contenu audio à partir de sources multiples, mais Spotify va plus loin en intégrant le profil personnel de l'auditeur. Concrètement, cela signifie que le système pourrait tenir compte des habitudes d'écoute, des genres préférés ou d'autres données collectées pour produire un épisode réellement adapté à chaque individu. Pour des millions d'utilisateurs qui consomment déjà des podcasts quotidiennement sur la plateforme, cela représente un changement de paradigme : l'écoute passive devient une expérience co-construite avec l'IA. Cette annonce s'inscrit dans une course plus large entre les grandes plateformes pour intégrer l'IA générative dans leurs produits phares. Spotify, qui compte plus de 600 millions d'utilisateurs actifs, cherche à différencier son offre face à Apple Podcasts et YouTube. La question des données personnelles utilisées pour entraîner ou alimenter ces générations reste en suspens, et pourrait susciter des interrogations réglementaires, notamment en Europe où le RGPD encadre strictement ce type d'usage.

UEL'utilisation de données personnelles d'écoute pour générer du contenu audio soulève des questions de conformité RGPD pour les millions d'utilisateurs européens de Spotify, entreprise suédoise dont les pratiques de traitement de données sont encadrées par le droit européen.

💬 C'est NotebookLM mais avec ton historique Spotify dedans, et ça change tout. Spotify a 600 millions d'utilisateurs qui lui livrent leurs goûts heure par heure depuis des années, autant dire que le niveau de personnalisation va être imbattable sur ce terrain. La question des données en Europe va cogner fort, et ça ne va pas se régler en deux lignes de politique de confidentialité.

CréationOutil
1 source
Nexos.ai : on a testé l’outil qui veut convaincre votre DSI que l’IA n’est pas une passoire
18Le Big Data 

Nexos.ai : on a testé l’outil qui veut convaincre votre DSI que l’IA n’est pas une passoire

Nexos.ai, la plateforme développée par Nord Security, l'éditeur à l'origine de NordVPN, propose une solution de gouvernance de l'intelligence artificielle en entreprise. Le principe est simple : plutôt que de créer un nouveau modèle maison, Nexos fait office de hub centralisé permettant aux équipes d'accéder aux grands modèles du marché, OpenAI, Anthropic, Google, Mistral, depuis un environnement contrôlé, avec des journaux d'activité, des règles configurables et un administrateur aux commandes. L'interface, pensée pour être accessible sans formation, permet de choisir son modèle via un menu déroulant, de définir un profil global avec des instructions permanentes, et de désactiver la mémorisation d'un simple interrupteur. Un détail attire l'attention : un drapeau européen signale les modèles traités sur des serveurs en Europe, garantie concrète pour les entreprises soumises au RGPD. Côté routing, la plateforme dirige intelligemment les tâches vers le modèle le plus adapté, un modèle d'embedding Mistral pour indexer un PDF, sans mobiliser un modèle coûteux, sans que l'utilisateur n'ait à intervenir. L'enjeu adressé est loin d'être anecdotique. Le phénomène dit du "Shadow AI", ces salariés qui utilisent leur compte personnel ChatGPT ou Claude pour coller des contrats, des roadmaps ou des bilans RH, représente en 2026 l'un des principaux vecteurs de fuite de données sensibles en entreprise, non par malveillance, mais faute d'alternative sérieuse mise à disposition. Nexos tente de combler ce vide en offrant aux DSI une visibilité réelle sur les usages, et aux employés un outil suffisamment fluide pour ne pas générer de contournements. Pour un DAF surveillant sa facture cloud, l'optimisation automatique du routing entre modèles représente aussi un argument économique tangible, invisible pour l'utilisateur final mais visible dans les coûts d'infrastructure. Nord Security n'est pas un inconnu dans l'espace cybersécurité : l'entreprise a construit sa réputation sur NordVPN, un produit grand public devenu référence dans la protection de la vie privée en ligne. Ce positionnement lui confère une crédibilité initiale sur le marché de la gouvernance IA, un segment en pleine structuration alors que les régulations se durcissent des deux côtés de l'Atlantique, l'AI Act européen en tête. La limite que la revue identifie est structurelle : les promesses de "forteresse numérique" ne peuvent être vérifiées sans audit technique indépendant, et l'utilisateur doit in fine faire confiance à la réputation de l'éditeur. Dans un marché où les offres se multiplient, Microsoft Copilot, Glean, Perplexity Enterprise, Nexos mise sur la simplicité d'adoption et la conformité RGPD comme différenciateurs, deux arguments qui résonnent particulièrement auprès des ETI et grandes entreprises européennes encore hésitantes à franchir le pas.

UELes entreprises françaises et européennes soumises au RGPD et à l'AI Act disposent d'une plateforme de gouvernance IA avec hébergement européen, réduisant le risque juridique lié au Shadow AI.

SécuritéOutil
1 source
Ne vous faites plus avoir : les images de ChatGPT ont désormais une « marque »
19Le Big Data 

Ne vous faites plus avoir : les images de ChatGPT ont désormais une « marque »

OpenAI a annoncé l'intégration progressive de SynthID, la technologie de tatouage numérique développée par Google DeepMind, dans les images générées via ChatGPT, Codex et son API. Cette initiative s'inscrit dans une stratégie plus large : depuis 2024, l'entreprise appose déjà des "Content Credentials" conformes au standard C2PA (Coalition for Content Provenance and Authenticity) sur les images produites par DALL·E 3, ImageGen et Sora. SynthID ajoute un marquage invisible directement dans les pixels de l'image, indétectable à l'œil nu mais lisible par un outil spécialisé. OpenAI déploie en parallèle un premier outil public de vérification permettant à quiconque de téléverser une image pour savoir si elle provient de ses modèles, en analysant simultanément les métadonnées C2PA et le tatouage SynthID. L'enjeu est direct : à mesure que les images générées par IA inondent les réseaux sociaux, les médias et les campagnes publicitaires, la capacité à distinguer le réel de l'artificiel devient un problème concret pour les journalistes, les plateformes et le grand public. La combinaison des deux technologies répond à une limite bien connue des systèmes basés uniquement sur les métadonnées : une simple capture d'écran suffit à effacer les informations de provenance encodées selon le standard C2PA. SynthID contourne ce problème en inscrivant le marquage dans la structure même de l'image, lui permettant de survivre à certaines modifications ou recompressions. C'est cette complémentarité qui constitue la valeur réelle du dispositif : les métadonnées fournissent un contexte détaillé sur la création, le tatouage assure une trace persistante. La course à la traçabilité des contenus synthétiques s'accélère dans un contexte de pression réglementaire croissante, notamment en Europe avec l'AI Act, qui impose des obligations de transparence sur les contenus générés par IA. OpenAI n'est pas seul sur ce terrain : Adobe, Microsoft et d'autres membres de la C2PA travaillent à des approches similaires, tandis que les grandes plateformes comme YouTube ou LinkedIn ont commencé à afficher les Content Credentials. OpenAI reconnaît cependant les limites de son système : aucune méthode n'est infaillible, et l'absence de signal détecté ne garantit pas qu'une image est authentique. L'outil de vérification public ne couvre pour l'instant que les contenus générés par OpenAI, mais l'entreprise affirme vouloir collaborer avec d'autres acteurs pour étendre le dispositif à l'ensemble de l'industrie.

UEL'AI Act impose des obligations de transparence sur les contenus générés par IA, et ce dispositif de tatouage numérique fournit aux entreprises européennes un mécanisme concret pour démontrer leur conformité.

💬 La vraie bonne idée, c'est la combinaison des deux systèmes. Une capture d'écran efface les métadonnées C2PA en deux secondes, SynthID survit dans les pixels eux-mêmes, et c'est là que ça change quelque chose. Bon, l'outil ne couvre que les images OpenAI pour l'instant, et ils reconnaissent eux-mêmes qu'une absence de signal ne garantit rien.

SécuritéOpinion
1 source
ChatGPT Ads Manager : l’outil que vous attendez pour gérer vos campagnes publicitaires ?
20Le Big Data 

ChatGPT Ads Manager : l’outil que vous attendez pour gérer vos campagnes publicitaires ?

OpenAI a lancé en bêta son ChatGPT Ads Manager le 5 mai 2026, ouvrant pour la première fois l'accès à une régie publicitaire en libre-service intégrée directement dans son chatbot. Disponible dès maintenant pour les annonceurs américains, la plateforme permet de créer, piloter et optimiser des campagnes publicitaires qui s'affichent sous les réponses générées par l'IA. OpenAI assure que les annonces n'influencent pas les contenus produits par ChatGPT et que les conversations des utilisateurs ne sont pas transmises aux annonceurs. Cette étape s'inscrit dans une stratégie de monétisation agressive : la société vise 2,5 milliards de dollars de revenus publicitaires pour 2026 et ambitionne d'atteindre 100 milliards de dollars annuels d'ici 2030. Les annonceurs européens peuvent déjà s'inscrire sur liste d'attente. L'enjeu est considérable pour l'industrie publicitaire. Contrairement à Google ou Meta qui s'appuient sur le profilage comportemental des utilisateurs, ChatGPT Ads Manager mise sur un ciblage purement contextuel, ancré dans l'intention de recherche immédiate de l'utilisateur au moment précis où il pose sa question. Pour un annonceur, cela signifie toucher un prospect au moment exact où il exprime un besoin, sans exploiter l'historique personnel ou les données privées. Ce positionnement différenciant pourrait séduire les marques soucieuses de conformité réglementaire, notamment en Europe, tout en offrant un retour sur investissement potentiellement plus ciblé que les formats display classiques. La structure de la plateforme suit la trinité habituelle du marketing digital : campagne, groupes thématiques, annonces finales, avec deux modes d'accès, l'un guidé pour les débutants, l'autre permettant l'import direct de modèles pour les utilisateurs expérimentés. Ce lancement intervient dans un contexte de pression financière croissante sur OpenAI. Faire tourner des serveurs d'IA à grande échelle représente des coûts colossaux, et les abonnements ChatGPT Plus ou Pro ne suffisent pas à couvrir les ambitions de croissance de l'entreprise. En intégrant la publicité, OpenAI suit le chemin tracé par Google avec son moteur de recherche, cherchant à monétiser une audience massive, estimée à plusieurs centaines de millions d'utilisateurs actifs, sans dégrader l'expérience perçue. La viabilité de ce modèle dépendra néanmoins de la tolérance des utilisateurs à la présence de contenus sponsorisés dans un outil qu'ils associent à la neutralité informationnelle, ainsi que de la capacité d'OpenAI à convaincre les régulateurs européens que ce ciblage contextuel respecte bien le RGPD. Les prochains mois, avec l'ouverture annoncée aux marchés hors États-Unis, seront déterminants.

UELes annonceurs européens peuvent s'inscrire sur liste d'attente dès maintenant, mais l'ouverture effective du marché dépendra de la validation par les régulateurs que le ciblage contextuel respecte le RGPD.

💬 Le ciblage contextuel, c'est l'argument qui change tout par rapport à Google ou Meta. Pas de profil comportemental, juste l'intention au moment T, et pour les annonceurs européens qui souffrent du RGPD depuis des années, c'est une vraie bouffée d'air. Le vrai test, c'est pas la technique, c'est la tolérance des utilisateurs à voir des pubs dans un outil qu'ils associent à la neutralité.

BusinessOpinion
1 source
Ingérence, manipulation du vote… Les chatbots IA (ChatGPT et Gemini) sont sous haute surveillance de l’Arcom
2101net 

Ingérence, manipulation du vote… Les chatbots IA (ChatGPT et Gemini) sont sous haute surveillance de l’Arcom

L'Arcom, le régulateur français de l'audiovisuel et du numérique, a placé ChatGPT d'OpenAI et Gemini de Google dans son viseur pour les deux prochaines années. L'institution a annoncé son intention de « rééquilibrer les règles du jeu » vis-à-vis des plateformes numériques et des agents conversationnels IA, en ciblant explicitement leur rôle potentiel dans le processus électoral. L'échéance est claire : l'élection présidentielle française de 2027. L'enjeu central est celui de la responsabilité éditoriale des chatbots. Ces outils, consultés par des dizaines de millions d'utilisateurs pour s'informer, peuvent orienter les perceptions politiques, diffuser des informations inexactes ou amplifier des narratifs partisans sans que leur concepteur n'en assume la moindre responsabilité juridique. L'Arcom cherche à combler ce vide réglementaire avant que ces systèmes ne pèsent sur un scrutin majeur, comme ils ont pu le faire, selon plusieurs études, lors des élections américaines et européennes récentes. La démarche s'inscrit dans un mouvement réglementaire plus large en Europe, où l'AI Act européen impose déjà certaines obligations aux systèmes à haut risque. La France anticipe désormais des risques spécifiques liés à la désinformation électorale et à la manipulation du vote via l'IA générative. OpenAI et Google devront probablement s'aligner sur de nouvelles exigences de transparence et de modération, sous peine de sanctions. L'Arcom dispose d'un précédent avec sa régulation des réseaux sociaux, mais les chatbots posent des défis techniques inédits en matière de traçabilité des sources et de détection des biais.

UEL'Arcom, régulateur français, cible directement ChatGPT et Gemini pour imposer des obligations de transparence et de modération électorale avant la présidentielle française de 2027.

💬 L'Arcom fait bien de s'y prendre maintenant, 2027 c'est demain côté régulation. Des dizaines de millions de gens posent leurs questions politiques à ChatGPT sans se douter que personne n'endosse juridiquement ce qu'il répond. La difficulté, c'est que même OpenAI ne maîtrise pas complètement ce que son modèle va sortir sur un candidat, et "obligations de transparence" sur un LLM ça va être coton à définir.

RégulationReglementation
1 source
Face aux États-Unis et à la Chine, MISTRAL cherche son propre modèle d’IA et fait l’acquisition d’Emmi AI
22FrenchWeb 

Face aux États-Unis et à la Chine, MISTRAL cherche son propre modèle d’IA et fait l’acquisition d’Emmi AI

Mistral AI, la startup parisienne fondée en 2023 et valorisée plus de six milliards d'euros, annonce l'acquisition d'Emmi AI, une société spécialisée dans les agents conversationnels d'entreprise. Cette opération s'inscrit dans une stratégie de diversification accélérée : plutôt que de se limiter à l'entraînement de modèles fondationnels, Mistral cherche à construire une offre verticalement intégrée, allant du modèle de base jusqu'aux applications déployées chez les clients. Les détails financiers de l'acquisition n'ont pas été rendus publics. L'enjeu est de taille pour l'écosystème européen. Les entreprises du continent restent largement dépendantes des hyperscalers américains (AWS, Azure, Google Cloud) pour leurs infrastructures, des GPU NVIDIA pour le calcul, et des modèles d'OpenAI, Anthropic ou Google pour l'inférence. En absorbant Emmi AI, Mistral tente de proposer une alternative souveraine complète aux directions informatiques européennes soucieuses de leur autonomie stratégique et de conformité réglementaire, notamment au regard de l'AI Act européen entré en vigueur en 2024. Ce rachat intervient alors que la compétition internationale s'intensifie sur deux fronts simultanés : les États-Unis maintiennent leur avance sur les modèles de pointe, tandis que la Chine rattrape son retard à marche forcée avec des architectures intégrées comme celles de Huawei ou Baidu. Pour Mistral, qui a levé 1,1 milliard de dollars en 2024 avec des investisseurs comme Andreessen Horowitz et la Banque publique d'investissement, l'heure est au passage à l'échelle commerciale, pas seulement technologique.

UEL'acquisition d'Emmi AI par Mistral AI renforce l'offre souveraine européenne en agents IA d'entreprise, donnant aux DSI françaises et européennes une alternative intégrée aux solutions américaines, dans un contexte de conformité à l'AI Act.

💬 Mistral fait le pari qu'un modèle de base, ça ne suffit plus. Racheter Emmi AI, c'est aller chercher le client là où il est, dans ses workflows d'entreprise, plutôt que d'attendre qu'il vienne lui-même sur une API. Reste à voir si une startup, même avec un milliard en caisse, peut tenir tête aux hyperscalers sur leur propre terrain.

BusinessOpinion
1 source
Et maintenant, les Français utilisent une IA pour voter aux élections, certains changent même d’avis
23Presse-citron 

Et maintenant, les Français utilisent une IA pour voter aux élections, certains changent même d’avis

Lors des élections municipales de mars 2026 en France, des milliers d'électeurs ont eu recours à des outils d'intelligence artificielle conversationnelle pour orienter leur vote. Pour la première fois à cette échelle, des citoyens ont soumis leurs hésitations politiques à des assistants comme ChatGPT ou Copilot, posant des questions sur les programmes, les candidats ou les enjeux locaux. Fait marquant : une fraction d'entre eux affirme avoir changé d'avis à la suite de ces échanges, parfois quelques heures avant de glisser leur bulletin dans l'urne. Le phénomène soulève des inquiétudes profondes quant à l'intégrité du processus démocratique. Contrairement à un article de presse ou à un débat télévisé, une IA conversationnelle personnalise sa réponse en fonction des questions posées et du profil perçu de l'utilisateur, sans transparence sur ses sources ni sur les biais éventuels de son entraînement. Si les volumes restent encore minoritaires en 2026, la tendance ouvre une brèche inédite : celle d'un intermédiaire algorithmique, non élu et non régulé, influençant directement le comportement électoral de citoyens. La présidentielle de 2027 concentre désormais toutes les attentions. Les politologues et les régulateurs alertent sur l'absence totale de cadre juridique encadrant l'usage des IA dans le contexte électoral français. La Commission nationale de contrôle de la campagne électorale n'a pas encore de doctrine sur le sujet, tandis que Bruxelles travaille encore à l'application de l'AI Act. D'ici à l'échéance présidentielle, la question de savoir si une IA peut constituer une forme d'ingérence dans le vote risque de s'imposer comme l'un des débats politiques majeurs du quinquennat.

UEDes milliers de Français ont utilisé des IA conversationnelles pour orienter leur vote lors des municipales de mars 2026, certains en changeant d'avis, révélant un vide juridique total que ni la Commission nationale de contrôle de la campagne électorale ni l'AI Act n'ont encore comblé à moins d'un an de la présidentielle 2027.

💬 C'était prévisible, et pourtant ça fait un effet bizarre de le lire noir sur blanc. Des électeurs ont soumis leurs hésitations politiques à ChatGPT, certains ont changé d'avis à quelques heures du vote, sans aucune garantie que le modèle ne mélangeait pas les programmes ou ne favorisait pas un angle sans le dire. On a 2027 qui arrive, aucun cadre, et personne en charge.

SociétéReglementation
1 source
MemPrivacy : pseudonymisation locale réversible en edge-cloud pour protéger les données sans altérer la mémoire
24MarkTechPost 

MemPrivacy : pseudonymisation locale réversible en edge-cloud pour protéger les données sans altérer la mémoire

Des chercheurs de MemTensor (Shanghai), du fabricant de smartphones HONOR Device et de l'université Tongji ont présenté MemPrivacy, un cadre technique destiné à protéger les données personnelles des utilisateurs d'agents IA sans sacrifier l'utilité des systèmes de mémoire cloud. Publié sur arXiv, le framework repose sur ce que les chercheurs appellent la "pseudonymisation locale réversible" : avant de quitter l'appareil de l'utilisateur, les données sensibles sont remplacées par des jetons structurés typés, comme ` ou . Le modèle cloud reçoit un texte sémantiquement intact, stocke les mémoires normalement, mais ne voit jamais les valeurs réelles. Lorsque la réponse revient, l'appareil local substitue les placeholders par les données originales via une base de données sécurisée en local. Le pipeline se divise en trois étapes : désensibilisation lors de l'envoi, traitement cloud, puis restauration à la réception, cette dernière n'ajoutant qu'une latence négligeable. Les chercheurs ont également défini une taxonomie à quatre niveaux (PL1 à PL4) pour classer les données selon leur sensibilité, des simples préférences personnelles jusqu'aux informations médicales et financières les plus critiques. L'enjeu est considérable : des études récentes montrent que les attaques par mémoire multi-tours peuvent induire des violations de données privées dans jusqu'à 69 % des cas, et les attaques par fuite contre les systèmes de mémoire atteignent un taux de succès de 75 %. L'injection indirecte de prompts peut même pousser un agent à soutirer activement des informations confidentielles à l'utilisateur. Dans une architecture edge-cloud classique, les données brutes transitent vers le cloud et y persistent dans des bases vectorielles ou des journaux, bien au-delà de l'interaction initiale. La solution répandue du masquage par des *` détruit la sémantique et rend les agents inutilisables pour des tâches concrètes : si une adresse email et une tension artérielle sont toutes deux effacées, le modèle ne peut pas rédiger un message médical cohérent. MemPrivacy résout ce paradoxe en conservant la structure sémantique grâce aux placeholders typés, permettant aux modèles cloud de raisonner correctement sans jamais accéder aux valeurs sensibles réelles. Ce travail s'inscrit dans un contexte où les agents LLM passent rapidement des laboratoires de recherche aux déploiements en production, exacerbant la tension entre personnalisation et confidentialité. Les approches antérieures plus rigoureuses, comme la confidentialité différentielle ou la protection cryptographique, offrent de meilleures garanties théoriques mais s'intègrent difficilement dans des pipelines de mémoire interactifs sans dégrader la qualité des réponses. MemPrivacy propose une voie intermédiaire : un modèle léger embarqué sur l'appareil gère la détection et la classification des données sensibles, tandis que la puissance de calcul cloud reste disponible pour la mémoire et le raisonnement complexe. Avec la multiplication des assistants IA personnalisés et la pression réglementaire croissante sur la protection des données, notamment en Europe avec le RGPD, ce type d'architecture hybride pourrait s'imposer comme un standard pour les applications grand public souhaitant offrir à la fois des capacités mémoire avancées et des garanties crédibles en matière de vie privée.

UEL'architecture MemPrivacy répond directement aux exigences du RGPD sur la minimisation des données, offrant aux développeurs européens d'agents IA une voie technique concrète pour concilier mémoire personnalisée et conformité réglementaire.

SécuritéOpinion
1 source
ChatGPT veut accéder à votre compte bancaire pour analyser vos dépenses
25The Decoder 

ChatGPT veut accéder à votre compte bancaire pour analyser vos dépenses

OpenAI vient de lancer une fonctionnalité permettant aux abonnés ChatGPT Pro aux États-Unis de connecter leur compte bancaire directement à l'assistant, via l'intégration du service financier Plaid. Une fois la liaison établie, ChatGPT peut analyser les transactions réelles de l'utilisateur pour fournir des conseils personnalisés sur ses dépenses, comme signaler des achats récurrents de repas livrés ou identifier des abonnements oubliés. La fonctionnalité repose sur GPT-5.5 Thinking, la version raisonnement du modèle, et doit progressivement s'étendre à l'ensemble des utilisateurs. OpenAI précise toutefois que l'outil ne constitue pas un conseiller financier agréé. L'enjeu est considérable : accéder aux données bancaires d'un utilisateur transforme ChatGPT d'un assistant généraliste en un outil d'accompagnement financier personnalisé, capable de remplacer, ou du moins de concurrencer, des applications dédiées comme Mint ou YNAB. Pour les utilisateurs Pro, qui paient déjà 200 dollars par mois, cela représente une valeur ajoutée tangible. Pour l'industrie, c'est un signal clair qu'OpenAI cible désormais les services financiers personnels, un secteur traditionnellement réservé aux banques et aux fintechs. Cette annonce s'inscrit dans la stratégie d'OpenAI de transformer ChatGPT en super-application capable de gérer tous les aspects du quotidien numérique. La question de la confiance et de la sécurité des données reste centrale : confier ses relevés bancaires à une IA soulève des interrogations réglementaires, notamment en Europe où le RGPD et la directive PSD2 encadrent strictement ce type d'accès. La compétition avec Google, Microsoft et les acteurs fintech comme Intuit s'annonce intense.

UELa fonctionnalité est actuellement limitée aux États-Unis, mais son expansion potentielle en Europe se heurterait au RGPD et à la directive PSD2, qui encadrent strictement l'accès aux données bancaires, rendant un déploiement immédiat peu probable.

💬 Connecter son compte bancaire à ChatGPT, c'est le genre de fonctionnalité qui semble évidente une fois qu'on la voit, et que personne n'avait osé lancer avant. Le vrai sujet c'est la confiance : filer ses relevés à OpenAI, c'est un pari énorme sur leur sérieux en matière de sécurité. En Europe, le RGPD et PSD2 bloqueront ça encore un bon moment, mais ça donne le cap.

Les contenus générés par IA devront être tatoués, sauf s’ils sont vérifiés par un humain
26Next INpact 

Les contenus générés par IA devront être tatoués, sauf s’ils sont vérifiés par un humain

L'Union européenne franchit une étape décisive dans la régulation des contenus synthétiques. La Commission européenne a lancé une consultation publique, ouverte jusqu'au 3 juin 2026, sur ses lignes directrices d'application de l'article 50 de l'AI Act. Ce texte impose aux fournisseurs et déployeurs d'intelligence artificielle de marquer de façon indélébile et « claire et identifiable » tout contenu généré ou modifié par IA : textes, images, sons, vidéos, réalités virtuelle et augmentée, jumeaux numériques, et même les systèmes d'IA agentique interagissant avec des environnements physiques ou numériques. Une exemption notable est toutefois proposée : les contenus ayant fait l'objet d'une vérification humaine ou d'un contrôle éditorial pourraient être dispensés de cette obligation de marquage. Lucilla Sioli, directrice du bureau IA de la DG Connect à la Commission, résume l'objectif sur LinkedIn : « Nous souhaitons réduire les risques d'usurpation d'identité et de tromperie. » L'enjeu dépasse la simple transparence technique. Ces règles visent à permettre à tout citoyen de distinguer ce qu'un humain a créé de ce qu'une machine a produit, dans un contexte où deepfakes et désinformation prolifèrent. La réglementation touche également les contenus mixant productions humaines et synthétiques, ainsi que les systèmes d'IA utilisés dans des domaines sensibles comme l'imagerie médicale ou l'évaluation scolaire. Les usages purement personnels et non professionnels sont exemptés, mais la Commission pose une limite claire : cette exception ne couvre ni les activités criminelles, ni les deepfakes diffusés publiquement sur des sujets politiques ou économiques susceptibles d'influencer le débat public. Concrètement, un particulier qui crée des deepfakes humoristiques de sa famille pour des vœux de Noël n'est pas concerné ; en revanche, quiconque diffuse publiquement un deepfake pour critiquer un responsable politique devra le labelliser explicitement comme contenu synthétique. Ce texte s'inscrit dans une dynamique réglementaire européenne construite depuis 2021 autour de l'AI Act, adopté en 2024 et entré progressivement en vigueur. Le tatouage numérique des contenus IA rejoint d'autres obligations déjà existantes comme les règles sur la désinformation du Digital Services Act. Un code de bonnes pratiques, rédigé par des experts indépendants, doit compléter ces lignes directrices et être finalisé début juin. L'équilibre reste délicat : trop strict, le dispositif freine la créativité et la liberté d'expression ; trop souple, il laisse prospérer la manipulation. La consultation en cours est précisément l'occasion pour les acteurs de l'industrie, les médias et la société civile de peser sur ce curseur avant que les règles définitives ne s'appliquent.

UELa Commission européenne impose via l'article 50 de l'AI Act le marquage obligatoire de tout contenu généré par IA, contraignant directement les médias, plateformes et entreprises françaises à adapter leurs processus éditoriaux avant la consultation publique du 3 juin 2026.

💬 L'exemption "contrôle éditorial humain", c'est là que tout va se jouer, et je parie que les équipes juridiques l'ont déjà repéré. Dans six mois, t'auras des processus entiers réarchitecturés pour faire passer un relecteur symbolique en bout de chaîne et esquiver le marquage, et c'est parfaitement légal. Bon, sur le papier c'est quand même le texte le plus complet qu'on ait eu jusqu'ici.

RégulationReglementation
1 source
Des chatbots IA divulguent de vrais numéros de téléphone
27MIT Technology Review 

Des chatbots IA divulguent de vrais numéros de téléphone

Depuis plusieurs mois, des utilisateurs de Google Gemini signalent un phénomène alarmant : le chatbot d'IA fournit de vrais numéros de téléphone personnels lorsqu'on lui demande des informations de contact pour des entreprises. En mars, Daniel Abraham, développeur logiciel israélien de 28 ans, a reçu un message WhatsApp d'un inconnu cherchant à contacter le service client de PayBox, une application de paiement israélienne, Gemini lui avait fourni le numéro personnel d'Abraham, qui n'a aucun lien avec la société. Lorsqu'Abraham a lui-même interrogé Gemini sur PayBox, le chatbot a généré un autre numéro WhatsApp appartenant à un particulier. Un Redditor a également rapporté avoir été submergé d'appels pendant un mois entier de la part d'inconnus cherchant avocats, designers ou serruriers. En avril, une doctorante de l'Université de Washington a obtenu de Gemini le numéro de portable personnel d'un collègue. La cause probable, selon les experts, est l'utilisation d'informations personnelles identifiables dans les données d'entraînement des modèles. Ces incidents illustrent un risque concret et massif pour la vie privée. DeleteMe, entreprise spécialisée dans la suppression de données personnelles en ligne, signale une hausse de 400 % des demandes liées à l'IA générative en sept mois, atteignant plusieurs milliers de requêtes. Parmi ces signalements, 55 % concernent ChatGPT, 20 % Gemini, 15 % Claude et 10 % d'autres outils. Les plaintes prennent deux formes : soit un utilisateur obtient ses propres données personnelles (adresse, numéro de téléphone, membres de sa famille, employeur) en interrogeant le chatbot sur lui-même, soit le chatbot génère des coordonnées plausibles mais erronées appartenant à de vraies personnes tierces. Dans les deux cas, les conséquences peuvent être graves : harcèlement, arnaques, usurpation d'identité. Et pour l'instant, il n'existe aucun mécanisme simple permettant aux victimes de faire retirer leurs données de ces systèmes. Ce problème s'inscrit dans un débat plus large sur la façon dont les géants de l'IA constituent leurs données d'entraînement. Les modèles de langage comme Gemini sont entraînés sur des corpus massifs extraits du web, qui contiennent inévitablement des informations personnelles publiées dans des annuaires, forums ou pages professionnelles. Contrairement aux moteurs de recherche classiques qui renvoient vers des sources vérifiables, les chatbots génèrent des réponses synthétiques sans transparence sur leur origine, rendant la vérification impossible pour l'utilisateur. Google n'a pas fourni d'explication sur les mécanismes précis à l'oeuvre, ni de solution pour les personnes dont les numéros circulent ainsi. Avec la généralisation des assistants IA dans les usages quotidiens, cette faille soulève des questions réglementaires urgentes, notamment en Europe où le RGPD impose des obligations strictes sur le traitement des données personnelles.

UELe RGPD impose aux éditeurs de chatbots des obligations strictes sur le traitement et l'effacement des données personnelles, exposant Google et ses concurrents à des sanctions potentielles de la CNIL et des autorités européennes de protection des données.

💬 Des gens se font harceler au téléphone parce que Gemini a craché leur numéro perso à des inconnus cherchant un serrurier ou un avocat. Ce qui me choque, c'est qu'il n'existe aucun mécanisme pour faire retirer ses données de ces modèles (Google n'a pas daigné expliquer comment, d'ailleurs). Si t'as un profil visible en ligne, ton numéro est peut-être quelque part dans un corpus d'entraînement.

ÉthiqueOpinion
1 source
AWS et Cisco AI Defense sécurisent les déploiements MCP et A2A pour les agents IA
28AWS ML Blog 

AWS et Cisco AI Defense sécurisent les déploiements MCP et A2A pour les agents IA

Cisco et AWS ont annoncé un partenariat pour sécuriser les déploiements d'agents IA en entreprise, ciblant en particulier deux protocoles devenus centraux dans l'industrie : le Model Context Protocol (MCP), lancé en novembre 2024, et le protocole Agent-to-Agent (A2A), introduit en avril 2025. Le MCP permet aux agents IA de se connecter à des sources de données et des API externes, tandis que l'A2A autorise des agents autonomes à communiquer entre eux sans intervention humaine. Les grandes entreprises gèrent aujourd'hui des dizaines, voire des centaines de serveurs MCP simultanément, et cette prolifération rapide a ouvert trois failles de sécurité majeures : absence de visibilité sur les outils déployés, incapacité des équipes de sécurité à réviser manuellement chaque composant au rythme des déploiements, et manque de journaux d'audit exigés par les cadres réglementaires. La réponse conjointe des deux groupes repose sur l'AI Registry, un projet open source soutenu par AWS, intégré à la plateforme Cisco AI Defense, qui automatise l'analyse de sécurité de chaque serveur MCP, agent IA et Agent Skill avant toute mise en production. L'impact concret est significatif pour les équipes de sécurité et les directions conformité. Actuellement, les processus de révision manuelle allongent chaque déploiement d'application IA de plusieurs semaines, créant un arriéré qui s'accumule à mesure que l'adoption de l'IA s'accélère. Avec ce système, dès qu'un nouveau composant est enregistré dans le registre centralisé, un scanner analyse automatiquement le code, les patterns de sécurité et les éventuelles vulnérabilités, puis génère un rapport détaillé. Si des problèmes sont détectés, le composant est immédiatement désactivé et marqué "security-pending", bloquant tout accès jusqu'à validation par un administrateur. Cette automatisation concerne aussi bien les serveurs MCP donnant accès à des bases de données que les agents A2A orchestrant des workflows complexes. Sur le plan réglementaire, les organisations s'exposaient auparavant à des sanctions sous les cadres SOX et RGPD faute de traçabilité suffisante sur les agents autonomes, une exposition que les équipes de conformité peinaient à quantifier. Cette initiative s'inscrit dans un contexte de montée en puissance rapide de l'IA agentique, qui transforme profondément les infrastructures d'entreprise. La prolifération non contrôlée de serveurs MCP et d'agents tiers représente un vecteur d'attaque croissant : du code malveillant ou des patterns non sécurisés peuvent s'introduire dans la chaîne d'approvisionnement logicielle sans qu'aucune revue manuelle ne puisse suivre le rythme. Akshay Bhargava, vice-président produit IA chez Cisco, souligne que ce partenariat vise à étendre la protection de niveau entreprise aux organisations de toute taille via les registres publics. Le marché de la sécurité pour l'IA agentique est encore naissant, et cette collaboration entre un géant du cloud et un leader du réseau envoie un signal fort : la gouvernance des agents IA devient un prérequis incontournable pour tout déploiement industriel sérieux.

UELes organisations européennes déployant des agents IA s'exposaient à des sanctions RGPD faute de traçabilité sur les agents autonomes ; cette solution automatise les journaux d'audit requis par la conformité européenne.

SécuritéActu
1 source
☕️ L’UE veut l’ouverture d’Android aux IA rivales : Apple vole au secours de Google
29Next INpact 

☕️ L’UE veut l’ouverture d’Android aux IA rivales : Apple vole au secours de Google

Dans le cadre du règlement européen sur les marchés numériques (DMA), la Commission européenne a transmis à Google ses conclusions préliminaires fin avril 2025, reprochant au groupe de Mountain View de réserver à son assistant Gemini un accès privilégié aux couches profondes d'Android. Seul Gemini peut aujourd'hui envoyer des e-mails, partager des photos ou déclencher des actions dans des applications tierces depuis le système d'exploitation, un avantage renforcé récemment avec le lancement de Gemini Intelligence. Bruxelles a ouvert une consultation publique sur des mesures correctives, close le 13 mai 2025, exigeant que les assistants IA concurrents bénéficient du même niveau d'accès. C'est dans ce contexte qu'Apple a pris la parole pour défendre... Google. Dans sa réponse à la consultation, Apple estime que les mesures envisagées par la Commission « soulèvent des préoccupations urgentes et sérieuses », notamment en matière de vie privée, de sécurité et de stabilité des appareils. Ouvrir les API bas niveau d'Android à n'importe quel assistant IA tiers serait particulièrement risqué dans un secteur où les capacités, comportements et vecteurs d'attaque restent « imprévisibles », selon le groupe de Cupertino. Cette prise de position n'est pas désintéressée : si la Commission impose cette logique à Android, elle pourrait exiger la même ouverture sur iOS. Apple ajoute une critique plus acerbe sur la méthode : l'autorité européenne « substitue son propre jugement à celui des ingénieurs de Google sur la base de moins de trois mois de travail », s'arrogeant de fait la compétence technique de redessiner un système d'exploitation entier. Le contexte est riche en contradictions. Bloomberg rapportait récemment qu'Apple envisagerait d'autoriser des modèles tiers pour propulser certaines fonctions IA d'iOS 27, soit précisément ce que demande la Commission à Google. Mais la différence est de taille : Apple dicterait ses propres conditions d'accès, sans que ce soit un régulateur qui impose ses règles. Ce double jeu illustre la tension structurelle entre les grands acteurs tech et Bruxelles : en octobre 2024, Apple avait déjà porté plainte contre l'UE devant la Cour de justice européenne (CJUE) au Luxembourg sur l'application du DMA. La solidarité affichée entre Apple et Google dans ce dossier reflète moins une convergence d'intérêts qu'une stratégie commune de défense contre une régulation que les deux groupes jugent techniquement naïve et commercialement menaçante.

UELa Commission européenne pourrait contraindre Google à ouvrir les API profondes d'Android à tous les assistants IA concurrents, remodelant la concurrence sur le marché européen des assistants intelligents, et potentiellement créer un précédent applicable à iOS.

RégulationReglementation
1 source
Meta AI : un vrai pot de colle, vous ne pouvez pas le bloquer sur Threads
30Le Big Data 

Meta AI : un vrai pot de colle, vous ne pouvez pas le bloquer sur Threads

Meta a annoncé mardi le lancement d'un test de sa fonctionnalité Meta AI directement intégrée à Threads, son réseau social concurrent de X. Le principe reprend le modèle de Grok chez xAI : les utilisateurs peuvent mentionner le compte @Meta AI dans n'importe quelle conversation pour déclencher une réponse automatique de l'assistant. Le déploiement reste pour l'instant limité à cinq pays : l'Argentine, la Malaisie, le Mexique, l'Arabie saoudite et Singapour. L'IA peut répondre à des questions du quotidien, comme expliquer la tendance du matcha ou indiquer la prononciation du mot "Cannes", selon une vidéo de démonstration publiée par Meta elle-même. Le problème central qui a enflammé la plateforme tient en un mot : le blocage est impossible. Contrairement à n'importe quel autre compte sur Threads, Meta AI ne peut pas être bloqué par les utilisateurs. L'option habituelle, accessible via les trois points du profil, disparaît purement et simplement du menu. Certains utilisateurs ont signalé avoir brièvement aperçu le bouton avant de recevoir un message d'erreur en tentant de l'utiliser. La grogne a rapidement pris de l'ampleur : le sujet "Impossible de bloquer Meta AI" est devenu viral avec plus d'un million de publications sur la plateforme, avant de disparaître mystérieusement des tendances, ce qui n'a fait qu'amplifier la méfiance. Face à la pression, Meta a répondu via sa porte-parole Christine Pai, qui assure que les utilisateurs peuvent "gérer leur expérience" en masquant certaines réponses, en les désactivant dans leur fil ou en sélectionnant l'option "Pas intéressé(e)". Le blocage direct, lui, reste indisponible. Cette situation illustre une tension de fond qui traverse toute l'industrie des réseaux sociaux : l'intégration forcée d'assistants IA dans des espaces de conversation que les utilisateurs considèrent comme les leurs. Meta, qui cherche à monétiser et valoriser ses investissements massifs dans l'IA, a tout intérêt à maximiser l'exposition de Meta AI à travers ses milliards d'utilisateurs sur Facebook, Instagram et Threads. Mais l'absence d'option de blocage soulève des questions légitimes sur le consentement et le contrôle des utilisateurs, particulièrement en Europe où le cadre réglementaire du RGPD impose des obligations strictes en la matière. Si le test se conclut par un déploiement mondial, Meta devra probablement trancher : soit introduire une vraie option de blocage pour respecter les attentes des utilisateurs et les réglementations, soit assumer pleinement le choix de rendre son IA incontournable sur la plateforme.

UEL'impossibilité de bloquer Meta AI soulève une question de conformité directe avec le RGPD sur le consentement éclairé, ce qui obligera Meta à adapter la fonctionnalité avant tout déploiement en Europe.

💬 C'est pas un oubli, c'est assumé. Proposer "masquer la réponse" à la place du blocage, c'est la fausse alternative typique de Meta : l'IA reste dans ton fil, elle répond, elle collecte, tu n'as juste plus à la voir. Le RGPD va adorer ça.

ÉthiqueOpinion
1 source
Il avait contourné les garde-fous de ChatGPT : Denis Shilov lève 9,35 millions d’euros pour WHITE CIRCLE
31FrenchWeb 

Il avait contourné les garde-fous de ChatGPT : Denis Shilov lève 9,35 millions d’euros pour WHITE CIRCLE

White Circle, startup spécialisée dans la supervision et la sécurisation des modèles d'intelligence artificielle, a bouclé un tour de financement de 11 millions de dollars, soit environ 9,35 millions d'euros. Le tour a attiré un panel exceptionnel de figures de l'écosystème IA mondial : Romain Huet, Dirk Kingma (co-inventeur des VAE), Guillaume Lample (co-fondateur de Mistral AI), Thomas Wolf (Hugging Face), François Chollet (créateur de Keras), Olivier Pomel (Datadog) et Paige Bailey (Google DeepMind) figurent parmi les participants. La société est fondée par Denis Shilov, qui s'était fait remarquer en contournant les garde-fous de sécurité de ChatGPT. Ce financement souligne l'urgence croissante de sécuriser les systèmes d'IA déployés en production. White Circle propose des outils pour surveiller le comportement des modèles en temps réel, détecter les dérives et prévenir les abus, un besoin devenu critique alors que les entreprises intègrent massivement des grands modèles de langage dans leurs processus métier. La capacité de Shilov à jailbreaker des modèles comme ChatGPT illustre concrètement les failles existantes, et c'est précisément cette expertise offensive qui lui confère une crédibilité rare dans la défense. La supervision d'IA, ou "AI guardrails", est devenue l'un des segments les plus disputés du marché. La présence d'investisseurs comme Chollet, dont les travaux sur l'intelligence générale font référence, ou Lample, architecte de Mistral, donne à White Circle une légitimité technique difficile à imiter. Alors que l'AI Act européen impose des exigences croissantes de traçabilité et de contrôle, ce type de solution devrait trouver un marché naturel auprès des entreprises cherchant à se conformer tout en déployant des agents autonomes à grande échelle.

UELes outils de supervision d'IA de White Circle répondent directement aux exigences de traçabilité et de contrôle imposées par l'AI Act européen, offrant aux entreprises européennes une solution pour se conformer tout en déployant des agents autonomes à grande échelle.

💬 Shilov avait cassé les garde-fous de ChatGPT pour en exposer les limites, il lève maintenant 9 millions pour en construire de meilleurs. C'est le genre de parcours qui ne s'invente pas. Et quand Lample, Chollet et Thomas Wolf co-investissent dans le même tour, c'est pas de la déco.

SécuritéOpinion
1 source
Conformité au règlement européen sur l'IA pour l'affinage de LLM sur Amazon SageMaker
32AWS ML Blog 

Conformité au règlement européen sur l'IA pour l'affinage de LLM sur Amazon SageMaker

Depuis le 2 août 2025, l'AI Act européen impose aux organisations qui affinent des grands modèles de langage (LLM) de mesurer précisément la quantité de calcul consommée, exprimée en opérations virgule flottante (FLOPs). L'enjeu est réglementaire : selon le volume de calcul utilisé, une entreprise peut basculer du statut d'utilisateur en aval, qui exploite un modèle existant, à celui de fournisseur de modèle à usage général (GPAI), avec des obligations légales beaucoup plus lourdes. Amazon Web Services a publié en réponse un outil open source, le Fine-Tuning FLOPs Meter, conçu pour s'intégrer directement dans les pipelines Amazon SageMaker AI. Le seuil de référence, dit "règle du tiers", est fixé à 3,3 x 10²² FLOPs par défaut, c'est-à-dire lorsque le calcul de pré-entraînement du modèle de base est inconnu ou inférieur à 10²³ FLOPs. Pour les modèles dont le pré-entraînement dépasse 10²³ FLOPs et dont le chiffre est documenté, le seuil devient 30 % du calcul original. À titre d'exemple concret, affiner Llama-3-70B, dont le pré-entraînement est estimé à au moins 1,5 x 10²⁴ FLOPs, déclenche un seuil de 4,5 x 10²³ FLOPs avant de devenir fournisseur GPAI. Ce changement réglementaire touche directement les équipes data et ML des entreprises européennes qui personnalisent des modèles pour des usages sectoriels, qu'il s'agisse de finance, de santé ou de services juridiques. Franchir le seuil oblige à fournir une documentation détaillée sur l'architecture du modèle, le processus d'entraînement et à respecter l'ensemble des obligations de transparence imposées aux fournisseurs GPAI, sous peine de sanctions. L'outil d'AWS permet de déterminer son statut de conformité avec un seul paramètre de configuration et génère automatiquement les documents d'audit nécessaires. Dans la pratique, la majorité des organisations appliquera le seuil par défaut, car les fournisseurs de modèles comme Meta ou Mistral ne publient pas toujours leurs FLOPs de pré-entraînement avec précision. L'AI Act, premier cadre réglementaire complet sur l'IA au monde, a progressivement élargi son périmètre depuis son adoption en 2024. La distinction entre utilisateur et fournisseur GPAI est au coeur des débats depuis que l'affinage à grande échelle s'est démocratisé grâce aux techniques comme LoRA ou QLoRA, qui permettent d'adapter des modèles de plusieurs dizaines de milliards de paramètres avec des ressources relativement modestes. Le seuil du tiers repose sur une analyse réglementaire selon laquelle consommer plus d'un tiers du calcul original transforme suffisamment le comportement du modèle pour créer, de fait, un nouveau système avec ses propres risques. Le positionnement d'AWS est stratégique : en intégrant la conformité directement dans son infrastructure managée, le cloud provider réduit la friction pour les entreprises européennes hésitant à adopter le fine-tuning par crainte des obligations légales.

UELes équipes ML des entreprises européennes qui affinent des LLMs doivent désormais mesurer leurs FLOPs pour déterminer si elles basculent au statut de fournisseur GPAI sous l'AI Act, avec des obligations de documentation et de transparence renforcées sous peine de sanctions.

💬 C'est le genre de truc qui va faire peur à plein d'équipes ML alors que la plupart n'ont rien à craindre : affiner un Llama-70B en LoRA sur quelques epochs, tu es encore très loin du seuil. Ce qui est malin chez AWS, c'est d'intégrer la conformité dans leur infra avant que les équipes légales des boîtes européennes leur bloquent le fine-tuning par précaution. Reste que si Meta ne publie pas ses FLOPs de pré-entraînement proprement, tout le monde travaille avec un seuil par défaut un peu arbitraire.

RégulationReglementation
1 source
OpenAI abat quelques cartes à Bruxelles, Anthropic garde son jeu fermé
33FrenchWeb 

OpenAI abat quelques cartes à Bruxelles, Anthropic garde son jeu fermé

OpenAI a accepté d'ouvrir partiellement l'accès à certains de ses modèles sensibles aux institutions européennes, une concession que les grands laboratoires d'intelligence artificielle refusaient collectivement il y a encore quelques mois. Cette décision marque un tournant dans les relations entre les géants de l'IA et les régulateurs du Vieux Continent. Anthropic, de son côté, a opté pour la posture inverse en maintenant son modèle Mythos hors de portée de Bruxelles, au moins dans l'immédiat. Cette divergence d'approche n'est pas anodine : elle illustre une fracture stratégique au sein de l'industrie face aux exigences réglementaires européennes. En acceptant d'accorder un accès partiel, OpenAI se positionne comme un acteur coopératif, ce qui pourrait lui valoir un traitement favorable dans le cadre de l'application de l'AI Act. Pour les autorités européennes, obtenir un tel accès est crucial afin d'évaluer les risques des systèmes les plus puissants avant leur déploiement massif. Anthropic, en refusant pour l'instant, prend le pari que sa position de négociation reste solide malgré la pression institutionnelle croissante. L'AI Act européen, entré progressivement en vigueur depuis 2024, impose aux fournisseurs de modèles dits à usage général de grande puissance des obligations de transparence inédites. Les régulateurs réclament notamment des accès techniques pour auditer les capacités et les risques de ces systèmes. Les stratégies divergentes d'OpenAI et d'Anthropic dessinent ainsi deux visions du rapport à la régulation : la coopération calculée d'un côté, la résistance prudente de l'autre. La suite dépendra en grande partie des sanctions que Bruxelles sera prête à infliger aux récalcitrants.

UELa concession d'OpenAI crée un précédent pour l'application de l'AI Act, ouvrant la voie à un audit réglementaire des modèles puissants par les autorités européennes, avec des implications directes pour les entreprises et administrations françaises utilisant ces systèmes.

💬 OpenAI joue la carte de l'apaisement avec Bruxelles, et franchement c'est un move intelligent, même si on ne sait pas encore ce qu'ils ont vraiment ouvert. Anthropic qui refuse, c'est un pari risqué : soit ils ont des raisons solides de protéger Mythos, soit ils vont se retrouver en mauvaise posture quand les sanctions de l'AI Act commenceront à tomber. Reste à voir si la coopération d'OpenAI leur vaut vraiment un traitement de faveur, ou juste un audit plus poussé que prévu.

RégulationReglementation
1 source
L'UE veut réguler l'IA mais dépend de la coopération d'OpenAI et Anthropic
34The Decoder 

L'UE veut réguler l'IA mais dépend de la coopération d'OpenAI et Anthropic

L'Union européenne peine à exercer une supervision concrète sur les modèles d'IA les plus puissants, faute d'accès garanti aux systèmes qu'elle souhaite évaluer. OpenAI a proposé à la Commission européenne un accès direct à son nouveau modèle GPT-5.5 Cyber pour des évaluations de sécurité, et des discussions sont déjà en cours. Du côté d'Anthropic, la situation est plus bloquée : après quatre à cinq réunions portant sur son modèle Mythos, les régulateurs n'ont toujours pas obtenu l'accès demandé. Ce décalage révèle une fragilité structurelle du cadre réglementaire européen. L'AI Act, présenté comme le premier règlement contraignant au monde sur l'intelligence artificielle, n'impose pas encore de mécanismes d'accès obligatoires et opposables aux modèles les plus avancés. Résultat : les régulateurs ne peuvent pas auditer ce qu'on ne leur montre pas. Si les grandes entreprises américaines choisissent de coopérer à des degrés très différents, c'est toute la crédibilité de la supervision européenne qui s'en trouve fragilisée, et avec elle la confiance du public dans l'efficacité réelle de ces règles. La situation intervient alors que l'Europe accélère la mise en oeuvre de l'AI Act, dont les premières obligations pour les modèles à usage général sont entrées en vigueur en août 2024. Les modèles dits "à risque systémique" sont soumis à des exigences de transparence renforcées, mais les mécanismes d'audit indépendants restent en construction. L'Europe se retrouve dans une position inconfortable : vouloir réguler des technologies qu'elle ne produit pas, face à des entreprises dont le siège, les ressources juridiques et les leviers de négociation sont aux États-Unis.

UEL'AI Act ne dispose pas encore de mécanismes d'accès contraignants pour les modèles à risque systémique, exposant une fragilité structurelle dans la capacité de supervision des régulateurs européens face aux grands fournisseurs américains.

💬 Anthropic refuse l'accès depuis cinq réunions, OpenAI joue le jeu pour l'instant : ce décalage dit tout sur ce que "régulation" veut vraiment dire ici. L'AI Act a des obligations de transparence, mais sans droit d'audit opposable, c'est un règlement qui demande poliment. Reste à voir combien de temps les coopérations volontaires tiendront quand les audits commenceront à coûter quelque chose.

RégulationReglementation
1 source
☕️ Bruxelles obtient un accès à GPT-5.5-Cyber, mais ça bloque toujours avec Mythos
35Next INpact 

☕️ Bruxelles obtient un accès à GPT-5.5-Cyber, mais ça bloque toujours avec Mythos

La Commission européenne a officiellement obtenu un accès à GPT-5.5-Cyber, le modèle de langage d'OpenAI dédié à la cybersécurité, disponible depuis le 7 mai 2026 en accès limité pour les organisations chargées de sécuriser les infrastructures critiques. Thomas Regnier, porte-parole de la Commission pour la souveraineté technologique, a salué « la transparence d'OpenAI et sa volonté de donner à la Commission un accès à son nouveau modèle », précisant que cela permettrait de « suivre de très près le déploiement » du modèle et de traiter certaines préoccupations de sécurité. C'est OpenAI qui a fait le premier pas en contactant directement Bruxelles. La Commission doit maintenant définir quelles entités internes pourront travailler concrètement avec le modèle : parmi les candidates figurent la DG Connect, l'AI Office et l'agence de cybersécurité ENISA. Côté Anthropic, les discussions pour un accès à Mythos, le modèle le plus ambitieux de la société, se poursuivent après quatre ou cinq réunions, mais restent loin du niveau atteint avec OpenAI. Cet accès revêt une importance stratégique pour l'Union européenne, qui cherche à ne pas rester à l'écart des outils d'IA les plus avancés dans un domaine aussi sensible que la cybersécurité. George Osborne, responsable d'OpenAI for Countries, a insisté sur le fait que les capacités de GPT-5.5-Cyber devaient être « accessibles aux nombreux défenseurs européens, et pas seulement à quelques-uns ». La Commission obtient ainsi un levier d'analyse directe sur un modèle dont les usages touchent aux infrastructures critiques du continent, ce qui lui permettra de mieux évaluer les risques et les conformités réglementaires avant tout déploiement élargi. L'absence d'accès équivalent à Mythos, en revanche, crée un angle mort notable : Bruxelles se retrouve en position d'observateur partiel face à l'offre d'Anthropic, dont le modèle est présenté comme particulièrement puissant. Ce mouvement s'inscrit dans la stratégie globale d'OpenAI baptisée « OpenAI for Countries », lancée pour tisser des partenariats institutionnels avec les gouvernements à l'échelle mondiale, et dont un plan d'action spécifique pour la cybersécurité en Europe a déjà été annoncé. Le programme TAC (Trusted Access for Cyber) d'OpenAI, élargi en avril avec GPT-5.4-Cyber, conditionne l'accès à une vérification préalable des partenaires, ce qui place la Commission dans un cercle restreint de confiance. Cette dynamique révèle une compétition croissante entre les grands laboratoires américains pour gagner la confiance des institutions européennes, à l'heure où l'AI Act impose de nouvelles obligations de transparence. Si Anthropic ne parvient pas à trouver un terrain d'accord similaire avec Bruxelles, Mythos risque de faire face à un accueil réglementaire plus difficile sur le marché européen que son rival d'OpenAI.

UELa Commission européenne dispose d'un accès direct à GPT-5.5-Cyber pour évaluer les risques sur les infrastructures critiques et vérifier la conformité à l'AI Act, tandis que l'absence d'accord similaire avec Anthropic pour Mythos crée un angle mort réglementaire potentiellement défavorable à ce modèle sur le marché européen.

💬 Ce qui se joue là, c'est pas de la conformité réglementaire, c'est de la conquête de territoire. OpenAI a fait le premier pas vers Bruxelles, a décroché l'accès, et se retrouve dans le cercle de confiance de la Commission avant que l'AI Act soit pleinement appliqué. Anthropic, après cinq réunions sans avancée sur Mythos, part avec un désavantage qui risque de coûter cher.

RégulationReglementation
1 source
5 000 apps codées au feeling viennent de prouver que l'IA fantôme est la nouvelle crise des buckets S3
36VentureBeat AI 

5 000 apps codées au feeling viennent de prouver que l'IA fantôme est la nouvelle crise des buckets S3

La société de cybersécurité israélienne RedAccess a découvert 380 000 actifs publiquement accessibles, applications, bases de données et infrastructures associées, construits avec des outils de "vibe coding" comme Lovable, Base44 et Replit, ainsi que la plateforme de déploiement Netlify. Sur ces 380 000 ressources, environ 5 000 (soit 1,3 %) contenaient des informations d'entreprise sensibles. Parmi les expositions vérifiées indépendamment par Axios et Wired : une application d'une compagnie maritime détaillant les rotations de navires dans les ports, les dossiers de patients d'un établissement pédiatrique de soins de longue durée, des données financières internes d'une banque brésilienne accessibles à quiconque connaissait l'URL, des résumés de consultations médicales, des stratégies d'achat publicitaire, et des conversations client non caviardées d'un fournisseur de cuisines britannique. RedAccess a également identifié des sites de phishing construits sur Lovable imitant Bank of America, FedEx, Trader Joe's et McDonald's. Selon la juridiction, plusieurs de ces expositions pourraient déclencher des obligations réglementaires sous HIPAA, le RGPD britannique ou la LGPD brésilienne. L'enjeu n'est pas anecdotique. Le rapport IBM sur le coût des violations de données 2025 indique que 20 % des organisations ont subi des incidents liés au shadow AI, ajoutant en moyenne 670 000 dollars au coût d'une violation, portant la moyenne à 4,63 millions de dollars. Parmi les organisations concernées, 97 % manquaient de contrôles d'accès adéquats et 63 % n'avaient aucune politique de gouvernance IA en place. Les violations liées au shadow AI exposent des données personnelles clients dans 65 % des cas, contre 53 % pour l'ensemble des violations. Le problème structurel est simple : la configuration par défaut de plusieurs plateformes de vibe coding rend les applications publiquement accessibles, indexées par Google, à moins que l'utilisateur ne bascule manuellement vers le mode privé, une étape que la majorité des créateurs non techniques ignorent ou oublient. Ce phénomène s'inscrit dans une tendance de fond documentée depuis plusieurs mois. En octobre 2025, Escape.tech avait scanné 5 600 applications vibe-codées accessibles publiquement et trouvé plus de 2 000 vulnérabilités critiques, plus de 400 secrets exposés (clés API, tokens d'accès) et 175 cas de données personnelles en clair incluant dossiers médicaux et coordonnées bancaires. Escape a levé 18 millions de dollars en série A en mars 2026, mené par Balderton, en citant précisément cette brèche de sécurité comme thesis centrale. Le cabinet Gartner prédit dans son rapport "Predicts 2026" que d'ici 2028, les approches prompt-to-app adoptées par les citizen developers augmenteront les défauts logiciels de 2 500 %, générant une nouvelle classe de bugs syntaxiquement corrects mais structurellement aveugles, dont les coûts de remédiation absorberont les budgets d'innovation.

UELes développeurs et entreprises européens utilisant des outils de vibe coding exposent potentiellement des données personnelles soumises au RGPD sans le savoir, engageant leur responsabilité légale.

💬 Le vrai problème, c'est pas l'IA : c'est que "public par défaut" tue à chaque génération technologique, et personne n'apprend. Des dossiers médicaux accessibles à quiconque connaît l'URL, c'est exactement ce qu'on avait avec les buckets S3 mal configurés en 2017, juste avec dix fois plus de gens non techniques aux manettes. Les plateformes vont devoir choisir : friction à l'onboarding, ou responsabilité juridique.

SécuritéOpinion
1 source
Au-delà de ChatGPT : les outils d’IA les plus utilisés dans les bureaux français
37Le Big Data 

Au-delà de ChatGPT : les outils d’IA les plus utilisés dans les bureaux français

Selon un sondage Ifop publié en 2025, 43 % des actifs français déclarent utiliser des outils d'intelligence artificielle générative dans leur travail, et 29 % d'entre eux estiment que leur productivité a progressé de plus de 40 % grâce à ces solutions. Si ChatGPT domine encore largement avec 72 % des utilisateurs, l'écosystème s'est considérablement diversifié : Gemini de Google rassemble 20 % des utilisateurs professionnels, suivi de Microsoft Copilot (12 %), Mistral AI (6 %) et l'outil chinois DeepSeek. Au-delà des assistants conversationnels généralistes, d'autres catégories d'outils s'imposent dans les bureaux français : Notion AI pour la structuration de l'information et la documentation automatisée, Motion et Clockwise pour la planification intelligente des tâches et des agendas, ou encore Power BI et Microsoft Copilot pour transformer des données brutes en tableaux de bord interactifs accessibles en langage naturel. Ces chiffres révèlent une transformation profonde des pratiques professionnelles en France. L'IA n'est plus un outil expérimental réservé aux équipes tech : elle s'intègre dans les flux de travail quotidiens des secteurs aussi variés que la finance, la logistique, le marketing ou les administrations publiques. Microsoft Copilot, directement intégré à Word, Excel et Outlook, s'est imposé dans les grandes entreprises précisément parce qu'il ne demande aucun changement d'outil. Google Gemini progresse dans les organisations déjà équipées de Workspace. Pour les non-experts en données, la capacité à interroger un tableau Excel en français courant représente un gain d'autonomie réel, qui redistribue les compétences analytiques au sein des équipes. Cette montée en puissance de l'IA dans les bureaux français s'inscrit dans un contexte de double tension : entre efficacité et souveraineté des données. Face aux géants américains, plusieurs organisations françaises se tournent vers Mistral AI, principale alternative européenne, dont les modèles sont entraînés et hébergés en Europe, un argument décisif pour les acteurs soumis au RGPD ou à des contraintes de sécurité renforcées. Hugging Face, plateforme open-source fondée à Paris et désormais valorisée à plusieurs milliards de dollars, attire les entreprises qui veulent contrôler leurs pipelines d'IA sans dépendre d'une API propriétaire. L'adoption reste néanmoins inégale selon les secteurs : si les startups et les équipes marketing expérimentent rapidement, les industries plus régulées avancent avec prudence. La prochaine étape sera probablement moins le choix de l'outil que la capacité des organisations à former leurs salariés et à intégrer ces solutions dans des processus métiers cohérents.

UEL'adoption de l'IA dans 43 % des actifs français interroge directement la souveraineté des données face aux géants américains, et renforce le positionnement de Mistral AI et Hugging Face comme alternatives européennes conformes au RGPD.

💬 29 % qui déclarent +40 % de productivité, si c'est vrai, on parle d'un choc comparable à l'arrivée d'Excel dans les bureaux. Ce qui m'intéresse dans ces chiffres, c'est pas le classement des outils, c'est que Copilot tient son rang sans rien demander à personne, juste en restant dans Word et Outlook. La vraie question maintenant, c'est pas quel outil choisir, c'est qui va former les gens à s'en servir vraiment.

SociétéOutil
1 source
La loi sur l’IA va être « simplifiée », et ce n’est pas une bonne nouvelle pour les consommateurs européens
3801net 

La loi sur l’IA va être « simplifiée », et ce n’est pas une bonne nouvelle pour les consommateurs européens

L'Union européenne a annoncé jeudi 7 mai un accord politique visant à "simplifier" l'AI Act, sa législation phare sur l'intelligence artificielle adoptée en 2024. Conclu à Bruxelles, cet accord prévoit d'alléger les obligations imposées aux entreprises développant ou déployant des systèmes d'IA sur le territoire européen. Les détails précis des modifications n'ont pas encore tous été rendus publics, mais l'orientation est nette : réduire la charge réglementaire pour faciliter l'innovation, au nom de la compétitivité du continent. Cette révision anticipée inquiète profondément les associations de défense des consommateurs, qui y voient un recul historique sur les protections acquises. L'AI Act prévoyait des exigences strictes de transparence, de traçabilité et d'évaluation des risques pour les systèmes dits "à haut risque", ceux déployés dans la santé, la justice, l'emploi ou les services publics. Un assouplissement de ces règles affaiblirait concrètement les recours disponibles pour les citoyens européens confrontés à des décisions automatisées qui les affectent directement. Ce revirement s'inscrit dans un contexte de pression intense exercée par l'administration Trump, qui a explicitement demandé à Bruxelles de démanteler ses réglementations numériques. Les lobbys américains de la tech, représentant notamment Google, Meta et OpenAI, poussent depuis des mois pour un texte moins contraignant. Paradoxalement, ces mêmes acteurs reprochent à l'Europe de ne pas aller assez loin dans certains assouplissements. Cette "simplification" pose une question fondamentale sur la capacité de l'UE à maintenir ses standards face aux pressions diplomatiques et économiques qui convergent pour les éroder.

UEL'assouplissement de l'AI Act réduit directement les protections des citoyens français et européens face aux décisions automatisées dans la santé, l'emploi et la justice, en affaiblissant les obligations de transparence et de traçabilité imposées aux systèmes à haut risque.

💬 On attendait la simplification pour les PME, pas le démantèlement des protections citoyennes. L'AI Act a mis trois ans à s'imposer face aux lobbys, et là on efface les obligations de transparence sur les systèmes à haut risque en quelques mois, sous pression explicite de Washington. Appeler ça de la "compétitivité", c'est du flan.

RégulationReglementation
1 source
OpenAI sort (enfin) l’extension Codex pour Chrome (mais il y a un hic)
39Le Big Data 

OpenAI sort (enfin) l’extension Codex pour Chrome (mais il y a un hic)

OpenAI a lancé le 7 mai 2026 une extension Chrome pour son agent de développement Codex, compatible avec macOS et Windows. L'outil permet à Codex d'opérer directement depuis le navigateur : effectuer des recherches, remplir des formulaires, consulter des tableaux de bord, ou gérer plusieurs tâches en parallèle sur différents onglets, sans mobiliser l'interface principale. L'extension s'intègre notamment avec des plateformes comme LinkedIn, Salesforce ou Gmail, ainsi qu'avec des outils internes d'entreprise qui nécessitent une session déjà authentifiée. Les premiers retours des développeurs sont enthousiastes : l'un d'eux rapporte que Codex a automatiquement détecté et fermé des doublons pour faire passer son nombre d'onglets ouverts de 77 à 42. L'équipe d'OpenAI elle-même a qualifié l'intégration de "miracle". Un bémol notable : l'extension n'est pas encore disponible pour les utilisateurs européens et britanniques, et la version Firefox n'a pas encore été annoncée. Cette extension représente un saut qualitatif dans la manière dont les agents IA s'intègrent au travail quotidien des développeurs et des professionnels. Jusqu'ici, les agents devaient souvent contourner les limitations liées à l'authentification, incapables d'accéder aux plateformes protégées sans sessions actives. En opérant directement dans Chrome, Codex peut désormais agir là où se trouve réellement le travail, c'est-à-dire dans les interfaces web des outils métier. L'agent sélectionne automatiquement le bon mode d'action selon la tâche : il utilise un plugin dédié quand une intégration existe, bascule sur Chrome quand un accès authentifié est requis, et recourt à son navigateur interne pour les environnements locaux. Ce niveau d'autonomie contextuelle réduit considérablement la friction entre l'intention de l'utilisateur et l'exécution réelle, ce qui change la proposition de valeur des agents IA pour les usages professionnels intensifs. Codex est le pari d'OpenAI sur les agents de développement autonomes, un segment en forte compétition avec GitHub Copilot Workspace, Cursor ou encore Devin de Cognition. L'extension Chrome s'inscrit dans une stratégie plus large visant à ancrer Codex dans les workflows réels plutôt que dans des environnements sandbox isolés. Sur le plan de la confidentialité, OpenAI précise ne pas conserver l'historique complet des actions dans Chrome : seuls les éléments utilisés dans le contexte de la conversation sont enregistrés, captures d'écran, textes consultés, appels d'outils. L'entreprise recommande d'éviter de transmettre des informations très sensibles, sauf nécessité vérifiée. Le comportement de l'agent est également conditionné par le paramètre "Mémoires Codex" : activé, il peut s'appuyer sur ses souvenirs enregistrés ; désactivé, il opère sans cet historique. L'absence de disponibilité en Europe reste la principale contrainte à court terme, dans un contexte réglementaire où le RGPD complique le déploiement rapide de ce type d'outil.

UEL'extension n'est pas disponible pour les utilisateurs européens et britanniques, le RGPD compliquant son déploiement rapide dans la région.

💬 L'anecdote des 77 onglets ramenés à 42 fait sourire, mais elle dit quelque chose de vrai : pour la première fois, un agent peut opérer dans les interfaces web avec session active, sans contourner les logins. C'est le verrou qui bloquait tous les agents depuis deux ans. On attendra la disponibilité en Europe, donc.

OutilsOutil
1 source
Google lance un coach santé IA qui connaît déjà presque toute votre vie
40Le Big Data 

Google lance un coach santé IA qui connaît déjà presque toute votre vie

Le 26 mai 2026, Google opère une transformation majeure de son écosystème santé : l'application Fitbit, rachetée en 2021 pour 2,1 milliards de dollars, devient officiellement Google Health sur Android et iOS. Ce nouveau hub centralise activité physique, sommeil, nutrition, données médicales et objectifs sportifs dans une interface unifiée inspirée des anneaux d'Apple Fitness et Whoop. Parallèlement, Google lance le Fitbit Air, un bracelet à 99 euros sans écran, conçu pour être porté en permanence, avec une autonomie de 7 jours et des capteurs mesurant rythme cardiaque, température corporelle, SpO2 et variabilité cardiaque. Au coeur du dispositif : un coach IA propulsé par Gemini, capable d'analyser les habitudes de l'utilisateur, d'interpréter des données médicales, de reconnaître les repas via photo et d'adapter les recommandations en temps réel, 24h/24. Ce qui distingue ce coach des assistants classiques comme ChatGPT, c'est qu'il ne part pas de zéro. Google dispose déjà d'un historique massif sur chaque utilisateur, comment il dort, bouge, récupère, mange. Cette continuité de données transforme l'IA en interlocuteur informé plutôt qu'en chatbot générique. Pour les millions d'utilisateurs Fitbit et Pixel Watch, cela signifie des recommandations réellement personnalisées : si l'utilisateur est en déficit de sommeil, le coach peut alléger l'entraînement prévu ; si les données cardiaques dévient d'un pattern habituel, une alerte ciblée devient possible. Google franchit ainsi un cap vers la santé prédictive, là où les objets connectés se contentaient jusqu'ici d'accumuler des chiffres illisibles pour le grand public. Cette offensive s'inscrit dans une bataille stratégique qui oppose Google à Apple et Samsung sur le terrain de la santé numérique. Apple, avec son Health app et ses Apple Watch, avait pris une avance significative sur l'intégration des données médicales, tandis que Samsung misait sur Galaxy Watch et son écosystème. En absorbant Fitbit dans Google Health et en couplant le tout à Gemini, Google tente de rattraper ce retard tout en jouant sa carte maîtresse : la connaissance transversale de l'utilisateur via Search, Gmail, Maps et Android. La question qui plane reste celle de la confidentialité. Confier à une seule entreprise ses données de santé, de localisation, de communication et d'alimentation représente une concentration d'informations personnelles sans précédent, que les régulateurs européens, déjà vigilants sur le RGPD, pourraient examiner de près dans les mois à venir.

UELes régulateurs européens, déjà vigilants sur le RGPD, pourraient examiner la concentration sans précédent de données de santé, de localisation et de communication chez Google, susceptible d'entraîner des obligations de conformité ou des restrictions pour les utilisateurs européens de Google Health.

💬 C'est le truc que seul Google pouvait lancer, pas parce que leur bracelet est meilleur qu'une Apple Watch, mais parce qu'ils ont déjà cinq ans de données sur toi. Là où les autres coaches IA repartent de zéro, Gemini démarre avec tes nuits, tes trajets, peut-être ce que tu cherchais à 2h du matin. La RGPD va avoir du boulot.

OutilsOutil
1 source
AI Act : l’Union européenne accorde un répit aux industriels
41Next INpact 

AI Act : l’Union européenne accorde un répit aux industriels

Le Parlement européen et le Conseil de l'UE ont conclu le 7 mai 2026 un accord sur l'omnibus numérique proposé par la Commission européenne, qui modifie en profondeur le calendrier de l'AI Act. Les systèmes d'IA déployés dans des domaines à haut risque, biométrie, infrastructures critiques, éducation, emploi, contrôle aux frontières ou encore migration, ne seront soumis aux nouvelles obligations qu'à compter du 2 décembre 2027, soit seize mois de délai supplémentaire par rapport à l'échéance initiale du 2 août 2026. Pour les systèmes embarqués dans des produits grand public comme des jouets ou des ascenseurs, la date limite est repoussée au 2 août 2028. En parallèle, l'accord assouplit la charge administrative : les avantages jusque-là réservés aux PME s'étendent aux entreprises de taille intermédiaire, des « bacs à sable » réglementaires permettront de tester les solutions avant mise sur le marché, et les doublons avec d'autres législations européennes sur la sécurité des produits ont été clarifiés. En revanche, les protections contre les deepfakes non consensuels sont renforcées : les systèmes IA générant du contenu sexuel explicite sans consentement ou des images sexualisées d'enfants seront interdits à la commercialisation, avec une mise en conformité requise avant le 2 décembre 2026. Ces reports ne sont pas anodins pour les entreprises technologiques européennes qui peinaient à absorber la complexité réglementaire de l'AI Act tout en restant compétitives face à des acteurs américains et chinois évoluant dans des cadres nettement plus permissifs. Pour les industriels, le délai supplémentaire représente une fenêtre concrète pour adapter leurs systèmes, former leurs équipes et attendre que les normes techniques d'accompagnement soient effectivement disponibles, un point que la Commission reconnaît explicitement. La vice-présidente Henna Virkkunen, chargée de la Souveraineté technologique, a présenté l'accord comme un équilibre entre innovation et sécurité, un discours qui tranche avec les critiques de certaines organisations de surveillance des lobbies, qui dès le début de l'année dénonçaient l'influence d'« oligarques de la tech » sur le processus législatif. La pression industrielle sur Bruxelles était intense : le 4 mai, quatre jours seulement avant l'accord, Airbus, Mistral AI, Nokia et ASML avaient co-signé une lettre ouverte déplorant des règles « étouffantes, inutilement complexes et souvent redondantes ». L'AI Act, entré en application en février 2025 avec l'ambition de définir un standard mondial pour une IA digne de confiance, se retrouve ainsi confronté à la même tension que le RGPD en son temps : entre l'ambition normative européenne et les contraintes pratiques d'une industrie qui ne veut pas perdre le rythme face à la concurrence internationale. Les prochains mois diront si ces aménagements suffisent à réconcilier les deux camps, ou si de nouveaux reculs se profilent.

UELes entreprises françaises et européennes bénéficient de seize mois supplémentaires pour mettre en conformité leurs systèmes IA à haut risque avec l'AI Act, un délai directement réclamé par Mistral AI et Airbus dans une lettre ouverte du 4 mai 2026.

💬 Seize mois de délai, c'est l'aveu que le calendrier était irréaliste. Mistral et Airbus n'avaient pas tort de sonner l'alarme, pas sur le principe mais sur le rythme : mettre des équipes en conformité avec des normes techniques qui n'existent pas encore, c'est juste impossible. La fermeté sur les deepfakes non consensuels au 2 décembre 2026 sauve un peu la mise.

RégulationReglementation
1 source
Attention ! Google Chrome télécharge son IA sur votre PC à votre insu
42Le Big Data 

Attention ! Google Chrome télécharge son IA sur votre PC à votre insu

Google Chrome télécharge discrètement un fichier de 4 gigaoctets baptisé « weights.bin » sur les ordinateurs de ses utilisateurs, sans les en informer ni leur demander leur accord. La découverte est signée Alexander Hanff, chercheur en sécurité connu sous le pseudonyme « That Privacy Guy », qui a documenté le phénomène sur un Mac configuré avec un profil Chrome vierge. En une quinzaine de minutes d'inactivité apparente, le navigateur a créé le dossier correspondant et téléchargé l'intégralité du modèle en arrière-plan. Ce fichier est lié à Gemini Nano, la version allégée du modèle d'intelligence artificielle développé par Google, destinée à fonctionner directement sur l'appareil. Chrome analyserait les capacités matérielles de la machine avant de déclencher le téléchargement, ce qui confirme selon Hanff une sélection automatique des appareils compatibles. Plus préoccupant encore : si l'utilisateur supprime le fichier, celui-ci se réinstalle de lui-même, sauf à désactiver certaines options expérimentales du navigateur ou à désinstaller Chrome entièrement. Ce comportement soulève plusieurs problèmes concrets. Sur le plan juridique, Hanff estime que le procédé pourrait contrevenir au RGPD et à la directive ePrivacy européenne, qui imposent une transparence claire pour tout stockage de données sur un appareil. L'absence de consentement explicite constituerait une violation de ces cadres réglementaires. Sur le plan pratique, un téléchargement non sollicité de 4 Go représente une nuisance réelle pour les utilisateurs sous forfait mobile limité ou dans des pays où la bande passante est coûteuse. L'impact environnemental chiffré par Hanff est également frappant : à l'échelle de 100 millions d'appareils, le transfert représenterait 400 pétaoctets de données, 24 GWh d'énergie consommée et environ 6 000 tonnes équivalent CO₂. Ces volumes atteignent 4 exaoctets, 240 GWh et 60 000 tonnes de CO₂ si l'on extrapole à un milliard d'appareils, soit 30 % de la base utilisateurs Chrome. Cette affaire s'inscrit dans une critique plus large adressée aux géants technologiques, et nommément à Google et Anthropic, que Hanff accuse de déployer leurs technologies avant toute explication aux utilisateurs. Que ce soit via l'intégration silencieuse de Claude Desktop dans les systèmes ou le téléchargement automatique de modèles IA, la logique est identique : les appareils des utilisateurs deviennent des infrastructures au service des ambitions IA des plateformes, sans que ceux-ci n'aient eu leur mot à dire. Google n'a pas officiellement commenté ces révélations. La question de savoir si Chrome propose à terme une option de désactivation claire, ou si des régulateurs européens saisiront le sujet, reste ouverte, mais la pression sur les pratiques de déploiement silencieux de l'IA embarquée monte visiblement d'un cran.

UELe téléchargement silencieux de Gemini Nano par Chrome constitue une violation potentielle du RGPD et de la directive ePrivacy, exposant Google à des poursuites par des régulateurs européens comme la CNIL et rendant la pratique illégale pour les 400+ millions d'utilisateurs Chrome en Europe.

💬 4 Go téléchargés sans te prévenir, et qui se réinstallent d'eux-mêmes si tu les supprimes. C'est pas une négligence de déploiement, c'est un choix produit qui part du principe que ton disque dur fait partie de l'infrastructure de Google. Ce genre de truc va finir devant la CNIL, et cette fois-ci ils auront du mal à plaider la bonne foi.

Vérification d’âge : Meta analyse votre morphologie avec une IA
43Le Big Data 

Vérification d’âge : Meta analyse votre morphologie avec une IA

Meta a annoncé le 5 mai 2026 une nouvelle approche de vérification d'âge sur ses plateformes Instagram et Facebook, reposant sur une intelligence artificielle capable d'analyser la morphologie des utilisateurs. Concrètement, le système examine des photos et vidéos pour détecter des indices physiques, proportions corporelles, stature, structure osseuse, afin d'estimer une tranche d'âge. L'entreprise précise qu'il ne s'agit pas de reconnaissance faciale : l'outil ne cherche pas à identifier une personne, mais à déduire si elle est mineure. Ce dispositif vient compléter une analyse textuelle déjà existante, qui scrute publications, biographies et commentaires à la recherche de mentions révélatrices comme une école, un anniversaire ou une classe. À terme, la surveillance s'étendra aux Reels et aux vidéos en direct. En cas de doute, le compte est suspendu immédiatement et l'utilisateur doit fournir une preuve d'âge sous peine de suppression définitive. Cette évolution concerne directement les mineurs de moins de 13 ans, formellement interdits sur ces plateformes mais largement présents en pratique. Les utilisateurs identifiés comme ayant entre 13 et 15 ans sont automatiquement basculés vers un environnement restreint : compte privé par défaut, messagerie limitée et filtrage des contenus sensibles. Ce déploiement est progressif et couvre déjà plusieurs régions, notamment l'Europe et le Brésil, avec une extension de Facebook aux États-Unis en cours. Les parents gagnent également de la visibilité sur certaines interactions de leurs enfants avec les outils d'IA de la plateforme. Pour l'industrie, ce système représente un changement de paradigme : la vérification d'âge ne repose plus uniquement sur la bonne foi de l'utilisateur, mais sur une surveillance algorithmique passive et continue. Meta agit sous une pression réglementaire et juridique croissante. Plusieurs pays ont durci leurs lois sur la protection des mineurs en ligne, et le groupe fait face à des enquêtes d'autorités de régulation ainsi qu'à des risques de sanctions financières significatifs. La mise en place de ces outils constitue donc autant une réponse aux gouvernements qu'une tentative de regagner la confiance des parents. Mais la méthode soulève des questions importantes : estimer l'âge à partir de la morphologie reste une science imprécise, exposée aux erreurs et aux biais algorithmiques. Des utilisateurs adultes pourraient être suspendus à tort, tandis que la collecte de données biométriques visuelles ouvre un débat sur la protection de la vie privée que Meta n'a pas encore tranché. Les régulateurs européens, particulièrement vigilants sur le RGPD, devraient examiner de près ce système dans les mois à venir.

UELe déploiement en Europe d'un système de vérification d'âge biométrique par Meta soulève des questions directes de conformité au RGPD que la CNIL et les régulateurs européens devraient examiner dans les prochains mois.

💬 Analyser ta silhouette pour deviner ton âge, c'est de la donnée biométrique, et Meta le sait très bien. La protection des mineurs c'est légitime, mais un système qui peut suspendre un adulte à tort parce qu'il a l'air jeune va créer un joli bordel juridique, surtout en Europe. La CNIL a de quoi s'occuper.

ÉthiqueReglementation
1 source
En France, deux tiers des jeunes considèrent l’IA comme « un conseiller de vie »
44Next INpact 

En France, deux tiers des jeunes considèrent l’IA comme « un conseiller de vie »

Une enquête publiée par la CNIL en partenariat avec l'institut Ipsos BVA et le Groupe VYV dresse un portrait inédit de la relation entre les jeunes Européens et l'intelligence artificielle conversationnelle. Menée en janvier 2026 auprès de 3 800 jeunes âgés de 11 à 25 ans dans quatre pays, France, Allemagne, Irlande et Suède, l'étude révèle que 86 % des jeunes Français utilisent déjà des outils d'IA, un chiffre qui place la France en dernière position : l'Allemagne atteint 92 %, l'Irlande 89 % et la Suède 87 %. L'usage est ancré dans la durée : trois jeunes sur cinq s'en servent depuis plus d'un an, un quart y recourt chaque jour, et 58 % au moins une fois par semaine. Plus frappant encore, un tiers des répondants interroge une IA sur sa vie personnelle au moins une fois par semaine, dont 16 % quotidiennement. Un jeune sur cinq va jusqu'à la considérer comme un amoureux. Ces chiffres prennent un relief particulier quand on les croise avec les données sur la santé mentale. Si 84 % des jeunes Français déclarent se sentir bien au quotidien, 65 % présenteraient simultanément des troubles anxieux, une proportion similaire dans les trois autres pays. La CNIL note que les jeunes les plus anxieux déclarent parler plus facilement de leurs problèmes à une IA qu'à leurs proches ou à des professionnels de santé, notamment parce qu'elle est disponible à toute heure et que, pour 40 % des sondés français, il est plus simple de s'y confier qu'à un être humain. Plus de six jeunes Français sur dix considèrent désormais l'IA comme un conseiller de vie ou un confident, un sur deux comme un ami ou un substitut au psychologue. Pourtant, un jeune sur trois ayant utilisé l'IA pour des sujets personnels déclare s'être déjà senti mal à l'aise suite à un conseil reçu. Cette étude s'inscrit dans une réflexion plus large que mènent les régulateurs européens sur l'encadrement des IA conversationnelles, notamment leur accès aux mineurs et leur usage thérapeutique non supervisé. La CNIL, dont le mandat inclut la protection des données personnelles mais aussi l'accompagnement des usages numériques, souligne la tension entre adoption massive et confiance relative : 80 % des jeunes admettent ne pas faire totalement confiance à l'IA, tout en continuant de lui confier des pans intimes de leur vie. Ce paradoxe, similaire à celui des mots de passe que l'on sait risqués mais qu'on réutilise, illustre la difficulté à traduire la lucidité en comportement réel, et interroge la responsabilité des plateformes comme des institutions éducatives face à une génération pour qui l'IA est déjà un interlocuteur émotionnel ordinaire.

UEL'étude menée par la CNIL sur quatre pays européens est susceptible d'alimenter directement les réflexions réglementaires de l'UE sur l'encadrement des IA conversationnelles pour les mineurs et leur usage thérapeutique non supervisé.

💬 80% ne font pas totalement confiance à l'IA, mais lui confient quand même des trucs intimes. C'est pas de la naïveté: un interlocuteur disponible à 3h du mat, gratuit, sans jugement, ça écrase tout ce qu'on a proposé d'autre à ces gamins. Ce qui me préoccupe, c'est pas l'usage, c'est qu'on soit en train de refiler à une génération entière un confident par défaut, sans jamais avoir vraiment décidé que c'était une bonne idée.

SociétéOpinion
1 source
Ruben BRYON, construire une alternative européenne au cloud américain
45FrenchWeb 

Ruben BRYON, construire une alternative européenne au cloud américain

Ruben Bryon a commencé à coder seul à l'âge de 12 ans, allant jusqu'à percer un mur dans le garage familial pour refroidir ses premiers serveurs. Quinze ans plus tard, il dirige Verda, une entreprise fondée sous le nom de DataCrunch, qui ambitionne de construire la première "Gigafactory" européenne de l'intelligence artificielle. Concrètement, il s'agit de déployer des centres de données massivement équipés en GPU, les puces indispensables à l'entraînement et à l'inférence des grands modèles d'IA, sur le sol européen, en dehors de la dépendance aux hyperscalers américains comme AWS, Azure ou Google Cloud. L'enjeu est considérable pour l'industrie technologique européenne. Les startups et laboratoires de recherche du continent paient aujourd'hui leurs coûts de calcul à des entreprises américaines, ce qui crée une dépendance structurelle tant sur le plan économique que réglementaire. Une infrastructure GPU souveraine permettrait aux acteurs européens de développer et déployer des modèles d'IA sans que leurs données transitent par des juridictions soumises au droit américain, un point particulièrement sensible depuis le Cloud Act de 2018. L'initiative de Bryon s'inscrit dans un mouvement plus large de souveraineté numérique européenne, porté aussi bien par des régulations comme le RGPD que par des initiatives industrielles telles que GAIA-X. Face à la concentration du marché du cloud d'IA entre les mains de quelques géants américains, des acteurs comme Verda cherchent à occuper le créneau de l'infrastructure de confiance en Europe, à mesure que la demande en puissance de calcul pour l'IA continue d'exploser.

UEVerda déploie des centres de données GPU sur sol européen pour permettre aux startups et laboratoires de recherche européens d'entraîner leurs modèles d'IA sans transiter par des juridictions soumises au Cloud Act américain.

💬 C'est exactement ce qu'on attendait depuis que le Cloud Act a rendu la question brûlante. Partir de l'infra GPU, pas du cadre réglementaire, c'est ce qui distingue Verda de toutes les initiatives européennes de souveraineté numérique qui finissent en comité de pilotage. Reste à voir si les capitaux suivent à l'échelle d'une gigafactory.

InfrastructureOpinion
1 source
Le coût caché des paramètres IA par défaut de Google et l'illusion du choix
46Ars Technica AI 

Le coût caché des paramètres IA par défaut de Google et l'illusion du choix

Google pousse activement son assistant Gemini dans l'ensemble de son écosystème de produits, des messageries Gmail aux espaces de stockage Google Drive, transformant ses services les plus utilisés en terrain d'entraînement et de déploiement pour l'intelligence artificielle générative. La firme de Mountain View justifie cette intégration massive par une nécessité technique : l'IA générative exige des volumes considérables de données, et Google en dispose via ses centaines de millions d'utilisateurs actifs. Concrètement, Gemini peut accéder au contenu des emails, des documents et des fichiers personnels stockés dans les services Google. Ce déploiement soulève des questions sérieuses de confidentialité, d'autant plus que les règles de rétention des données varient selon la façon dont l'utilisateur accède à l'IA, une complexité délibérée qui rend difficile toute évaluation claire des risques. Tenter de se soustraire à la collecte de données expose les utilisateurs à ce que les experts en UX appellent des "dark patterns" : des éléments d'interface conçus pour décourager les refus, orienter vers le consentement par défaut et rendre la désinscription intentionnellement fastidieuse. Cette situation illustre une tension croissante entre les intérêts commerciaux des grandes plateformes technologiques et le droit des utilisateurs à contrôler leurs données. Alors que la bulle de l'IA générative suscite un scepticisme grandissant dans une partie de l'industrie, Google accélère son intégration au risque d'alimenter les critiques des régulateurs européens et américains déjà attentifs aux pratiques anticoncurrentielles et aux violations potentielles du RGPD. La question de savoir si les utilisateurs disposent d'un vrai choix ou d'une simple illusion de choix devient centrale.

UELes pratiques de collecte de données de Google via Gemini exposent des centaines de millions d'utilisateurs européens à des risques de violation du RGPD, les dark patterns rendant la désinscription délibérément fastidieuse et la rétention des données opaque.

ÉthiqueReglementation
1 source
Analyse de marchés publics : découvrez l’outil Odiana
47Le Big Data 

Analyse de marchés publics : découvrez l’outil Odiana

Le cabinet lyonnais Odialis a lancé Odiana, une plateforme d'intelligence artificielle destinée aux TPE et PME qui souhaitent accéder aux marchés publics sans se noyer dans la complexité administrative. Conçu pour scanner automatiquement les appels d'offres, l'outil extrait en quelques secondes les points de vigilance, les obligations contractuelles et les critères d'éligibilité de chaque dossier. Accessible dès 49 euros par mois, il s'appuie sur seize années d'expérience terrain accumulées par Odialis dans le conseil aux entreprises pour la commande publique. L'outil intègre également un accompagnement à la décision stratégique dite "Go / No Go", qui aide les dirigeants à arbitrer rapidement s'il vaut la peine de répondre à un appel d'offres, et guide ensuite la rédaction du mémoire technique pour maximiser les chances de succès. Pour les petites structures, l'accès aux contrats publics représente un obstacle réel : les dossiers sont volumineux, le vocabulaire juridique opaque, et le temps à y consacrer souvent disproportionné par rapport aux ressources disponibles. Odiana vise à combler ce fossé en automatisant la veille et la phase d'analyse préliminaire, deux tâches chronophages qui découragent de nombreux dirigeants. En réduisant le coût d'entrée technique, la plateforme pourrait permettre à des entreprises qui s'excluaient jusqu'ici du marché public de candidater de manière compétitive, élargissant de facto la concurrence dans un secteur dominé par les grands groupes. Sur le plan technique, Odiana a été conçue avec une architecture entièrement française, hébergée localement et conforme au RGPD, s'appuyant sur les modèles de langage de Mistral AI pour s'affranchir des juridictions étrangères, notamment américaines. Ce choix de souveraineté numérique répond à une demande croissante des acteurs économiques français soucieux de la confidentialité de leurs données stratégiques. Le projet a bénéficié du soutien de Bpifrance et de partenaires industriels comme La Poste. Odiana s'inscrit dans une tendance plus large d'outillage IA à destination des PME françaises, un segment que plusieurs acteurs cherchent à capter en combinant LLM souverains et expertise sectorielle verticale, plutôt qu'en proposant des outils généralistes.

UEOutil 100 % français (hébergement local, RGPD, modèles Mistral AI) soutenu par Bpifrance et La Poste, qui facilite l'accès des TPE/PME françaises aux marchés publics tout en renforçant la souveraineté numérique sur les données stratégiques d'entreprise.

OutilsOutil
1 source
La protection de la vie privée des données d'entraînement de l'IA
48Amazon Science 

La protection de la vie privée des données d'entraînement de l'IA

Les modèles de machine learning entraînés sur des données sensibles, dossiers médicaux, historiques de transactions bancaires ou résultats d'essais cliniques, sont exposés à des attaques capables d'extraire des informations confidentielles sur leurs données d'entraînement. Trois scénarios d'attaque escaladent en gravité. D'abord, l'inférence d'appartenance : tout acteur disposant d'un accès en requête à un modèle déployé peut déterminer si un enregistrement précis faisait partie des données d'entraînement. Des chercheurs d'Amazon Web Services l'ont démontré en 2023 à la conférence NeurIPS, exploitant le fait qu'un modèle produit des prédictions à plus haute confiance pour les exemples sur lesquels il a été entraîné. Ensuite vient la reconstruction de données dans les systèmes d'apprentissage fédéré, où plusieurs organisations entraînent un modèle commun sans partager leurs données brutes : un serveur d'agrégation malveillant peut reconstituer les données d'entraînement d'un participant à partir des mises à jour de gradient. Enfin, même un participant honnête peut voir ses données privées exposées via le modèle global partagé. En 2023, une publication de Google DeepMind a montré que GPT-3.5-turbo pouvait, sous certaines requêtes, reproduire mot pour mot des données d'entraînement, y compris des informations personnellement identifiables. Ces risques ont des conséquences légales et éthiques directes pour les organisations qui déploient des modèles sur des données protégées. Une attaque réussie contre un modèle hospitalier pourrait révéler qu'un patient spécifique a été traité dans un établissement donné, violant ainsi le HIPAA aux États-Unis ou le RGPD en Europe. Pour les systèmes d'apprentissage fédéré utilisés par des consortiums hospitaliers ou bancaires, une reconstruction réussie des données d'entraînement annulerait toute la promesse de confidentialité de l'architecture et exposerait les organisations à des violations des accords de consentement des patients. Les modèles spécialisés entraînés sur des jeux de données concentrés et sensibles sont particulièrement vulnérables, précisément parce que leurs données sont moins diversifiées et donc plus faciles à extraire. Face à ces menaces, deux technologies de protection font consensus : la confidentialité différentielle (differential privacy) et le calcul multipartite sécurisé (secure multiparty computation). La première ajoute du bruit mathématique calibré aux gradients ou aux données, rendant statistiquement impossible de déterminer si un enregistrement individuel a participé à l'entraînement, tout en préservant l'utilité statistique du modèle. La seconde permet à plusieurs parties de calculer conjointement un résultat sans qu'aucune n'accède aux données brutes des autres. Ces techniques ne sont plus réservées aux laboratoires académiques : à mesure que les entreprises de santé, de finance et de pharmacie intensifient leur adoption de l'IA sur des données propriétaires, leur déploiement devient une condition incontournable d'un développement responsable et d'une conformité réglementaire durable.

UELe RGPD est directement en jeu : une attaque de reconstruction réussie contre un modèle hospitalier ou un consortium bancaire européen utilisant l'apprentissage fédéré exposerait l'organisation à des violations de conformité graves et à des sanctions.

SécuritéOpinion
1 source
Guide complet pour construire un pipeline de détection et suppression des données personnelles avec OpenAI Privacy Filter
49MarkTechPost 

Guide complet pour construire un pipeline de détection et suppression des données personnelles avec OpenAI Privacy Filter

OpenAI a mis à disposition sur HuggingFace un modèle de classification de tokens baptisé openai/privacy-filter, conçu pour détecter et masquer automatiquement les données personnelles dans des textes. Un tutoriel détaillé publié cette semaine montre comment construire, étape par étape, un pipeline complet de détection et de rédaction des informations personnellement identifiables (PII) prêt pour la production. Le système, implémenté en Python avec les bibliothèques Transformers d'HuggingFace, PyTorch et pandas, identifie huit catégories de données sensibles : noms de personnes, adresses e-mail, numéros de téléphone, adresses physiques, URL privées, dates, numéros de compte et secrets. Chaque entité détectée est remplacée par un marqueur typé comme [PRIVATEPERSON] ou [PRIVATEEMAIL], ce qui préserve la lisibilité du texte tout en occultant les informations sensibles. Le pipeline fonctionne aussi bien sur GPU que sur CPU, avec un seuil de confiance configurable fixé par défaut à 0,50 pour filtrer les faux positifs. L'intérêt concret de ce type de pipeline est considérable pour les entreprises qui manipulent des données clients avant de les envoyer vers des LLM externes ou des systèmes de journalisation. En substituant les entités sensibles par des placeholders sémantiquement clairs plutôt qu'un simple [REDACTED] générique, le texte reste exploitable par des modèles en aval sans exposer de données privées. Cette approche répond directement aux exigences du RGPD et aux politiques d'utilisation des API d'IA, qui interdisent souvent l'envoi de données personnelles non anonymisées. Le pipeline inclut également un système de rapport structuré convertissant les résultats en dataframes pandas, ce qui facilite l'audit et le traitement par lots à grande échelle. La protection des données personnelles dans les flux d'ingestion vers les LLM est devenue un enjeu critique depuis que des entreprises comme Samsung ont interdit l'usage de ChatGPT en interne après des fuites accidentelles de code source confidentiel. La mise à disposition d'un modèle dédié par OpenAI sur HuggingFace marque une évolution : plutôt que de laisser chaque organisation bricoler sa propre solution d'anonymisation, un modèle de référence mutualisé, entraîné spécifiquement sur cette tâche, peut s'intégrer directement dans les pipelines existants. Le choix d'une architecture de classification de tokens, plus précise que les approches par expressions régulières, permet de gérer les ambiguïtés contextuelles, comme distinguer une date de naissance privée d'une date de publication publique. Les prochaines étapes naturelles pour ce type de système incluent le support multilingue, l'ajout de catégories sectorielles (numéros de sécurité sociale, données médicales), et l'intégration dans des frameworks d'orchestration comme LangChain ou LlamaIndex.

UELe pipeline répond directement aux obligations du RGPD pour les entreprises européennes qui transmettent des données personnelles à des LLM externes, réduisant le risque de non-conformité.

OutilsOutil
1 source
Comment les Workflows de Mistral AI transforment l’IA en moteur opérationnel ?
50Le Big Data 

Comment les Workflows de Mistral AI transforment l’IA en moteur opérationnel ?

Mistral AI a lancé une fonctionnalité baptisée Workflows, intégrée à sa plateforme Studio, qui vise à résoudre l'un des problèmes les plus documentés de l'IA en entreprise : moins de 20 % des projets d'IA atteignent réellement la production. La startup française propose une couche d'orchestration permettant de passer d'un prototype à un déploiement opérationnel en quelques jours. Techniquement, la solution s'appuie sur le moteur Temporal, déjà adopté par des entreprises comme Salesforce, Netflix ou Stripe, mais adapté aux contraintes spécifiques de l'IA générative : gestion du streaming, mutualisation des ressources, traçage des exécutions et reprise automatique en cas d'erreur. Le modèle de déploiement sépare le plan de contrôle, hébergé par Mistral, du plan de données, qui reste dans l'environnement de l'entreprise via Kubernetes. Des acteurs comme CMA-CGM et La Banque Postale figurent parmi les premiers déploiements concrets. L'enjeu est majeur pour les équipes techniques qui, jusqu'ici, devaient assembler elles-mêmes agents, connecteurs, outils d'observabilité et gestion des erreurs à partir de briques hétérogènes, mobilisant parfois des mois de développement avant d'atteindre une version stable. Les Workflows de Mistral proposent un cadre unifié où ces composants fonctionnent ensemble dès le départ. Le SDK simplifie la configuration des politiques de reprise, des délais d'attente et de la gestion des erreurs en quelques lignes de Python, ce qui permet aux développeurs de se concentrer sur la logique métier plutôt que sur l'infrastructure. L'intégration avec Le Chat permet également aux équipes non techniques d'exécuter ces workflows sans friction, ce qui réduit la fracture habituelle entre développeurs et utilisateurs métiers. Ce lancement s'inscrit dans une compétition accélérée entre fournisseurs de modèles qui cherchent à monter dans la chaîne de valeur, au-delà de la simple inférence. OpenAI, Google et Anthropic investissent tous dans des couches d'orchestration et d'agents, mais Mistral joue une carte différente : la souveraineté des données et le déploiement en environnement contrôlé, un argument central pour les entreprises européennes soumises au RGPD et aux exigences sectorielles strictes du secteur financier ou logistique. En positionnant Workflows comme une infrastructure industrielle plutôt qu'un outil d'expérimentation, Mistral tente de s'imposer comme le partenaire de référence pour les grandes organisations qui ont besoin de garanties sur la fiabilité, l'observabilité et la conformité de leurs systèmes d'IA en production.

UELe lancement de Mistral Workflows renforce la position de cette startup française comme alternative souveraine pour les grandes organisations européennes soumises au RGPD, avec des premiers déploiements concrets chez CMA-CGM et La Banque Postale.

💬 Ce problème des 20% de projets IA qui n'atteignent jamais la prod, tout dev qui bosse en entreprise le connaît. Mistral n'a pas réinventé la roue : ils ont pris Temporal (déjà chez Netflix et Stripe) et l'ont adapté aux contraintes du génératif, ce qui évite de passer six mois à assembler soi-même des briques qui ne se parlent pas. L'argument souveraineté RGPD, c'est pas du flan quand tes premiers clients sont CMA-CGM et La Banque Postale.

OutilsOutil
1 source

Suivre AI Act & Régulation UE en continu

Recevez chaque jour les articles essentiels du sujet. Pas de bruit, pas de spam.

Recevez l'essentiel de l'IA chaque jour

Gratuit · 1 email le matin, rédigé par un humain · désinscription en un clic