La France interdit le gadget IA controversé de la start-up Friend, et ce n’est pas une surprise

La fête est finie pour « Friend », la start-up qui avait fait polémique dans le métro parisien

La start-up Friend, connue pour ses publicités controversées placardées dans le métro parisien, renonce à commercialiser son collier connecté à l'intelligence artificielle en Europe. L'entreprise, qui proposait un pendentif capable de tenir compagnie à son porteur via une IA conversationnelle, avait suscité un vif débat public lors de sa campagne de communication en France. Le retrait du marché européen s'explique par des obstacles réglementaires liés à la protection des données personnelles. Le collier Friend collecte en permanence des conversations et des données comportementales de ses utilisateurs, un fonctionnement difficilement compatible avec le cadre strict imposé par le RGPD. Aucun pays de l'Union européenne ne pourra donc trouver le produit à la vente, privant Friend d'un marché de plusieurs centaines de millions de consommateurs potentiels. Ce revers illustre la difficulté croissante pour les start-up américaines d'IA grand public de s'implanter en Europe sans adapter fondamentalement leur modèle de collecte de données. Le RGPD continue de fonctionner comme un filtre sélectif pour les produits les plus intrusifs, tandis que Friend devra revoir son architecture technique ou se limiter à des marchés moins contraignants pour assurer sa viabilité commerciale.

💬 Le RGPD fait son boulot, et franchement c'est pas plus mal. Un collier qui enregistre tes conversations en continu, c'est exactement le genre de produit que la réglementation est censée bloquer, pas par idéologie, juste parce que le consentement éclairé là-dedans c'est du flan. Friend aurait pu adapter son architecture dès le départ, ils ont choisi de ne pas le faire, et l'Europe leur répond non.

La loi sur l’IA va être « simplifiée », et ce n’est pas une bonne nouvelle pour les consommateurs européens

L'Union européenne a annoncé jeudi 7 mai un accord politique visant à "simplifier" l'AI Act, sa législation phare sur l'intelligence artificielle adoptée en 2024. Conclu à Bruxelles, cet accord prévoit d'alléger les obligations imposées aux entreprises développant ou déployant des systèmes d'IA sur le territoire européen. Les détails précis des modifications n'ont pas encore tous été rendus publics, mais l'orientation est nette : réduire la charge réglementaire pour faciliter l'innovation, au nom de la compétitivité du continent. Cette révision anticipée inquiète profondément les associations de défense des consommateurs, qui y voient un recul historique sur les protections acquises. L'AI Act prévoyait des exigences strictes de transparence, de traçabilité et d'évaluation des risques pour les systèmes dits "à haut risque", ceux déployés dans la santé, la justice, l'emploi ou les services publics. Un assouplissement de ces règles affaiblirait concrètement les recours disponibles pour les citoyens européens confrontés à des décisions automatisées qui les affectent directement. Ce revirement s'inscrit dans un contexte de pression intense exercée par l'administration Trump, qui a explicitement demandé à Bruxelles de démanteler ses réglementations numériques. Les lobbys américains de la tech, représentant notamment Google, Meta et OpenAI, poussent depuis des mois pour un texte moins contraignant. Paradoxalement, ces mêmes acteurs reprochent à l'Europe de ne pas aller assez loin dans certains assouplissements. Cette "simplification" pose une question fondamentale sur la capacité de l'UE à maintenir ses standards face aux pressions diplomatiques et économiques qui convergent pour les éroder.

💬 On attendait la simplification pour les PME, pas le démantèlement des protections citoyennes. L'AI Act a mis trois ans à s'imposer face aux lobbys, et là on efface les obligations de transparence sur les systèmes à haut risque en quelques mois, sous pression explicite de Washington. Appeler ça de la "compétitivité", c'est du flan.

L'approbation d'une IA de détection de la dépression par la FDA n'est pas simple

La startup californienne Kintsugi, fondée il y a sept ans, vient d'annoncer sa fermeture après avoir échoué à obtenir l'autorisation de la FDA pour son outil d'intelligence artificielle capable de détecter des signes de dépression et d'anxiété dans la voix humaine. Faute de clairance réglementaire obtenue dans les délais, l'entreprise a décidé de rendre la majeure partie de sa technologie disponible en open source. Certains composants pourraient trouver une seconde vie en dehors du secteur médical, notamment pour détecter les deepfakes audio. L'évaluation de la santé mentale repose encore aujourd'hui quasi exclusivement sur des questionnaires remplis par les patients et des entretiens cliniques, contrairement à la médecine physique qui s'appuie sur des analyses biologiques ou des imageries. L'approche de Kintsugi était radicalement différente : son logiciel n'analysait pas ce qu'une personne disait, mais la manière dont elle le disait, en cherchant dans les modulations vocales des marqueurs de troubles psychiques. Cette technologie représentait une promesse réelle de dépistage précoce et objectif, accessible sans infrastructure médicale lourde. Le parcours de Kintsugi illustre la difficulté structurelle d'introduire des outils d'IA dans le domaine médical aux États-Unis. La FDA soumet les dispositifs de diagnostic à des exigences strictes de validation clinique, un processus long et coûteux qui épuise souvent les ressources des startups avant qu'elles n'atteignent le marché. L'abandon de cette technologie au profit de l'open source pourrait néanmoins permettre à des chercheurs ou d'autres entreprises de poursuivre ces travaux, dans un contexte où la détection automatisée de la santé mentale reste un enjeu médical et technologique majeur.

Reconnaissance faciale lors des contrôles d'identité : "Ce n'est pas légal" assure le ministre de l'intérieur

Le ministre de l'intérieur a reconnu devant le Sénat que le recours à des outils de reconnaissance faciale lors des contrôles d'identité par les forces de l'ordre était illégal. Interpellé sur des révélations publiées par le média d'investigation Disclose, il a admis l'existence de ces pratiques tout en affirmant attendre les conclusions de la Commission nationale de l'informatique et des libertés (CNIL), saisie sur le sujet. Cette reconnaissance publique est significative : elle confirme que des technologies biométriques interdites sont utilisées sur le terrain, exposant l'État à des risques juridiques majeurs et soulevant des questions fondamentales sur le respect des libertés individuelles. Pour les citoyens contrôlés, cela signifie que leurs données biométriques ont pu être collectées et comparées sans base légale, en violation du RGPD et du droit national. La reconnaissance faciale est encadrée très strictement en Europe, et son usage dans les espaces publics par les forces de l'ordre fait l'objet d'un débat législatif tendu depuis plusieurs années. La CNIL joue ici un rôle central d'arbitre, mais ses recommandations n'ont pas force de loi. L'affaire Disclose pourrait accélérer une clarification législative, voire des poursuites, dans un contexte où la France prépare également sa conformité au règlement européen sur l'IA, qui encadre explicitement ces usages.