La France interdit le gadget IA controversé de la start-up Friend, et ce n’est pas une surprise

La fête est finie pour « Friend », la start-up qui avait fait polémique dans le métro parisien

La start-up Friend, connue pour ses publicités controversées placardées dans le métro parisien, renonce à commercialiser son collier connecté à l'intelligence artificielle en Europe. L'entreprise, qui proposait un pendentif capable de tenir compagnie à son porteur via une IA conversationnelle, avait suscité un vif débat public lors de sa campagne de communication en France. Le retrait du marché européen s'explique par des obstacles réglementaires liés à la protection des données personnelles. Le collier Friend collecte en permanence des conversations et des données comportementales de ses utilisateurs, un fonctionnement difficilement compatible avec le cadre strict imposé par le RGPD. Aucun pays de l'Union européenne ne pourra donc trouver le produit à la vente, privant Friend d'un marché de plusieurs centaines de millions de consommateurs potentiels. Ce revers illustre la difficulté croissante pour les start-up américaines d'IA grand public de s'implanter en Europe sans adapter fondamentalement leur modèle de collecte de données. Le RGPD continue de fonctionner comme un filtre sélectif pour les produits les plus intrusifs, tandis que Friend devra revoir son architecture technique ou se limiter à des marchés moins contraignants pour assurer sa viabilité commerciale.

💬 Le RGPD fait son boulot, et franchement c'est pas plus mal. Un collier qui enregistre tes conversations en continu, c'est exactement le genre de produit que la réglementation est censée bloquer, pas par idéologie, juste parce que le consentement éclairé là-dedans c'est du flan. Friend aurait pu adapter son architecture dès le départ, ils ont choisi de ne pas le faire, et l'Europe leur répond non.

La loi sur l’IA va être « simplifiée », et ce n’est pas une bonne nouvelle pour les consommateurs européens

L'Union européenne a annoncé jeudi 7 mai un accord politique visant à "simplifier" l'AI Act, sa législation phare sur l'intelligence artificielle adoptée en 2024. Conclu à Bruxelles, cet accord prévoit d'alléger les obligations imposées aux entreprises développant ou déployant des systèmes d'IA sur le territoire européen. Les détails précis des modifications n'ont pas encore tous été rendus publics, mais l'orientation est nette : réduire la charge réglementaire pour faciliter l'innovation, au nom de la compétitivité du continent. Cette révision anticipée inquiète profondément les associations de défense des consommateurs, qui y voient un recul historique sur les protections acquises. L'AI Act prévoyait des exigences strictes de transparence, de traçabilité et d'évaluation des risques pour les systèmes dits "à haut risque", ceux déployés dans la santé, la justice, l'emploi ou les services publics. Un assouplissement de ces règles affaiblirait concrètement les recours disponibles pour les citoyens européens confrontés à des décisions automatisées qui les affectent directement. Ce revirement s'inscrit dans un contexte de pression intense exercée par l'administration Trump, qui a explicitement demandé à Bruxelles de démanteler ses réglementations numériques. Les lobbys américains de la tech, représentant notamment Google, Meta et OpenAI, poussent depuis des mois pour un texte moins contraignant. Paradoxalement, ces mêmes acteurs reprochent à l'Europe de ne pas aller assez loin dans certains assouplissements. Cette "simplification" pose une question fondamentale sur la capacité de l'UE à maintenir ses standards face aux pressions diplomatiques et économiques qui convergent pour les éroder.

💬 On attendait la simplification pour les PME, pas le démantèlement des protections citoyennes. L'AI Act a mis trois ans à s'imposer face aux lobbys, et là on efface les obligations de transparence sur les systèmes à haut risque en quelques mois, sous pression explicite de Washington. Appeler ça de la "compétitivité", c'est du flan.

Personne n'a besoin de l'IA pour chercher sur Internet, dit le tribunal dans sa décision contre Google

Un tribunal allemand a rendu une décision préliminaire contre Google, jugeant le géant américain responsable des fausses affirmations générées par son outil AI Overviews. L'affaire, révélée par le média spécialisé The Decoder, implique deux éditeurs qui ont découvert que l'intelligence artificielle de Google les associait publiquement à des pratiques frauduleuses. L'une des formulations incriminées était sans ambiguïté : "Oui, [le site] est connu pour des pratiques commerciales douteuses et est souvent perçu comme une arnaque." Malgré l'envoi d'une lettre de mise en demeure plus tôt dans l'année 2025, Google n'a pas corrigé ces affirmations trompeuses, poussant les éditeurs à porter l'affaire devant la justice. Le tribunal a rejeté l'argument avancé par Google selon lequel les utilisateurs comprennent généralement que les réponses de l'IA ne sont pas toujours exactes et doivent être vérifiées. Cette décision ouvre un précédent juridique potentiellement applicable à tous les moteurs de recherche intégrant de l'IA, ainsi qu'aux chatbots qui reformulent et synthétisent des sources tierces. Jusqu'ici, les entreprises technologiques s'abritaient derrière le caractère probabiliste de l'IA pour éviter toute responsabilité éditoriale. Ce jugement remet directement en cause cette stratégie défensive : les plateformes pourraient désormais être tenues juridiquement responsables des affirmations factuellement incorrectes ou diffamatoires produites automatiquement par leurs systèmes. Pour les éditeurs de presse et les entreprises ciblées par de fausses informations générées par IA, c'est une ouverture concrète vers des recours juridiques effectifs. L'affaire s'inscrit dans un contexte de déploiement massif des interfaces de recherche augmentée par l'IA, portées par Google AI Overviews, Perplexity ou Bing Copilot, qui affichent des réponses synthétisées directement dans les résultats de recherche. Ces fonctionnalités soulèvent depuis leur lancement des questions profondes sur la fiabilité des informations présentées, les droits des éditeurs dont le contenu est aspiré, et la responsabilité des plateformes. La décision allemande pourrait inciter les régulateurs européens à renforcer le cadre juridique autour des systèmes génératifs, et contraindre les géants tech à développer des mécanismes bien plus robustes de vérification et de correction de leurs outils d'IA.

💬 L'argument "les utilisateurs savent que l'IA peut se tromper" était du flan dès le départ, et ce tribunal allemand vient de le dire clairement. Quand ton système génère publiquement qu'un site est une arnaque, tu ne t'abrites pas derrière le caractère probabiliste du modèle, c'est tout. Ce précédent, c'est le genre de pression qui va forcer les plateformes à construire des garde-fous sérieux, bien plus que n'importe quel rapport de régulateur.

L'approbation d'une IA de détection de la dépression par la FDA n'est pas simple

La startup californienne Kintsugi, fondée il y a sept ans, vient d'annoncer sa fermeture après avoir échoué à obtenir l'autorisation de la FDA pour son outil d'intelligence artificielle capable de détecter des signes de dépression et d'anxiété dans la voix humaine. Faute de clairance réglementaire obtenue dans les délais, l'entreprise a décidé de rendre la majeure partie de sa technologie disponible en open source. Certains composants pourraient trouver une seconde vie en dehors du secteur médical, notamment pour détecter les deepfakes audio. L'évaluation de la santé mentale repose encore aujourd'hui quasi exclusivement sur des questionnaires remplis par les patients et des entretiens cliniques, contrairement à la médecine physique qui s'appuie sur des analyses biologiques ou des imageries. L'approche de Kintsugi était radicalement différente : son logiciel n'analysait pas ce qu'une personne disait, mais la manière dont elle le disait, en cherchant dans les modulations vocales des marqueurs de troubles psychiques. Cette technologie représentait une promesse réelle de dépistage précoce et objectif, accessible sans infrastructure médicale lourde. Le parcours de Kintsugi illustre la difficulté structurelle d'introduire des outils d'IA dans le domaine médical aux États-Unis. La FDA soumet les dispositifs de diagnostic à des exigences strictes de validation clinique, un processus long et coûteux qui épuise souvent les ressources des startups avant qu'elles n'atteignent le marché. L'abandon de cette technologie au profit de l'open source pourrait néanmoins permettre à des chercheurs ou d'autres entreprises de poursuivre ces travaux, dans un contexte où la détection automatisée de la santé mentale reste un enjeu médical et technologique majeur.