Aller au contenu principal
ÉthiqueArs Technica AI · 2 min de lecture

Google renonce à protéger l'IA de la désinformation malgré son filigrane SynthID difficile à contourner

Source originale ↗·

L'ampleur des contenus générés par intelligence artificielle dépasse l'entendement. Starling Lab, un laboratoire de recherche associant Stanford et l'université de Californie du Sud, a calculé qu'il avait fallu 149 ans à l'humanité pour produire 1,5 milliard d'images après l'invention de l'appareil photo en 1826, un seuil atteint en 1975. L'IA générative, elle, a produit le même volume en seulement 18 mois. Ce printemps, lors de sa conférence I/O, Google a annoncé que ses outils avaient permis de créer plus de 100 milliards d'images et de vidéos générées par IA en l'espace de deux ans à peine, un chiffre d'autant plus vertigineux que Google est loin d'être la seule source de contenus IA sur le web. L'entreprise a accompagné cette statistique de plusieurs partenariats visant à étendre l'usage de SynthID, sa technologie de tatouage numérique conçue pour marquer les contenus générés par IA et aider à distinguer le vrai du faux.

Cette expansion massive de SynthID a une portée concrète pour quiconque consomme de l'information en ligne. Le filigrane invisible, intégré directement dans les pixels ou les échantillons audio, résiste bien mieux aux manipulations que les métadonnées classiques, qui disparaissent dès qu'une image est recadrée, compressée ou capturée en photo d'écran. Plateformes, médias et plateformes de vérification des faits pourraient ainsi s'appuyer sur cet outil pour authentifier plus fiablement une partie du contenu circulant en ligne, à l'heure où les deepfakes et la désinformation générée par IA inquiétent gouvernements et opinion publique.

Mais la robustesse technique de SynthID ne suffit pas à endiguer le problème de fond. Le filigrane ne fonctionne que si le contenu a été généré via les outils Google et que les plateformes prennent la peine de le vérifier, ce qui laisse de côté la quasi-totalité des générateurs concurrents et des contenus déjà en circulation. Les chercheurs de Starling Lab rappellent que la traçabilité de l'authenticité d'un contenu reste un défi bien plus vaste que la seule détection technique, impliquant coopération entre entreprises technologiques, plateformes sociales et régulateurs pour espérer contenir la vague de désinformation que l'explosion des volumes de production IA rend chaque jour plus difficile à maîtriser.

Cet article vous a été utile ?

Vu une erreur factuelle dans cet article ? Signalez-la. Toutes les corrections valides sont publiées sur /corrections.

À lire aussi

Deezer : les chansons générées par IA, « un problème pour toute la filière musicale »
1Next INpact 

Deezer : les chansons générées par IA, « un problème pour toute la filière musicale »

Deezer a révélé que 44 % des chansons soumises quotidiennement à ses serveurs sont générées par intelligence artificielle, soit environ 75 000 titres chaque jour. Ce chiffre, communiqué par Aurélien Hérault, directeur de l'innovation de la plateforme française, marque une accélération brutale : le volume de musique IA a doublé en seulement trois mois. Ces contenus transitent principalement par des distributeurs indépendants, des plateformes intermédiaires qui permettent à n'importe qui de livrer des morceaux à Deezer sans contrôle éditorial préalable. Pour les identifier, l'entreprise a développé son propre outil de détection, qui analyse le signal audio à la recherche de traces numériques invisibles à l'oreille humaine mais caractéristiques des modèles génératifs. Ces modèles laissent des empreintes statistiques dans le fichier sonore, que la technologie de Deezer est conçue à repérer avec une précision suffisante pour alimenter un système de signalement à grande échelle. L'enjeu dépasse la simple question de goût ou de qualité artistique. La prolifération de titres générés automatiquement s'accompagne fréquemment de fraudes au streaming, où des scripts font tourner en boucle des morceaux pour générer des revenus artificiels de droits voisins, au détriment des artistes humains. Deezer a choisi de répondre sur deux fronts : informer les auditeurs en affichant la mention « contenu généré par IA » sur les pages des albums concernés, et exclure ces titres de ses algorithmes de recommandation, refusant ainsi de leur accorder la même visibilité qu'aux productions humaines. Cette décision éditoriale, assumée publiquement, constitue une prise de position rare dans un secteur qui préfère souvent minimiser le problème. La situation met en lumière une faille structurelle du secteur du streaming musical : les standards de métadonnées censés encadrer ces déclarations, notamment le format DDEX adopté par l'industrie, ne sont pas encore suffisamment déployés ni harmonisés entre les acteurs pour constituer un rempart efficace. Deezer se retrouve donc à investir dans ses propres outils en attendant qu'une réponse collective émerge. Hérault plaide pour que l'ensemble de la filière, distributeurs, labels et plateformes, s'empare collectivement du problème. La question d'une suppression pure et simple de ces contenus du catalogue reste épineuse : des obligations contractuelles avec les distributeurs compliquent toute décision unilatérale. Le secteur musical s'approche d'un point de bascule où la majorité des morceaux uploadés pourraient être d'origine artificielle, rendant urgente une gouvernance commune que personne n'a encore réussi à mettre en place.

UEDeezer, plateforme française leader du streaming, est en première ligne face à l'inondation de contenus IA, ce qui fragilise directement les revenus des artistes français et révèle une faille de gouvernance collective urgente pour toute la filière musicale européenne.

💬 44 % de musique IA en upload quotidien, ça veut dire que le problème n'est plus hypothétique. Ce qui m'intéresse chez Deezer, c'est qu'ils ont construit leur propre détecteur plutôt que d'attendre que l'industrie se réveille, parce que DDEX n'est clairement pas prêt. Reste à voir ce que ça donne quand les modèles génératifs commenceront à lisser leurs empreintes statistiques.

ÉthiqueOpinion
1 source
« Le danger de l’IA militaire réside dans une dilution progressive de la responsabilité »
2Le Monde Pixels 

« Le danger de l’IA militaire réside dans une dilution progressive de la responsabilité »

L'intégration croissante de l'intelligence artificielle dans les systèmes d'armement soulève une question fondamentale : qui est responsable lorsqu'une machine autonome cause des pertes civiles ou prend une décision létale ? Ridhwane Allouche, doctorant en droit, alerte sur un phénomène insidieux, non pas une rupture brutale, mais une dilution progressive de la responsabilité humaine dans la chaîne de commandement militaire, à mesure que les algorithmes prennent en charge davantage de décisions opérationnelles. Ce glissement est d'autant plus préoccupant qu'il s't opère sans cadre juridique international adapté. Les conventions existantes, droit de la guerre, droit humanitaire international, ont été conçues pour des acteurs humains identifiables. L'IA militaire brouille cette lisibilité : entre le concepteur du système, l'opérateur, le commandant terrain et l'algorithme lui-même, la responsabilité se diffuse jusqu'à potentiellement ne plus incomber à personne. Allouche rappelle que les sociétés ont déjà su poser des limites face à des technologies de violence potentiellement incontrôlables, des armes biologiques aux mines antipersonnel. Cette capacité collective à fixer des interdits lorsque la menace dépasse un seuil d'acceptabilité plaide, selon lui, pour l'élaboration d'un traité international d'éthique de l'IA dans la guerre. Un tel instrument juridiquement contraignant permettrait d'établir des principes clairs : maintien d'un contrôle humain effectif, traçabilité des décisions, et imputabilité en cas de violation du droit humanitaire. La tribune, publiée dans Le Monde, s'inscrit dans un débat qui monte en urgence alors que plusieurs États, dont les États-Unis, la Chine et Israël, déploient déjà des systèmes d'armes intégrant des composantes autonomes. L'absence de consensus international laisse le champ libre à une course technologique où les garde-fous éthiques risquent d'être sacrifiés à la compétitivité stratégique.

UELa tribune appelle à un traité international encadrant l'IA militaire, ce qui concerne directement les États membres de l'UE dans leurs engagements en matière de droit international humanitaire et de régulation des systèmes d'armes autonomes.

ÉthiqueOpinion
1 source
Google utilise votre historique pour entraîner son IA : voici comment l’en empêcher
3Le Big Data 

Google utilise votre historique pour entraîner son IA : voici comment l’en empêcher

Google déploie progressivement une nouvelle fonctionnalité nommée « Historique des services de recherche », qui permet à l'entreprise d'utiliser certaines activités des utilisateurs pour entraîner ses modèles d'intelligence artificielle. Concrètement, Google collecte les contenus envoyés directement à ses services : les photos soumises via Google Lens, les recherches et commandes vocales, ainsi que les données issues de Google Translate. L'entreprise précise qu'elle ne récupère pas les fichiers externes simplement consultés ou écoutés, mais uniquement ceux transmis activement par l'utilisateur. Ces données sont associées au compte Google, donc au nom de la personne concernée. Même en cas de suppression ultérieure de l'historique, les fichiers déjà exploités pour l'entraînement peuvent subsister dans les systèmes de Google sous une forme anonymisée, et ce pendant une durée pouvant aller jusqu'à quatre ans. Cette annonce soulève des questions concrètes de confidentialité pour des centaines de millions d'utilisateurs des services Google. Le fait que des photos, des commandes vocales ou des traductions personnelles puissent servir à entraîner des modèles d'IA, tout en restant liées à l'identité du compte, interroge sur le contrôle réel que les usagers conservent sur leurs propres données. La persistance des fichiers pendant quatre ans, même après suppression et sous forme anonymisée, complique également la possibilité d'un effacement total et immédiat. Pour les professionnels ou les utilisateurs sensibles à la protection de leurs données, cette fonctionnalité impose une vigilance accrue sur les paramètres de confidentialité, d'autant que son activation semble par défaut plutôt qu'optionnelle à l'inscription. Heureusement, il est possible de désactiver cette collecte en quelques étapes. Il faut se rendre sur myactivity.google.com, se connecter à son compte, puis chercher l'onglet « Historique des services de recherche » s'il est déjà visible, et désactiver l'option correspondante ainsi que la case « Enregistrer les médias ». Pour les comptes où cette fonctionnalité n'est pas encore apparue, la fonctionnalité étant déployée progressivement, il faut se rendre dans la section « Activité Web et applications », puis décocher l'option « Inclure l'activité vocale et audio ». Cette démarche s'inscrit dans un contexte plus large où les géants technologiques, dont Google, cherchent à alimenter leurs modèles d'IA avec des volumes croissants de données réelles issues de l'usage quotidien de leurs utilisateurs, une pratique qui alimente les débats sur la régulation des données personnelles et la transparence des entreprises technologiques envers leurs utilisateurs.

UELes utilisateurs europeens des services Google doivent desactiver manuellement cette collecte pour proteger leurs donnees personnelles.

ÉthiqueTuto
1 source
Lunettes Meta : l’intégration de la reconnaissance faciale est discrètement en cours
4Next INpact 

Lunettes Meta : l’intégration de la reconnaissance faciale est discrètement en cours

Meta a discrètement intégré dans son application Meta AI le code nécessaire à l'activation d'une fonction de reconnaissance faciale baptisée « Name Tag », destinée à ses lunettes connectées Ray-Ban et Oakley. Selon une analyse publiée par Wired, plusieurs mises à jour de l'application déployée depuis janvier 2026 ont progressivement incorporé les composants essentiels du système. Concrètement, la fonctionnalité découpée en trois modules distincts détecte les visages, les recadre, puis les convertit en données biométriques sous la forme d'une série de 2 048 chiffres représentant la disposition unique des traits de chaque personne. Ces empreintes seront stockées localement sur le téléphone de l'utilisateur, mais le code permet également de les récupérer depuis les serveurs de Meta. L'interface en cours de développement, provisoirement appelée « Connections », proposerait aux porteurs des lunettes de « se souvenir des personnes qu'ils ont rencontrées ». L'Electronic Frontier Foundation (EFF) a confirmé l'analyse de Wired, précisant que chaque nouveau visage capté par les lunettes serait automatiquement converti en empreinte et comparé à la base de données existante de l'utilisateur. L'enjeu dépasse largement la question du confort utilisateur : il s'agit de transformer des millions de porteurs de lunettes connectées en un réseau de surveillance biométrique décentralisé, opérant à l'insu des personnes filmées dans l'espace public. Contrairement aux systèmes de reconnaissance faciale institutionnels, soumis à des cadres réglementaires, cette approche délègue la collecte à des particuliers, rendant tout contrôle quasi impossible. Joseph Jerome, ancien responsable de l'encadrement des pratiques chez Meta Reality Labs, estime qu'il ne voit « pas comment Meta pourrait déployer une technologie comme celle-ci de manière responsable ». L'EFF y voit une « machine de surveillance décentralisée », tandis que des associations de défense des droits des femmes et des minorités pointent les risques concrets de harcèlement, de stalking et d'identification non consentie dans la rue. Le projet ne sort pas de nulle part : Meta réfléchissait déjà à « Name Tag » depuis au moins février 2025. Un mémo interne de janvier 2025, particulièrement révélateur, évaluait cyniquement que le lancement pourrait profiter d'une « période de contexte politique dynamique » où les voix critiques seraient mobilisées sur d'autres fronts. En avril 2025, plus de soixante-dix organisations de défense des libertés numériques avaient co-signé une lettre ouverte contre cette intégration. Malgré ces alertes répétées, Meta continue d'avancer sans communication claire sur le calendrier de déploiement ni sur les garde-fous envisagés, ce qui alimente les accusations d'opacité volontaire sur une fonctionnalité dont les implications pour la vie privée en public sont sans précédent dans le secteur grand public.

UELe déploiement de cette fonctionnalité en Europe serait directement contraire au RGPD et à l'AI Act, qui interdisent la reconnaissance biométrique en temps réel dans l'espace public, la CNIL et les autorités européennes de protection des données seraient contraintes d'intervenir.

💬 Le mémo interne qui planifie le lancement pendant une "période de contexte politique dynamique" pour éviter les critiques, c'est le seul truc à retenir de tout ça. Quand tu optimises ta comm autour de l'inattention publique, tu sais exactement ce que tu livres. En Europe le RGPD va bloquer ça, mais ailleurs c'est des centaines de millions de gens transformés en nœuds d'un réseau de surveillance qu'ils portent sur le nez.

ÉthiqueOpinion
1 source

Recevez l'essentiel de l'IA chaque jour

Une sélection éditoriale quotidienne, sans bruit. Directement dans votre boîte mail.

Recevez l'essentiel de l'IA chaque jour

Gratuit · 1 email le matin, l'essentiel de l'IA · désinscription en un clic