L’IA aurait dû rester en laboratoire : le patron…

Ne confiez pas vos secrets à l'IA : 5 raisons et que faire si vous en avez déjà trop dit

44

1ZDNET AI

Ne confiez pas vos secrets à l'IA : 5 raisons et que faire si vous en avez déjà trop dit

Les assistants conversationnels comme ChatGPT, Gemini ou Claude sont devenus des confidents numériques pour des millions d'utilisateurs, mais ces échanges apparemment privés ne le sont pas. Partager des informations personnelles, médicales ou professionnelles avec ces outils expose à des risques concrets et souvent méconnus, allant de la collecte de données à leur réutilisation à des fins commerciales. L'enjeu touche directement la souveraineté des données personnelles. Contrairement à une conversation privée, les échanges avec un chatbot sont soumis aux conditions d'utilisation des plateformes, des documents que la grande majorité des utilisateurs ne lisent jamais. Ces données peuvent être conservées sur des serveurs, analysées par des équipes humaines pour améliorer les modèles, ou transmises à des tiers partenaires. La confidentialité supposée de ces interactions est une illusion que les géants de la tech n'ont aucune obligation légale de maintenir dans la plupart des juridictions. Parmi les 5 risques identifiés figurent notamment l'utilisation des conversations pour entraîner de futurs modèles d'IA, les fuites de données en cas de faille de sécurité, et l'exploitation commerciale non anticipée d'informations sensibles. Pour les utilisateurs ayant déjà partagé trop d'informations, des recours existent : supprimer l'historique des conversations depuis les paramètres du compte, désactiver les options de collecte de données dédiées à l'entraînement, une fonctionnalité disponible chez OpenAI et Google, et éviter systématiquement tout détail identifiant lors des prochaines interactions. Alors que l'IA conversationnelle s'intègre dans les usages quotidiens à une vitesse inédite, la question de la confidentialité des échanges reste largement sous-estimée par le grand public. Le sujet monte pourtant en puissance dans les débats réglementaires, notamment en Europe où le RGPD pourrait s'appliquer plus strictement aux données traitées par ces systèmes, une pression croissante sur des acteurs encore peu transparents sur leurs pratiques réelles.

UELe RGPD impose des obligations strictes aux fournisseurs d'IA opérant en Europe, et cet article sensibilise les utilisateurs européens à exercer leurs droits (suppression, opt-out) auprès de ces services.

ÉthiqueOpinion

1 source

Meta transforme ses salariés en « rats de laboratoire » pour son futur agent IA

46

2Le Big Data

Meta transforme ses salariés en « rats de laboratoire » pour son futur agent IA

Meta surveille les habitudes informatiques de ses employés pour entraîner son futur agent IA. Selon des notes internes révélées par Reuters, l'entreprise a déployé un logiciel de suivi intégré à certains outils professionnels internes, capable d'enregistrer les mouvements de souris, les clics, les frappes clavier et de capturer régulièrement des captures d'écran. Ces données sont collectées sur des applications internes et des sites web professionnels, avec pour objectif de documenter précisément comment les humains interagissent avec leur machine au quotidien. Un porte-parole de Meta confirme que ces informations servent à améliorer la capacité des agents IA à réaliser des tâches concrètes : naviguer dans des menus, cliquer sur des boutons, reproduire des séquences d'actions basiques mais essentielles. L'entreprise assure également que ces données ne seront pas utilisées pour évaluer la performance individuelle des salariés. L'enjeu est considérable pour le développement des agents IA dits "computer use", capables d'opérer directement sur un ordinateur comme le ferait un humain. Les textes, images et vidéos disponibles sur internet sont déjà massivement exploités pour entraîner les grands modèles de langage, mais les données d'interaction réelle avec une interface restent rares et difficiles à obtenir à grande échelle. Des entreprises concurrentes ont recours à des environnements simulés pour générer ce type de données comportementales, une approche coûteuse et imparfaite. En mobilisant directement ses propres employés, Meta accède à des flux de comportements authentiques, dans des contextes de travail réels, ce qui représente un avantage compétitif significatif pour entraîner des agents performants sur des tâches professionnelles. Cette initiative s'inscrit dans un contexte de pression croissante chez Meta autour de l'IA. L'entreprise, qui a massivement investi dans le développement de ses modèles Llama et de ses agents conversationnels, cherche à combler son retard sur des acteurs comme OpenAI ou Google dans le domaine des agents autonomes. En parallèle, Reuters rapporte que Meta envisage de fixer des objectifs d'usage de l'IA à certains de ses personnels, et réfléchirait à une réduction potentielle de ses effectifs mondiaux pouvant atteindre 10 %. La collecte de données sur les employés soulève néanmoins des questions éthiques sur le consentement et la surveillance au travail, même si Meta la présente comme une contribution collective au progrès technologique interne. La frontière entre outil d'entraînement et surveillance professionnelle reste floue, et cette démarche pourrait alimenter les débats réglementaires sur les droits des travailleurs à l'ère de l'IA.

UELe RGPD encadre strictement la surveillance des salariés en Europe, rendant une pratique similaire juridiquement risquée pour toute entreprise opérant dans l'UE, et pourrait accélérer les débats législatifs sur les droits des travailleurs face à l'IA générative.

ÉthiqueActu

1 source

☕️ Pour le patron de Grammarly, tout expert pourrait tirer profit d’agents d’IA à son nom

41

3Next INpact

☕️ Pour le patron de Grammarly, tout expert pourrait tirer profit d’agents d’IA à son nom

Shishir Mehrotra, PDG de Superhuman (société éditrice de Grammarly), tente de défendre sa fonctionnalité « Expert Review » tout en admettant sa suppression précipitée. Lancée sans supervision suffisante, la décision aurait été prise par « un gestionnaire de produit et quelques ingénieurs » parmi les 1 500 employés de l'entreprise, elle permettait de réviser des textes en imitant le style d'auteurs, scientifiques et journalistes réels, sans leur consentement. Suspendue le 12 mars, quelques heures après que des médias francophones eurent identifié les noms de personnalités comme Valérie Masson-Delmotte, Annie Ernaux ou Florence Aubenas dans l'outil, la fonctionnalité cristallise désormais un débat plus large sur l'usage commercial des identités par l'IA. La controverse touche à une question fondamentale pour le secteur : peut-on utiliser le nom et l'œuvre d'une personnalité publique pour alimenter un produit commercial sans compensation ni accord préalable ? Mehrotra balaie d'abord les accusations d'usurpation d'identité comme « un peu exagérées », arguant que la visibilité en ligne constitue en soi une forme de bénéfice pour les experts cités. Cette position, vivement rejetée par la communauté des journalistes et des universitaires, place Grammarly dans une posture délicate à l'heure où la jurisprudence sur les droits des créateurs face aux LLM reste largement à construire. Sur le plan juridique, la journaliste Julia Angwin et d'autres plaignants ont engagé des poursuites aux États-Unis pour usage non consenti du nom et de l'identité. Techniquement, Mehrotra précise que les noms intégrés à l'outil « viennent directement des LLM populaires », Grammarly n'aurait fait qu'encapsuler une requête adressée à des modèles comme Claude ou Gemini, leur demandant d'améliorer un texte en s'appuyant sur les travaux des profils les plus pertinents. Aucune base de données propriétaire n'aurait donc été constituée, ce qui soulève une autre question : la responsabilité incombe-t-elle à l'éditeur du produit ou aux fournisseurs de modèles sous-jacents ? Pressé trois fois sur la question de la rémunération, le dirigeant finit par esquisser un modèle économique futur : des agents IA personnalisés représentant un expert, monétisables selon une répartition 70 % pour l'auteur, 30 % pour la plateforme, un schéma calqué sur l'économie des créateurs de contenu, sans que soit abordée la question du consentement initial. Cette proposition, formulée après une levée de fonds de un milliard de dollars, illustre la tendance du secteur à construire des modèles de partage de revenus après coup, une fois les usages établis et les contestations juridiques engagées.

UELe RGPD et l'AI Act encadrent strictement l'usage de l'identité et des données personnelles sans consentement, rendant une fonctionnalité similaire illégale en Europe avant même tout recours judiciaire.

ÉthiqueOpinion

1 source

Google utilise votre historique pour entraîner son IA : voici comment l’en empêcher

46

4Le Big Data

Google utilise votre historique pour entraîner son IA : voici comment l’en empêcher

Google déploie progressivement une nouvelle fonctionnalité nommée « Historique des services de recherche », qui permet à l'entreprise d'utiliser certaines activités des utilisateurs pour entraîner ses modèles d'intelligence artificielle. Concrètement, Google collecte les contenus envoyés directement à ses services : les photos soumises via Google Lens, les recherches et commandes vocales, ainsi que les données issues de Google Translate. L'entreprise précise qu'elle ne récupère pas les fichiers externes simplement consultés ou écoutés, mais uniquement ceux transmis activement par l'utilisateur. Ces données sont associées au compte Google, donc au nom de la personne concernée. Même en cas de suppression ultérieure de l'historique, les fichiers déjà exploités pour l'entraînement peuvent subsister dans les systèmes de Google sous une forme anonymisée, et ce pendant une durée pouvant aller jusqu'à quatre ans. Cette annonce soulève des questions concrètes de confidentialité pour des centaines de millions d'utilisateurs des services Google. Le fait que des photos, des commandes vocales ou des traductions personnelles puissent servir à entraîner des modèles d'IA, tout en restant liées à l'identité du compte, interroge sur le contrôle réel que les usagers conservent sur leurs propres données. La persistance des fichiers pendant quatre ans, même après suppression et sous forme anonymisée, complique également la possibilité d'un effacement total et immédiat. Pour les professionnels ou les utilisateurs sensibles à la protection de leurs données, cette fonctionnalité impose une vigilance accrue sur les paramètres de confidentialité, d'autant que son activation semble par défaut plutôt qu'optionnelle à l'inscription. Heureusement, il est possible de désactiver cette collecte en quelques étapes. Il faut se rendre sur myactivity.google.com, se connecter à son compte, puis chercher l'onglet « Historique des services de recherche » s'il est déjà visible, et désactiver l'option correspondante ainsi que la case « Enregistrer les médias ». Pour les comptes où cette fonctionnalité n'est pas encore apparue, la fonctionnalité étant déployée progressivement, il faut se rendre dans la section « Activité Web et applications », puis décocher l'option « Inclure l'activité vocale et audio ». Cette démarche s'inscrit dans un contexte plus large où les géants technologiques, dont Google, cherchent à alimenter leurs modèles d'IA avec des volumes croissants de données réelles issues de l'usage quotidien de leurs utilisateurs, une pratique qui alimente les débats sur la régulation des données personnelles et la transparence des entreprises technologiques envers leurs utilisateurs.

UELes utilisateurs européens des services Google doivent désactiver manuellement cette collecte pour protéger leurs données personnelles.

ÉthiqueTuto

1 source

L’IA aurait dû rester en laboratoire : le patron de Google DeepMind regrette que ChatGPT soit sorti trop vite

À lire aussi

Ne confiez pas vos secrets à l'IA : 5 raisons et que faire si vous en avez déjà trop dit

Meta transforme ses salariés en « rats de laboratoire » pour son futur agent IA

☕️ Pour le patron de Grammarly, tout expert pourrait tirer profit d’agents d’IA à son nom

Google utilise votre historique pour entraîner son IA : voici comment l’en empêcher