Oups, Meta cache du code de reconnaissance faciale dans son appli IA

Disneyland en mode Big Brother ? La reconnaissance faciale débarque aux entrées

Disneyland Californie a commencé à équiper plusieurs de ses entrées de caméras de reconnaissance faciale, dans le cadre d'un déploiement officiel annoncé par la Walt Disney Company. Le système capture des images des visiteurs et les convertit, via la biométrie, en empreintes numériques uniques liées à leur identité. L'objectif affiché est double : détecter les personnes qui entrent plusieurs fois sur la même journée et bloquer le partage non autorisé des abonnements annuels, une pratique coûteuse pour le groupe. Les visiteurs réticents peuvent contourner les files équipées du dispositif, précise Disney. Ce déploiement en 2026 fait suite à deux phases de tests : une première à Magic Kingdom Orlando en 2021, une seconde à Disneyland même en 2024. Pour Disney, l'enjeu économique est réel : les abonnements annuels partagés représentent un manque à gagner significatif sur des parcs qui accueillent des millions de visiteurs chaque année. Mais la portée du déploiement dépasse la simple lutte contre la fraude. En normalisant la reconnaissance faciale dans un lieu de divertissement familial à la fréquentation massive, Disney contribue à banaliser une surveillance biométrique que des millions de personnes accepteront sans y réfléchir, simplement parce qu'elles veulent accéder plus vite aux attractions. L'entreprise affirme avoir mis en place des protections techniques, administratives et physiques pour sécuriser les données collectées, tout en reconnaissant qu'aucun système n'est totalement imperméable à une faille. Ce mouvement s'inscrit dans une dynamique plus large et préoccupante. Plusieurs stades de la Major League Baseball utilisent déjà des systèmes similaires pour accélérer les entrées via selfie applicatif. Meta envisage d'intégrer la reconnaissance faciale à ses lunettes connectées Ray-Ban. Du côté des pouvoirs publics américains, des discussions en cours évoquent des financements pour des usages liés au contrôle de l'immigration et aux frontières. Les forces de l'ordre qui utilisent ces technologies font face à des poursuites judiciaires en raison de taux d'erreur élevés, affectant de manière disproportionnée certaines populations minoritaires. L'Union américaine pour les libertés civiles (ACLU) tire la sonnette d'alarme : son expert Jay Stanley posait déjà la question dès 2024, jusqu'où accepterons-nous que nos visages soient scannés dans les espaces publics. La réponse que donne aujourd'hui Disneyland, l'un des sites touristiques les plus visités au monde, pourrait bien faire jurisprudence pour l'ensemble du secteur des loisirs.

Meta revient (plus ou moins) sur son projet de surveillance de ses employés

Meta a partiellement reculé sur son projet de surveillance étendue de ses employés, après plusieurs semaines de résistance interne. Annoncé en avril, l'outil baptisé Model Capability Initiative (MCI) devait enregistrer en continu les mouvements de curseur, les clics, les frappes au clavier et des captures d'écran périodiques de tous les salariés de l'entreprise. L'objectif affiché : collecter des données réelles d'utilisation des ordinateurs pour entraîner les agents IA de Meta. Face à la fronde, la direction a fait circuler un nouveau mémo le 2 juin, signé par Stephane Kasriel, vice-président des Superintelligence Labs. Il annonce plusieurs ajustements : les employés pourront désormais mettre MCI en pause jusqu'à 30 minutes à la fois, voire demander une exemption complète du programme. Une optimisation technique réduit également la pression sur la batterie des ordinateurs portables, un grief concret soulevé par ceux qui travaillent depuis chez eux et constataient une hausse de leur consommation internet. Ce recul partiel illustre la tension croissante entre les ambitions d'IA des grandes entreprises technologiques et les droits de leurs propres salariés. La résistance a été organisée et coordonnée : début mai, des flyers circulaient dans les bureaux américains qualifiant Meta d'« Employee Data Extraction Factory ». Plus de 1 500 personnes ont signé une pétition adressée directement à Mark Zuckerberg. Au Royaume-Uni, un groupe de travailleurs s'est rapproché du syndicat United Tech and Allied Workers (UTAW). Le mouvement est d'autant plus significatif qu'il émerge dans un secteur historiquement peu syndiqué, et que Meta n'a pas supprimé MCI mais seulement aménagé ses modalités, les concessions restent donc limitées. La controverse s'inscrit dans un contexte social particulièrement tendu au sein de Meta. L'entreprise a licencié 1 500 personnes ces derniers mois, déplacé 7 000 autres, et annoncé une réduction prochaine de 10 % de ses effectifs restants. Déployer simultanément un outil de surveillance généralisée des postes de travail a été perçu en interne comme une provocation. Meta justifiait pourtant la démarche par une nécessité technique : construire des agents capables d'assister les utilisateurs sur leurs ordinateurs exige des exemples concrets de la façon dont les gens utilisent leurs machines au quotidien. L'argument n'a pas convaincu. Le mémo de Kasriel reconnaît implicitement l'échec de la communication initiale, tout en maintenant que les protections de la vie privée étaient suffisantes dès le lancement. L'avenir du programme reste incertain, notamment en Europe où le cadre juridique du RGPD pourrait poser des obstacles supplémentaires à ce type de collecte de données salariées.

💬 Enregistrer les clics et frappes au clavier de tes propres employés pour entraîner tes agents IA, c'est culotté. Bon, sur le papier l'argument technique tient (les agents doivent apprendre comment les humains utilisent leurs machines), mais le lancer en pleine vague de licenciements massifs, c'est un timing particulièrement raté. La "pause de 30 minutes", c'est de la gestion de crise minimale, pas une vraie concession.

Intégrer la confiance dans l'IA

Amazon a bâti un cadre formel d'intelligence artificielle responsable (RAI) qui s'applique à l'ensemble de ses produits, de la logistique d'entrepôt aux chatbots de service client, en passant par les services cloud AWS utilisés par des milliers d'entreprises. Ce dispositif repose sur quatre phases distinctes du cycle de vie des modèles : le pré-entraînement, le post-entraînement, l'évaluation et la surveillance par des tiers. Rahul Gupta, senior science manager et responsable RAI au sein de l'organisation AGI (Artificial General Intelligence) d'Amazon, résume l'ambition ainsi : "La responsabilité est intégrée dès le premier jour dans la conception du produit." À ce jour, Amazon a développé plus de 70 outils RAI internes et externes, financé ou publié plus de 500 articles de recherche, et dispensé des dizaines de milliers d'heures de formation à ses employés. L'enjeu est considérable pour les entreprises clientes d'AWS et pour les millions d'utilisateurs qui interagissent quotidiennement avec des systèmes alimentés par les modèles Amazon. Une IA mal calibrée peut produire des discriminations, diffuser des contenus dangereux ou se montrer incapable de respecter des réglementations locales très différentes d'un pays à l'autre. L'approche en trois volets d'Amazon vise précisément à anticiper ces risques avant qu'ils ne se matérialisent, à entraîner les modèles à naviguer dans les zones d'ambiguïté, et à construire des systèmes capables de s'adapter aux transitions gouvernementales, aux incidents médiatiques, aux nouvelles lois et aux évolutions sociales. Pour l'industrie, cela signifie que la sécurité n'est plus une couche ajoutée après coup mais une contrainte de conception à part entière. Les fondations de ce programme remontent aux travaux menés au sein d'Alexa AI, bien avant l'explosion des modèles génératifs, où Amazon avait développé des politiques et des méthodes d'évaluation qui ont ensuite été transposées à la construction de grands modèles de langage. Au stade du pré-entraînement, le chercheur Chentao Ye et son équipe enrichissent les corpus massifs de données publiques avec des jeux de données spécifiquement conçus pour inculquer des principes de sécurité, d'équité et de respect de la vie privée, dans plusieurs langues et cultures. Plutôt que de filtrer systématiquement les contenus sensibles, les chercheurs convertissent des documents de politique en exercices pédagogiques variés, forçant le modèle à raisonner sur des cas concrets de conformité ou de violation de règles. Cette approche, qui traite l'IA comme un apprenant nécessitant une éducation progressive, reflète une tendance de fond dans le secteur : à mesure que les régulateurs européens, américains et asiatiques durcissent leurs exigences, les grandes plateformes tech cherchent à démontrer que la gouvernance des modèles peut être industrialisée et mesurable.

☕️ Meta promet des discussions « vraiment privées » avec son IA

Meta a lancé une fonctionnalité appelée "Discussion Incognito" pour son assistant Meta AI, disponible dans WhatsApp et dans l'application dédiée Meta AI. Annoncée en mai 2026, cette option permet de discuter avec l'assistant dans un environnement dit sécurisé, basé sur la technologie maison de traitement privé des requêtes développée l'an dernier. Concrètement, les conversations ne sont pas enregistrées sur les serveurs de Meta, et elles sont supprimées à la fin de chaque session. Mark Zuckerberg a déclaré qu'il s'agissait du "premier grand produit d'IA pour lequel aucune trace de vos conversations n'est stockée sur des serveurs". Meta précise également que, contrairement à d'autres plateformes concurrentes, les questions et réponses ne sont pas accessibles à des tiers : le chat temporaire de ChatGPT conserve les données jusqu'à 30 jours, et celui de Gemini jusqu'à 72 heures. Cette initiative répond à un besoin réel : de nombreux utilisateurs posent à leurs assistants IA des questions très personnelles, touchant à leur santé, leurs finances ou leur vie privée. OpenAI avait lui-même révélé lors de la présentation de ChatGPT Health que les questions médicales figuraient parmi les usages les plus fréquents de son assistant. Dans ce contexte, la promesse d'une confidentialité totale devient un argument commercial fort, en particulier pour Meta, dont le modèle économique repose quasi exclusivement sur la collecte de données personnelles à des fins publicitaires. Proposer un espace d'échange véritablement privé représente donc une rupture symbolique notable avec l'image habituelle de l'entreprise. La décision n'est pas sans ironie. Le 8 mai, Meta a discrètement supprimé le chiffrement de bout en bout sur Instagram, justifiant ce recul par la complexité d'utilisation et la très faible adoption de la fonctionnalité. Autrement dit, la protection maximale des échanges entre humains a été abandonnée au motif qu'elle était peu pratique, tandis qu'elle devient un argument de vente pour les conversations avec une IA. Cette asymétrie soulève des questions sur les priorités réelles de l'entreprise en matière de vie privée. La technologie sous-jacente, documentée dans un livre blanc public, empêche théoriquement même Meta d'accéder au contenu des échanges, ce qui représente une contrainte technique significative pour un groupe habitué à monétiser chaque donnée utilisateur. La concurrence entre les grandes plateformes sur la confidentialité de leurs IA s'annonce comme un terrain de bataille croissant, à mesure que ces outils pénètrent les usages les plus intimes du quotidien.