Des employés de Google demandent à Pichai de…

Google n'a pas modifié les fonctions IA locales de Chrome, elles restent aussi confuses qu'avant

41

1Ars Technica AI

Google n'a pas modifié les fonctions IA locales de Chrome, elles restent aussi confuses qu'avant

Une confusion a récemment agité les utilisateurs de Chrome sur ordinateur : certains ont constaté que leur navigateur téléchargeait discrètement un modèle d'intelligence artificielle de 4 Go, le Gemini Nano de Google. Sur les réseaux sociaux, la découverte a été interprétée comme un déploiement massif et soudain d'IA sur toutes les installations Chrome. En réalité, ce comportement n'a rien de nouveau. Google avait annoncé dès 2024 l'intégration de capacités d'IA locale dans Chrome, destinées à alimenter des fonctionnalités comme "Help Me Write" (aide à la rédaction), l'organisation automatique des onglets et la détection des tentatives d'arnaque. Le modèle est téléchargé en arrière-plan depuis plusieurs années déjà, ce n'est pas une nouveauté technique, mais une nouveauté dans la perception des utilisateurs. Ce que cet épisode révèle avant tout, c'est l'incapacité chronique de Google à communiquer clairement sur ses déploiements d'IA. L'entreprise intègre des modèles lourds dans ses produits sans informer explicitement les utilisateurs, ce qui génère régulièrement des incompréhensions et une méfiance justifiée. Pour les 4 milliards d'utilisateurs de Chrome dans le monde, la question de ce qui tourne en local sur leur machine, et pourquoi, est pourtant loin d'être anodine, notamment sur des appareils aux ressources limitées. Ce flou s'inscrit dans une tendance plus large chez Google, qui multiplie les annonces d'IA sans toujours en expliquer les implications concrètes. Chrome embarque désormais bien d'autres fonctionnalités alimentées par Gemini : un chatbot en mode écran partagé, ainsi qu'une capacité à automatiser la navigation web. Le traitement local via Gemini Nano vise à préserver la confidentialité des données en évitant les allers-retours vers les serveurs cloud, un argument de poids face aux critiques sur la vie privée. Reste que sans transparence sur ce qui est installé, quand et pourquoi, la confiance des utilisateurs risque de s'éroder plus vite que les bénéfices de ces fonctionnalités ne s'imposent.

UELes centaines de millions d'utilisateurs européens de Chrome sont concernés par ce manque de transparence de Google sur le déploiement silencieux de Gemini Nano, une pratique potentiellement en tension avec les obligations d'information du RGPD.

ÉthiqueOutil

1 source

Le Pentagone envisage de permettre aux entreprises d'IA de s'entraîner sur des données classifiées, selon un responsable de la défense

50

2MIT Technology Review

Le Pentagone envisage de permettre aux entreprises d'IA de s'entraîner sur des données classifiées, selon un responsable de la défense

Le Pentagone envisage de créer des environnements sécurisés permettant aux grandes entreprises d'intelligence artificielle d'entraîner leurs modèles sur des données classifiées militaires, selon des informations obtenues par le MIT Technology Review. Ce développement marquerait une rupture significative avec la pratique actuelle, où des modèles comme Claude d'Anthropic sont déjà utilisés pour répondre à des questions en contexte classifié, notamment pour l'analyse de cibles en Iran, sans pour autant avoir accès aux données lors de leur phase d'entraînement. L'enjeu est de taille : entraîner des modèles directement sur des renseignements classifiés permettrait de les rendre sensiblement plus précis et efficaces pour des tâches militaires spécifiques. Cette initiative s'inscrit dans un contexte de forte demande, alors que le Pentagone a déjà conclu des accords avec OpenAI et xAI d'Elon Musk pour opérer leurs modèles dans des environnements sécurisés, et qu'il cherche à se transformer en une force de combat « IA-first » face à l'escalade des tensions avec l'Iran. Concrètement, l'entraînement se déroulerait dans des centres de données accrédités pour héberger des projets gouvernementaux classifiés. Le Département de la Défense conserverait la propriété des données, mais du personnel des entreprises d'IA disposant des habilitations appropriées pourrait, dans de rares cas, y avoir accès. Avant d'aller plus loin, le Pentagone prévoit néanmoins d'évaluer d'abord les performances des modèles sur des données non classifiées, comme des images satellites commerciales. Aalok Mehta, directeur du Wadhwani AI Center au Center for Strategic and International Studies, pointe le risque principal : des informations sensibles, comme l'identité d'un agent opérationnel, intégrées lors de l'entraînement pourraient être involontairement révélées à des unités militaires non autorisées à y accéder. Palantir, acteur incontournable de la sécurité, a déjà remporté d'importants contrats pour construire l'infrastructure permettant aux officiels d'interroger des modèles d'IA en environnement classifié. Mehta tempère toutefois les inquiétudes les plus extrêmes : avec une architecture correctement conçue, le risque de fuite vers l'internet public ou vers les serveurs des entreprises privées resterait « très limité ». Le défi principal demeure donc interne, cloisonner l'information entre les différents niveaux d'accréditation au sein même de l'appareil militaire américain.

UELes débats américains sur l'entraînement de l'IA sur des données militaires classifiées pourraient accélérer les réflexions européennes sur l'encadrement de l'IA de défense dans le cadre du AI Act.

ÉthiqueActu

1 source

« Le danger de l’IA militaire réside dans une dilution progressive de la responsabilité »

38

3Le Monde Pixels

« Le danger de l’IA militaire réside dans une dilution progressive de la responsabilité »

L'intégration croissante de l'intelligence artificielle dans les systèmes d'armement soulève une question fondamentale : qui est responsable lorsqu'une machine autonome cause des pertes civiles ou prend une décision létale ? Ridhwane Allouche, doctorant en droit, alerte sur un phénomène insidieux, non pas une rupture brutale, mais une dilution progressive de la responsabilité humaine dans la chaîne de commandement militaire, à mesure que les algorithmes prennent en charge davantage de décisions opérationnelles. Ce glissement est d'autant plus préoccupant qu'il s't opère sans cadre juridique international adapté. Les conventions existantes, droit de la guerre, droit humanitaire international, ont été conçues pour des acteurs humains identifiables. L'IA militaire brouille cette lisibilité : entre le concepteur du système, l'opérateur, le commandant terrain et l'algorithme lui-même, la responsabilité se diffuse jusqu'à potentiellement ne plus incomber à personne. Allouche rappelle que les sociétés ont déjà su poser des limites face à des technologies de violence potentiellement incontrôlables, des armes biologiques aux mines antipersonnel. Cette capacité collective à fixer des interdits lorsque la menace dépasse un seuil d'acceptabilité plaide, selon lui, pour l'élaboration d'un traité international d'éthique de l'IA dans la guerre. Un tel instrument juridiquement contraignant permettrait d'établir des principes clairs : maintien d'un contrôle humain effectif, traçabilité des décisions, et imputabilité en cas de violation du droit humanitaire. La tribune, publiée dans Le Monde, s'inscrit dans un débat qui monte en urgence alors que plusieurs États, dont les États-Unis, la Chine et Israël, déploient déjà des systèmes d'armes intégrant des composantes autonomes. L'absence de consensus international laisse le champ libre à une course technologique où les garde-fous éthiques risquent d'être sacrifiés à la compétitivité stratégique.

UELa tribune appelle à un traité international encadrant l'IA militaire, ce qui concerne directement les États membres de l'UE dans leurs engagements en matière de droit international humanitaire et de régulation des systèmes d'armes autonomes.

ÉthiqueOpinion

1 source

Meta formerait des agents IA en surveillant les souris et claviers de ses employés

47

4Ars Technica AI

Meta formerait des agents IA en surveillant les souris et claviers de ses employés

Meta va commencer à collecter les mouvements de souris, clics et frappes clavier de ses employés américains pour entraîner ses futurs agents d'intelligence artificielle. L'initiative, baptisée Model Capability Initiative, a été annoncée en interne via des mémos publiés par l'équipe Meta Superintelligence Labs et révélée par Reuters. Le logiciel de suivi fonctionnera sur des applications et sites web professionnels spécifiques, et prendra également des captures d'écran périodiques pour fournir du contexte aux données d'entraînement. Selon le mémo interne, "c'est là où tous les employés de Meta peuvent aider nos modèles à s'améliorer simplement en faisant leur travail quotidien." Cette approche vise à produire des données d'entraînement de haute qualité pour les agents IA, c'est-à-dire des systèmes capables d'accomplir des tâches complexes de manière autonome sur un ordinateur. Reproduire fidèlement les comportements humains réels dans des environnements de travail concrets est un défi majeur pour ce type d'IA, et les données synthétiques ou publiques ne suffisent plus. En utilisant le travail quotidien de milliers d'employés comme source de données, Meta espère accélérer le développement d'agents capables de naviguer dans des interfaces réelles. Cette initiative s'inscrit dans une course effrénée entre les grandes entreprises technologiques pour développer des agents IA performants, un marché que Microsoft, Google et OpenAI ciblent également activement. La question de la surveillance des employés à des fins commerciales soulève néanmoins des questions éthiques et juridiques, notamment en matière de consentement et de vie privée au travail. Il reste à voir si Meta étendra ce programme à ses employés hors des États-Unis, où les réglementations comme le RGPD européen imposent des contraintes bien plus strictes.

UELe RGPD impose un consentement explicite pour la collecte de données comportementales des employés, rendant une extension de ce programme aux salariés européens de Meta juridiquement très complexe, voire impossible sans refonte du dispositif.

ÉthiqueActu

1 source

Des employés de Google demandent à Pichai de refuser l'usage militaire classifié de l'IA

À lire aussi

Google n'a pas modifié les fonctions IA locales de Chrome, elles restent aussi confuses qu'avant

Le Pentagone envisage de permettre aux entreprises d'IA de s'entraîner sur des données classifiées, selon un responsable de la défense

« Le danger de l’IA militaire réside dans une dilution progressive de la responsabilité »

Meta formerait des agents IA en surveillant les souris et claviers de ses employés