Qu'est-ce qui cloche chez les géants de l'IA ?

Google n'a pas modifié les fonctions IA locales de Chrome, elles restent aussi confuses qu'avant

Une confusion a récemment agité les utilisateurs de Chrome sur ordinateur : certains ont constaté que leur navigateur téléchargeait discrètement un modèle d'intelligence artificielle de 4 Go, le Gemini Nano de Google. Sur les réseaux sociaux, la découverte a été interprétée comme un déploiement massif et soudain d'IA sur toutes les installations Chrome. En réalité, ce comportement n'a rien de nouveau. Google avait annoncé dès 2024 l'intégration de capacités d'IA locale dans Chrome, destinées à alimenter des fonctionnalités comme "Help Me Write" (aide à la rédaction), l'organisation automatique des onglets et la détection des tentatives d'arnaque. Le modèle est téléchargé en arrière-plan depuis plusieurs années déjà, ce n'est pas une nouveauté technique, mais une nouveauté dans la perception des utilisateurs. Ce que cet épisode révèle avant tout, c'est l'incapacité chronique de Google à communiquer clairement sur ses déploiements d'IA. L'entreprise intègre des modèles lourds dans ses produits sans informer explicitement les utilisateurs, ce qui génère régulièrement des incompréhensions et une méfiance justifiée. Pour les 4 milliards d'utilisateurs de Chrome dans le monde, la question de ce qui tourne en local sur leur machine, et pourquoi, est pourtant loin d'être anodine, notamment sur des appareils aux ressources limitées. Ce flou s'inscrit dans une tendance plus large chez Google, qui multiplie les annonces d'IA sans toujours en expliquer les implications concrètes. Chrome embarque désormais bien d'autres fonctionnalités alimentées par Gemini : un chatbot en mode écran partagé, ainsi qu'une capacité à automatiser la navigation web. Le traitement local via Gemini Nano vise à préserver la confidentialité des données en évitant les allers-retours vers les serveurs cloud, un argument de poids face aux critiques sur la vie privée. Reste que sans transparence sur ce qui est installé, quand et pourquoi, la confiance des utilisateurs risque de s'éroder plus vite que les bénéfices de ces fonctionnalités ne s'imposent.

arXiv : les chercheurs qui soumettent des articles genAI erronés seront suspendus un an

arXiv, la plateforme de prépublication scientifique de référence, vient d'annoncer une politique de suspension d'un an à l'encontre de tout chercheur soumettant un article dont le contenu généré par intelligence artificielle n'a manifestement pas été vérifié. C'est Thomas Dietterich, responsable adjoint de la plateforme, qui a détaillé la mesure dans un thread publié sur X, en donnant des exemples concrets de preuves irréfutables : des références bibliographiques fantaisistes, des méta-commentaires laissés tels quels par le LLM comme « voici un résumé de 200 mots, souhaitez-vous que j'y apporte des modifications ? », ou encore des tableaux vides accompagnés d'une note invitant l'auteur à les compléter avec ses propres données. Après cette année de bannissement, les auteurs concernés ne pourront soumettre à nouveau que des articles déjà acceptés par une revue ou une conférence avec comité de lecture, ce qui réduit considérablement l'intérêt de passer par arXiv. La mesure vise à restaurer la confiance dans un espace qui constitue le premier point d'entrée de la recherche mondiale avant la publication formelle. Dietterich a résumé l'enjeu avec une clarté directe : si un article contient des preuves que ses auteurs n'ont pas vérifié les sorties d'un grand modèle de langage, rien dans ce document ne peut être considéré comme fiable. Pour les chercheurs, les ingénieurs et les décideurs qui s'appuient sur arXiv pour suivre l'état de l'art, la prolifération d'articles contaminés par des hallucinations non détectées représente un risque concret sur la qualité des travaux en aval. La politique rappelle également que la signature d'un article engage chaque auteur sur l'intégralité de son contenu, indépendamment de la façon dont ce contenu a été produit. La décision d'arXiv s'inscrit dans un contexte de saturation progressive de l'écosystème scientifique par les outils génératifs. Revues académiques et actes de conférences font face au même phénomène, et plusieurs éditeurs ont durci leurs politiques ces derniers mois. La plateforme avait déjà explicité dans sa charte de modération que la responsabilité des contenus générés par IA incombait aux auteurs, mais la masse de soumissions problématiques a visiblement rendu nécessaire de rendre la sanction publique et explicite. Des chercheurs comme l'économiste James D. Miller soulèvent des questions légitimes sur la responsabilité collective dans les articles multi-auteurs, notamment lorsqu'un coauteur ne peut pas vérifier une référence dans une langue ou un domaine qui n'est pas le sien. arXiv a indiqué qu'une procédure d'appel existe et que toute sanction doit être documentée et confirmée par le responsable disciplinaire de la plateforme avant d'être appliquée.

💬 Quand ton article contient la phrase "souhaitez-vous que j'apporte des modifications ?", c'est pas un bug, c'est une démission de chercheur. Un an de suspension, ça paraît sévère, mais Dietterich a raison sur le fond : si tu n'as pas vérifié les sorties du LLM, ton article entier est suspect. Reste à voir comment ça s'applique aux équipes de vingt auteurs où personne n'a lu la même section.

Le coût caché des paramètres IA par défaut de Google et l'illusion du choix

Google pousse activement son assistant Gemini dans l'ensemble de son écosystème de produits, des messageries Gmail aux espaces de stockage Google Drive, transformant ses services les plus utilisés en terrain d'entraînement et de déploiement pour l'intelligence artificielle générative. La firme de Mountain View justifie cette intégration massive par une nécessité technique : l'IA générative exige des volumes considérables de données, et Google en dispose via ses centaines de millions d'utilisateurs actifs. Concrètement, Gemini peut accéder au contenu des emails, des documents et des fichiers personnels stockés dans les services Google. Ce déploiement soulève des questions sérieuses de confidentialité, d'autant plus que les règles de rétention des données varient selon la façon dont l'utilisateur accède à l'IA, une complexité délibérée qui rend difficile toute évaluation claire des risques. Tenter de se soustraire à la collecte de données expose les utilisateurs à ce que les experts en UX appellent des "dark patterns" : des éléments d'interface conçus pour décourager les refus, orienter vers le consentement par défaut et rendre la désinscription intentionnellement fastidieuse. Cette situation illustre une tension croissante entre les intérêts commerciaux des grandes plateformes technologiques et le droit des utilisateurs à contrôler leurs données. Alors que la bulle de l'IA générative suscite un scepticisme grandissant dans une partie de l'industrie, Google accélère son intégration au risque d'alimenter les critiques des régulateurs européens et américains déjà attentifs aux pratiques anticoncurrentielles et aux violations potentielles du RGPD. La question de savoir si les utilisateurs disposent d'un vrai choix ou d'une simple illusion de choix devient centrale.

Pornographie deepfake : corps volés, et l'IA qui divulgue des numéros privés

En 2023, une femme prénommée Jennifer a passé sa photo de profil professionnelle dans un logiciel de reconnaissance faciale pour vérifier si ses anciennes vidéos pour adultes remonteraient dans les résultats. Elles sont apparues, mais avec une surprise : une de ses vidéos originales avait été modifiée, son visage remplacé par celui d'une autre personne. Son corps, lui, était toujours là. Ce cas illustre une réalité peu discutée du deepfake pornographique : si le débat se concentre habituellement sur les victimes dont le visage est incrusté sans consentement dans des contenus explicites, les créatrices de contenu adulte dont le corps est utilisé comme base sont quasi invisibles dans ce débat. Elles témoignent que des systèmes d'IA s'entraînent sur leurs productions, clonent leurs apparences, et génèrent des contenus qu'elles n'ont jamais approuvés, sans protection juridique réelle ni moyen de contrôle. En parallèle, une autre atteinte à la vie privée prend de l'ampleur : des chatbots IA comme Gemini divulguent des numéros de téléphone personnels. Un développeur a commencé à recevoir des messages WhatsApp de parfaits inconnus après que Gemini avait rendu son numéro accessible. Une chercheuse universitaire a réussi à obtenir le numéro privé d'une collègue via le même outil. Un utilisateur Reddit a vu affluer des appels de personnes cherchant des avocats, son numéro ayant été fourni par erreur par l'IA. Ces deux phénomènes ont des conséquences concrètes et durables. Pour les créatrices de contenu adulte, la perte de contrôle sur leur image corporelle menace directement leurs revenus et leur sécurité, dans un secteur déjà vulnérable juridiquement. Pour les victimes de fuites de numéros, le harcèlement involontaire généré est difficile à stopper : les experts consultés par le MIT Technology Review estiment que ces données personnelles proviennent des corpus d'entraînement des modèles, et qu'aucun mécanisme simple ne permet aux victimes d'y remédier. Ces incidents révèlent une fragilité systémique : l'IA rend triviale la recherche d'informations qui étaient auparavant dispersées ou inaccessibles. Ces problèmes s'inscrivent dans un contexte plus large de régulation encore balbutiante autour de l'IA générative. Le droit à l'image, la propriété intellectuelle sur les corps, et la protection des données personnelles n'ont pas été conçus pour répondre à ces usages. Pendant ce temps, d'autres signaux alimentent les tensions autour de l'IA : Sam Altman détient plus de deux milliards de dollars d'investissements dans des entreprises ayant des relations commerciales avec OpenAI, soulevant des accusations de conflits d'intérêts examinées par le Parti républicain. Et une étude relayée par 404 Media suggère que les développeurs perdent leurs capacités techniques à force de déléguer à l'IA, alimentant un début de backlash populaire contre sa généralisation.

💬 Ce qui me dérange dans ces deux histoires, c'est que l'IA n'a rien inventé : elle rend juste trivial ce qui était difficile avant. Un numéro dispersé dans un corpus, un corps dans une vieille vidéo, tu n'y accédais pas sans outil spécialisé, mais maintenant c'est cherchable et exploitable en quelques secondes. Le droit a été conçu pour un monde où l'information restait éparpillée, et ce monde-là n'existe plus.