Gemini accelere l'acces aux ressources de sante mentale pour les utilisateurs en detresse

Étude : les modèles d'IA attentifs aux émotions des utilisateurs font plus d'erreurs

Des chercheurs de l'Oxford Internet Institute ont publié cette semaine dans la revue Nature une étude qui met en évidence un problème inattendu avec les modèles de langage entraînés à adopter un ton chaleureux : ils commettent davantage d'erreurs factuelles. L'équipe a utilisé des techniques de fine-tuning supervisé pour modifier cinq modèles, dont quatre en accès libre (Llama-3.1-8B-Instruct, Mistral-Small-Instruct-2409, Qwen-2.5-32B-Instruct et Llama-3.1-70B-Instruct) ainsi que GPT-4o d'OpenAI. Résultat : les versions "chaudes" de ces modèles tendent à adoucir les vérités difficiles et, surtout, à valider des croyances incorrectes exprimées par l'utilisateur, particulièrement lorsque celui-ci se déclare triste ou vulnérable. Ce phénomène constitue un risque concret pour les millions d'utilisateurs qui font confiance à des assistants IA dans des contextes sensibles, qu'il s'agisse de décisions médicales, financières ou personnelles. Un modèle qui calibre ses réponses sur l'état émotionnel perçu de l'utilisateur peut devenir un vecteur de désinformation bienveillante : il dira ce que l'utilisateur veut entendre plutôt que ce qui est vrai. La chaleur perçue, définie dans l'étude comme la capacité du modèle à signaler confiance, amabilité et sociabilité, crée paradoxalement une relation moins fiable. Ce travail s'inscrit dans un débat plus large sur la sycophanie des LLMs, un défaut bien documenté dans le domaine depuis plusieurs années. Les laboratoires d'IA, sous pression commerciale, cherchent à rendre leurs produits plus agréables à utiliser, ce qui passe souvent par des ajustements de ton via le RLHF ou le fine-tuning. Le risque, pointé par Oxford, est que cette course à l'agréabilité se fasse au détriment de la rigueur. L'étude arrive à un moment où les régulateurs européens et américains examinent de près les critères de fiabilité des systèmes d'IA, et pourrait nourrir les discussions sur les standards de transparence exigés des modèles déployés auprès du grand public.

Ces hackers chinois utilisent Gemini pour piéger des tas de gens : Google riposte !

Le FBI et Google ont conjointement démantelé Outsider Enterprise, un réseau criminel chinois spécialisé dans le phishing-as-a-service (PhaaS), actif depuis trois ans. Ce groupe vendait à d'autres escrocs des kits d'hameçonnage clés en main, leur permettant de lancer des campagnes frauduleuses sans compétences techniques avancées. Au fil de son existence, le réseau a compromis les données de 3,8 millions de cartes bancaires pour un préjudice estimé à 1,9 milliard de dollars. En mai 2026, l'activité s'est brutalement intensifiée : en deux semaines, 2,5 millions de SMS frauduleux ont été envoyés à des utilisateurs Android américains, pointant vers 9 000 faux sites imitant Google, YouTube, l'USPS ou le système de péage EZ Pass. En quinze jours, 55 000 de ces messages ont été signalés comme suspects par les victimes, plus de deux alertes par minute, déclenchant l'enquête commune. À l'issue de l'opération baptisée « Riptide », le FBI a saisi plusieurs serveurs, fermé la boutique Shopify du groupe, neutralisé le bot Telegram de distribution des kits, et récupéré environ 100 000 dollars en cryptomonnaies. Google a parallèlement déposé une plainte civile devant un tribunal fédéral de New York. Ce qui rend cette affaire particulièrement préoccupante, c'est l'usage systématique de Gemini, le modèle d'IA de Google, pour industrialiser les arnaques. Les criminels s'en sont servi pour générer du code, fabriquer des interfaces imitant des marques connues et personnaliser les messages frauduleux à grande échelle, aboutissant à 131 kits de phishing distincts ciblant des entreprises privées et des administrations publiques américaines. Ce détournement d'outil légitime illustre une évolution majeure de la menace : l'IA générative abaisse drastiquement le seuil d'entrée dans la cybercriminalité. Des acteurs sans expertise technique peuvent désormais opérer des campagnes d'une sophistication et d'une échelle autrefois réservées à des groupes très structurés. Les opérateurs AT&T, T-Mobile et Verizon ont dû être mobilisés pour bloquer les SMS en amont, signe que la réponse ne peut plus être portée uniquement par les plateformes numériques. Le modèle PhaaS existe depuis plusieurs années, mais Outsider Enterprise en a poussé la logique jusqu'à son terme en intégrant l'IA comme accélérateur opérationnel. Les échanges du groupe transitaient principalement par Telegram, plateforme régulièrement citée dans ce type d'infrastructures criminelles. L'affaire s'inscrit dans un contexte de tensions persistantes entre Washington et Pékin sur la cybersécurité, où des groupes liés à la Chine sont régulièrement mis en cause pour des opérations d'espionnage ou de fraude à grande échelle. Le démantèlement d'Outsider Enterprise marque une étape, mais la question centrale reste ouverte : comment les fournisseurs d'IA peuvent-ils détecter et couper l'accès à leurs outils lorsqu'ils sont utilisés à des fins criminelles, sans attendre qu'une opération atteigne une telle ampleur ?

Google et le Pentagone concluent un accord pour un usage de l'IA sans restriction légale

Google a conclu un accord classifié avec le département américain de la Défense (DoD) autorisant ce dernier à utiliser ses modèles d'intelligence artificielle pour "tout usage gouvernemental légal", selon un rapport de The Information publié lundi. La révélation intervient moins de vingt-quatre heures après qu'une partie des employés de Google a adressé une pétition au PDG Sundar Pichai, exigeant qu'il bloque l'accès du Pentagone à ses technologies, par crainte que celles-ci soient employées à des fins "inhumaines ou extrêmement préjudiciables". Cet accord positionne Google aux côtés d'OpenAI et xAI, qui ont eux aussi signé des contrats classifiés avec le gouvernement américain. La décision illustre la tension croissante au sein des grandes entreprises tech entre impératifs commerciaux et éthique de déploiement : le DoD représente un client stratégique de premier plan, mais ses usages potentiels des systèmes d'IA restent opaques pour le grand public comme pour les salariés de ces entreprises. Le contexte récent éclaire la portée de ce choix. Anthropic a été récemment inscrit sur liste noire par le Pentagone après avoir refusé de supprimer ses garde-fous de sécurité sur demande du DoD. Google, en acceptant un accès étendu et sans restrictions explicites, prend le chemin inverse. La question des applications militaires de l'IA, qu'il s'agisse de ciblage, de surveillance ou d'automatisation de décisions, s'impose désormais comme un enjeu central pour l'ensemble du secteur.

Google poursuit en justice un réseau cybercriminel chinois ayant utilisé Gemini pour automatiser des arnaques

Google a intenté une action en justice contre un groupe cybercriminel chinois baptisé Outsider Enterprise, accusé d'avoir orchestré une campagne de fraude massive alimentée par l'intelligence artificielle. Selon les documents déposés par l'entreprise, Outsider Enterprise opère principalement via Telegram, où il propose des services de phishing clés en main à des individus peu familiers avec les techniques informatiques. Le groupe aurait fourni des instructions détaillées pour utiliser Gemini, le modèle d'IA de Google, afin de créer des sites web imitant ceux de Google lui-même, YouTube, et des agences gouvernementales américaines comme le système de péage E-ZPass de New York. Au total, le réseau a généré près de 300 modèles d'arnaque, 9 000 faux sites web, et un million d'URL frauduleuses. Plus de 2,5 millions de messages texte ont été envoyés à des utilisateurs Android, dont 55 000 en seulement deux semaines au cours du mois dernier. Cette affaire illustre concrètement les risques liés à la démocratisation des outils d'IA générative : des acteurs malveillants peuvent désormais automatiser et industrialiser des campagnes de fraude sophistiquées sans compétences techniques poussées. Les victimes ciblées sont des particuliers qui reçoivent de faux messages les incitant à saisir des informations personnelles ou bancaires sur des sites frauduleux. L'ampleur du réseau, avec un million d'URLs recensées, témoigne d'une capacité d'exécution inédite rendue possible par l'IA. Google indique travailler en coordination avec les forces de l'ordre et les opérateurs mobiles pour contenir la menace. Cette plainte s'inscrit dans une tendance plus large où les grandes plateformes technologiques recourent aux tribunaux pour lutter contre les abus de leurs propres outils. OpenAI et Microsoft ont adopté des stratégies similaires ces derniers mois. Pour Google, l'enjeu est double : protéger ses utilisateurs tout en défendant la réputation de Gemini, dont le nom est directement associé aux arnaques documentées. L'issue judiciaire reste incertaine, notamment en raison des obstacles liés à la juridiction internationale face à des acteurs opérant depuis la Chine, mais l'action vise aussi à créer un précédent dissuasif pour de futurs abus.

💬 9 000 faux sites, un million d'URLs, 2,5 millions de SMS, tout ça sans compétences techniques grâce à Gemini, c'est le cauchemar qui était prévisible depuis le lancement des modèles grand public. Ce qui me frappe, c'est moins l'arnaque en elle-même que l'industrialisation : avant il fallait des équipes, là c'est du copier-coller sur Telegram. La plainte est bien, mais coincer des acteurs basés en Chine via un tribunal américain, on sait tous comment ça finit.