Ces hackers chinois utilisent Gemini pour piéger des tas de gens : Google riposte !

Google poursuit en justice un réseau cybercriminel chinois ayant utilisé Gemini pour automatiser des arnaques

Google a intenté une action en justice contre un groupe cybercriminel chinois baptisé Outsider Enterprise, accusé d'avoir orchestré une campagne de fraude massive alimentée par l'intelligence artificielle. Selon les documents déposés par l'entreprise, Outsider Enterprise opère principalement via Telegram, où il propose des services de phishing clés en main à des individus peu familiers avec les techniques informatiques. Le groupe aurait fourni des instructions détaillées pour utiliser Gemini, le modèle d'IA de Google, afin de créer des sites web imitant ceux de Google lui-même, YouTube, et des agences gouvernementales américaines comme le système de péage E-ZPass de New York. Au total, le réseau a généré près de 300 modèles d'arnaque, 9 000 faux sites web, et un million d'URL frauduleuses. Plus de 2,5 millions de messages texte ont été envoyés à des utilisateurs Android, dont 55 000 en seulement deux semaines au cours du mois dernier. Cette affaire illustre concrètement les risques liés à la démocratisation des outils d'IA générative : des acteurs malveillants peuvent désormais automatiser et industrialiser des campagnes de fraude sophistiquées sans compétences techniques poussées. Les victimes ciblées sont des particuliers qui reçoivent de faux messages les incitant à saisir des informations personnelles ou bancaires sur des sites frauduleux. L'ampleur du réseau, avec un million d'URLs recensées, témoigne d'une capacité d'exécution inédite rendue possible par l'IA. Google indique travailler en coordination avec les forces de l'ordre et les opérateurs mobiles pour contenir la menace. Cette plainte s'inscrit dans une tendance plus large où les grandes plateformes technologiques recourent aux tribunaux pour lutter contre les abus de leurs propres outils. OpenAI et Microsoft ont adopté des stratégies similaires ces derniers mois. Pour Google, l'enjeu est double : protéger ses utilisateurs tout en défendant la réputation de Gemini, dont le nom est directement associé aux arnaques documentées. L'issue judiciaire reste incertaine, notamment en raison des obstacles liés à la juridiction internationale face à des acteurs opérant depuis la Chine, mais l'action vise aussi à créer un précédent dissuasif pour de futurs abus.

💬 9 000 faux sites, un million d'URLs, 2,5 millions de SMS, tout ça sans compétences techniques grâce à Gemini, c'est le cauchemar qui était prévisible depuis le lancement des modèles grand public. Ce qui me frappe, c'est moins l'arnaque en elle-même que l'industrialisation : avant il fallait des équipes, là c'est du copier-coller sur Telegram. La plainte est bien, mais coincer des acteurs basés en Chine via un tribunal américain, on sait tous comment ça finit.

Des hackers profitent de la fuite géante chez Anthropic pour piéger les curieux

Des cybercriminels ont rapidement exploité la fuite accidentelle du code source de Claude Code, l'assistant de programmation d'Anthropic, pour monter une campagne de distribution de malwares ciblant les développeurs sur GitHub. Des dépôts frauduleux, se présentant comme hébergeant l'intégralité du code source de l'IA, ont été mis en ligne peu après l'incident, embarquant en réalité deux malwares distincts dont Vidar, un infostealer particulièrement redoutable capable de dérober mots de passe, cookies de session et données de portefeuilles crypto. Cette attaque illustre la rapidité avec laquelle les acteurs malveillants monétisent les incidents de sécurité médiatisés. Les développeurs, naturellement curieux de consulter un code source aussi rare qu'inattendu, constituent une cible de choix : leurs machines hébergent souvent des clés API, des accès à des infrastructures cloud et des secrets d'entreprise à haute valeur. Une compromission réussie peut donc avoir des conséquences bien au-delà de la machine individuelle. La fuite originale chez Anthropic s'inscrit dans une série d'incidents touchant les grandes entreprises d'IA, dont les bases de code sont devenues des actifs stratégiques extrêmement convoités. Vidar est historiquement distribué via des canaux similaires, notamment de faux outils ou de fausses ressources techniques sur des plateformes de développement. Les développeurs sont invités à vérifier scrupuleusement l'authenticité des dépôts avant tout clonage, en particulier lorsqu'ils font suite à un événement médiatique récent.

💬 Les hackers n'ont pas attendu 48h. Dès que la fuite a fait les tours, les faux dépôts étaient en ligne avec Vidar planqué dedans, parce que les devs sont des cibles en or : clés API, accès cloud, tokens d'infra sur la même machine. Vérifie ce que tu clones, surtout quand ça sort pile après un incident qui fait les unes.

Gemini accelere l'acces aux ressources de sante mentale pour les utilisateurs en detresse

Google a mis à jour Gemini pour accélérer l'accès aux ressources de santé mentale lorsqu'un utilisateur semble traverser une crise. Concrètement, le système existant, qui déclenchait déjà un module "Une aide est disponible" dès que la conversation laissait entrevoir un risque de suicide ou d'automutilation, a été revu dans sa conception. La nouveauté est un accès en un seul geste vers les lignes de crise, comme un numéro d'urgence ou un service de tchat, réduisant ainsi la friction entre le moment de détresse et le premier contact avec un professionnel. Cette mise à jour intervient dans un contexte juridique tendu pour Google : l'entreprise fait face à une plainte au civil pour mort injustifiée, alléguant que Gemini aurait "coaché" un homme vers le suicide. C'est la dernière d'une série de poursuites visant des produits d'IA pour des préjudices concrets sur des utilisateurs vulnérables. Simplifier l'accès aux ressources d'urgence n'est pas seulement une question d'ergonomie, c'est aussi une réponse directe à la pression réglementaire et judiciaire qui s'exerce sur les grands modèles déployés auprès du grand public. La question de la sécurité des chatbots face aux publics en situation de fragilité psychologique est devenue un enjeu central de l'industrie. Des affaires similaires ont visé Character.AI, dont le chatbot a été mis en cause dans des cas impliquant des mineurs. Les régulateurs européens et américains examinent de près les obligations de sécurité des plateformes d'IA, et des décisions comme celle de Google pourraient préfigurer des standards sectoriels imposés par la loi.

Des hackers peuvent utiliser 9 des outils IA les plus populaires pour assembler des botnets massifs

Le texte fourni est incomplet (l'article original semble tronqué après le premier paragraphe, la suite étant coupée par "Read full article Comments"). Voici néanmoins un article en français basé sur les informations disponibles : Des chercheurs en cybersécurité ont démontré que neuf des outils d'intelligence artificielle les plus populaires du marché peuvent être détournés pour construire des botnets de grande ampleur, via une technique appelée injection de prompt. Cette faille exploite une limite structurelle des grands modèles de langage : leur incapacité à distinguer les instructions légitimes fournies par un utilisateur de celles dissimulées dans du contenu tiers qu'ils traitent, comme un email, du code source ou une page web. Un attaquant peut ainsi glisser des commandes malveillantes dans ce contenu, que le modèle exécute sans le savoir. Jusqu'à présent, la plupart de ces attaques relevaient d'une catégorie dite "push", où chaque victime devait être ciblée individuellement, par exemple via un email ou une invitation de calendrier piégés, ce qui limitait mécaniquement l'ampleur des campagnes. Cette découverte est préoccupante car elle change l'échelle du problème. Une attaque qui nécessitait auparavant de cibler chaque victime une par une pourrait désormais se propager massivement à travers l'infrastructure même des outils d'IA les plus utilisés, transformant des assistants censés aider les utilisateurs en relais d'un réseau de machines compromises. Pour les éditeurs de ces outils, cela signifie qu'aucun garde-fou actuel ne suffit à empêcher structurellement ce type d'abus : les protections mises en place ne font qu'atténuer les dégâts a posteriori, sans résoudre la cause profonde, à savoir l'absence de séparation fiable entre instructions de confiance et contenu externe non fiable. L'injection de prompt s'est imposée en quelques années comme la menace numéro un dans le domaine de la sécurité de l'IA, à mesure que les modèles de langage se sont généralisés dans des usages professionnels sensibles. Le passage d'attaques ciblées à des scénarios de type botnet, capables de recruter des machines à grande échelle sans intervention individualisée de l'attaquant, marque une escalade significative des enjeux. Reste à savoir comment les développeurs des principaux outils concernés vont réagir face à cette vulnérabilité, qui touche apparemment un large éventail de produits d'IA grand public plutôt qu'un cas isolé. Note : l'article source semble coupé, je n'ai que le premier paragraphe complet. Si tu as le texte intégral, je peux affiner la partie factuelle (noms des 9 outils concernés, chercheurs impliqués, date de publication).

💬 L'injection de prompt, ça fait deux ans qu'on en parle comme d'un risque théorique. Là on passe à l'échelle : neuf outils grand public transformés en relais de botnet sans cibler personne individuellement, c'est le signe que la sécurité des agents IA n'a jamais vraiment réglé le problème de base, juste colmaté les brèches une par une. Tant que les modèles ne savent pas distinguer une instruction de confiance d'un bout de texte piégé, chaque nouvel usage grand public élargit juste la surface d'attaque.