Google poursuit en justice un réseau cybercriminel chinois ayant utilisé Gemini pour automatiser des arnaques

Gemini accelere l'acces aux ressources de sante mentale pour les utilisateurs en detresse

Google a mis à jour Gemini pour accélérer l'accès aux ressources de santé mentale lorsqu'un utilisateur semble traverser une crise. Concrètement, le système existant, qui déclenchait déjà un module "Une aide est disponible" dès que la conversation laissait entrevoir un risque de suicide ou d'automutilation, a été revu dans sa conception. La nouveauté est un accès en un seul geste vers les lignes de crise, comme un numéro d'urgence ou un service de tchat, réduisant ainsi la friction entre le moment de détresse et le premier contact avec un professionnel. Cette mise à jour intervient dans un contexte juridique tendu pour Google : l'entreprise fait face à une plainte au civil pour mort injustifiée, alléguant que Gemini aurait "coaché" un homme vers le suicide. C'est la dernière d'une série de poursuites visant des produits d'IA pour des préjudices concrets sur des utilisateurs vulnérables. Simplifier l'accès aux ressources d'urgence n'est pas seulement une question d'ergonomie, c'est aussi une réponse directe à la pression réglementaire et judiciaire qui s'exerce sur les grands modèles déployés auprès du grand public. La question de la sécurité des chatbots face aux publics en situation de fragilité psychologique est devenue un enjeu central de l'industrie. Des affaires similaires ont visé Character.AI, dont le chatbot a été mis en cause dans des cas impliquant des mineurs. Les régulateurs européens et américains examinent de près les obligations de sécurité des plateformes d'IA, et des décisions comme celle de Google pourraient préfigurer des standards sectoriels imposés par la loi.

Anthropic : son modèle Mythos serait utilisé par la NSA pour des opérations offensives contre la Chine et l'Iran

Anthropic a déployé une demi-douzaine d'ingénieurs directement au sein de la NSA pour adapter son modèle d'IA Mythos à des opérations cyber offensives. Selon des informations rapportées par The Decoder, ce modèle serait utilisé pour mener des intrusions dans des réseaux en Chine et en Iran. Il s'agit d'un positionnement inédit pour une entreprise d'IA qui se présente habituellement sous l'angle de la sécurité responsable et du développement maîtrisé des systèmes d'intelligence artificielle. Cette collaboration soulève des questions importantes sur la frontière entre IA commerciale et IA militaire. Anthropic, comme d'autres acteurs du secteur, avait formulé des engagements publics limitant certains usages de ses modèles, notamment la surveillance de masse. Or, ces restrictions s'appliquent explicitement aux seuls citoyens américains, laissant une marge d'utilisation considérable pour des opérations visant des populations étrangères. L'intégration directe d'ingénieurs civils dans une agence de renseignement militaire marque un pas supplémentaire vers la militarisation de l'IA grand public. Ce mouvement s'inscrit dans une dynamique plus large de course aux capacités cyber entre les États-Unis, la Chine et l'Iran, dans laquelle les grands modèles de langage jouent un rôle croissant pour automatiser la détection de vulnérabilités et la conception d'attaques. Anthropic rejoint ainsi OpenAI et d'autres laboratoires qui ont noué des partenariats avec le Pentagone ou les agences fédérales américaines. Le modèle Mythos, distinct des produits commerciaux comme Claude, semble avoir été conçu ou adapté spécifiquement pour répondre aux besoins classifiés de la communauté du renseignement.

💬 Le discours "sécurité responsable" d'Anthropic vient de prendre un sacré coup. Des ingénieurs civils intégrés directement à la NSA, un modèle dédié et classifié pour de la cyber offensive, des engagements publics qui s'appliquent aux seuls citoyens américains (le reste du monde, bonne chance) : c'est le genre de décision qui se justifie probablement en interne avec "si ce n'est pas nous, ce sera quelqu'un d'autre". OpenAI a fait le même virage, mais Anthropic se vendait différemment.

IA prédictive : Traquer l’invisible dans les flux de données pour devancer les cybercriminels

Face à l'explosion des volumes de données transitant sur les réseaux mondiaux, la cybersécurité traditionnelle fondée sur des signatures statiques montre ses limites. Les systèmes d'intelligence artificielle prédictive représentent une rupture méthodologique : au lieu de comparer le trafic à une liste de menaces connues, ils commencent par modéliser rigoureusement le comportement normal de chaque utilisateur, machine et application sur un réseau. Une fois cette ligne de référence établie, les algorithmes analysent les paquets d'informations en quelques microsecondes, capables de détecter la moindre déviation sans intervention humaine. Dans des secteurs où les flux financiers sont continus et rapides, comme les transactions bancaires internationales, cette réactivité permet de bloquer une tentative de fraude ou de blanchiment avant même que les fonds ne quittent le système. L'enjeu est particulièrement critique face aux menaces persistantes avancées (APT), ces attaques silencieuses que les cybercriminels les plus expérimentés construisent délibérément sur des semaines ou des mois pour échapper aux règles figées des outils classiques. L'IA prédictive excelle précisément dans ce cas de figure : elle est capable de corréler des événements isolés et a priori anodins, par exemple une légère modification de privilège sur un serveur, suivie trois jours plus tard d'une connexion inhabituelle, puis d'une extraction de fichier en pleine nuit. Seule la mise en relation de ces signaux faibles révèle le schéma d'attaque. Le système peut alors déclencher automatiquement une réponse, comme l'isolation de la machine compromise, bien avant qu'un opérateur humain ait eu le temps d'intervenir. Pour que ces modèles prédictifs tiennent leurs promesses sur la durée, la qualité des données qui les alimentent est déterminante. Des journaux de connexion mal structurés, incomplets ou altérés génèrent des faux positifs qui saturent les équipes techniques et érodent la confiance dans le système. Cette exigence de rigueur dans la gouvernance des données dépasse désormais le cadre purement technique : elle s'inscrit dans des stratégies nationales, comme la Stratégie relative aux données 2023-2026 du Canada, qui met l'accent sur la valorisation, la gouvernance et la sécurisation des flux publics. Pour les organisations, l'enjeu n'est plus d'empiler des outils logiciels, mais de conduire un audit complet de leur infrastructure de données avant d'y greffer des couches d'intelligence artificielle, sous peine de construire des systèmes de défense sophistiqués sur des fondations fragiles.

Import AI 452 : lois d'échelle pour la cyberguerre, automatisation par IA en hausse et énigme autour des prévisions de PIB

Les systèmes d'intelligence artificielle progressent dans leur capacité à mener des cyberattaques à un rythme alarmant, selon une étude publiée par l'organisation de sécurité Lyptus Research. En analysant les performances des modèles frontières depuis 2019, les chercheurs ont mesuré un doublement des capacités offensives tous les 9,8 mois en moyenne, un rythme qui s'est encore accéléré à 5,7 mois pour les modèles sortis depuis 2024. Les derniers modèles évalués, GPT-5.3 Codex et Opus 4.6, atteignent un taux de réussite de 50 % sur des tâches qui demandent à des experts humains en sécurité offensive entre 3,1 et 3,2 heures de travail. L'étude s'appuie sur sept benchmarks reconnus, dont CyBench, CVEBench et InterCode CTF, complétés par un jeu de données inédit de 291 tâches calibrées par dix professionnels en cybersécurité offensive. Par ailleurs, une seconde étude menée conjointement par l'INSEAD et Harvard Business School sur 515 startups en forte croissance montre que les entreprises formées à l'intégration de l'IA dans leurs processus internes réalisent 12 % de tâches supplémentaires, sont 18 % plus susceptibles d'acquérir des clients payants et génèrent 1,9 fois plus de revenus que les entreprises non formées. Ces résultats posent des questions fondamentales sur la double nature des systèmes d'IA. Un modèle performant pour détecter des vulnérabilités dans du code à des fins défensives peut être retourné en outil d'attaque sans modification. C'est ce que les chercheurs de Lyptus désignent comme le problème de la machine universelle : chaque gain de capacité générale amplifie simultanément les risques dans des domaines sensibles, de la cybersécurité à la biologie en passant par la physique des hautes énergies. Concrètement, les meilleurs modèles actuels peuvent aujourd'hui automatiser l'équivalent d'une demi-journée de travail d'un expert en sécurité offensive. Sur le front économique, la même dynamique joue en faveur des entreprises qui s'approprient l'IA : les startups traitées dans l'expérience de l'INSEAD ont concentré leurs gains principalement sur le développement produit et la stratégie, avec une augmentation de 44 % des cas d'usage IA identifiés. Le rythme d'accélération documenté par Lyptus place les décideurs politiques dans une course contre la montre. Les modèles open-weight les plus récents, comme GLM-5, n'accusent qu'un retard de 5,7 mois sur la frontière des modèles propriétaires, ce qui signifie que des capacités offensives avancées se diffuseront rapidement hors de tout contrôle centralisé. La chronologie des modèles évalués, de GPT-2 en 2019 aux modèles de 2026 comme Opus 4.6 et Sonnet 4.6, illustre une trajectoire continue et sans rupture. Les enjeux dépassent la cybersécurité stricte : ils interrogent la gouvernance globale de l'IA, la réglementation des modèles open-source, et la capacité des États à anticiper des menaces dont la vitesse de développement dépasse celle des cadres législatifs existants.

💬 Les lois d'échelle appliquées à la cyberguerre, c'est le truc qu'on préférerait ne pas voir confirmé par une étude sérieuse. Un doublement des capacités offensives tous les 5,7 mois sur les derniers modèles, ça veut dire que les cadres réglementaires comme l'AI Act sont obsolètes avant même d'entrer en vigueur. Et le pire, c'est que les modèles open-weight suivent la frontière avec moins de 6 mois de retard, donc aucun contrôle centralisé ne tiendra.