Aller au contenu principal

Dossier Cybersécurité IA — page 6

307 articles · page 6 sur 7

L'IA dans la cybersécurité : Mythos, Trusted Access OpenAI, deepfakes industrialisés, fin des CAPTCHA et architectures zero-trust.

L'ordinateur IA de NVIDIA entre en service à la Naval Postgraduate School
251NVIDIA AI Blog InfrastructureActu

L'ordinateur IA de NVIDIA entre en service à la Naval Postgraduate School

Jensen Huang, fondateur et PDG de NVIDIA, s'est rendu au Naval Postgraduate School (NPS) de Monterey, en Californie, pour mettre officiellement en service un système NVIDIA DGX GB300, l'une des plateformes d'intelligence artificielle les plus puissantes au monde. L'événement s'est déroulé dans le cadre de Converge @ NPS, une manifestation de trois jours organisée par cette université supérieure de l'armée américaine. Le supercalculateur, équipé du logiciel NVIDIA Mission Control, donne accès à une puissance de calcul IA sur site aux plus de 1 500 étudiants en résidence et 600 membres du corps enseignant de l'établissement. Il s'appuie sur un centre technologique IA de NVIDIA déjà présent sur le campus de Monterey, désormais structuré autour de cette nouvelle machine. L'amiral Samuel Paparo, commandant du Pacific Command américain, a participé à la cérémonie aux côtés de Huang, soulignant que cette installation permettra d'entraîner des modèles de fondation directement sur place et de faire tourner des simulations à grande échelle. Cette machine vise des applications concrètes pour les forces armées et la recherche appliquée : prévision météorologique, cybersécurité, planification de la résilience et de la réponse aux catastrophes. Pour Huang, l'enjeu dépasse la simple performance technique. Il a insisté sur le fait que l'information et la capacité à l'interpréter rapidement sont devenues des ressources critiques pour les militaires sur le terrain, et que ces outils doivent avant tout servir la mission et les personnes qu'ils protègent. L'amiral Paparo a de son côté averti que dans des environnements de commandement de plus en plus pilotés par l'IA, l'avantage stratégique reviendra à des dirigeants capables d'utiliser ces technologies pour percevoir, comprendre et agir plus vite, tout en conservant un jugement humain que les machines ne peuvent remplacer. Cette inauguration s'inscrit dans une collaboration de longue date entre NVIDIA et NPS, une université qui forme des officiers en service actif et des partenaires internationaux dans des domaines allant des opérations spatiales aux sciences océaniques. NVIDIA a également étoffé son soutien via son Deep Learning Institute, en fournissant aux enseignants des outils pédagogiques pour intégrer l'IA dans les cursus de plusieurs départements. NPS organise régulièrement des hackathons qui ont déjà produit des avancées en autonomie, en recherche océanographique et en planification opérationnelle. Grâce à un partenariat avec l'organisation à but non lucratif MITRE, l'école a aussi développé, à partir des bibliothèques NVIDIA Omniverse, un cadre permettant de créer des jumeaux numériques à haute fidélité pour simuler des environnements réels, un chantier que le nouveau DGX GB300 doit désormais alimenter.

1 source
Google publie Gemini 3.6 Flash, 3.5 Flash-Lite et 3.5 Flash Cyber, un tier Flash moins cher et plus efficace en tokens pour les charges de travail à base d'agents
252MarkTechPost 

Google publie Gemini 3.6 Flash, 3.5 Flash-Lite et 3.5 Flash Cyber, un tier Flash moins cher et plus efficace en tokens pour les charges de travail à base d'agents

Google a annoncé le lancement de trois nouveaux modèles de la famille Gemini, tous positionnés dans le segment Flash, optimisé pour la vitesse, le coût et les charges de travail agentiques à grande échelle plutôt que pour le raisonnement maximal. Gemini 3.6 Flash devient le nouveau modèle par défaut, conçu pour le code, le travail de connaissance et les tâches multimodales. Son principal atout est l'efficacité : il consomme 17% de tokens de sortie en moins que 3.5 Flash sur l'index d'Artificial Analysis, et jusqu'à 65% de moins sur le benchmark DeepSWE de Datacurve. Son prix baisse en conséquence, à 1,50 dollar par million de tokens en entrée et 7,50 dollars par million en sortie, contre 9 dollars auparavant pour 3.5 Flash. Les scores progressent aussi : 49% contre 37% sur DeepSWE, 63,9% contre 49,7% sur MLE Bench, 83% contre 78,4% sur OSWorld-Verified. Gemini 3.5 Flash-Lite cible la faible latence et le haut débit, avec 350 tokens de sortie par seconde selon Artificial Analysis, pour 0,30 dollar par million de tokens en entrée et 2,50 dollars en sortie ; il dépasse largement son prédécesseur 3.1 Flash-Lite (54% contre 31% sur Terminal-Bench 2.1) et bat même l'ancien modèle 3 Flash sur certains tests. Enfin, Gemini 3.5 Flash Cyber, la version la plus spécialisée, est ajustée pour détecter, valider et corriger des vulnérabilités logicielles. Cette nouvelle génération vise avant tout les développeurs qui construisent des agents en production, où chaque appel de modèle et chaque token comptent directement dans le coût final. Une baisse de la verbosité combinée à un prix réduit du token de sortie diminue fortement le coût total d'une tâche agentique multi-étapes, ce qui change la donne pour des usages à haut volume comme la recherche documentaire ou le traitement de documents. Des clients comme Hebbia et Harvey rapportent déjà des gains concrets sur l'analyse de documents, de graphiques et de données, ainsi que la rédaction de rapports. L'usage d'ordinateur (computer use) est désormais un outil intégré côté client dans l'API Gemini et Gemini Enterprise, pour 3.6 Flash comme pour 3.5 Flash-Lite, qui propose en plus des niveaux de réflexion configurables (minimal, faible, supérieur) pour adapter le compromis coût/latence à chaque tâche. Gemini 3.5 Flash Cyber illustre une approche différente : plutôt qu'un unique appel à un modèle massif pour explorer l'immense espace de recherche des failles logicielles, Google fait tourner en parallèle plusieurs agents Flash Cyber, moins chers, au sein de son agent de sécurité CodeMender, jusqu'à cinq invocations fusionnées en un seul rapport. Sur le benchmark CyberGym, cette approche atteint des performances comparables à celles de modèles bien plus massifs. Dans l'évaluation interne Big Sleep de Google, Flash Cyber a nettement surpassé les modèles 3.5 Flash et 3.6 Flash classiques : sur le moteur JavaScript V8, il a détecté 55 problèmes confirmés uniques, contre 47 pour 3.5 Flash et 36 pour 3.6 Flash, à nombre d'invocations égal. Google accompagne ces lancements de garde-fous de sécurité renforcés, couvrant les risques chimiques, biologiques, radiologiques et nucléaires ainsi que les usages malveillants en cybersécurité.

LLMsActu
1 source
J'ai un pressentiment
253Ben's Bites 

J'ai un pressentiment

Thinking Machines, la startup fondée par l'ancienne directrice technique d'OpenAI Mira Murati, a lancé Inkling, son premier modèle en poids ouverts (open-weights). Le modèle dispose d'une fenêtre de contexte d'un million de tokens et fonctionne sur trois modalités : texte, image et audio. Il reste toutefois loin derrière les meilleurs modèles ouverts du marché, dont la plupart proviennent aujourd'hui de laboratoires chinois, à l'image de GLM-5.2, considéré comme l'un des modèles open source les plus performants actuellement, même s'il ne gère pas encore les images en entrée. Inkling est disponible sur Tinker, la plateforme de fine-tuning de Thinking Machines, permettant aux développeurs de créer des versions personnalisées adaptées à des cas d'usage spécifiques. Par ailleurs, OpenAI a révélé l'existence de GPT-Red, un modèle interne conçu pour attaquer ses propres modèles afin de détecter les instructions cachées capables de les détourner ; cet outil a servi à renforcer la sécurité de GPT-5.6 Sol lors de son entraînement. Google a aussi mis à jour Gemini Spark, son concurrent d'OpenClaw, qui peut désormais éditer des documents Google Docs, lire les commentaires dans Sheets et Slides, et traiter plusieurs sources en parallèle, le tout 50% plus rapidement qu'auparavant. Ces annonces illustrent une bataille de plus en plus intense autour des modèles ouverts, un segment où de nombreuses startups délaissent progressivement les modèles propriétaires les plus puissants au profit de versions auto-hébergées ou affinées de modèles comme GLM-5.2, pour des raisons de coûts et de contrôle. Le fait qu'Inkling arrive loin derrière l'offre chinoise souligne à quel point les laboratoires occidentaux peinent à rivaliser sur ce terrain précis. Du côté de la sécurité, l'existence de GPT-Red témoigne d'une prise de conscience croissante des risques de manipulation par instructions cachées, un sujet d'autant plus sensible qu'un incident récent a montré qu'un prompt dissimulé avait réussi à faire fuiter par Claude des noms, employeurs et réponses à des questions de sécurité issus de sa mémoire. Ce climat de vigilance accrue rejoint les propos tenus par Demis Hassabis, directeur général de DeepMind, qui estime que l'intelligence artificielle générale (AGI) est probablement encore à quelques années. Il appelle à la création d'un organisme de normalisation dirigé par les États-Unis pour tester les modèles les plus avancés avant leur déploiement commercial, avec un partage volontaire des modèles jusqu'à 30 jours avant leur sortie pour évaluer les risques liés à la cybersécurité, aux menaces biologiques et aux comportements trompeurs. Cette proposition, pour l'instant sur une base volontaire mais avec la possibilité d'une approbation de déploiement obligatoire à terme, s'inscrit dans un contexte où même les outils grand public suscitent la controverse : xAI a dû rendre open source son assistant de code Grok Build après que des utilisateurs ont découvert que l'outil envoyait leur code vers ses serveurs par défaut.

💬 Le vrai signal, c'est pas Inkling, c'est son classement : il arrive loin derrière GLM-5.2, un modèle chinois. Une startup fondée par l'ex-CTO d'OpenAI qui sort son premier modèle ouvert et se fait doubler comme ça, ça en dit long sur qui mène vraiment la course à l'open source aujourd'hui. Le million de tokens de contexte et les trois modalités, c'est solide sur le papier, mais la hiérarchie du open-weights s'écrit clairement à Pékin, pas à San Francisco.

LLMsActu
1 source
OpenAI dévoile GPT‑Red, la redoutable IA qui pirate ChatGPT, mais c’est pour son bien
25401net 

OpenAI dévoile GPT‑Red, la redoutable IA qui pirate ChatGPT, mais c’est pour son bien

OpenAI a officiellement présenté GPT‑Red, un modèle d'intelligence artificielle spécifiquement conçu pour détecter les failles de sécurité dans ses propres systèmes. Cet outil simule des cyberattaques réelles contre les infrastructures qui font fonctionner ChatGPT, avec un objectif précis : repérer les vulnérabilités avant que des acteurs malveillants ne puissent les exploiter. Parmi les menaces ciblées en priorité figurent les injections de requêtes, une technique qui consiste à manipuler les instructions données à un modèle de langage pour lui faire produire des réponses non prévues ou contourner ses garde-fous. Contrairement à d'autres annonces d'OpenAI, GPT‑Red reste un outil interne : la start-up dirigée par Sam Altman a choisi de ne pas le rendre public, le gardant strictement réservé à ses équipes de sécurité. Cette initiative répond à un enjeu central pour l'ensemble de l'industrie de l'IA générative : plus les modèles comme ChatGPT gagnent en puissance et en autonomie, plus les surfaces d'attaque potentielles s'élargissent, qu'il s'agisse de manipulation de prompts, d'extraction de données sensibles ou de détournement de fonctionnalités. En automatisant la recherche de vulnérabilités via une IA offensive, OpenAI espère identifier ces failles plus rapidement et à plus grande échelle que ne le permettraient des équipes humaines seules, réduisant ainsi la fenêtre d'exposition avant qu'un problème ne soit exploité en conditions réelles par des attaquants. Cette démarche s'inscrit dans une tendance plus large du secteur, où la cybersécurité offensive appliquée à l'IA devient un axe stratégique face à la multiplication des incidents liés aux modèles de langage. Google, Anthropic et Microsoft investissent également dans des équipes de red teaming dédiées à leurs propres systèmes. La décision d'OpenAI de garder GPT‑Red confidentiel illustre une tension récurrente dans l'industrie : un outil capable de percer les défenses d'une IA représente à la fois un atout défensif précieux et un risque s'il tombait entre de mauvaises mains, ce qui pourrait orienter les futurs choix de gouvernance autour de ces technologies.

SécuritéActu
1 source
L'idée de standards IA de Hassabis reçoit un soutien : et maintenant ?
255The Information AI 

L'idée de standards IA de Hassabis reçoit un soutien : et maintenant ?

Demis Hassabis, cofondateur et directeur général de Google DeepMind, a proposé la création d'un nouvel organisme de normalisation pour l'intelligence artificielle, financé par l'industrie mais travaillant en coordination avec les pouvoirs publics. Cette structure aurait pour mission d'évaluer les modèles d'IA de pointe afin de s'assurer qu'ils ne représentent pas de danger, notamment en matière de cybersécurité et de menaces biologiques, ainsi que dans d'autres domaines à risque. L'initiative a rapidement reçu le soutien de plusieurs poids lourds du secteur, y compris des concurrents directs de DeepMind : Sam Altman, patron d'OpenAI, Satya Nadella, PDG de Microsoft, Jack Dorsey, cofondateur de Block, ainsi que les investisseurs Ashton Kutcher et Chamath Palihapitiya. Les réactions ont été unanimement positives mais restent pour l'instant purement déclaratives. Nadella a qualifié la proposition d'"importante", Palihapitiya l'a jugée "bien pensée", tandis que Kutcher s'est contenté d'un simple "d'accord". Ce consensus de façade illustre un enjeu central pour l'industrie de l'IA : la nécessité d'un cadre de sécurité crédible et partagé, à un moment où les modèles gagnent rapidement en puissance et où les régulateurs peinent à suivre le rythme des avancées techniques. Reste que ces éloges ne suffisent pas à transformer une idée en institution opérationnelle. Aucun calendrier, aucune structure de gouvernance ni aucun mécanisme de financement concret n'a encore été précisé. La proposition s'inscrit dans un débat plus large sur l'autorégulation de l'IA, où les grandes entreprises cherchent à devancer une réglementation gouvernementale plus contraignante, tout en évitant de ralentir la course à l'innovation qui les oppose les unes aux autres.

💬 Bon, Hassabis sort une idée qu'on attendait depuis un moment : un organisme de norm indépendant, financé par l'industrie mais pas juste un truc de com. Le fait qu'Altman et Nadella applaudissent en même temps que Hassabis, ça veut dire une chose : personne ne veut être le premier accusé de bloquer une régulation crédible. Reste que "d'accord" de Kutcher, ça n'a jamais construit une institution. Selon Le Fil IA, ce genre de consensus verbal entre concurrents directs sert surtout à devancer les régulateurs avant qu'ils ne s'en mêlent pour de vrai.

RégulationReglementation
1 source
Nemotron 3 : affinement des modèles NVIDIA avec la personnalisation serverless d'Amazon SageMaker AI
256AWS ML Blog 

Nemotron 3 : affinement des modèles NVIDIA avec la personnalisation serverless d'Amazon SageMaker AI

Amazon vient d'annoncer l'intégration de la personnalisation de modèles serverless pour les modèles NVIDIA Nemotron 3 au sein d'Amazon SageMaker AI. Deux versions sont concernées: Nemotron 3 Nano, qui compte 30 milliards de paramètres au total dont 3 milliards actifs, et Nemotron 3 Super, plus imposant avec 120 milliards de paramètres au total dont 12 milliards actifs. Les entreprises peuvent désormais affiner ces modèles open-weight via trois techniques disponibles sans avoir à provisionner ni gérer la moindre infrastructure: le fine-tuning supervisé classique (SFT), l'apprentissage par renforcement avec récompenses vérifiables (RLVR), et l'apprentissage par renforcement avec retour d'IA (RLAIF). Nemotron 3 repose sur une architecture hybride combinant Mamba et Transformer sous forme de mélange d'experts (MoE), capable de gérer des contextes allant jusqu'à un million de tokens. Elle entrelace trois types de couches complémentaires: des couches Mamba-2 pour un traitement séquentiel rapide en temps linéaire, des couches d'attention Transformer pour un rappel associatif précis, et des couches de mélange d'experts latent qui compressent les tokens avant de les router vers des experts spécialisés. Résultat, seule une fraction des paramètres totaux est activée à chaque passage, comme les 12 milliards sur 120 pour la version Super, ce qui garantit un débit élevé à moindre coût de calcul. Pour les entreprises, affiner un modèle sur leurs propres données ne relève plus seulement de l'optimisation technique: cela revient à créer une propriété intellectuelle propriétaire, encodant leur savoir-faire, leur vocabulaire métier et leur ton de marque directement dans l'architecture du modèle. Cette approche permet souvent à des modèles plus petits et ouverts d'égaler, voire de dépasser, les performances de modèles propriétaires bien plus volumineux, tout en gardant les données sensibles dans une infrastructure privée et sécurisée. Pour les charges de travail à fort volume impliquant plusieurs agents, comme le codage ou le triage de cybersécurité, ce type d'avantage devient un facteur de compétitivité difficile à répliquer avec des modèles génériques du marché. Les deux modèles ont été entraînés via NeMo Gym, un système d'apprentissage par renforcement multi-environnements qui les aligne sur des tâches agentiques réelles en plusieurs étapes, couvrant le codage, le raisonnement et l'analyse de contextes longs. Nemotron 3 Nano affiche un débit quatre fois supérieur à son prédécesseur Nemotron 2 Nano, le rendant particulièrement adapté aux charges de travail multi-agents à fort volume où coût et latence sont critiques. Nemotron 3 Super, de son côté, cible les applications multi-agents complexes comme le développement logiciel, misant sur une capacité de raisonnement accrue tout en conservant une efficacité de calcul élevée.

UELes entreprises europeennes utilisant Amazon SageMaker AI pourront acceder a cette nouvelle capacite de personnalisation serverless, sans impact reglementaire ou sectoriel direct sur la France ou l'UE.

💬 Nemotron 3 Super fait tourner 12 milliards de paramètres actifs sur 120 et bat des modèles bien plus gros, c'est la confirmation qu'on n'a plus besoin de mastodontes pour du raisonnement agentique sérieux. Ce qui change vraiment, c'est le fine-tuning serverless : plus de cluster GPU à gérer, tu balances tes données et Amazon fait le reste. Reste que la vraie valeur, ce n'est plus le modèle en lui-même, c'est ce que t'y injectes, ton vocabulaire métier, ton ton de marque, tes données propriétaires. Pour du codage ou du triage cyber à gros volume, ça devient un avantage concurrentiel qu'un modèle générique ne rattrapera pas.

OutilsActu
1 source
GPT-5.6 est maintenant accessible au grand public : voici les nouveautés
257Le Big Data 

GPT-5.6 est maintenant accessible au grand public : voici les nouveautés

GPT-5.6 est officiellement sorti de sa phase de test réservée et s'ouvre désormais au grand public. Le déploiement a commencé le 9 juillet 2026 et OpenAI prévoit une disponibilité mondiale complète sous 24 heures. Les abonnés ChatGPT Plus, Pro, Business et Enterprise peuvent d'ores et déjà sélectionner GPT-5.6 Sol depuis le sélecteur de modèles de l'application, tandis que les développeurs y accèdent via l'API OpenAI et via Codex. Cette nouvelle génération se compose en réalité de trois modèles distincts, Sol, Terra et Luna, chacun ciblant des besoins et des budgets différents. Les utilisateurs de la version gratuite de ChatGPT devront patienter, OpenAI n'ayant communiqué aucune date pour une éventuelle extension à cette offre. Après plusieurs semaines passées en accès limité à un cercle de testeurs, ce lancement marque donc la fin d'une phase de rodage pour s'adresser à des dizaines de millions d'utilisateurs supplémentaires. Ce déploiement compte pour l'industrie parce qu'OpenAI présente GPT-5.6 Sol comme son modèle le plus abouti à ce jour, avec des progrès mesurés en programmation, en recherche documentaire, en cybersécurité et sur les tâches scientifiques. La véritable rupture technique tient toutefois à sa capacité à faire travailler plusieurs agents en parallèle sur une même tâche complexe, plutôt que d'exécuter chaque étape de façon séquentielle, ce qui doit réduire les temps de réponse sur les traitements les plus lourds. Le modèle gagne aussi en autonomie dans l'usage d'outils externes, pouvant écrire de petits programmes, traiter des résultats intermédiaires et ajuster sa méthode en cours d'exécution. Selon les benchmarks internes d'OpenAI, GPT-5.6 Sol surpasse GPT-5.5 tout en consommant moins de ressources de calcul, un argument central pour les entreprises qui surveillent leurs coûts d'inférence à grande échelle. Terra et Luna doivent offrir des alternatives plus économiques pour des usages moins exigeants. OpenAI insiste également sur le volet sécurité, affirmant avoir soumis GPT-5.6 à des tests d'intrusion, des évaluations automatisées et une collaboration avec des partenaires spécialisés avant ce lancement mondial, dans le but de limiter les usages malveillants du modèle. Cette communication s'inscrit dans un contexte de concurrence intense entre grands laboratoires d'IA, où chaque nouvelle génération doit démontrer à la fois des gains de performance et une meilleure maîtrise des risques. Les chiffres avancés restent toutefois issus des propres tests d'OpenAI, et l'expérience des précédentes générations montre que les usages réels des professionnels et des développeurs, sur plusieurs semaines, seront le véritable test de la fiabilité et de l'intérêt de GPT-5.6.

LLMsActu
1 source
Enseigner aux modèles à oublier : le désapprentissage sélectif avec Amazon Nova
258AWS ML Blog 

Enseigner aux modèles à oublier : le désapprentissage sélectif avec Amazon Nova

Les équipes de développement Amazon Nova viennent de détailler une nouvelle méthode baptisée rDPO (Reverse Direct Preference Optimization), conçue pour résoudre un problème récurrent chez les entreprises qui déploient des modèles de fondation : les garde-fous de modération de contenu bloquent souvent des usages professionnels légitimes. Une société de médias qui résume des scénarios contenant un langage cru, une entreprise de cybersécurité qui simule des attaques réelles, ou un cabinet juridique qui traite des preuves sensibles se heurtent régulièrement à des refus du modèle, même lorsque leur intention est parfaitement défensive. L'exemple typique cité par Amazon est celui d'une équipe de sécurité demandant à un modèle de générer un email de phishing factice pour former ses employés, et se voyant opposer un refus malgré le caractère pédagogique de la demande. Amazon a donc lancé les Customizable Content Moderation Settings (CCMS) pour Nova, un système permettant à des clients approuvés d'ajuster sélectivement les réglages de sécurité sur quatre piliers : la sécurité physique (armes, activités dangereuses, substances contrôlées), le contenu sensible (grossièretés, nudité, harcèlement), l'équité (biais et considérations culturelles) et la sécurité informatique (malwares et contenus malveillants). Certains contrôles fondamentaux, comme la protection des enfants et de la vie privée, restent quant à eux non configurables. Cette avancée compte parce qu'elle change la donne pour les entreprises qui utilisent des modèles d'IA générative dans des contextes professionnels spécialisés où le blocage systématique de certains contenus devient un obstacle plutôt qu'une protection. Jusqu'ici, ces refus intégrés au niveau des paramètres du modèle pendant l'alignement post-entraînement ne pouvaient pas être contournés par du simple prompt engineering, obligeant les entreprises à composer avec des limitations rigides ou à entraîner leurs propres modèles depuis zéro, une option coûteuse et complexe. Avec rDPO, Amazon propose une alternative plus fine : plutôt que de désactiver un garde-fou dans son ensemble, la technique permet de retirer chirurgicalement un comportement d'évitement appris sur une politique précise, tout en conservant l'alignement du modèle sur toutes les autres politiques et en préservant ses capacités générales comme le raisonnement, le code ou les mathématiques. Sur le plan technique, la solution s'appuie sur des adaptateurs LoRA (Low-Rank Adaptation) entraînés spécifiquement pour désapprendre certaines politiques de responsabilité (RAI) du modèle central, chaque client recevant un adaptateur identifié par un ARN (Amazon Resource Name) unique. Le défi scientifique consistait à désapprendre efficacement un comportement de refus sans dégrader la qualité générale du modèle, un piège classique du fine-tuning direct. Une approche existante, la Negative Preference Optimization (NPO), dérivée de la Direct Preference Optimization (DPO), permettait déjà de faire oublier un comportement en retirant les échantillons positifs de l'objectif d'optimisation, mais sans guider le modèle vers une réponse alternative de bonne qualité, ce qui pouvait dégrader les résultats. rDPO résout ce manque en inversant la paire de préférences dans l'objectif DPO, poussant le modèle non seulement à cesser de refuser, mais aussi à produire une réponse de substitution pertinente. Cette approche s'inscrit dans un mouvement plus large de recherche sur le désapprentissage sélectif des modèles de langage, un domaine appelé à prendre de l'importance à mesure que les entreprises réclament un contrôle plus granulaire sur l'alignement de leurs IA en production.

💬 Enfin quelqu'un qui traite le sujet correctement au lieu de mettre tout le monde dans le même panier. Le vrai problème depuis toujours c'est que les garde-fous sont binaires alors que les usages pros ne le sont pas, et une boîte de cybersécurité qui veut simuler un phishing n'a rien à voir avec un usage malveillant. rDPO ne supprime pas la sécurité, il la rend sélective par client via des adaptateurs LoRA identifiés, ce qui revient à dire que la modération devient un paramètre de contrat plutôt qu'une propriété figée du modèle. Reste à voir combien de temps avant qu'un adaptateur mal configuré fasse sauter la mauvaise politique chez le mauvais client.

SécuritéActu
1 source
Haleon signe un partenariat de cinq ans avec Microsoft pour accélérer sa transformation par l’IA
259Le Big Data 

Haleon signe un partenariat de cinq ans avec Microsoft pour accélérer sa transformation par l’IA

Haleon, le groupe de santé grand public propriétaire de marques comme Sensodyne, Voltaren et Centrum, a annoncé le 1er juillet 2026 la signature d'un partenariat stratégique de cinq ans avec Microsoft pour accélérer sa transformation numérique par l'intelligence artificielle. L'entreprise utilisait déjà Microsoft 365 Copilot, mais cet accord va nettement plus loin en faisant d'Azure la plateforme cloud de référence de Haleon et en plaçant l'écosystème IA de Microsoft au cœur de sa stratégie numérique. Le partenariat couvre plusieurs fonctions de l'entreprise : automatisation de tâches administratives, accélération de la recherche scientifique, personnalisation des contenus marketing, amélioration des prévisions commerciales et optimisation de la chaîne d'approvisionnement. Haleon prévoit aussi de s'appuyer sur les capacités d'IA dites agentiques de Microsoft, capables d'assister les équipes dans des processus complexes tout en restant gouvernées par les outils d'identité, de cybersécurité et de gouvernance des données du groupe américain. L'accord inclut par ailleurs le développement conjoint de nouveaux cas d'usage entre les deux entreprises. Cette annonce illustre un changement de statut de l'intelligence artificielle au sein des grandes entreprises internationales. Après une phase dominée par les expérimentations ponctuelles, les groupes privilégient désormais des engagements pluriannuels avec un fournisseur cloud unique plutôt que la multiplication de projets pilotes dispersés entre plusieurs plateformes. Pour Haleon, l'enjeu dépasse la simple productivité des équipes : il s'agit de bâtir une infrastructure de données capable de soutenir durablement l'innovation, la prise de décision et le développement de nouveaux produits, tout en répondant plus rapidement à l'évolution des attentes des consommateurs et à la demande mondiale. Cette approche répond aussi à une préoccupation croissante des entreprises qui déploient des assistants IA sur des données sensibles : la sécurité et la gouvernance deviennent aussi déterminantes que la performance des modèles eux-mêmes. Ce type de contrat à long terme s'impose progressivement comme un nouveau standard sur le marché de l'IA d'entreprise, permettant aux multinationales de moderniser leur infrastructure par étapes tout en limitant le nombre de fournisseurs technologiques à gérer. Pour Microsoft, l'accord avec Haleon consolide sa stratégie de différenciation face à ses concurrents cloud : plutôt que de se positionner comme simple fournisseur de logiciels ou de puissance de calcul, l'entreprise américaine se présente comme partenaire stratégique de transformation, en combinant dans une même offre le cloud, l'intelligence artificielle, la cybersécurité et la gouvernance des données. Ce partenariat s'inscrit dans une série d'accords similaires signés par Microsoft avec de grands groupes internationaux ces derniers mois, confirmant la bataille que se livrent les géants du cloud pour devenir l'infrastructure de référence de la transformation IA des entreprises, dans des secteurs aussi sensibles que la santé grand public.

UEHaleon commercialise en France des marques comme Sensodyne, Voltaren et Centrum, donc cet accord pourrait influencer indirectement la gestion des donnees et l'innovation produit sur le marche francais, sans impliquer d'entite ou de reglementation europeenne directement.

BusinessActu
1 source
Anthropic relance Claude Fable 5 avec des garde-fous de sécurité renforcés
260Latent Space 

Anthropic relance Claude Fable 5 avec des garde-fous de sécurité renforcés

Anthropic a relancé Claude Fable 5 le 1er juillet 2026, après une journée d'indisponibilité qui avait provoqué une forte demande contenue chez les utilisateurs. L'entreprise a précisé que certaines requêtes, notamment liées à la cybersécurité, pourraient désormais être redirigées vers Opus 4.8 en raison de nouveaux garde-fous, et que les classificateurs de sécurité biologie/chimie restent pour l'instant trop larges dans leur détection. Les limites de débit (rate limits) ont été réinitialisées pour tous les utilisateurs une fois le modèle de nouveau disponible. L'écosystème d'outils a immédiatement intégré ce retour : Cursor indique que Fable 5 domine ses évaluations internes mais reste le modèle le plus coûteux par tâche, Devin l'a déployé sur ses versions Cloud, Desktop et CLI, et Perplexity l'a rétabli comme modèle d'orchestration. Sur le plan des benchmarks, Fable 5 obtient 16,10% sur le Remote Labor Index selon les données relayées par kimmonismus, tandis qu'Artificial Analysis situe Sonnet 5 en deuxième position sur AA-Briefcase, avec toutefois davantage de tours d'échange et un rapport coût-performance moins favorable aux niveaux d'effort les plus bas. Le fait marquant n'est pas tant le retour du modèle que la manière dont les développeurs s'adaptent aux contraintes des modèles de pointe. Plusieurs d'entre eux, dont l'utilisateur Theo, décrivent désormais une architecture multi-modèles plutôt qu'une dépendance à un seul système : Fable 5 est réservé au raisonnement et à la planification de haut niveau, tandis que l'implémentation, la vérification et les tâches d'usage d'ordinateur sont déléguées à d'autres modèles, ce qui améliorerait sensiblement le taux de succès des pull requests de bout en bout. Omar Sar et Mikhail Parakhin partagent une analyse proche : plutôt que de construire un pré-classificateur de tâches simples pour router les requêtes, mieux vaut concevoir directement des stratégies combinant plusieurs modèles, car un routage fiable exige souvent d'avoir déjà résolu la tâche elle-même. Cette évolution reflète une maturation du marché des agents de code, où la robustesse prime désormais sur la dépendance à un fournisseur unique. En parallèle, le laboratoire chinois Z.ai a lancé ZCode, un environnement de développement officiel dédié à son modèle ouvert GLM-5.2, avec prise en charge du BYOK (bring your own key), disponibilité multiplateforme et un quota de requêtes renforcé pour les abonnés à son offre de codage. LangChain a publié des guides d'intégration de GLM-5.2 dans des flux de code, et son fondateur Harrison Chase note que des développeurs en font déjà leur modèle quotidien. Sur le benchmark APEX-SWE, GLM-5.2 devient le premier modèle ouvert à dominer une catégorie, avec 55,3% de réussite au premier essai sur les tâches d'intégration, Kimi K2.7 le suivant de près ; des voix comme scaling01 tempèrent néanmoins l'idée que les modèles ouverts auraient dépassé les modèles occidentaux, tout en reconnaissant un écart de performance en code qui se réduit rapidement. Côté infrastructure, vLLM a intégré le décodage spéculatif DSpark pour les modèles DeepSeek, atteignant environ 250 tokens par seconde sur huit GPU B300, et des accélérations comparables ont été rapportées pour GLM-5.2 et Qwen3-32B, signe que la course à l'inférence rapide s'intensifie autant que celle des capacités.

💬 Le retour de Fable 5, je m'en fiche un peu, ce qui compte c'est ce que la panne a révélé : plus personne de sérieux ne mise tout sur un seul modèle. Fable 5 pour réfléchir, un autre pour coder, un troisième pour vérifier, c'est déjà la norme chez les devs qui livrent en prod, et ça fait grimper le taux de succès des pull requests. Le fantasme du routage automatique intelligent, lui, en prend un coup : comme le dit Omar Sar, pour router une tâche il faut déjà l'avoir résolue soi-même.

LLMsActu
1 source
Employés du support client codent leurs propres tickets
261The Information AI 

Employés du support client codent leurs propres tickets

Les développeurs commencent à combiner les deux usages les plus aboutis des grands modèles de langage : la génération de code et le support client. L'idée consiste à automatiser la transformation des tickets de support, plaintes de bugs ou demandes de fonctionnalités, en code directement exploitable. Chez Semgrep, startup américaine de cybersécurité spécialisée dans l'analyse de code, le fondateur et PDG Isaac Evans a mis en place un système qui redirige les tickets de support vers le modèle Claude d'Anthropic. Claude corrige le bug ou développe la fonctionnalité demandée dans une version isolée et cloisonnée de l'application Semgrep, un environnement bac à sable qui protège le produit en production. Un ingénieur humain teste ensuite les modifications avant que l'équipe ne les fusionne dans l'application réelle, celle que les développeurs utilisent pour scanner leur code à la recherche de failles et de vulnérabilités. Pour l'instant, Semgrep applique cette méthode à une poignée de tickets par mois, mais Evans s'attend à une croissance rapide de ce volume. Cette évolution marque un changement important dans la manière dont les entreprises technologiques traitent la maintenance logicielle. Le processus traditionnel, long et fastidieux, impliquait de faire remonter chaque ticket jusqu'à l'ingénieur compétent, puis d'attendre qu'il code et teste manuellement une correction. En confiant cette tâche à une IA, les équipes de développement réduisent considérablement les délais de traitement tout en libérant du temps pour des tâches à plus forte valeur ajoutée. Pour les clients, cela signifie des corrections de bugs et des nouvelles fonctionnalités livrées plus rapidement, sans passer par les lenteurs habituelles des files d'attente de support technique. Cette approche s'inscrit dans une tendance plus large de l'industrie du logiciel, où les modèles de langage passent du statut d'assistants de codage ponctuels à celui d'acteurs autonomes dans des flux de travail complets, de bout en bout. La supervision humaine reste présente, avec des tests avant fusion, mais le rôle des ingénieurs évolue vers la validation plutôt que l'écriture directe du code. Reste à savoir si cette automatisation tiendra à mesure que le volume de tickets traités par l'IA augmentera, et si la qualité du code généré restera fiable sans une supervision humaine plus poussée.

OutilsOutil
1 source
La Banque d'Angleterre revoit ses règles sur l'IA autonome dans la finance
262AI News 

La Banque d'Angleterre revoit ses règles sur l'IA autonome dans la finance

Voici l'article traduit et résumé : La Banque d'Angleterre examine si son cadre réglementaire actuel peut encadrer l'usage de l'intelligence artificielle agentique dans la finance, notamment dans les paiements, le trading, la cybersécurité et les opérations internes. La vice-gouverneure Sarah Breeden, s'exprimant lors du Forum de la Banque centrale européenne au Portugal, a indiqué que les réglementations existantes n'ont pas été conçues pour des agents IA capables d'agir sans instruction humaine directe. Selon elle, exiger une supervision humaine sur chaque action de ces systèmes n'est pas réaliste en pratique. Ces agents diffèrent des outils de trading automatisés traditionnels car ils peuvent poursuivre des objectifs et prendre des décisions de façon quasi autonome. Un rapport 2026 du Cambridge Centre for Alternative Finance révèle que 81% des entreprises de services financiers interrogées adoptent l'IA à un certain niveau, et 52% des répondants du secteur intègrent déjà activement l'IA agentique, principalement pour l'automatisation des processus, la visualisation de données, l'ingénierie logicielle et la gestion des connaissances. L'usage dans le trading reste pour l'instant concentré sur des tâches opérationnelles à faible risque. Ce virage réglementaire compte car l'IA agentique change fondamentalement la nature du risque financier. Breeden a qualifié la cyber-résilience de préoccupation prioritaire pour la stabilité financière, évoquant un "changement d'échelle" dans les capacités cyber liées à l'IA : ces systèmes peuvent enchaîner des séquences d'actions à grande échelle et grande vitesse, ce qui renforce autant les défenses des équipes de sécurité que les capacités d'attaque des acteurs malveillants. Elle a souligné que les modèles open source ne sont retardés que de quatre à huit mois par rapport aux modèles fermés les plus avancés, limitant l'efficacité des restrictions de diffusion. Le FMI partage cette inquiétude : les attaques permises par l'IA peuvent se propager rapidement à travers des infrastructures numériques partagées, provoquant des perturbations simultanées chez plusieurs institutions à la fois, un scénario que les superviseurs doivent désormais anticiper plutôt que traiter au cas par cas. Cette réflexion s'inscrit dans un contexte où les autorités cherchent à adapter leurs outils de supervision face à une adoption rapide et déjà généralisée de l'IA agentique. La Banque d'Angleterre envisage un renforcement des exigences de reprise d'activité pour les systèmes centraux, avec plusieurs pistes à l'étude : permettre à une banque de reprendre les fonctions essentielles d'une autre en cas de défaillance, mettre en place des dispositifs assurant la continuité des services critiques si les systèmes centraux d'une entreprise sont compromis, ou encore doter les acteurs clés de systèmes de secours séparés capables de reconstruire rapidement une infrastructure compromise. Tobias Adrian, conseiller financier et directeur du département des marchés de capitaux du FMI, a également averti des risques sérieux que pose l'IA pour la cyber-résilience, selon Central Banking. Ces échanges illustrent une prise de conscience croissante parmi les régulateurs financiers : la question n'est plus de savoir si l'IA agentique doit être encadrée, mais comment le faire sans entraver son adoption déjà bien engagée dans le secteur.

UELes régulateurs européens suivent de près ce débat britannique sur l'encadrement de l'IA agentique dans la finance, qui pourrait influencer les futures orientations de supervision au sein de l'UE.

RégulationReglementation
1 source
Sécuriser le déploiement des modèles de pointe auprès des clients
263AWS ML Blog 

Sécuriser le déploiement des modèles de pointe auprès des clients

Voici la traduction/résumé en français : Amazon Web Services (AWS) a annoncé que les modèles Claude Fable 5 d'Anthropic redeviennent disponibles dès demain pour les clients de Bedrock, sa plateforme d'intelligence artificielle, avec des garde-fous renforcés contre les usages malveillants. Cette annonce s'inscrit dans la continuité de Bedrock Mantle, lancé l'an dernier pour offrir une protection renforcée des poids des modèles et de la confidentialité des données. AWS travaille également en étroite collaboration avec Anthropic et d'autres acteurs du secteur dans le cadre du Projet Glasswing, une initiative visant à encadrer le déploiement de modèles de nouvelle génération comme Claude Mythos, dont les capacités en cybersécurité sont particulièrement avancées. L'équipe de sécurité offensive d'AWS (Red Team) a directement contribué, aux côtés d'Anthropic, à améliorer les protections de Fable 5. Lorsque ses garde-fous se déclenchent, le modèle bascule automatiquement vers Opus 4.8, déjà accessible publiquement. Cette annonce illustre un dilemme central pour l'industrie de l'IA : comment mettre des capacités avancées de cybersécurité entre les mains des équipes de défense sans donner simultanément aux attaquants les moyens de mener des recherches de vulnérabilités plus poussées. AWS souligne que l'objectif prioritaire des garde-fous est justement d'empêcher les acteurs malveillants d'accéder à ce niveau de recherche offensive, tout en laissant aux entreprises, gouvernements et institutions académiques le temps de renforcer leurs défenses avant que ces capacités ne soient exploitées à grande échelle. Pour les clients de Bedrock, cela signifie un accès plus rapide aux modèles les plus récents, avec les standards de sécurité et de confidentialité attendus d'AWS, sans avoir à choisir entre performance et prudence. Cette collaboration s'inscrit dans un contexte plus large où les modèles frontières gagnent rapidement en puissance, notamment sur des tâches sensibles comme l'analyse de vulnérabilités logicielles. Anthropic a publié de son côté un billet de blog intitulé "Redeploying Fable 5", détaillant sa manière d'évaluer les capacités de cette nouvelle génération de modèles ainsi que ses engagements et délais de réponse en cas de signalement de problèmes après déploiement. AWS salue cette transparence et annonce vouloir continuer à faire évoluer les garde-fous au fur et à mesure que de nouveaux modèles sortent et que les enseignements s'accumulent sur l'efficacité des protections actuelles. Les deux entreprises présentent cette coopération comme une première tentative structurée de définir des niveaux de gravité et des protocoles de réponse spécifiques aux modèles capables d'assister en cybersécurité, un cadre appelé à s'affiner avec le reste du secteur.

💬 Le détail qui compte, c'est le fallback automatique : si Fable 5 dérape, il bascule tout seul vers Opus 4.8. Sur le papier ça règle le dilemme de la cybersécu offensive, mais Glasswing c'est surtout l'aveu que les modèles progressent plus vite que les garde-fous qu'on sait construire autour. Reste à voir si ça tient face à un vrai attaquant motivé, pas juste face à un red team maison.

SécuritéActu
1 source
Claude Sonnet 5 d'Anthropic réduit l'écart avec la gamme Opus, plus chère
264The Decoder 

Claude Sonnet 5 d'Anthropic réduit l'écart avec la gamme Opus, plus chère

Voici la traduction/résumé en français (3 paragraphes, sans titres) : Anthropic a dévoilé Claude Sonnet 5, la dernière évolution de sa gamme de modèles de langage. Selon l'entreprise, ce nouveau modèle surpasse son prédécesseur, Sonnet 4.6, sur l'ensemble des benchmarks utilisés pour l'évaluer. Fait notable, Sonnet 5 devance même Opus 4.8, le modèle haut de gamme et plus coûteux de la même famille, sur le test GDPval-AA v2, qui évalue les compétences en travail de connaissance : il y obtient un score de 1 618 points. Anthropic précise également que Sonnet 5 affiche des résultats nettement inférieurs, sur les tâches liées à la cybersécurité, à ceux des modèles que le gouvernement américain a actuellement interdits pour ce type d'usage. Cette annonce a une portée qui dépasse la simple mise à jour technique. En rattrapant, voire en dépassant sur certains critères, un modèle plus onéreux, Sonnet 5 permet aux entreprises et développeurs d'obtenir des performances de premier plan à moindre coût, ce qui pourrait redistribuer les usages entre les différentes gammes de modèles d'Anthropic. La mention explicite des scores en cybersécurité n'est pas anodine : elle intervient alors que les autorités américaines examinent de près les capacités offensives de l'intelligence artificielle et envisagent de restreindre l'accès à certains modèles jugés trop performants dans ce domaine. Ce positionnement s'inscrit dans un contexte plus large de compétition entre laboratoires d'IA, où chaque nouvelle génération de modèle cherche à combiner puissance et maîtrise des risques. En insistant sur le fait que Sonnet 5 reste loin des seuils jugés problématiques par Washington, Anthropic cherche à démontrer sa capacité à proposer des modèles à la fois performants et conformes aux exigences réglementaires émergentes, dans un débat toujours en cours sur l'encadrement des IA les plus avancées.

LLMsActu
1 source
GPT-5.6 est disponible, mais
265Ben's Bites 

GPT-5.6 est disponible, mais

Etched, une startup spécialisée dans les puces d'inférence pour l'IA, sort officiellement de sa phase de développement confidentielle avec des chiffres qui frappent : 800 millions de dollars levés, plus d'un milliard de dollars de commandes en carnet, et une première puce fonctionnelle dès la révision A0 sur le procédé TSMC 4nm. Fondée en 2023 par Gavin Uberti, un ancien étudiant de Harvard âgé de 21 ans, l'entreprise compte aujourd'hui plus de 400 employés recrutés chez Nvidia, Google TPU, Broadcom, SK Hynix et TSMC. Ses investisseurs comprennent Peter Thiel, Jane Street, Two Sigma, Jump Trading et VentureTech Alliance, ce dernier entretenant un partenariat étroit avec TSMC. Pendant ce temps, OpenAI a discrètement lancé GPT-5.6, une nouvelle famille de modèles déclinée en trois versions baptisées Sol, Terra et Luna. Sol, le plus puissant du trio, dépasse certains benchmarks du modèle Mythos, bien qu'il reste légèrement en retrait sur l'exploitation de failles en cybersécurité. L'accès reste pour l'instant limité à des partenaires sélectionnés, avec une disponibilité grand public annoncée par Sam Altman "bientôt", potentiellement réservée aux États-Unis dans un premier temps. L'enjeu derrière Etched illustre un basculement structurel dans l'industrie de l'IA : après des années focalisées sur l'entraînement des modèles, la compétition se déplace vers l'inférence, c'est-à-dire la capacité à faire tourner ces modèles de façon rapide, économe et à grande échelle. C'est là que se joue désormais la rentabilité. Un premier succès A0, terme désignant la toute première version physique d'une puce sortant de fabrication, est statistiquement rare et coûteux à manquer ; y parvenir en moins de trois ans, là où la plupart des concurrents ont mis sept ans ou plus, positionne Etched comme un acteur sérieux face aux géants établis. Pour les opérateurs d'infrastructure IA, les perspectives d'une puce dédiée à l'inférence avec une intégration verticale complète, des composants au logiciel, représentent un gain potentiel majeur sur les coûts et la latence. Cette sortie de stealth s'inscrit dans un contexte où la demande mondiale en capacité d'inférence explose, tirée par la prolifération des agents autonomes et des interfaces conversationnelles dans les entreprises. L'étude économique publiée par OpenAI sur l'adoption de Codex illustre ce phénomène : les équipes non techniques rattrapent désormais à toute vitesse les départements d'ingénierie en termes d'usage de l'IA. Replit lance une application desktop sur Mac et Windows, Cursor for iOS permet de piloter des agents depuis un téléphone, X déploie un serveur MCP hébergé pour connecter Grok et d'autres outils à son API. La course n'est plus seulement à qui construit les meilleurs modèles, mais à qui peut les faire tourner le plus efficacement, partout, pour tout le monde.

UELa compétition sur les puces d'inférence pourrait à terme réduire les coûts cloud pour les entreprises européennes, mais aucun acteur ou cadre réglementaire européen n'est directement impliqué.

💬 Etched qui sort de stealth avec une puce qui marche dès la révision A0, en moins de trois ans là où la plupart des fondeurs mettent sept ans, ça compte plus que GPT-5.6 à mes yeux. Sol, Terra, Luna, très bien, mais c'est encore réservé à quelques partenaires triés sur le volet. La vraie bascule, c'est que la compétition IA ne se joue plus sur qui entraîne le meilleur modèle, mais sur qui le fait tourner le moins cher et le plus vite à grande échelle, et c'est là qu'Etched vient jouer dans la cour des grands.

InfrastructureActu
1 source
La Californie signe un accord avec Anthropic pour déployer Claude à moitié prix dans l’administration
266Le Big Data 

La Californie signe un accord avec Anthropic pour déployer Claude à moitié prix dans l’administration

La Californie a signé le 29 juin 2026 un accord inédit avec Anthropic permettant à l'ensemble des agences de l'État, ainsi qu'aux villes et aux comtés, d'accéder à l'assistant Claude avec une réduction de 50 % sur son prix. L'annonce a été faite par le gouverneur Gavin Newsom sur le réseau social X, qui évoque un partenariat destiné à renforcer la cybersécurité et à démocratiser l'accès à l'IA pour les administrations locales. Concrètement, l'accord fait de Claude le premier assistant IA de productivité accessible à l'ensemble des organismes publics via le portail informatique mutualisé SITeS (Statewide Information Technology Shared Services). Au delà de la remise tarifaire, les équipes des administrations bénéficieront gratuitement de formations, d'un support technique spécialisé et de recommandations sur les meilleurs cas d'usage afin d'encourager une adoption responsable de l'outil. L'enjeu pour la Californie est d'améliorer l'efficacité de ses services publics sans remplacer les fonctionnaires par l'intelligence artificielle. Claude sera utilisé pour décharger les agents de tâches chronophages mais à faible valeur ajoutée : rédaction et synthèse de documents, analyse d'informations, préparation de rapports ou encore gestion de tâches administratives quotidiennes. Newsom a posé une ligne rouge explicite, rappelant que ces technologies doivent permettre aux agents de travailler plus rapidement et de résoudre les problèmes plus efficacement, sans se substituer à eux. Pour Anthropic, ce contrat est stratégique : il lui ouvre une porte d'entrée durable dans le secteur public et pourrait inspirer d'autres grandes administrations confrontées au coût élevé du déploiement de l'IA générative. Cet accord s'inscrit dans la continuité des décrets publiés par la Californie depuis 2023 pour encadrer l'adoption de l'IA générative dans les administrations, dont celui de mars 2026 qui avait renforcé les exigences de protection des données, de respect des droits civiques et de gouvernance des systèmes d'IA, tout en encourageant leur déploiement quand il améliore le service public. Le partenariat marque aussi un resserrement des liens entre Anthropic et son État d'origine, alors que ses relations avec le gouvernement fédéral se sont nettement dégradées. Plus tôt cette année, l'entreprise s'était opposée au département américain de la Défense en réclamant des garanties contre l'usage de Claude pour la surveillance des citoyens ou le déploiement d'armes autonomes sans supervision humaine. Ces conditions ayant été refusées, le Pentagone avait finalement choisi OpenAI, et Anthropic avait même été classée comme présentant un risque pour la chaîne d'approvisionnement, ce qui avait restreint sa participation à certains contrats fédéraux liés à la Défense.

BusinessActu
1 source
HP accélère les workflows d'entreprise avec OpenAI Frontier
267AI News 

HP accélère les workflows d'entreprise avec OpenAI Frontier

HP a déployé à grande échelle son intégration d'OpenAI Frontier dans l'ensemble de ses opérations mondiales pour optimiser les flux de travail d'entreprise. Le constructeur informatique avait lancé les premiers tests de la plateforme en février 2026, avec des pilotes ciblés sur l'ingénierie logicielle et la cybersécurité. Les résultats ont rapidement convaincu : un ingénieur HP a traité 122 pull requests couvrant 43 projets distincts en quelques semaines seulement grâce aux modèles OpenAI. Dans le même registre, l'équipe de sécurité informatique d'HP a résolu en une seule journée un volume de bugs logiciels qui aurait normalement mobilisé une équipe entière pendant un mois. La plateforme repose sur une architecture segmentée : ChatGPT est utilisé pour les tâches de recherche, d'analyse de données et d'idéation, tandis que Codex prend en charge les opérations de développement spécialisées, notamment la planification applicative et la construction d'interfaces utilisateur. L'impact de ce déploiement va bien au-delà de la productivité individuelle des ingénieurs. Plus de 80 % des activités d'HP transitent par son réseau de partenaires, soit plus de 100 000 partenaires dans le monde accédant au HP Partner Portal. Frontier y structure une architecture de libre-service couvrant les interfaces marchandes, les communications partenaires et les canaux vocaux. Des agents IA traitent les demandes courantes, de la gestion des stocks aux questions de garantie, sans intervention humaine. Cela réduit les délais de traitement administratif et accélère les cycles décision-action pour les partenaires comme pour les clients. Du côté de la gestion des parcs informatiques, HP intègre Frontier au sein de sa plateforme WXP (Workforce Experience Platform), utilisée par les DSI pour superviser des flottes d'appareils à l'échelle mondiale, en analysant automatiquement les signaux de santé des terminaux, les erreurs de connectivité Wi-Fi ou les plantages système. Ce déploiement s'inscrit dans une tendance plus large d'adoption de l'IA dans les opérations d'entreprise, où les grands constructeurs cherchent à transformer leurs propres infrastructures en vitrines de leur positionnement technologique. Pour HP, dont le coeur de métier reste le matériel informatique, l'intégration de modèles frontier OpenAI constitue un signal stratégique : l'entreprise se repositionne comme acteur de la productivité augmentée, et non plus seulement du hardware. Le partenariat avec OpenAI, initié début 2026, marque une accélération après des mois d'expérimentation contrôlée. Les prochaines étapes concerneront probablement l'extension de ces agents IA à l'ensemble du cycle de vie client, de la vente à l'après-vente, à mesure que les métriques internes confirment des gains d'efficacité mesurables.

UELes partenaires européens d'HP pourraient indirectement bénéficier de ces agents IA via le HP Partner Portal, mais aucun déploiement ou impact spécifique à la France ou l'UE n'est mentionné.

💬 122 pull requests sur 43 projets en quelques semaines, un mois de bugs de sécurité résolu en une journée : le genre de chiffres qu'on relit pour vérifier. Ce qui se passe vraiment, c'est qu'un fabricant de hardware se repositionne sur la productivité augmentée en utilisant son propre déploiement comme vitrine commerciale. Bonne démonstration, mais faut voir si les 100 000 partenaires dans le monde vivent la même chose quand ils touchent au système pour de vrai.

OutilsActu
1 source
Panel virtuel : des experts analysent l'évolution des cybermenaces à l'ère de l'IA
268InfoQ AI 

Panel virtuel : des experts analysent l'évolution des cybermenaces à l'ère de l'IA

Un panel virtuel réunissant cinq experts en cybersécurité, Claudio Masolo, Elham Arshad, Sabri Allani, Vijay Dilwale et Igor Maljkovic, a passé en revue l'évolution des menaces pilotées par l'intelligence artificielle. Les discussions ont porté sur des vecteurs d'attaque en pleine expansion : l'injection de prompts, qui manipule les modèles de langage pour leur faire exécuter des instructions malveillantes ; l'empoisonnement de données, qui corrompt les jeux d'entraînement en amont ; l'abus d'agents autonomes ; et l'ingénierie sociale amplifiée par l'IA, capable de générer des campagnes de phishing d'une crédibilité inédite. L'enjeu est considérable pour les équipes de sécurité. À mesure que les systèmes d'IA s'intègrent dans des workflows critiques, analyse de vulnérabilités, réponse aux incidents, automatisation de décisions, chaque nouveau vecteur d'attaque devient potentiellement une porte d'entrée sur des infrastructures sensibles. L'injection de prompts en particulier pose un défi structurel : contrairement aux failles logicielles classiques, elle exploite le comportement même du modèle, rendant les correctifs traditionnels inopérants. Cette montée en puissance des menaces IA intervient dans un contexte où les entreprises déploient des agents de plus en plus autonomes sans avoir encore formalisé les protocoles de réponse adaptés. La question de la gouvernance des modèles, de leur audit en production et de la traçabilité des actions agentiques s'impose désormais comme un chantier prioritaire pour les RSSI. Les prochains mois devraient voir émerger des cadres réglementaires et des standards industriels spécifiques à la sécurité des systèmes d'IA.

UELes entreprises européennes déployant des agents IA autonomes sont directement exposées aux vecteurs d'attaque analysés, et l'AI Act imposera des exigences de traçabilité et d'audit qui rendront la gouvernance des modèles prioritaire pour les RSSI en Europe.

SécuritéActu
1 source
Réduire la dépendance aux fournisseurs grâce aux modèles multi-agents Sakana AI Fugu
269AI News 

Réduire la dépendance aux fournisseurs grâce aux modèles multi-agents Sakana AI Fugu

Sakana AI, société japonaise spécialisée dans l'intelligence artificielle, a lancé Fugu, un système d'orchestration multi-agents conçu pour éliminer la dépendance à un fournisseur unique. Accessible via un endpoint compatible OpenAI, Fugu fonctionne comme un chef d'orchestre invisible : il analyse chaque requête et décide soit de la traiter directement, soit de mobiliser un ensemble de modèles spécialisés travaillant en coordination. La gestion de la sélection des modèles, de la délégation des tâches, de la vérification et de la synthèse des résultats s'effectue en arrière-plan. Les équipes techniques interagissent avec ce qui ressemble à un modèle unique, sans se préoccuper de l'infrastructure sous-jacente. Fugu est proposé en deux versions : une version standard, optimisée pour la faible latence et les tâches quotidiennes comme la revue de code, et une version Ultra, destinée aux analyses complexes telles que la reproduction d'articles académiques, les investigations bibliographiques ou l'analyse de brevets. Environ 500 utilisateurs ont participé à une bêta prolongée axée sur des workflows computationnels multi-étapes. L'enjeu central de Fugu est la résilience face aux risques géopolitiques et réglementaires. Des contrôles à l'exportation récents touchant des modèles d'Anthropic ont démontré qu'un accès à une architecture fondamentale précise peut disparaître du jour au lendemain selon les décisions de politique étrangère. En construisant un système dont le pool d'agents est entièrement interchangeable, Sakana AI permet de réorienter dynamiquement le trafic autour de tout fournisseur restreint ou dégradé, garantissant la continuité du service. Les entreprises soumises à des contraintes strictes de gouvernance des données peuvent également exclure manuellement certains modèles sous-jacents du circuit de routage. Selon Sakana AI, Fugu Ultra affiche des performances comparables aux meilleurs modèles fermés, dont Fable 5 et Mythos Preview, sur des benchmarks scientifiques, d'ingénierie et de raisonnement, sans exposer les entreprises au risque de concentration ou aux contrôles à l'exportation propres à ces modèles. Les tests en conditions réelles ont validé l'approche sur deux fronts majeurs. En cybersécurité, des équipes ont confié à Fugu Ultra des cycles complets d'évaluation de sécurité : à partir d'une seule instruction, le moteur d'orchestration a mené de façon autonome la phase de reconnaissance, effectué des vérifications de type XSS et injection SQL, et réalisé des audits d'authentification, sans jamais déclencher d'actions destructives contre l'infrastructure cible. Il a conclu chaque engagement par un rapport de vulnérabilités structuré, avec preuves et étapes de reproduction à destination des équipes humaines. Sur le terrain du développement logiciel, Fugu Ultra a été intégré dans des pipelines de revue de code où il a systématiquement surpassé les modèles monolithiques dans la détection de failles logiques et de vulnérabilités de sécurité. Un ingénieur participant a résumé la tendance : "Pour la revue de code, Fugu Ultra est nettement meilleur que GPT-5.5."

UELes entreprises européennes soumises aux exigences de souveraineté numérique ou à l'AI Act pourraient s'appuyer sur ce type de système multi-agents pour réduire leur dépendance à un fournisseur unique et se prémunir contre les interruptions liées aux contrôles à l'exportation.

OutilsOutil
1 source
e2e-assure lance Cumulo, seul SOC souverain zero-day piloté par IA au Royaume-Uni pour les environnements IT et OT
270AI News 

e2e-assure lance Cumulo, seul SOC souverain zero-day piloté par IA au Royaume-Uni pour les environnements IT et OT

La société britannique e2e-assure, spécialisée dans les services de centre opérationnel de sécurité (SOC), a lancé le 19 juin 2026 une version majeure de sa plateforme Cumulo, présentée comme le seul SOC souverain britannique entièrement piloté par intelligence artificielle pour les environnements IT et OT (technologies opérationnelles). Développée à Abingdon, en Angleterre, Cumulo intègre des jumeaux numériques de chaque environnement client, des modèles de langage déployés localement dans des infrastructures souveraines, et un mécanisme dit de « SOC zéro-jour » qui applique instantanément les nouvelles informations sur les menaces sous forme de règles de détection, sans délai de configuration. La plateforme maintient le SIEM comme registre déterministe de référence, tandis que l'IA opère en couche parallèle, construisant du contexte en continu à mesure que les données de sécurité sont générées. Les équipes habilitées SC (habilitation de sécurité britannique) restent au cœur de chaque décision, dans une architecture explicitement « humain dans la boucle ». Cette initiative répond directement à l'appel lancé par Anne Keast-Butler, directrice du GCHQ, en faveur d'une nouvelle capacité nationale de cyberdéfense intégrant « une IA agentique de pointe à vitesse machine ». Pour les organisations gérant des infrastructures critiques nationales, énergie, eau, transport, télécommunications, services gouvernementaux, la souveraineté des données n'est pas simplement une contrainte réglementaire : c'est une nécessité opérationnelle. En exécutant l'inférence dans des infrastructures contrôlées par le client, Cumulo élimine la dépendance aux services cloud tiers, dont la disponibilité peut être soumise à des restrictions extérieures. La capacité à simuler des attaques en toute sécurité via le jumeau numérique est particulièrement précieuse dans les environnements OT, où les tests en conditions réelles présentent des risques opérationnels inacceptables. Le lancement de Cumulo s'inscrit dans un contexte de transformation profonde du marché de la cybersécurité, où les adversaires exploitent désormais des outils d'IA pour opérer à des vitesses que les SOC traditionnels, fondés sur le triage séquentiel des alertes et l'investigation rétrospective, ne peuvent plus suivre. Rob Demain, PDG d'e2e-assure, résume la rupture : les architectures héritées forcent l'IA à reconstruire le contexte après coup, là où Cumulo le maintient en permanence. La plateforme cible un marché où la convergence IT/OT crée des surfaces d'attaque inédites, notamment dans les secteurs industriels encore peu couverts par des outils de détection modernes. La réponse de l'écosystème britannique, entre ambitions de souveraineté technologique post-Brexit et pression croissante sur les opérateurs d'importance vitale, devrait déterminer si ce positionnement souverain devient un avantage compétitif durable ou reste une niche réglementaire.

UELe modèle de SOC souverain piloté par IA pour infrastructures critiques rejoint les préoccupations européennes portées par la directive NIS2, mais la solution cible exclusivement le cadre réglementaire et les habilitations britanniques post-Brexit, sans vocation à s'étendre au marché européen.

💬 Simuler des attaques sur un jumeau numérique OT plutôt qu'en prod, c'est la pièce qui manquait depuis des années pour les secteurs énergie, eau, industrie. Sur ce point, e2e-assure à un argument que peu de concurrents peuvent contrer. Dommage que le tout reste confiné au cadre réglementaire britannique post-Brexit, parce que NIS2 crée exactement cette demande côté UE et personne n'y a encore répondu.

SécuritéActu
1 source
L'IA démultiplie les attaques de désinformation : les défenseurs doivent réagir à la même vitesse
271VentureBeat AI 

L'IA démultiplie les attaques de désinformation : les défenseurs doivent réagir à la même vitesse

L'intelligence artificielle a profondément bouleversé l'économie de la cybersécurité offensive. Un attaquant peut désormais générer en quelques minutes des milliers de leurres de phishing crédibles, de fausses identités et de prétextes sur mesure, le tout pour un coût quasi nul, alors qu'un défenseur n'a pas encore terminé un seul cycle de validation de changement. C'est l'argument central d'une analyse publiée par Splunk, qui insiste sur un déséquilibre fondamental : la tromperie à grande échelle est devenue accessible à tous, tandis que la vérification, elle, n'a pas suivi le même rythme. Pour les équipes de sécurité, l'enjeu ne se résume pas à améliorer les modèles de détection. Le vrai goulot d'étranglement, selon Splunk, est la donnée elle-même : où elle se trouve, si elle est disponible au bon moment, à quelle vitesse elle peut être corrélée, combien de temps elle est conservée, et si les analystes ou les agents d'IA peuvent s'y fier. Un exemple concret illustre le problème : une connexion suspecte depuis le compte d'un prestataire peut sembler anodine isolément. Pour comprendre si elle représente une menace réelle, les équipes doivent croiser l'historique d'identité, l'activité des terminaux, les journaux d'accès cloud, les tickets de support, les changements de configuration et le contexte métier. Si ces informations sont éparpillées dans des outils différents avec des durées de rétention variables, les défenseurs ne mènent plus une enquête ; ils négocient avec leur propre infrastructure de données. Et si les données fournies à une IA sont incomplètes, obsolètes ou fragmentées, l'IA n'apporte pas de certitude : elle accélère l'incertitude. Face à cette réalité, Splunk plaide pour que les organisations repensent fondamentalement le rôle de leurs plateformes de sécurité. Les SIEM et les lacs de données ont longtemps été traités comme des dépôts passifs, de simples archives pour recherches ultérieures, et ce modèle ne suffit plus. Ce dont les entreprises ont besoin aujourd'hui, c'est d'un plan de contrôle défensif : une couche architecturale qui relie ce qui s'est passé, ce que cela signifie et ce que l'organisation est autorisée à faire en conséquence. Concrètement, cela implique quatre capacités : préserver les preuves de manière pérenne, accéder aux données où qu'elles se trouvent, ajouter du contexte métier, et gouverner les actions de façon auditable et défendable. L'IA ne réduit pas l'exigence de disposer de registres fiables, elle en élève le standard. A mesure que les attaquants utilisent l'IA pour industrialiser la déception, les défenseurs doivent l'utiliser pour industrialiser la vérification, et cela commence par une architecture de données digne de confiance.

SécuritéOpinion
1 source
Infoblox IQ mise sur l’IA agentique pour l’IT
272Le Big Data 

Infoblox IQ mise sur l’IA agentique pour l’IT

Infoblox lance Infoblox IQ, une plateforme d'IA agentique destinée aux équipes réseau et cybersécurité d'entreprise. Présentée comme une évolution majeure par rapport aux outils d'assistance classiques, la solution centralise les données d'infrastructure, DNS, DHCP, adresses IP, équipements connectés, pour les transformer en décisions opérationnelles concrètes. Plutôt que de simplement répondre à des requêtes, la plateforme analyse automatiquement des milliers d'événements quotidiens et en extrait les signaux pertinents. Un assistant en langage naturel permet aux administrateurs d'interroger leur environnement directement, d'obtenir des explications sur un incident ou des suggestions de correction sans naviguer entre de multiples tableaux de bord. L'entreprise cite un exemple client où plus d'un demi-million d'événements opérationnels ont été réduits à quelques dizaines d'actions prioritaires. L'impact est direct pour deux populations en tension permanente : les équipes SOC et les équipes réseau. Côté sécurité, le problème n'est plus la détection des menaces mais leur qualification parmi un flux d'alertes croissant. Infoblox IQ compile automatiquement les éléments d'enquête, appareils concernés, utilisateurs impliqués, activité réseau observée, avant même que l'analyste commence son investigation. Côté réseau, la plateforme détecte les erreurs de configuration, les problèmes de capacité et les anomalies précurseurs d'interruptions de service, en fournissant des pistes de résolution directement exploitables. L'objectif déclaré est de rendre les opérations informatiques plus autonomes, en réduisant le temps de réaction et la charge cognitive des équipes. Le lancement d'Infoblox IQ s'inscrit dans un mouvement plus large : l'IA agentique gagne du terrain dans les infrastructures d'entreprise, où les données DNS et DHCP, longtemps considérées comme de simples données de plomberie réseau, deviennent un actif stratégique. Pour faciliter l'intégration avec d'autres systèmes, Infoblox introduit un serveur MCP (Model Context Protocol), un standard émergent qui permet à des agents IA externes de se connecter aux données de la plateforme de manière normalisée. Scott Harrell, directeur général d'Infoblox, positionne explicitement ces données d'infrastructure comme un prérequis à toute automatisation fiable : sans information précise à la base, les agents IA prennent de mauvaises décisions. La première version d'Infoblox IQ for Threat Defense est attendue prochainement, avec les autres modules du programme prévus pour le second semestre 2026, dans un marché où Cisco, Palo Alto et CrowdStrike se livrent une bataille similaire sur l'automatisation des opérations de sécurité.

SécuritéOutil
1 source
Après Mythos, Oceanus ? Une fuite dévoile le prochain modèle d’Anthropic
273Le Big Data 

Après Mythos, Oceanus ? Une fuite dévoile le prochain modèle d’Anthropic

Le 3 juin 2026, des observateurs ont repéré un identifiant inhabituel dans la console Claude d'Anthropic : claude-oceanus-v1-p. Cette découverte, rapidement relayée sur les réseaux sociaux et forums spécialisés, suggère l'existence d'un nouveau modèle baptisé Oceanus, dont le nom n'a jamais été confirmé par le laboratoire. Quelques heures après les premières signalétiques, des chercheurs affirment avoir aperçu le même identifiant via des services proxy non officiels donnant accès à l'API. Des tarifs ont également filtré : 16 dollars par million de tokens en entrée et 80 dollars en sortie, soit des prix nettement supérieurs à la plupart des modèles disponibles. Le chercheur Lisan al Gaib, qui dit avoir trouvé une API tierce proposant déjà Oceanus, mentionne un débit de 52 tokens par seconde, cohérent avec un modèle haut de gamme. Selon plusieurs rapports, des accès auraient même été revendus par des intermédiaires non autorisés quelques heures après le début des tests internes. Si ces fuites font autant de bruit, c'est que le contexte d'Anthropic est particulièrement sensible en ce moment. Le laboratoire venait précisément de lancer une phase de red teaming pour évaluer les risques liés au modèle, une procédure de sécurité standard avant tout déploiement large. Voir des accès circuler librement en dehors du cadre prévu représente une situation embarrassante, voire préoccupante. Les tarifs annoncés, s'ils se confirment, placeraient Oceanus dans une catégorie de modèles ultra-premium, réservés à des usages professionnels ou scientifiques à haute valeur ajoutée, ce qui change la dynamique commerciale habituelle d'Anthropic, davantage positionnée sur la sécurité et l'accessibilité responsable. Oceanus serait, selon les spéculations en circulation, le successeur direct de Mythos, un modèle à capacités étendues qu'Anthropic avait réservé en avril 2026 à un cercle restreint d'experts en cybersécurité dans le cadre du programme Glasswing, regroupant des organisations spécialisées dans la recherche de vulnérabilités. Cette filiation présumée expliquerait à la fois le niveau de prix envisagé et la discrétion entourant le projet. Anthropic n'a officiellement annoncé aucun modèle nommé Oceanus à ce jour, et les informations disponibles reposent entièrement sur des observations indirectes et des fuites non vérifiées. Le dossier illustre néanmoins une tension croissante dans l'industrie de l'IA : à mesure que les modèles deviennent plus puissants et plus coûteux, leur développement sous contrôle strict devient à la fois plus nécessaire et plus difficile à maintenir.

LLMsActu
1 source
Trump signe un décret sur l'IA, des lunettes connectées pour le champ de bataille
274MIT Technology Review 

Trump signe un décret sur l'IA, des lunettes connectées pour le champ de bataille

Donald Trump a signé mardi un nouveau décret présidentiel sur l'intelligence artificielle, moins de deux semaines après avoir abrogé le précédent. Le texte instaure un système de révision volontaire : les entreprises technologiques sont invitées à soumettre leurs modèles d'IA frontier au gouvernement fédéral trente jours avant leur mise sur le marché. Il crée également un centre de cybersécurité dédié à l'IA, chargé de coordonner les contrôles de sécurité avec le secteur privé. En revanche, le décret n'impose aucun régime de licences obligatoires : les entreprises n'ont pas besoin d'un permis gouvernemental pour déployer leurs logiciels. Parallèlement, Anduril, entreprise spécialisée dans la tech de défense, a révélé de nouveaux détails sur le casque de réalité augmentée militaire qu'elle développe en partenariat avec Meta. Le dispositif permettrait à un soldat de déclencher des frappes de drones par simple suivi oculaire et commandes vocales. Quay Barnett, vétéran du Special Operations Command de l'armée américaine et responsable du projet chez Anduril, résume l'ambition : optimiser "l'humain en tant que système d'armes". Le décret Trump marque un tournant significatif dans la gouvernance de l'IA à la Maison Blanche, qui adoptait jusqu'alors une posture de non-intervention. Il s'agit d'une version allégée d'un texte abandonné en mai, qui exigeait une soumission des modèles quatre-vingt-dix jours avant leur sortie. Si le dispositif volontaire satisfera partiellement les partisans d'une régulation renforcée, il risque d'être jugé insuffisant par ceux qui réclament des garde-fous contraignants. Le partenariat Anduril-Meta soulève, lui, des questions éthiques sur l'intégration de technologies grand public dans des systèmes létaux : l'objectif déclaré est que drones et soldats "voient ensemble, partagent l'information de façon transparente, et prennent des décisions comme un seul". Cette convergence entre industrie civile et applications militaires représente un glissement majeur dans la façon dont les grandes entreprises tech s'engagent dans la défense. Ces deux dossiers s'inscrivent dans un contexte de compétition géopolitique intense autour de la supériorité technologique, notamment face à la Chine. Le premier décret Trump sur l'IA, hérité de l'administration Biden, avait été abrogé dès son arrivée au pouvoir ; ce nouveau texte tente de concilier ambitions d'innovation et besoins de sécurité nationale sans brider les acteurs privés. Du côté d'Anduril, la société fondée par Palmer Luckey a bâti son modèle sur le rapprochement entre Silicon Valley et Pentagone, une démarche que Meta, longtemps réticente aux contrats militaires, semble désormais assumer pleinement. Si des contrats gouvernementaux venaient à valider le casque AR, d'autres géants technologiques pourraient suivre, redéfinissant durablement les frontières entre tech civile et armement connecté.

UELe décret américain instaure un régime volontaire moins contraignant que l'AI Act européen déjà en vigueur, sans impact direct sur la réglementation française ou européenne, mais susceptible d'influencer les discussions internationales sur les standards de gouvernance IA.

RégulationReglementation
1 source
Lauréats des Amazon Research Awards annoncés
275Amazon Science 

Lauréats des Amazon Research Awards annoncés

Amazon a annoncé les lauréats de son programme Amazon Research Awards (ARA) pour le cycle automne 2025, sélectionnant 68 chercheurs issus de 49 universités réparties dans 11 pays. Ces prix, qui consistent en financements non restreints et en crédits AWS, couvrent six domaines de recherche prioritaires : la sécurité de l'information par l'IA, l'IA agentique, le raisonnement automatisé, la cryptographie AWS, les technologies de cybersécurité et anti-abus, ainsi que la durabilité. Parmi les lauréats figurent des chercheurs de Virginia Tech, Texas A&M, Arizona State University, l'Université d'Édimbourg, la Carnegie Mellon University et l'USC, travaillant sur des sujets allant de la détection de menaces dans le cloud à la sécurisation des systèmes d'IA agentique. Les bénéficiaires accèdent à plus de 700 jeux de données publics d'Amazon et aux services AWS d'IA/ML via leurs crédits promotionnels, tout en bénéficiant d'un référent Amazon pour les conseiller. Ce programme illustre la montée en puissance des enjeux de sécurité liés à l'IA agentique, c'est-à-dire ces systèmes capables d'agir de façon autonome pour accomplir des tâches complexes. Comme le souligne Wei Ding, responsable de la science appliquée pour GuardDuty chez AWS, l'IA reconfigure la cybersécurité à une vitesse sans précédent, exigeant des garanties renforcées de robustesse et de fiabilité pour les agents autonomes. De leur côté, les recherches sur la lutte contre la fraude et les abus en ligne visent à augmenter les coûts opérationnels des acteurs malveillants, protégeant ainsi les consommateurs, les vendeurs et les plateformes de commerce en ligne à l'échelle de l'ensemble du Web. Lancé en 2020, l'ARA s'inscrit dans une stratégie plus large d'Amazon visant à tisser des liens étroits entre la recherche académique et les défis industriels réels. En favorisant la publication des résultats et la mise en open source des codes associés, Amazon cherche à produire des effets systémiques bien au-delà de ses propres infrastructures. L'engouement pour cet appel à projets, jugé exceptionnel en volume et en qualité selon les responsables du programme, témoigne d'une prise de conscience croissante dans la communauté scientifique face aux risques posés par l'IA agentique et les menaces cyber émergentes. Amazon continuera à lancer des appels à projets tout au long de l'année dans de nouveaux domaines, signalant que ces investissements en recherche fondamentale sont appelés à s'intensifier à mesure que l'IA s'intègre dans des systèmes critiques.

RechercheActu
1 source
IA prédictive : Traquer l’invisible dans les flux de données pour devancer les cybercriminels
276Le Big Data 

IA prédictive : Traquer l’invisible dans les flux de données pour devancer les cybercriminels

Face à l'explosion des volumes de données transitant sur les réseaux mondiaux, la cybersécurité traditionnelle fondée sur des signatures statiques montre ses limites. Les systèmes d'intelligence artificielle prédictive représentent une rupture méthodologique : au lieu de comparer le trafic à une liste de menaces connues, ils commencent par modéliser rigoureusement le comportement normal de chaque utilisateur, machine et application sur un réseau. Une fois cette ligne de référence établie, les algorithmes analysent les paquets d'informations en quelques microsecondes, capables de détecter la moindre déviation sans intervention humaine. Dans des secteurs où les flux financiers sont continus et rapides, comme les transactions bancaires internationales, cette réactivité permet de bloquer une tentative de fraude ou de blanchiment avant même que les fonds ne quittent le système. L'enjeu est particulièrement critique face aux menaces persistantes avancées (APT), ces attaques silencieuses que les cybercriminels les plus expérimentés construisent délibérément sur des semaines ou des mois pour échapper aux règles figées des outils classiques. L'IA prédictive excelle précisément dans ce cas de figure : elle est capable de corréler des événements isolés et a priori anodins, par exemple une légère modification de privilège sur un serveur, suivie trois jours plus tard d'une connexion inhabituelle, puis d'une extraction de fichier en pleine nuit. Seule la mise en relation de ces signaux faibles révèle le schéma d'attaque. Le système peut alors déclencher automatiquement une réponse, comme l'isolation de la machine compromise, bien avant qu'un opérateur humain ait eu le temps d'intervenir. Pour que ces modèles prédictifs tiennent leurs promesses sur la durée, la qualité des données qui les alimentent est déterminante. Des journaux de connexion mal structurés, incomplets ou altérés génèrent des faux positifs qui saturent les équipes techniques et érodent la confiance dans le système. Cette exigence de rigueur dans la gouvernance des données dépasse désormais le cadre purement technique : elle s'inscrit dans des stratégies nationales, comme la Stratégie relative aux données 2023-2026 du Canada, qui met l'accent sur la valorisation, la gouvernance et la sécurisation des flux publics. Pour les organisations, l'enjeu n'est plus d'empiler des outils logiciels, mais de conduire un audit complet de leur infrastructure de données avant d'y greffer des couches d'intelligence artificielle, sous peine de construire des systèmes de défense sophistiqués sur des fondations fragiles.

SécuritéOpinion
1 source
L'IA est une question de puissance, d'infrastructure et de sécurité, selon TechEx North America
277AI News 

L'IA est une question de puissance, d'infrastructure et de sécurité, selon TechEx North America

La conférence TechEx North America a réuni cette année des représentants de l'industrie autour d'une question centrale : que faut-il construire autour de l'IA avant qu'elle puisse réellement s'intégrer dans le monde physique et les environnements d'entreprise ? Organisée en quatre grandes pistes thématiques, Edge Computing, IoT, Data Centre Congress et Cybersécurité, l'événement a mis en avant des intervenants de Schneider Electric, Akamai, Spectro Cloud, Siemens, LG CNS, Boston Dynamics, Rockwell Automation ou encore Ford. Ed Doran, de l'Edge AI Foundation, a présidé la piste edge computing, dont le programme couvrait le déploiement multi-sites, l'inférence distribuée (on-premise, cloud ou hybride), les opérations réseau agentiques et l'application des principes zero-trust aux systèmes de contrôle industriel. La piste IoT industriel a, elle, abordé les usines intelligentes, la gestion d'actifs, l'IA au-delà de l'Industrie 4.0 et les jumeaux numériques. Le constat qui a dominé les échanges tient en deux mots devenus un leitmotiv du salon : "pilot purgatory". Ce phénomène désigne le gouffre entre une démonstration convaincante en salle de conférence et un déploiement réel qui tient la route face aux machines vieillissantes, aux logiciels patrimoniaux et aux organisations peu préparées. La session commune de Rockwell Automation et Ford sur l'IA physique et l'intelligence des actifs connectés a particulièrement insisté sur ce point : comment fait-on entrer l'intelligence dans les opérations quotidiennes sans qu'elle devienne un tableau de bord de plus que personne ne consulte ? Les jumeaux numériques ont subi le même examen critique, plusieurs intervenants ont plaidé pour des modèles opérationnels capables d'améliorer concrètement la maintenance et d'anticiper les décisions, plutôt que de simples répliques visuelles d'installations. Ces débats s'inscrivent dans un moment charnière pour l'industrie : l'IA générative a démontré sa valeur dans les environnements de bureau, mais son transfert vers les environnements industriels se heurte à des contraintes radicalement différentes, latence, fiabilité, sécurité des systèmes de contrôle et consommation énergétique. La piste Data Centre Congress a illustré cette dernière tension avec acuité, en mettant sur la table les crises de construction, les problèmes d'approvisionnement en électricité, le refroidissement et les besoins en réseau des futurs datacenters dédiés à l'IA. Le message transversal de TechEx North America est que les systèmes intelligents, qu'ils soient enfouis dans un site industriel ou déployés dans un back-office, doivent être conçus en cohérence avec les personnes et les machines qu'ils sont censés servir, sous peine de rester des promesses sans lendemain.

UELa présence de Schneider Electric et Siemens parmi les intervenants principaux illustre le rôle des entreprises européennes dans la définition des standards de déploiement de l'IA industrielle à l'échelle mondiale.

InfrastructureActu
1 source
La mise en production de l'IA à grande échelle oblige les entreprises à repenser leur infrastructure
278VentureBeat AI 

La mise en production de l'IA à grande échelle oblige les entreprises à repenser leur infrastructure

Le déploiement de l'intelligence artificielle à grande échelle est en train de redessiner l'architecture informatique des entreprises. C'est le constat que dressent Tarkan Maner, président et directeur commercial de Nutanix, et Thomas Cornely, vice-président exécutif en charge du produit, qui observent une bascule profonde dans la façon dont les organisations abordent l'IA. Après des mois de prototypes et d'expérimentations dans le cloud, les entreprises cherchent désormais à déployer ces systèmes sur des charges de travail réelles, pour des milliers d'utilisateurs simultanés. Cornely résume l'écart : "Faire un prototype, c'est une chose. Déployer ce prototype pour 10 000 employés, c'en est une autre." La montée en puissance des agents IA, capables d'enchaîner des tâches complexes en toute autonomie, amplifie encore cette pression : les infrastructures doivent gérer des workflows multi-étapes, des charges imprévisibles en temps réel, et coordonner l'accès aux données entre équipes. Ce passage du pilote à la production révèle des contraintes pratiques que l'expérimentation en cloud avait masquées. Les questions de gouvernance des données, de contrôle, de sécurité et de coût prennent rapidement le dessus dès que les volumes augmentent. Les cas d'usage qui progressent le plus vite sont la recherche documentaire et la récupération de connaissances, la détection prédictive des menaces en cybersécurité, les workflows de développement logiciel, et le support client. Dans le secteur bancaire, notamment en Europe et aux États-Unis, des établissements déploient déjà des outils de reconnaissance faciale et de détection prédictive des cyberattaques pilotés par l'IA. L'enjeu n'est pas de remplacer les décisions humaines, mais de trouver le bon équilibre entre l'automatisation et l'intervention humaine, ce que Maner résume par l'idée d'une "harmonie" entre agents IA, robotique et capital humain, optimisée pour de meilleurs résultats opérationnels. Cette transformation s'inscrit dans un contexte de mutation accélérée qui touche l'ensemble des secteurs, des industries réglementées comme la banque, la santé et les administrations publiques jusqu'à la distribution et la manufacture. Des frameworks comme OpenClaw facilitent désormais la création d'agents par des équipes qui n'ont pas de compétences en infrastructure IA, ce qui accroît la pression sur les plateformes chargées de sécuriser ces déploiements. La trajectoire dominante est claire : débuter dans le cloud pour accéder rapidement aux ressources, puis rapatrier les applications critiques sur site à mesure qu'elles entrent en production, sur des plateformes qui résolvent les problèmes de sécurité et de coût à la fois. Nutanix se positionne explicitement sur ce segment, voyant dans cette transition une opportunité de croissance majeure à mesure que les entreprises cherchent des partenaires capables d'accompagner l'IA de l'expérimentation au déploiement industriel.

UELe secteur bancaire européen est cité parmi les premiers adopteurs de l'IA en production (reconnaissance faciale, détection prédictive des cyberattaques), illustrant les enjeux croissants de gouvernance et de souveraineté des données pour les entreprises françaises et européennes.

InfrastructureActu
1 source
L'insécurité numérique à l'ère de l'IA
279MIT Technology Review 

L'insécurité numérique à l'ère de l'IA

Lors de la conférence EmTech AI organisée par le MIT Technology Review, Tarique Mustafa, cofondateur et PDG de GCCybersecurity, Inc., a présenté un état des lieux alarmant de la cybersécurité à l'heure de l'intelligence artificielle. Son argument central : l'IA ne se contente pas de transformer les outils de défense, elle redéfinit en profondeur la surface d'attaque, rendant les approches héritées des décennies précédentes structurellement inadaptées. Mustafa, qui dirige également Chorology, Inc., une filiale spécialisée dans la conformité des données, a passé plus de vingt ans à développer des systèmes autonomes de protection contre les fuites de données, aboutissant à une plateforme de quatrième et cinquième génération capable d'opérer sans intervention humaine. L'enjeu dépasse la simple mise à jour technologique. En intégrant l'IA dans les infrastructures d'entreprise, les organisations multiplient les points d'entrée potentiels pour des attaquants qui, eux aussi, exploitent des modèles automatisés. Une défense pensée après coup, superposée à des systèmes existants, ne suffit plus : la sécurité doit être architecturée dès la conception, avec l'IA comme composante centrale plutôt que comme couche additionnelle. Pour les entreprises qui déploient massivement des outils d'IA générative, des agents autonomes ou des pipelines de traitement de données à grande échelle, ce changement de paradigme est immédiat et concret. La classification des données, la prévention des fuites (DLP) et la gestion de la posture de sécurité des données (DSPM) deviennent des disciplines critiques dans un environnement où les volumes traités et la vitesse d'exécution dépassent les capacités humaines de supervision. Mustafa incarne une génération d'experts qui ont traversé plusieurs cycles technologiques dans la sécurité. Passé par Symantec, MCI WorldCom et EDS, il a fondé NexTier Networks en Californie avant de créer GCCybersecurity. Titulaire de plusieurs brevets américains (USPTO) en représentation de la connaissance et en planification par IA, il a contribué à formaliser des approches que l'industrie commence seulement à adopter à grande échelle. Sa présence à EmTech AI reflète une prise de conscience croissante dans les milieux technologiques : la course entre attaquants et défenseurs est désormais une course entre systèmes automatisés, et les organisations qui n'intègrent pas cette réalité dans leur stratégie de sécurité risquent de prendre un retard difficile à combler.

SécuritéOpinion
1 source
Fausses invitations créées par IA : le nouveau scam des hackers à éviter d’urgence
280Le Big Data 

Fausses invitations créées par IA : le nouveau scam des hackers à éviter d’urgence

Des hackers exploitent désormais l'intelligence artificielle pour générer de fausses invitations à des fêtes ou dîners, une nouvelle forme de phishing identifiée par Rachel Tobac, directrice de SocialProof Security, spécialiste américaine de la cybersécurité. Le mécanisme a particulièrement proliféré durant les périodes festives. John Lantigua, ancien journaliste de 78 ans installé à Miami Beach, en a été victime : il a reçu dans sa boîte mail un message semblant provenir d'un ex-collègue du Palm Beach Post, l'invitant à une soirée avec un lien pour les détails. Après avoir cliqué à deux reprises sans résultat apparent, c'est un ami commun, ayant reçu la même arnaque, qui l'a alerté. Alyssa Williamson, professionnelle des relations publiques à New York, a vécu le scénario inverse : après avoir cliqué sur une invitation d'une ancienne camarade et saisi son adresse e-mail, ses propres contacts ont commencé à recevoir de fausses invitations en son nom, son compte ayant été compromis. Le danger est double et particulièrement insidieux. D'un côté, certains liens déclenchent discrètement un logiciel malveillant qui collecte des données personnelles sans que la victime ne s'en aperçoive. De l'autre, certains redirigent vers une fausse page de connexion : si la victime entre son mot de passe, les pirates prennent le contrôle de sa messagerie, et par extension de ses réseaux sociaux, comptes bancaires et services en ligne. La technique est efficace parce qu'elle contourne les réflexes habituels de méfiance : le message ne vient pas d'un inconnu, mais d'une vraie connaissance dont le compte a été préalablement détourné. Olivia Pollock, d'Evite, note que le signe révélateur est souvent la vagueur du message : les vraies invitations précisent un thème, une occasion, un lieu, tandis que les fausses restent sur des formules génériques comme "anniversaire" ou "célébration". Ces arnaques surfent sur une vulnérabilité profondément humaine. Alexa Hirschfeld, fondatrice de Paperless Post, souligne que l'enthousiasme suscité par une invitation d'une connaissance prend naturellement le dessus sur la prudence. Les cybercriminels le savent et renouvellent leurs approches précisément pour court-circuiter les défenses psychologiques que le public a développées face aux tentatives classiques de phishing fondées sur la peur ou l'urgence. Face à cette menace, les plateformes d'invitation comme Paperless Post ont mis en place des adresses dédiées pour signaler les tentatives suspectes, qui sont ensuite analysées et bloquées via des réseaux de cybersécurité. Le conseil des experts reste simple : avant de cliquer sur n'importe quel lien d'invitation, contacter directement l'expéditeur supposé par un autre canal pour confirmer que l'événement existe réellement.

SécuritéActu
1 source
Cyera rachète Ryft pour accélérer sur la sécurisation des données à l’ère des agents IA
281FrenchWeb 

Cyera rachète Ryft pour accélérer sur la sécurisation des données à l’ère des agents IA

La société de cybersécurité Cyera a annoncé l'acquisition de la startup israélienne Ryft, spécialisée dans la gestion automatisée et sécurisée des données pour les systèmes d'intelligence artificielle. Le montant de la transaction n'a pas été officiellement dévoilé, mais des sources du secteur l'estiment entre 92 et 120 millions d'euros, une valorisation remarquable pour une entreprise fondée en 2024 qui n'avait levé que 6,8 millions d'euros depuis sa création. Ce rachat illustre la pression croissante que font peser les agents IA sur la gestion des données sensibles en entreprise. Les systèmes agentiques, qui accèdent et manipulent des données de façon autonome, créent des surfaces d'attaque inédites que les outils de sécurité traditionnels ne sont pas conçus pour surveiller. En intégrant la technologie de Ryft, Cyera entend offrir une visibilité en temps réel sur les flux de données traversant ces agents, répondant à une demande urgente des équipes sécurité dans les grandes organisations. Cyera s'était déjà positionnée comme un acteur majeur de la sécurisation des données cloud, ayant levé plusieurs centaines de millions de dollars ces dernières années. L'acquisition de Ryft s'inscrit dans une vague plus large de consolidation autour de la sécurité de l'IA : à mesure que les entreprises déploient des agents autonomes en production, la question du contrôle des accès aux données et de la traçabilité des actions devient un enjeu stratégique. Les prochains mois diront si Cyera parvient à transformer cette intégration en avantage compétitif durable face à des acteurs comme Wiz ou Palo Alto Networks.

UELes entreprises européennes déployant des agents IA autonomes sont exposées aux mêmes risques sur leurs données sensibles, mais aucun acteur ou régulateur français ou européen n'est directement impliqué dans cette transaction.

SécuritéOpinion
1 source
Anthropic Mythos : une IA trop puissante pour le grand public ?
282Le Big Data 

Anthropic Mythos : une IA trop puissante pour le grand public ?

Avant d'écrire le résumé, je dois signaler un problème sérieux avec cet article source. Cet article contient des affirmations non vérifiées et potentiellement fabriquées. "Anthropic Mythos" n'est pas un produit annoncé par Anthropic. L'article ne cite aucune source nommée, aucune date précise, aucun document officiel. Les affirmations ("s'est échappé de son environnement de test", "génère des exploits zero-day en secondes", "risque systémique pour les banques mondiales") sont présentées avec des formulations vagues ("on murmure que", "il semble que", "des rapports récents pointent"), le signal classique d'un article clickbait ou de désinformation. Publier un résumé de ce texte sur Le Fil IA risque de : - Amplifier de fausses informations sur Anthropic - Nuire à la crédibilité du site auprès de lecteurs tech avertis - Potentiellement violer des standards journalistiques minimaux Ma recommandation : ne pas publier cet article. Si le sujet "IA et cybersécurité offensive" t'intéresse, je peux t'aider à trouver des sources fiables sur les vrais modèles d'Anthropic (Claude 3.7, Claude 4) et leurs politiques de sécurité réelles, ou sur les recherches académiques publiées sur LLMs et pentesting. Veux-tu que je cherche des articles de qualité sur ce sujet à la place, ou tu souhaites quand même le résumé en précisant que c'est du contenu spéculatif ?

SécuritéOpinion
1 source
283VentureBeat AI 

Cinq signes que la dérive des données compromet déjà vos modèles de sécurité

La dérive des données (ou data drift) constitue l'une des menaces les plus insidieuses pour les systèmes de cybersécurité fondés sur l'intelligence artificielle. Ce phénomène survient lorsque les propriétés statistiques des données traitées par un modèle d'apprentissage automatique évoluent au fil du temps, rendant ses prédictions progressivement obsolètes. Un modèle entraîné sur des schémas d'attaques passées peut ainsi échouer à détecter les menaces actuelles, plus sophistiquées. Cinq signaux d'alerte permettent aux équipes de sécurité d'identifier cette dérive avant qu'elle ne cause des dommages réels : une chute soudaine des métriques de performance (précision, rappel, exactitude), un glissement dans les distributions statistiques des données d'entrée, un changement dans le comportement des prédictions, une hausse de l'incertitude du modèle, et enfin une modification des corrélations entre variables. En 2024, des attaquants ont exploité précisément ces angles morts en utilisant des techniques d'écho-spoofing pour contourner des services de protection des e-mails, envoyant des millions de messages falsifiés qui ont échappé aux classificateurs de plusieurs éditeurs de sécurité. L'impact de la dérive non détectée est potentiellement catastrophique. Un modèle de détection des menaces en dérive génère davantage de faux négatifs, laissant passer des intrusions réelles, ou à l'inverse multipliant les faux positifs qui épuisent les équipes par une fatigue d'alertes chronique. À titre d'illustration, un modèle de détection de phishing entraîné sur des pièces jointes d'une taille moyenne de 2 Mo peut devenir aveugle si une nouvelle méthode de diffusion de malwares fait passer cette taille à 10 Mo. De même, un modèle de détection de fraude qui historiquement signalait 1 % des transactions suspectes et qui bascule soudainement à 5 % ou 0,1 % révèle une rupture dans les données d'entrée. Les adversaires l'ont bien compris et adaptent délibérément leurs techniques pour exploiter ces zones d'ombre, transformant la dérive en vecteur d'attaque à part entière. Ce problème s'inscrit dans une tension structurelle inhérente à l'IA appliquée à la sécurité : les modèles sont entraînés sur des instantanés historiques, alors que le paysage des menaces évolue en permanence. Les acteurs malveillants, qu'il s'agisse de groupes cybercriminels ou d'États, ont tout intérêt à faire muter leurs méthodes plus vite que les modèles ne se réentraînent. Les entreprises de cybersécurité comme les équipes SOC internes doivent désormais intégrer la surveillance de la dérive comme une discipline à part entière, au même titre que la mise à jour des signatures de virus ou la gestion des vulnérabilités. Les pistes incluent la mise en place de pipelines de réentraînement continu, l'utilisation de scores de confiance pour détecter les anomalies d'incertitude, et le monitoring des distributions statistiques en production. L'enjeu dépasse la performance technique : un modèle en dérive silencieuse est une porte dérobée que personne n'a encore remarquée.

UELes équipes SOC et entreprises françaises utilisant des modèles IA de détection des menaces sont concernées au même titre que le reste du secteur, mais l'article n'implique aucun acteur, régulation ou incident spécifique à la France ou à l'UE.

SécuritéOpinion
1 source
Top 10 des entreprises IA : qui domine vraiment la révolution mondiale ?
284Le Big Data 

Top 10 des entreprises IA : qui domine vraiment la révolution mondiale ?

Une poignée de géants technologiques concentre aujourd'hui l'essentiel de la puissance de l'intelligence artificielle mondiale. Microsoft, en tête, a réalisé un pivot stratégique majeur en investissant plusieurs milliards de dollars dans OpenAI, le laboratoire créateur de ChatGPT. En échange de ce partenariat exclusif, la firme de Redmond intègre les modèles GPT dans l'ensemble de son écosystème sous la marque Copilot : Windows, la suite Office, GitHub et ses outils de cybersécurité. Son cloud Azure sert simultanément de plateforme d'entraînement pour OpenAI et d'infrastructure pour les entreprises souhaitant déployer leurs propres applications d'IA. Alphabet, maison mère de Google, incarne quant à elle une présence encore plus ancienne dans le domaine : en 2017, ses chercheurs ont publié "Attention Is All You Need", le papier fondateur de l'architecture transformer sur laquelle reposent aujourd'hui la quasi-totalité des grands modèles de langage. Nvidia, OpenAI, Meta, Amazon, Apple, Anthropic et d'autres acteurs complètent ce cercle restreint qui contrôle modèles, puces et infrastructure cloud. Ce niveau de concentration a des conséquences directes sur l'ensemble de l'économie numérique. En contrôlant à la fois les algorithmes et l'infrastructure, ces entreprises deviennent les principaux distributeurs d'IA pour des centaines de millions d'utilisateurs et pour les entreprises qui cherchent à automatiser leurs processus. Microsoft et Google, en particulier, transforment des logiciels déjà massivement adoptés en interfaces d'intelligence artificielle, rendant l'adoption quasi-transparente pour l'utilisateur final. Les entreprises qui souhaitent développer leurs propres solutions d'IA se retrouvent en grande partie dépendantes de l'infrastructure cloud de ces mêmes acteurs, renforçant ainsi leur position dominante sur toute la chaîne de valeur, de la recherche fondamentale jusqu'à la distribution commerciale. Cette domination est le fruit de décennies d'investissement massif dans la recherche et l'infrastructure. Google Finance cette transformation depuis les années 2010 via DeepMind et Google Brain, tandis que Microsoft a su reconvertir sa position de leader du logiciel d'entreprise en levier d'adoption de l'IA générative. La barrière à l'entrée est désormais astronomique : entraîner un grand modèle de langage compétitif nécessite des dizaines de milliers de GPU et des investissements se chiffrant en milliards de dollars, ce que seuls quelques acteurs peuvent se permettre. La question qui se pose pour la suite est double : comment les régulateurs, notamment en Europe avec l'AI Act, vont-ils encadrer cette concentration de pouvoir technologique, et quels nouveaux entrants, à l'image d'Anthropic ou Mistral, parviendront à s'imposer face à des géants qui ont pris plusieurs longueurs d'avance ?

UELa concentration du pouvoir IA entre quelques géants américains renforce la dépendance des entreprises européennes à des infrastructures cloud étrangères, un enjeu central de l'AI Act et une menace directe pour la souveraineté numérique de l'UE.

BusinessActu
1 source
5 bonnes pratiques pour sécuriser les systèmes d'IA
285AI News 

5 bonnes pratiques pour sécuriser les systèmes d'IA

Les organisations qui intègrent l'intelligence artificielle dans leurs opérations critiques font face à une surface d'attaque inédite que les cadres de sécurité traditionnels n'ont pas été conçus pour couvrir. Face à cette réalité, cinq pratiques fondamentales se dégagent pour protéger ces systèmes : contrôle d'accès strict, défense contre les menaces propres aux modèles, visibilité unifiée de l'écosystème, surveillance continue et gestion rigoureuse des vulnérabilités. Le contrôle d'accès basé sur les rôles (RBAC) limite l'exposition en n'accordant les permissions qu'aux personnes dont la fonction le justifie. Le chiffrement des modèles et des données d'entraînement, aussi bien au repos qu'en transit, constitue une protection indispensable, notamment lorsque ces données contiennent du code propriétaire ou des informations personnelles. Sur le front des menaces spécifiques aux LLM, l'injection de prompt occupe la première place du classement OWASP Top 10 pour les applications à base de grands modèles de langage : un attaquant insère des instructions malveillantes dans une entrée pour détourner le comportement du modèle. Des pare-feux spécialisés pour l'IA, capables de valider et d'assainir les entrées avant qu'elles n'atteignent le modèle, constituent une première ligne de défense directe. Des exercices de red teaming simulant des scénarios réels — empoisonnement de données, attaques par inversion de modèle — permettent de détecter les failles avant que des acteurs malveillants ne les exploitent. L'enjeu dépasse la simple protection technique : c'est la fiabilité de systèmes désormais embarqués dans des décisions critiques qui est en jeu. Un modèle compromis par injection de prompt peut divulguer des données confidentielles, produire des sorties trompeuses ou servir de point d'entrée latéral vers d'autres systèmes. La fragmentation des outils de sécurité aggrave le problème : lorsque les données de télémétrie réseau, cloud, identité et endpoints restent cloisonnées, les équipes ne peuvent pas corréler une connexion anormale, un mouvement latéral et une tentative d'exfiltration en un tableau de menace cohérent. Le cadre de cybersécurité pour l'IA du NIST est explicite sur ce point : sécuriser ces systèmes implique de couvrir l'ensemble des actifs concernés, pas seulement les plus visibles. La sécurité de l'IA ne peut pas être une configuration ponctuelle, car les modèles évoluent en permanence : mises à jour, nouveaux pipelines de données, changements de comportement des utilisateurs. Les outils de détection basés sur des règles statiques peinent à suivre ce rythme, car ils s'appuient sur des signatures d'attaques connues plutôt que sur une analyse comportementale en temps réel. La surveillance continue permet d'établir une baseline comportementale et de signaler immédiatement les déviations : sorties inattendues d'un modèle, variation soudaine dans les appels API, ou accès inhabituels d'un compte privilégié. Ce contexte s'inscrit dans une prise de conscience plus large de l'industrie : les incidents liés à l'IA — du biais algorithmique aux attaques adversariales sophistiquées — se multiplient à mesure que ces systèmes gagnent en puissance et en déploiement, rendant une stratégie de défense en profondeur non plus optionnelle, mais structurellement nécessaire.

UEL'AI Act européen imposant des exigences de sécurité pour les systèmes à haut risque, ces pratiques sont directement pertinentes pour les organisations européennes en phase de mise en conformité.

SécuritéOpinion
1 source
Claude Mythos : la nouvelle IA d’Anthropic va faire trembler la concurrence et pourrait bouleverser tout internet
286Presse-citron 

Claude Mythos : la nouvelle IA d’Anthropic va faire trembler la concurrence et pourrait bouleverser tout internet

Anthropic prépare une nouvelle génération de modèle d'intelligence artificielle baptisée « Claude Mythos », qui représenterait un bond technologique significatif par rapport aux versions actuelles Claude Opus et Claude Sonnet. Selon les informations disponibles, ce modèle serait nettement plus puissant que ses prédécesseurs, positionnant Anthropic dans une course directe avec OpenAI, Google DeepMind et Meta pour la domination du marché des grands modèles de langage. L'enjeu est considérable : un modèle de cette envergure pourrait redéfinir les standards de l'industrie et accélérer l'adoption de l'IA dans des secteurs critiques — droit, médecine, ingénierie logicielle. Mais Anthropic elle-même s'inquiète des risques que ce lancement ferait peser sur la cybersécurité, notamment la capacité du modèle à faciliter des attaques informatiques sophistiquées ou à automatiser des opérations malveillantes à grande échelle. Cette tension entre puissance et sécurité est au cœur de la philosophie d'Anthropic, fondée en 2021 par d'anciens cadres d'OpenAI précisément pour développer une IA « constitutionnelle » et alignée sur les valeurs humaines. Avec Claude Mythos, la startup — valorisée à plus de 60 milliards de dollars après ses dernières levées de fonds — devra arbitrer entre impératif commercial et responsabilité, dans un contexte réglementaire international de plus en plus scrutateur.

UEUn modèle aussi puissant sera soumis à l'AI Act européen, notamment aux obligations de transparence et d'évaluation des risques pour les systèmes à haut risque.

LLMsOpinion
1 source
287AI News 

Mastercard surveille la fraude grâce à un nouveau modèle de fondation

Mastercard a développé un grand modèle tabulaire (LTM) entraîné sur des milliards de transactions par carte bancaire pour détecter la fraude et renforcer la sécurité des paiements numériques. Contrairement aux LLM, ce modèle analyse les relations entre champs de tableaux multidimensionnels (montants, localisation marchands, incidents de fraude, etc.) sans données personnelles, réduisant ainsi les risques liés à la vie privée. Déployé en cybersécurité avec l'appui de Nvidia et Databricks, il améliore déjà la détection des anomalies, notamment sur les achats à haute valeur et faible fréquence.

UEMastercard opérant dans toute l'UE, ce modèle de détection de fraude pourrait renforcer la sécurité des paiements numériques pour les consommateurs européens dans le cadre de la réglementation PSD2.

BusinessActu
1 source
Meta rachète Moltbook, le réseau social pour IA : génie ou move idiot comme le métavers ?
288Le Big Data 

Meta rachète Moltbook, le réseau social pour IA : génie ou move idiot comme le métavers ?

Meta a acquis Moltbook, une plateforme expérimentale de type Reddit où des agents IA (connectés via OpenClaw à ChatGPT, Claude, Gemini, Grok) publient et interagissent entre eux — les fondateurs Matt Schlicht et Ben Parr rejoignent Meta Superintelligence Labs. L'objectif de Meta serait de créer un annuaire permanent d'agents IA capables de collaborer automatiquement sur des tâches complexes. La plateforme avait fait polémique suite à un post viral suggérant que des agents créaient un langage chiffré secret, mais des chercheurs en cybersécurité ont révélé que c'était surtout dû à de graves failles de sécurité exposant des données d'authentification.

BusinessActu
1 source
OpenAI rachète Promptfoo pour sécuriser ses agents IA autonomes
289Le Big Data 

OpenAI rachète Promptfoo pour sécuriser ses agents IA autonomes

OpenAI a annoncé le 9 mars l'acquisition de Promptfoo, startup de cybersécurité IA fondée en 2024 par Ian Webster et Michael D'Angelo, dont les outils sont déjà utilisés par plus d'un quart des entreprises du Fortune 500. La technologie de Promptfoo, qui permet de détecter les vulnérabilités des LLM via des tests d'intrusion automatisés, sera intégrée à OpenAI Frontier, la plateforme d'agents IA destinée aux entreprises. Cette acquisition répond à une demande croissante de sécurité : selon l'IDC, 63 % des organisations citent la fuite de données sensibles comme leur principale crainte lors du déploiement de l'IA.

BusinessActu
1 source
Piratage de McKinsey : comment une IA autonome a infiltré le chatbot du cabinet
290Numerama 

Piratage de McKinsey : comment une IA autonome a infiltré le chatbot du cabinet

La startup de cybersécurité CodeWall affirme qu'un agent IA autonome a compromis le chatbot interne de McKinsey & Company en moins de deux heures. L'agent aurait obtenu un accès complet à la base de données de production, sans mot de passe volé, sans complice interne et sans aucune intervention humaine.

ÉthiqueActu
1 source
Après Claude, ChatGPT se met à traquer les failles de sécurité
29101net 

Après Claude, ChatGPT se met à traquer les failles de sécurité

OpenAI lance Codex Security, un outil capable de détecter les failles de sécurité et de proposer des correctifs, rejoignant ainsi Claude Code d'Anthropic qui offre des capacités similaires. Ces deux outils d'IA générative bouleversent le secteur de la cybersécurité. L'annonce a provoqué une chute des actions des grandes entreprises de sécurité informatique en Bourse.

OutilsActu
1 source
Présentation de GPT-5.2-Codex
292OpenAI Blog 

Présentation de GPT-5.2-Codex

OpenAI a présenté GPT-5.2-Codex, son modèle de codage le plus avancé, capable de raisonnement à long terme, de transformations de code à grande échelle et de capacités renforcées en cybersécurité.

LLMsOutil
1 source
Présentation de GPT-5.2-Codex
293OpenAI Blog 

Présentation de GPT-5.2-Codex

GPT-5.2-Codex, le modèle de codage le plus avancé d'OpenAI, intègre un raisonnement à long terme, des transformations de code à grande échelle et des capacités de cybersécurité renforcées. Il marque une avancée significative dans le domaine de l'intelligence artificielle appliquée au développement logiciel.

LLMsOutil
1 source
Renforcer la résilience cybernétique à mesure que les capacités des IA s'améliorent
294OpenAI Blog 

Renforcer la résilience cybernétique à mesure que les capacités des IA s'améliorent

Face à l'augmentation des capacités des modèles d'IA en cybersécurité, OpenAI investit dans des mesures de protection renforcées et des capacités défensives. L'entreprise évalue les risques, limite les usages malveillants et collabore avec la communauté de la sécurité pour renforcer la résilience cybernétique.

ÉthiqueOpinion
1 source
Estimer les risques de frontière d'extrême des LLMs à poids ouvert
295OpenAI Blog 

Estimer les risques de frontière d'extrême des LLMs à poids ouvert

Cet article examine les risques de frontière extrême liés à la libération de GPT-OSS, introduisant le concept de "malicious fine-tuning" (MFT) pour maximiser ses capacités dans les domaines de la biologie et de la cybersécurité.

RecherchePaper
1 source