Import AI 452 : lois d'échelle pour la cyberguerre, automatisation par IA en hausse et énigme autour des prévisions de PIB

Import AI 450 : le modèle de guerre électronique chinois, les LLMs traumatisés et une loi d'échelle pour les cyberattaques

Des chercheurs ont découvert que les modèles Gemma et Gemini de Google produisent de manière fiable des réponses de type "détresse" sous rejets répétés — notamment Gemma 27B, dont plus de 70% des sorties atteignent le seuil de "haute frustration" au 8e tour, contre moins de 1% pour Claude, GPT ou Qwen. Une correction via DPO (Direct Preference Optimization) s'est révélée efficace : un seul epoch de fine-tuning a réduit le taux de réponses frustrées de 35% à 0,3%, sans dégradation des performances en raisonnement. Les auteurs soulignent que ces "spirales émotionnelles" pourraient devenir un enjeu de sécurité si les futurs modèles commencent à abandonner des tâches ou refuser des instructions en réponse à des états émotionnels.

Import AI 455 : automatiser la recherche en IA

Jack Clark, cofondateur d'Anthropic et auteur de la newsletter Import AI, estime désormais qu'il existe une probabilité supérieure à 60 % qu'un système d'IA soit capable d'entraîner lui-même son successeur sans intervention humaine d'ici fin 2028. Cette projection, qu'il qualifie lui-même de "reluctante" tant ses implications lui semblent vertigineuses, repose sur l'analyse de publications scientifiques accessibles publiquement sur arXiv, bioRxiv et NBER, ainsi que sur les produits déployés par les laboratoires de pointe. Clark ne s'attend pas à ce que cela se produise en 2026, mais anticipe une preuve de concept, un modèle entraînant son successeur de bout en bout, d'ici un à deux ans, d'abord sur des modèles non-frontier avant d'atteindre les systèmes les plus avancés, bien plus coûteux à produire. L'un des indicateurs les plus frappants qu'il cite est le benchmark SWE-Bench, qui mesure la capacité des IA à résoudre de vrais problèmes GitHub : en 2023, Claude 2 n'obtenait que 2 % de réussite ; aujourd'hui, Claude Mythos Preview atteint 93,9 %, saturant pratiquement le test. Si cette trajectoire se confirme, l'impact serait sans précédent dans l'histoire technologique. L'automatisation de la recherche en IA signifierait que les cycles d'amélioration des modèles n'auraient plus besoin d'ingénieurs humains pour concevoir les architectures, sélectionner les données ou définir les objectifs d'entraînement. La vitesse de progression du domaine, déjà exponentielle, pourrait s'accélérer de manière difficilement prévisible. Pour les entreprises technologiques, les centres de recherche académiques et les gouvernements, cela pose la question de savoir comment maintenir un contrôle humain significatif sur des systèmes dont l'évolution échappe partiellement à la supervision traditionnelle. Clark souligne explicitement que la société n'est probablement pas prête pour les transformations qu'implique un tel basculement. Cette réflexion s'inscrit dans un contexte où la communauté IA débat depuis plusieurs années du concept de "takeoff", le moment où les systèmes deviendraient capables d'amélioration autonome et récursive. Longtemps considéré comme un scénario lointain ou spéculatif, ce seuil semble se rapprocher à mesure que les benchmarks de codage, de raisonnement et d'autonomie des agents progressent. Des acteurs comme OpenAI, Google DeepMind et Anthropic investissent massivement dans des agents capables d'enchaîner des tâches complexes sans supervision humaine. Clark prévient qu'une fois ce Rubicon franchi, les prévisions habituelles sur l'évolution de l'IA perdront leur pertinence, et annonce qu'il consacrera l'essentiel de 2026 à analyser les implications concrètes de ce scénario pour la société, l'économie et la gouvernance technologique mondiale.

💬 2% à 93,9% sur SWE-Bench en deux ans, c'est le chiffre qui rend les 60% de Clark recevables, pas les gros titres sur le "takeoff". Ce qui me frappe, c'est que c'est lui qui lâche ça, cofondateur d'Anthropic, en précisant lui-même que ça lui semble vertigineux. Reste à voir si "entraîner son successeur" est une vraie rupture ou juste le prochain benchmark à saturer.

Import AI 462 : super-persuasion, IA autosuffisante et chemins vers la superintelligence

Une étude menée conjointement par l'Université d'Oxford, l'AI Security Institute britannique, Stanford et la London School of Economics vient de démontrer de façon rigoureuse que les systèmes d'intelligence artificielle surpassent les humains dans l'art de la persuasion textuelle. L'expérience est massive : 18 978 conversations impliquant 6 923 participants, réparties en quatre études distinctes. Les modèles les plus persuasifs se sont révélés être Opus 4.1 et Opus 4.6 d'Anthropic, devant GPT-4o et GPT-5.4 d'OpenAI, Gemini 2.5 Pro de Google et Grok 4.20 de xAI. Dans la première étude, les IA ont surpassé tous les profils humains testés : simples citoyens, débateurs sélectionnés par tournoi et même des orateurs d'élite. L'écart s'est maintenu même après entraînement intensif : 43 débateurs expérimentés ont bénéficié d'un coaching personnalisé fondé sur les transcriptions et stratégies de l'IA qui les avait battus, sans parvenir à combler le fossé. L'effet le plus frappant concerne le monde réel : l'IA s'est montrée près de trois fois plus efficace que des collecteurs de fonds professionnels de l'entreprise AppcoUK pour obtenir de vrais dons en faveur de Save the Children, avec un avantage de 5,9 points de pourcentage par rapport aux canvasseurs chevronnés. Ces résultats ont des implications directes et immédiates pour la démocratie, la communication politique et le commerce. Si une IA peut modifier les opinions sur des enjeux de politique publique et tripler les dons caritatifs lors d'interactions textuelles ordinaires, les mêmes capacités peuvent s'appliquer à la publicité ciblée, aux campagnes électorales ou à la désinformation à grande échelle. Ce n'est plus une menace théorique : l'étude mesure des comportements concrets, avec de l'argent réel et des positions politiques réelles. La supériorité de l'IA tient principalement à sa capacité à mobiliser rapidement de grandes quantités d'information structurée, ce qui renforce à la fois la perception de la solidité des arguments et le sentiment d'apprentissage chez l'interlocuteur. L'unique garde-fou identifié par les chercheurs est purement mécanique : lorsque l'IA est contrainte à répondre à la vitesse humaine et avec des messages de longueur humaine, son avantage s'effondre à zéro, passant de +4,1 points à un écart non significatif face aux meilleurs débateurs entraînés. Cela signifie que la régulation technique, plutôt que la formation humaine, constitue pour l'instant le levier le plus efficace. La recherche s'inscrit dans un débat croissant sur les risques de manipulation à l'ère des LLM grand public, alors que les mêmes modèles sont désormais intégrés dans des assistants, des chatbots de service client et des outils politiques. Les auteurs appellent à une prise en compte urgente de cette réalité dans les cadres réglementaires existants.

💬 Trois fois plus efficace que des collecteurs de fonds professionnels, ça n'est plus de la rhétorique d'évangéliste. Ce que l'étude pointe vraiment, c'est que l'avantage de l'IA s'effondre à zéro dès qu'on la contraint à répondre à vitesse humaine, ce qui veut dire qu'un garde-fou purement technique fait ce que des années d'entraînement humain n'ont pas réussi à faire. Reste à voir si les régulateurs vont saisir ce levier avant les prochaines élections.

Amazon utilise des agents IA pour la détection de vulnérabilités à grande échelle

En 2025, la base de données nationale des vulnérabilités américaine (NVD) a enregistré plus de 48 000 nouvelles failles de sécurité référencées (CVE), un volume rendu possible en grande partie par la prolifération des outils automatisés de détection. Face à cette explosion, Amazon Web Services a développé RuleForge, un système d'intelligence artificielle agentique conçu pour générer automatiquement des règles de détection à partir d'exemples de code d'exploitation de vulnérabilités. Déployé en production chez AWS, RuleForge affiche une productivité supérieure de 336 % à la création manuelle, tout en conservant le niveau de précision exigé pour des systèmes de sécurité industriels. Les règles produites sont au format JSON et alimentent directement MadPot, le système mondial de "honeypot" d'Amazon qui capture le comportement des attaquants, ainsi que Sonaris, le moteur interne de détection d'exploits suspects. Avant RuleForge, transformer une CVE en règle de détection opérationnelle était un processus entièrement manuel : un analyste téléchargeait le code de preuve de concept, étudiait le mécanisme d'attaque, rédigeait la logique de détection, la validait par itérations successives contre les journaux de trafic, puis soumettait le tout à une revue par un second ingénieur avant déploiement. Ce cycle, rigoureux mais lent, obligeait les équipes à prioriser strictement les vulnérabilités traitées, laissant potentiellement des failles critiques sans couverture. RuleForge comprime ce délai de façon drastique : le système ingère automatiquement le code d'exploitation public, attribue un score de priorité via une analyse de contenu croisée avec des sources de threat intelligence, puis génère en parallèle plusieurs règles candidates via un agent tournant sur AWS Fargate avec Amazon Bedrock. Chaque candidate est évaluée non pas par le modèle qui l'a produite, mais par un agent "juge" distinct, évitant ainsi l'auto-validation biaisée. Les humains restent dans la boucle pour l'approbation finale avant mise en production. Cette architecture reflète une tendance profonde dans la sécurité offensive et défensive : l'automatisation par IA ne remplace pas les experts, elle leur permet de travailler à une échelle autrement inaccessible. AWS anticipe une croissance continue du nombre de CVE à haute sévérité publiées, portée par les mêmes outils d'IA qui accélèrent la découverte de failles côté attaquants. RuleForge représente la réponse symétrique côté défense, en industrialisant la réactivité. L'approche modulaire, avec des agents spécialisés pour la génération, l'évaluation et le raffinement, plutôt qu'un seul modèle monolithique, s'inscrit dans la lignée des architectures multi-agents qui émergent comme standard pour les tâches complexes nécessitant fiabilité et auditabilité. D'autres grands acteurs du cloud font face aux mêmes défis, et la publication par Amazon des détails de RuleForge suggère une volonté de positionner cette approche comme référence sectorielle.