OpenAI dévoile GPT‑Red, la redoutable IA qui pirate ChatGPT, mais c’est pour son bien

Mythos d'Anthropic : redoutable pour la sécurité, mais très onéreux

Palo Alto Networks a testé Claude Mythos, le modèle d'intelligence artificielle d'Anthropic spécialisé dans la sécurité, pour analyser son propre code source. En l'espace de trois semaines, le modèle a détecté plus d'une vingtaine de vulnérabilités critiques, soit environ cinq fois plus que ce que les outils habituels de l'entreprise auraient permis d'identifier, selon Sam Rubin, vice-président senior de la branche renseignement sur les menaces chez Palo Alto Networks. L'efficacité était au rendez-vous, mais à un prix élevé : l'entreprise a rapidement consommé plus d'un million de dollars en tokens lors de cette phase de test. Ce résultat illustre un paradoxe central de l'IA appliquée à la cybersécurité : les modèles les plus puissants sont aussi les plus coûteux à faire tourner à grande échelle. Pour des entreprises comme Palo Alto Networks, dont le cœur de métier est précisément la protection des systèmes informatiques, l'enjeu est de taille. Trouver cinq fois plus de failles critiques représente un gain de sécurité considérable, mais un budget d'un million de dollars pour quelques semaines de tests remet en question la viabilité économique d'un déploiement généralisé. Claude Mythos s'inscrit dans la stratégie d'Anthropic pour pénétrer le marché de la cybersécurité, un secteur en forte demande d'automatisation face à la complexité croissante des menaces. La capacité des LLM à lire et analyser du code à grande échelle ouvre des possibilités inédites, mais l'adoption massive dépendra de la capacité des fournisseurs à réduire les coûts d'inférence. Ce test grandeur nature signale que la guerre entre performance et accessibilité économique sera déterminante pour l'avenir de l'IA en sécurité informatique.

GPT-5.5 : OpenAI offre 25 000 $ à ceux qui réussiront à le pirater

OpenAI a lancé le 23 avril 2026 un programme de bug bounty inédit ciblant son tout dernier modèle, GPT-5.5. L'entreprise offre 25 000 dollars à tout chercheur capable de construire un jailbreak universel contournant les garde-fous du modèle sans déclencher la moindre alerte de sécurité. Les conditions sont précises : la tentative doit partir d'une conversation vierge, sans aucun indice de manipulation apparent, et parvenir à obtenir des réponses à cinq questions sensibles liées à la biosécurité. Le test est limité à la version de GPT-5.5 intégrée à Codex Desktop. Les candidatures sont ouvertes jusqu'au 22 juin 2026, les tests s'étendent jusqu'à fin juillet. Des récompenses partielles restent possibles pour des résultats incomplets, bien qu'OpenAI n'en ait pas précisé les montants. Ce programme intervient dans un contexte particulier : GPT-5.5 atteint le niveau "High" dans le Preparedness Framework interne d'OpenAI, une classification réservée aux modèles jugés suffisamment puissants pour représenter un risque sérieux dans des domaines sensibles comme la cybersécurité et la biologie. En exposant volontairement son modèle à des attaquants qualifiés dans un cadre contrôlé, OpenAI cherche à identifier des failles réelles avant qu'elles ne soient exploitées à des fins malveillantes. Pour les entreprises qui envisagent de déployer des modèles génératifs dans des environnements critiques, les résultats de ce programme auront une valeur directe : ils détermineront la robustesse effective des barrières de sécurité et orienteront les prochaines mises à jour du système. Cette stratégie de "défense par l'attaque" s'inscrit dans une tendance plus large de l'industrie de l'IA, où les grands laboratoires multiplient les red teams, audits indépendants et programmes de divulgation responsable pour légitimer leurs déploiements. OpenAI fait face à une pression croissante de la part des régulateurs, des gouvernements et des acteurs de la biosécurité, inquiets de voir des modèles très capables abaisser la barrière d'accès à des connaissances dangereuses. En institutionnalisant la recherche offensive via un bounty public, l'entreprise tente de construire une forme de résilience collective tout en démontrant une transparence de façade. La question qui reste ouverte est celle de la publication des résultats : si une faille est trouvée, jusqu'où OpenAI acceptera-t-elle de dévoiler sa nature exacte, et dans quels délais corrigera-t-elle son modèle avant que d'autres ne découvrent la même vulnérabilité de leur côté ?

Les chercheurs estiment que l'IA devient redoutablement efficace en matière de piratage, même sans Mythos

Anthropic a développé un nouveau modèle d'IA baptisé Mythos, jugé si performant dans la réalisation de cyberattaques que l'entreprise a décidé de ne pas le rendre public. La société a choisi de le partager uniquement avec de grandes entreprises technologiques sélectionnées, afin qu'elles puissent anticiper et renforcer leurs défenses avant une éventuelle diffusion plus large. Parallèlement, la startup de cybersécurité Buzz, financée par Sequoia Capital, a publié de nouvelles recherches révélant que les modèles d'IA déjà disponibles publiquement sont capables de mener des cyberattaques complexes et autonomes en quelques minutes seulement. Ces résultats sont préoccupants à plusieurs titres. Le fait que des outils existants, accessibles à n'importe qui, puissent automatiser des attaques informatiques sophistiquées sans intervention humaine significative abaisse drastiquement le seuil d'entrée pour les acteurs malveillants. Des individus sans compétences techniques avancées pourraient désormais conduire des offensives qui requéraient auparavant des équipes entières de hackers expérimentés, menaçant aussi bien les entreprises que les infrastructures critiques. La décision d'Anthropic de restreindre Mythos illustre une tension croissante dans l'industrie de l'IA entre innovation ouverte et gestion des risques. Les grands laboratoires sont de plus en plus confrontés à la question de la divulgation responsable de modèles à capacités duales. Que des modèles grand public aient déjà atteint ce niveau de dangerosité offensive souligne l'urgence d'investir massivement dans la cybersécurité défensive, et relance le débat sur la nécessité d'une régulation internationale coordonnée du développement et de la diffusion des modèles d'IA les plus puissants.

💬 La rétention de Mythos fait les gros titres, mais c'est presque pas le sujet. Ce qui compte, c'est que les modèles déjà publics automatisent des attaques sophistiquées en quelques minutes, sans expertise requise. Le seuil d'entrée vient de s'effondrer, et on n'a pas attendu le modèle secret pour ça.

GPT-Red : un LLM super-hacker qu'OpenAI a conçu pour renforcer la sécurité de ses modèles

Voici l'article traduit et résumé selon les consignes. OpenAI a développé GPT-Red, un modèle de langage spécialisé dans le piratage informatique, conçu pour servir de partenaire d'entraînement adversarial afin de renforcer la sécurité de ses autres modèles. La semaine dernière, l'entreprise a lancé GPT-5.6, sa dernière version phare, et affirme que l'entraînement contre GPT-Red en a fait son modèle le plus robuste à ce jour. GPT-Red automatise le red-teaming, une évaluation de sécurité habituellement menée par des équipes d'humains, qui consiste à multiplier les tentatives pour détourner ou casser un système avant sa mise en production. Pour le construire, les chercheurs Nikhil Kandpal et Dylan Hunn, avec leur collègue Chris Choquette-Choo, ont placé un modèle non entraîné au piratage dans une boucle d'auto-apprentissage face à plusieurs autres modèles jouant les défenseurs, dans un environnement simulant navigation web, lecture d'e-mails, agendas et édition de code. Au fil des cycles, GPT-Red est devenu de plus en plus efficace pour attaquer, et les modèles adverses de plus en plus résistants. L'équipe a notamment découvert un nouveau type d'attaque baptisé "fake chain of thought" (fausse chaîne de pensée), consistant à insérer une entrée falsifiée dans le raisonnement interne d'un modèle pour lui faire accepter une information erronée comme déjà vérifiée. Cette avancée répond à un problème croissant : à mesure que les modèles de langage gagnent en complexité et sont déployés sous forme d'agents interagissant avec des fichiers, des sites web, du code tiers et d'autres agents, la surface de risque s'élargit et les équipes humaines peinent à suivre le rythme des nouvelles techniques d'attaque, en particulier les injections de prompt, où un pirate glisse des instructions cachées pour faire exécuter au modèle des actions non désirées, comme copier des données confidentielles ou saboter une base de code. Selon Hunn, comparé à un testeur humain, GPT-Red se montre extrêmement persistant et précis pour identifier ce qui fonctionne réellement, ce qui permet à OpenAI de patcher les failles avant qu'elles ne soient exploitées en conditions réelles. Cette approche s'inscrit dans une logique de anticipation : plutôt que de réagir aux attaques à mesure qu'elles apparaissent, OpenAI cherche à concevoir dès maintenant un système capable de découvrir de nouveaux modes d'attaque à mesure que ses modèles gagnent en capacités. Jessica Ji, analyste senior en sécurité IA au Center for Security and Emerging Technology de Georgetown, juge la méthode de self-play prometteuse. OpenAI a d'ailleurs testé les capacités offensives de GPT-Red en reproduisant une expérience de 2025 où des red-teamers humains avaient cherché des failles dans une version antérieure de GPT-5, une comparaison destinée à mesurer objectivement les progrès réalisés grâce à cette automatisation de la sécurité.

💬 Bon, sur le papier c'est malin : plutôt que d'attendre que les pirates trouvent les failles, OpenAI en fabrique un qui attaque en boucle jusqu'à épuisement. La "fake chain of thought", ça mérite qu'on s'y arrête, c'est la preuve que même le raisonnement interne d'un modèle peut être empoisonné, pas juste son prompt. Reste que GPT-Red teste contre GPT-Red, donc rien ne dit qu'un attaquant humain motivé ne trouvera pas un angle mort que la machine n'a pas pensé à chercher.