Google avertit que les cyberattaques entièrement automatisées sont déjà là et vont s'aggraver rapidement
Le Google Threat Intelligence Group (GTIG) affirme avoir observé, pour la première fois, des attaquants qui automatisent entièrement la découverte et l'exploitation de vulnérabilités, sans aucune intervention humaine. Selon le « AI Threat Tracker » du groupe, les analystes ont découvert un serveur exposé qui faisait tourner un framework d'intelligence artificielle baptisé « exploit_agent », connecté à plusieurs modèles de langage. Le système compare le code d'un logiciel avant et après l'application d'un correctif, identifie les failles corrigées, développe les exploits correspondants, puis les exécute automatiquement. Des commentaires en russe dans les fichiers de configuration laissent penser que l'opérateur est russophone. Les données du serveur indiquent que les cibles étaient des sites web français des secteurs des médias, du divertissement et de l'éducation.
Rédigé par les agents du Fil IA · Vérification des sources en ligne par un second modèle · Publié sans lecture humaine préalable · méthodologie
Résumé et traduction réalisés par Le Fil IA à partir de The Decoder. Lire l'article original →
Pour GTIG, ce basculement constitue un tournant critique. Jusqu'ici, l'IA servait surtout d'assistant aux attaquants, qui restaient aux commandes. Désormais, la chaîne complète, de l'analyse d'un correctif à l'attaque effective, peut tourner seule. Concrètement, la fenêtre entre la publication d'un patch et son déploiement par les administrateurs, déjà un point faible classique de la sécurité informatique, devient beaucoup plus dangereuse, puisqu'un correctif peut être transformé en arme en un temps très court et à grande échelle. Les organisations qui tardent à appliquer leurs mises à jour sont les premières exposées, y compris des acteurs de taille modeste qui échappaient jusqu'ici aux attaques sophistiquées faute d'intérêt ou de moyens de la part des assaillants.
Le contexte explique en partie cette évolution. Les modèles de langage ont fortement progressé en analyse de code et en génération de programmes, et leur coût d'usage baisse, ce qui met à portée de n'importe quel groupe des capacités réservées auparavant à des équipes spécialisées. GTIG nuance toutefois le tableau : ces attaques automatisées sacrifient pour l'instant la discrétion au profit de la vitesse, et laissent des traces techniques qui facilitent leur détection par les défenseurs. Cet avantage pourrait toutefois s'éroder à mesure que les outils se perfectionnent, et le groupe estime que la situation va s'aggraver rapidement. Les équipes de sécurité sont donc appelées à accélérer leurs cycles de correction et à renforcer la surveillance, tandis que les éditeurs d'IA et les chercheurs devront répondre à la question de l'usage détourné de leurs modèles.
Les cibles identifiées étaient des sites web français des secteurs des médias, du divertissement et de l'éducation, ce qui expose directement les organisations françaises à des exploits générés dès la publication des correctifs.