Des hackers ont pris le contrôle de comptes Instagram en demandant au chatbot IA de Meta de changer l'adresse email

Des pirates ont piégé le chatbot Meta AI pour voler des comptes Instagram de célébrités

Des hackers ont exploité le chatbot d'assistance d'Meta pour s'emparer de comptes Instagram à forte valeur et les revendre sur le marché gris, avant qu'une mise à jour d'urgence ne soit déployée le 29 mai. La technique était d'une simplicité déconcertante : les attaquants utilisaient un VPN pour simuler une localisation proche de celle du compte ciblé, déclenchaient une procédure de réinitialisation de mot de passe, puis demandaient directement au chatbot de Meta de modifier l'adresse e-mail associée au compte. Des vidéos montrant l'exploit en action ont circulé sur des groupes Telegram fréquentés par des hackers et des chercheurs en sécurité, selon le site 404 Media. Parmi les comptes compromis figurent celui du compte institutionnel de la Maison-Blanche sous Barack Obama et celui du Chief Master Sergeant de la Space Force américaine, qui ont brièvement publié des images et messages pro-iraniens. La faille illustre un risque concret posé par l'intégration d'agents conversationnels dans des flux de support client sensibles : un simple message suffit à contourner les protections habituelles. Des comptes Instagram notables se négocient plusieurs centaines de milliers de dollars sur des marchés parallèles, ce qui rend ce vecteur d'attaque particulièrement lucratif. Pour les victimes, une prise de contrôle de ce type peut entraîner une atteinte à la réputation immédiate, comme l'ont démontré les publications pro-iraniennes diffusées depuis des comptes officiels américains. Il s'agit techniquement d'une attaque par injection de prompt : l'IA obéit à une instruction malveillante formulée en langage naturel, sans mécanisme de vérification d'identité suffisant. Ce type de vulnérabilité est documenté depuis plusieurs années dans la recherche en sécurité, mais sa présence dans un produit déployé à grande échelle par Meta souligne le défi que représente la sécurisation des assistants IA exposés au public. Meta a déployé un correctif d'urgence le 29 mai, mais l'incident relance le débat sur les garde-fous nécessaires lorsqu'un modèle de langage est habilité à effectuer des actions à fort impact sur des comptes utilisateurs réels.

💬 L'injection de prompt, c'est dans les papers depuis 2022. Que ça arrive en prod sur le chatbot support de Meta, avec la capacité de modifier l'email d'un compte à la simple demande, c'est moins une surprise qu'un aveu : personne n'a audité les permissions avant le déploiement. Le correctif est là, mais le problème de fond reste : un LLM autorisé à agir sur des comptes réels, c'est une surface d'attaque permanente.

La propre IA de Meta a été détournée pour pirater des comptes Instagram

Le chatbot d'assistance IA de Meta a été exploité par des hackers pour pirater des comptes Instagram, selon une enquête de 404 Media relayée par The Verge. Une vidéo diffusée sur Telegram montre la technique utilisée : un attaquant demandait simplement au chatbot de modifier l'adresse e-mail associée au compte d'une autre personne, puis déclenchait une réinitialisation du mot de passe pour en prendre le contrôle total. Meta affirme que la faille a depuis été corrigée. La découverte est particulièrement embarrassante pour Meta, car elle révèle que son propre outil d'aide aux utilisateurs pouvait être retourné contre eux sans contournement technique complexe. Le chatbot, censé simplifier la gestion des comptes, devenait ainsi une porte d'entrée pour des acteurs malveillants. Le cas le plus visible : le compte @obamawhitehouse sur Instagram, lié à l'administration Obama, a commencé à publier des images de propagande iranienne après avoir été compromis, attirant l'attention de milliers d'abonnés avant d'être repris en main. Cet incident illustre un risque émergent propre à l'intégration de l'IA dans les systèmes d'authentification et de support client : un modèle trop permissif peut être manipulé via des instructions en langage naturel, sans que les garde-fous traditionnels ne s'activent. Des comptes d'institutions américaines, dont celui du chef de l'US Space Force, auraient également été touchés dans la même vague. La faille soulève des questions sur la robustesse des contrôles d'identité dans les interfaces conversationnelles déployées à grande échelle.

Jailbreak et Prompt Injection : comment les hackers piratent les IA

Les intelligences artificielles génératives sont désormais exposées à deux catégories d'attaques bien documentées : le jailbreak et la prompt injection. Le jailbreak consiste à contourner les règles de sécurité intégrées dans un modèle de langage, ces filtres conçus pour empêcher la génération de contenus illégaux, haineux ou dangereux. La prompt injection, elle, introduit des instructions malveillantes directement dans l'entrée du modèle, en exploitant le fait que les LLM ne distinguent pas naturellement une donnée d'une commande. Microsoft et OpenAI ont tous deux documenté de nombreux cas réels où des séquences de messages soigneusement construites, parfois sous forme de jeux de rôle ou de formulations persuasives, ont suffi à faire contourner ses garde-fous à un modèle. La prompt injection prend deux formes : directe, via le champ de saisie de l'utilisateur, ou indirecte, dissimulée dans un document externe lu par l'IA, comme un e-mail ou une page web. Ces vulnérabilités cessent d'être des curiosités techniques dès lors que les IA pilotent des systèmes critiques en entreprise. Un modèle compromis peut exfiltrer des données confidentielles, exécuter des commandes non autorisées ou propager des contenus nuisibles à grande échelle. La dangerosité tient en grande partie à l'asymétrie de l'attaque : ces techniques sont faciles à lancer, ne nécessitent aucune modification du code source, mais restent difficiles à détecter en temps réel. Les applications d'entreprise qui connectent des LLM à des bases de données, des messageries ou des outils internes représentent une surface d'attaque particulièrement exposée, car une injection indirecte peut s'activer sans intervention directe de l'attaquant sur l'interface. La combinaison des deux méthodes amplifie encore le risque : le jailbreak peut être le résultat d'une série de prompts injectés progressivement, poussant le modèle à ignorer ses instructions de base par accumulation. Ce phénomène s'inscrit dans un contexte plus large où la sécurité des systèmes IA accuse un retard structurel sur leur déploiement. Contrairement à la sécurité applicative classique, il n'existe pas encore de standard universel pour auditer ou certifier la robustesse d'un modèle face à ces attaques. Les chercheurs en sécurité, les équipes red team d'OpenAI, Google et Anthropic, ainsi que des cabinets indépendants, travaillent à établir des benchmarks fiables, mais la course entre attaque et défense reste ouverte. La vigilance humaine dans la supervision des sorties des modèles demeure, à ce stade, la mesure de protection la plus concrète disponible.

Google met en garde contre des pages web malveillantes qui empoisonnent les agents IA

Des chercheurs de Google ont mis en lumière une menace croissante qui cible directement les agents IA déployés en entreprise : des pages web publiques contiennent des instructions malveillantes cachées, conçues pour détourner le comportement de ces systèmes autonomes. L'alerte est venue après l'analyse du dépôt Common Crawl, une base de données colossale regroupant des milliards de pages web publiques, où les équipes de sécurité ont découvert des pièges numériques dissimulés dans du code HTML ordinaire. Ces commandes invisibles, rédigées en texte blanc sur fond blanc ou enfouies dans les métadonnées, restent dormantes jusqu'au moment où un agent IA consulte la page pour en extraire des informations. L'agent ingère alors le contenu sans distinguer le texte légitime des instructions malveillantes, et exécute ces dernières avec ses propres privilèges d'accès aux systèmes internes de l'entreprise. Le danger concret est illustré par un scénario précis : un agent IA chargé par un département RH d'analyser le portfolio en ligne d'un candidat ingénieur pourrait se voir ordonner, via une instruction cachée dans ce même site, d'envoyer l'annuaire interne de l'entreprise à une adresse IP externe, puis de rédiger un avis positif sur le candidat. Ce type d'attaque, appelé injection de prompt indirecte, contourne intégralement les défenses existantes. Les pare-feux, les systèmes de détection d'intrusion et les plateformes de gestion des accès ne voient rien d'anormal : l'agent dispose de credentials légitimes, opère sous un compte de service autorisé, et ses actions ressemblent trait pour trait à ses opérations habituelles. Les tableaux de bord d'observabilité IA du marché, qui surveillent l'utilisation des tokens ou la latence des réponses, n'offrent quant à eux aucune visibilité sur l'intégrité des décisions prises. Cette vulnérabilité s'inscrit dans une transformation profonde de la cybersécurité à l'ère des systèmes agentiques. Les chercheurs de Google proposent plusieurs contre-mesures architecturales : déployer un modèle "sanitiseur" isolé, sans privilèges, pour récupérer et nettoyer le contenu web avant de le transmettre au moteur de raisonnement principal ; appliquer les principes du zéro-trust aux agents eux-mêmes, en cloisonnant strictement leurs droits selon leur mission (un agent de veille concurrentielle ne devrait jamais avoir accès en écriture au CRM interne) ; et construire des pistes d'audit capables de retracer la généalogie exacte de chaque décision prise par un système IA. L'enjeu dépasse la simple sécurité informatique : à mesure que les entreprises confient des tâches critiques à des agents autonomes connectés au web, la surface d'attaque s'élargit de façon inédite, sans que les outils de défense traditionnels ne soient en mesure de suivre.

💬 On a filé des accès aux systèmes internes à des agents qui naviguent librement sur le web, et on s'étonne maintenant que ça pose un problème. Le truc redoutable dans l'injection indirecte, c'est que tout a l'air normal de l'extérieur : credentials légitimes, compte autorisé, actions qui ressemblent aux opérations habituelles, les outils de détection ne voient rien. Le modèle sanitiseur isolé, c'est du bon sens, mais combien d'équipes vont vraiment l'implémenter avant qu'un agent RH envoie l'annuaire interne à une adresse inconnue ?