Le créateur de Signal aide à chiffrer Meta AI

Des pirates ont piégé le chatbot Meta AI pour voler des comptes Instagram de célébrités

Des hackers ont exploité le chatbot d'assistance d'Meta pour s'emparer de comptes Instagram à forte valeur et les revendre sur le marché gris, avant qu'une mise à jour d'urgence ne soit déployée le 29 mai. La technique était d'une simplicité déconcertante : les attaquants utilisaient un VPN pour simuler une localisation proche de celle du compte ciblé, déclenchaient une procédure de réinitialisation de mot de passe, puis demandaient directement au chatbot de Meta de modifier l'adresse e-mail associée au compte. Des vidéos montrant l'exploit en action ont circulé sur des groupes Telegram fréquentés par des hackers et des chercheurs en sécurité, selon le site 404 Media. Parmi les comptes compromis figurent celui du compte institutionnel de la Maison-Blanche sous Barack Obama et celui du Chief Master Sergeant de la Space Force américaine, qui ont brièvement publié des images et messages pro-iraniens. La faille illustre un risque concret posé par l'intégration d'agents conversationnels dans des flux de support client sensibles : un simple message suffit à contourner les protections habituelles. Des comptes Instagram notables se négocient plusieurs centaines de milliers de dollars sur des marchés parallèles, ce qui rend ce vecteur d'attaque particulièrement lucratif. Pour les victimes, une prise de contrôle de ce type peut entraîner une atteinte à la réputation immédiate, comme l'ont démontré les publications pro-iraniennes diffusées depuis des comptes officiels américains. Il s'agit techniquement d'une attaque par injection de prompt : l'IA obéit à une instruction malveillante formulée en langage naturel, sans mécanisme de vérification d'identité suffisant. Ce type de vulnérabilité est documenté depuis plusieurs années dans la recherche en sécurité, mais sa présence dans un produit déployé à grande échelle par Meta souligne le défi que représente la sécurisation des assistants IA exposés au public. Meta a déployé un correctif d'urgence le 29 mai, mais l'incident relance le débat sur les garde-fous nécessaires lorsqu'un modèle de langage est habilité à effectuer des actions à fort impact sur des comptes utilisateurs réels.

💬 L'injection de prompt, c'est dans les papers depuis 2022. Que ça arrive en prod sur le chatbot support de Meta, avec la capacité de modifier l'email d'un compte à la simple demande, c'est moins une surprise qu'un aveu : personne n'a audité les permissions avant le déploiement. Le correctif est là, mais le problème de fond reste : un LLM autorisé à agir sur des comptes réels, c'est une surface d'attaque permanente.

Inférence ML chiffrée de bout en bout avec Amazon SageMaker AI et le chiffrement homomorphe

Amazon Web Services propose une nouvelle approche pour exécuter des modèles de machine learning dans le cloud sans jamais exposer les données traitées, même au fournisseur d'infrastructure. La méthode repose sur le chiffrement homomorphe intégral (FHE, pour Fully Homomorphic Encryption), une technique cryptographique qui permet d'effectuer des calculs directement sur des données chiffrées, sans jamais les déchiffrer. Concrètement, un client envoie une requête chiffrée à un modèle hébergé sur Amazon SageMaker AI, le modèle produit une prédiction chiffrée, et seul le client peut déchiffrer le résultat final. La bibliothèque open source concrete-ml, compatible avec l'API scikit-learn, sert de couche de haut niveau pour entraîner et déployer ces modèles FHE sans avoir à coder les algorithmes cryptographiques à la main. L'enjeu est considérable pour plusieurs secteurs régulés. Dans le domaine médical, un assureur pourrait déployer un modèle prédictif sur des données diagnostiques de patients sans que ces données quittent le contrôle du médecin, en conformité avec les réglementations sur la vie privée. Dans le secteur énergétique, une entreprise pétrolière pourrait analyser des photos satellites de sites sensibles géopolitiquement sans les confier en clair à un tiers. Un opérateur télécom pourrait filtrer des e-mails clients pour détecter du spam sans violer les obligations de protection des communications personnelles. Dans tous ces cas, le cloud fournit la puissance de calcul, mais reste cryptographiquement aveugle au contenu traité, y compris Amazon lui-même, selon AWS. Cette publication fait suite à un premier article d'AWS qui démontrait le FHE appliqué à SageMaker en construisant manuellement un algorithme de régression linéaire via la bibliothèque bas niveau SEAL. L'approche présentée ici est plus généraliste : concrete-ml prend en charge plusieurs types de modèles standards et s'intègre directement dans les workflows SageMaker existants, via des conteneurs personnalisés. Le FHE se distingue également des environnements d'exécution confidentiels comme AWS Nitro Enclaves, où les données sont déchiffrées dans un enclave isolé avant traitement. Avec le FHE, aucun déchiffrement n'a lieu nulle part dans la chaîne. Le principal frein reste la performance, le FHE est significativement plus lent que le calcul en clair, ce qui limite pour l'instant son usage aux modèles relativement simples, mais la progression rapide des bibliothèques spécialisées laisse entrevoir des applications plus larges à moyen terme.

Le détecteur d’images IA de Meta montre ses limites face à un simple recadrage

Meta a présenté Content Seal, un filigrane numérique invisible intégré aux images générées par son outil Muse Image, accompagné d'un détecteur censé identifier ces contenus produits par intelligence artificielle. Une analyse menée par Reuters et publiée le 12 juillet 2026 a testé ce dispositif sur quarante visuels générés par Muse Image. Sur les images intactes, le détecteur s'est montré parfaitement fiable, reconnaissant la totalité des quarante fichiers testés. Mais dès que Reuters a recadré ces mêmes images pour les réduire à environ un tiers, voire la moitié de leur taille d'origine, le taux de reconnaissance s'est effondré à environ 45 %, soit un échec dans 55 % des cas. Aucune manipulation sophistiquée n'a été nécessaire pour tromper le système : ni logiciel de retouche avancé, ni filtre complexe, seulement un recadrage basique, une fonction disponible sur n'importe quel smartphone depuis plus de dix ans. Cette faille pose un problème concret au moment même où l'Union européenne s'apprête à durcir ses exigences en matière de traçabilité des contenus IA. À partir du 2 août 2026, le règlement européen sur l'intelligence artificielle impose aux fournisseurs d'IA générative de marquer leurs productions dans un format lisible par une machine, une obligation qui couvre les images, les vidéos, l'audio et les textes générés artificiellement. Si un simple recadrage suffit à effacer la trace laissée par un outil censé répondre à cette exigence, la capacité des plateformes et des vérificateurs de faits à distinguer contenus authentiques et contenus générés par IA s'en trouve directement affaiblie, à un moment où ces images circulent massivement sur les réseaux sociaux. Cette fragilité n'est pourtant pas propre à Meta. Les spécialistes du secteur savent que les systèmes de filigrane invisible partagent une faiblesse structurelle : un recadrage important, une compression ou un redimensionnement peuvent suffire à effacer un signal devenu trop ténu pour être détecté. Google et OpenAI reconnaissent eux aussi que leurs propres technologies de marquage ne résistent pas à toutes les transformations d'image. Meta rappelle de son côté que son détecteur reste en préversion et que Content Seal a été conçu pour survivre à certaines modifications, tout en admettant qu'un recadrage marqué peut faire disparaître le signal. À cette fragilité technique s'ajoute un problème de compatibilité : Content Seal ne fonctionne ni avec SynthID, la technologie de Google, ni avec le standard C2PA soutenu par Adobe et Microsoft, une fragmentation qui complique d'autant la tâche des acteurs chargés de vérifier l'origine des contenus en ligne.

Aider les développeurs à créer des expériences IA plus sûres pour les adolescents

OpenAI franchit une nouvelle étape dans la protection des mineurs en ligne en publiant des politiques de sécurité spécifiques aux adolescents, destinées aux développeurs qui intègrent ses modèles dans leurs applications. Ces directives s'appuient sur des prompts de modération et le modèle gpt-oss-safeguard, conçu pour filtrer les contenus inadaptés à un public jeune. Cette initiative répond à une pression croissante des régulateurs et des associations de protection de l'enfance, qui exigent des plateformes IA des garde-fous concrets face aux risques spécifiques que représentent les interactions non supervisées pour les adolescents. Pour les développeurs, l'enjeu est double : se conformer aux exigences légales émergentes tout en préservant l'expérience utilisateur. OpenAI met à disposition des ressources concrètes permettant aux équipes techniques de moduler les réponses de leurs systèmes en fonction de l'âge détecté ou déclaré de l'utilisateur. Le modèle gpt-oss-safeguard agit comme une couche de modération intermédiaire, capable d'identifier et de bloquer des contenus potentiellement dangereux, qu'il s'agisse de sujets liés à l'automutilation, aux contenus à caractère sexuel, ou aux discours radicaux, avant qu'ils n'atteignent un utilisateur mineur. Ces outils s'inscrivent dans une stratégie plus large de sécurité par conception (safety by design), où la responsabilité ne repose plus uniquement sur la plateforme centrale mais se distribue vers l'écosystème de développeurs tiers. Une approche qui pourrait devenir un standard de l'industrie à mesure que les législations, notamment en Europe avec le DSA, renforcent leurs exigences envers les services numériques accessibles aux mineurs.