Les lieux où la technologie d'OpenAI pourrait se manifester en Iran

OpenAI lance son programme de primes pour les failles de sécurité

OpenAI vient de lancer un programme officiel de primes aux bugs axé sur la sécurité, le Safety Bug Bounty, destiné à identifier et corriger les risques liés à l'utilisation abusive de ses systèmes d'intelligence artificielle. Contrairement aux programmes classiques de bug bounty centrés sur les vulnérabilités techniques, celui-ci cible spécifiquement les failles propres aux modèles IA et à leurs nouveaux usages. Ce programme marque une étape importante dans la manière dont l'industrie aborde la sécurité des systèmes d'IA. Avec la montée en puissance des agents autonomes capables d'exécuter des tâches complexes, les vecteurs d'attaque se sont multipliés et diversifiés, des risques qui ne peuvent plus être traités par les seules méthodes de sécurité logicielle traditionnelles. Parmi les vulnérabilités ciblées figurent notamment l'injection de prompts (prompt injection), la fuite de données (data exfiltration), ainsi que les failles spécifiques aux systèmes agentiques, ces architectures où des modèles IA agissent de façon autonome, enchaînent des outils et prennent des décisions sans supervision humaine constante. Ces risques représentent aujourd'hui l'une des préoccupations majeures de la communauté de la sécurité IA. En ouvrant ce programme à la communauté des chercheurs en sécurité, OpenAI adopte une approche collaborative qui pourrait faire école dans le secteur. Alors que la course au déploiement d'agents IA s'accélère chez les grands acteurs comme Google, Anthropic ou Microsoft, la mise en place de mécanismes structurés pour détecter les abus et les dérives devient un enjeu stratégique autant que éthique.

Meta traque les moindres gestes de ses employés pour nourrir son IA : ils ont dit stop

Meta a dû reculer face à la fronde interne provoquée par son programme MCI (Model Capability Initiative), un dispositif de surveillance des employés lancé en avril 2026 et destiné à entraîner ses intelligences artificielles. Selon une note interne relayée par The Information et des publications consultées par Reuters, l'entreprise a annoncé plusieurs ajustements : renforcement des protections de la vie privée, possibilité pour certains salariés de demander une exemption, et introduction d'une fonction permettant de suspendre le suivi pendant 30 minutes. Concrètement, MCI enregistre les mouvements de souris, les clics, la navigation dans les menus et surveille plus de 200 applications et sites web sur les ordinateurs des employés américains. L'objectif déclaré est de développer des agents IA capables d'exécuter de manière autonome des tâches informatiques du quotidien. Mais des analyses internes ont révélé que la collecte allait bien au-delà : modifications de code, cycles de mise en veille, historiques de navigation, contenus copiés-collés dans le presse-papiers, et même des échanges par e-mail ou Google Chat impliquant des collègues situés hors des États-Unis. Meta a par ailleurs reconnu que certaines de ces données avaient été stockées sous une forme moins sécurisée que prévu, et que le logiciel provoquait des pics de consommation internet pouvant épuiser un forfait mensuel en quelques jours. L'ampleur de la révolte illustre les limites d'une approche qui traite les salariés comme source de données d'entraînement sans leur consentement éclairé. Le porte-parole Dave Arnold a insisté sur le fait que MCI cible les interactions avec les ordinateurs et non le contenu affiché, mais les journaux techniques examinés en interne contredisent partiellement cette affirmation. Pour les employés concernés, les enjeux sont doubles : une atteinte directe à la vie privée sur leurs outils de travail, et un précédent qui pourrait normaliser une surveillance de masse au sein des grandes entreprises tech. Pour le secteur plus largement, cette résistance pose une question de fond : jusqu'où les entreprises peuvent-elles mobiliser leurs propres effectifs comme matière première pour l'IA sans déclencher une opposition organisée ? Meta n'est pas seule à chercher des données comportementales réalistes pour entraîner des agents IA capables de piloter des interfaces graphiques. Microsoft, Google et Anthropic travaillent tous sur des systèmes similaires. La différence, c'est que Meta a choisi de collecter ces données directement sur les machines de ses propres employés, court-circuitant le recours à des datasets publics ou à des utilisateurs volontaires. Cette stratégie révèle une pression croissante sur les labos d'IA pour produire des agents "computer use" compétitifs, dans un calendrier serré. Les concessions annoncées par Meta ressemblent davantage à un ajustement tactique qu'à une remise en cause du programme : MCI continue de fonctionner, et la collecte de comportements humains réels demeure au coeur de la course aux agents autonomes.

☕️ Accusée d’acheter de vieux livres pour entrainer des IA, Zoom Books nie

Depuis plusieurs semaines, des libraires alertent sur Reddit à propos de Zoom Books, une entreprise canadienne qui passerait commande en masse de vieux ouvrages dans plusieurs pays simultanément : Allemagne, Espagne, États-Unis, Nouvelle-Zélande, Australie, Bulgarie et Grande-Bretagne. L'affaire a été révélée par les médias suisses RTS et SRF ainsi que par le quotidien allemand taz. Les libraires soupçonnent Zoom Books de numériser le contenu de ces livres pour entraîner des modèles d'intelligence artificielle générative, avant de détruire les exemplaires physiques. La société affirme, elle, n'acheter que des "invendus poussiéreux" datant de 1970 ou après, dotés d'un numéro ISBN, à raison d'un seul exemplaire par titre, et nie formellement numériser ou détruire quoi que ce soit. Sur la question de savoir à qui les livres sont revendus, un responsable de l'entreprise refuse de donner toute information sur les acheteurs. Ce type de pratique, si elle était confirmée, ouvrirait une voie juridique inédite pour contourner le droit d'auteur dans l'entraînement des IA. En achetant légalement des ouvrages physiques puis en les numérisant, une entreprise pourrait invoquer le "fair use", doctrine juridique américaine souvent mobilisée par les acteurs de l'IA générative pour légitimer l'utilisation massive de contenus protégés. Pour les éditeurs et les auteurs déjà fragilisés par la montée des IA, cette approche représente une menace supplémentaire : elle contourne les plateformes de licences numériques en s'attaquant directement au stock physique. L'affaire s'inscrit dans un contexte de tensions croissantes autour des données d'entraînement des grands modèles de langage. Plusieurs géants du secteur font face à des procès intentés par des auteurs et des éditeurs qui leur reprochent d'avoir ingéré leurs œuvres sans autorisation ni compensation. La stratégie consistant à passer par des intermédiaires discrets pour constituer des corpus d'entraînement à moindre risque juridique est déjà documentée. Le refus de Zoom Books de nommer ses acheteurs alimente les soupçons d'une chaîne d'approvisionnement délibérément opaque, conçue pour alimenter des acteurs de l'IA tout en maintenant une distance plausible avec les questions de droits.

💬 Le refus de nommer les acheteurs, c'est l'aveu involontaire qui dit tout. Si l'affaire se confirme, on tient le modèle industriel pour contourner le droit d'auteur à grande échelle : acheter physique, numériser, invoquer le fair use, intercaler un intermédiaire discret pour brouiller les pistes. Les prochains procès sur les données d'entraînement ne vont pas cibler que les grands labs.

Les joueurs de Pokémon Go ont contribué sans le savoir à des technologies de drones militaires

Dix ans après le pic mondial de la fièvre Pokémon Go, il apparaît que les millions de joueurs qui sillonnaient leurs quartiers smartphone à la main ont alimenté, à leur insu, une base de données colossale aujourd'hui exploitée pour entraîner des systèmes d'intelligence artificielle à vocation militaire. La société Niantic Spatial, créée en mai 2025 après que Niantic a cédé ses jeux sous licence, dont Pokémon Go, à l'éditeur Scopely soutenu par des capitaux saoudiens, utilise des milliards d'images réelles capturées par ces joueurs pour développer des technologies de navigation destinées aux robots de livraison et, potentiellement, aux drones militaires. Avant cette séparation, Niantic avait publiquement annoncé son intention de combiner les scans issus de Pokémon Go avec ceux de son application Scaniverse pour construire un "large geospatial model", soit un modèle tridimensionnel du monde physique entraîné sur des images géolocalisées de lieux réels. Ce que les joueurs percevaient comme un simple mécanisme de jeu, scanner des statues, des fontaines ou des monuments pour débloquer des points d'intérêt, a constitué en réalité une collecte massive de données spatiales à l'échelle planétaire. Niantic Spatial précise que les scans ont servi à entraîner ses modèles de fondation, sans être copiés ni directement accessibles dans le produit final, mais la destination de ces modèles soulève des questions sérieuses : des technologies de navigation autonome développées à partir de données communautaires pourraient se retrouver embarquées dans des systèmes de défense. Cette révélation illustre une tension croissante autour du consentement dans l'économie des données. Des applications grand public, souvent gratuites et ludiques, collectent des informations sur le monde physique que leurs utilisateurs ne s'attendent pas à voir réutilisées à des fins industrielles ou militaires. Niantic n'est pas un cas isolé: l'industrie entière cherche à monétiser les données accumulées pendant des années d'usage massif. La question du droit des utilisateurs à contrôler la destination de leurs contributions, même lorsqu'elles portent sur des espaces publics, n'a toujours pas de réponse claire dans la régulation existante.

💬 Le génie de Niantic, c'est d'avoir fait scanner le monde réel par des millions de gens en échange d'une balade avec leur smartphone. Personne ne lisait les CGU, c'est évident, mais que ces scans atterrissent dans des systèmes de navigation pour drones militaires, ça fait quand même un écart qu'on n'avait pas anticipé. Et là le RGPD est muet.