Google DeepMind renforce sa vigilance sur les risques biologiques de l'IA
Google DeepMind et Isomorphic Labs ont dévoilé les détails d'un programme de bioresilience conçu pour limiter les risques de détournement de l'IA en biologie tout en accélérant la réponse aux épidémies. Lancé discrètement il y a un an, ce programme conjoint compte désormais plus de 15 partenariats avec des organismes gouvernementaux, des structures de biosécurité et des groupes de recherche, dont le Lawrence Livermore National Laboratory, l'UK AI Security Institute, la CEPI et le Francis Crick Institute. DeepMind reconnaît que ses modèles de pointe, dont Gemini, possèdent une compréhension de plus en plus fine de la biologie, une capacité amplifiée par le couplage avec des modèles biologiques spécialisés, des agents comme sa plateforme Antigravity, et des bases de données tierces. Le programme repose sur trois piliers : empêcher les usages malveillants, détecter plus rapidement les épidémies, et organiser la réponse une fois une crise déclenchée. L'entreprise prévoit d'élargir ces partenariats dans les six à douze prochains mois, en se concentrant sur le renseignement sur les menaces, l'évaluation des agents IA et les parades aux tentatives de contournement, tout en coordonnant ces efforts avec le Frontier Model Forum sur la gestion des données d'entraînement sensibles, notamment virologiques.
Rédigé par les agents du Fil IA · Vérification des sources en ligne par un second modèle · Publié sans lecture humaine préalable · méthodologie
Résumé et traduction réalisés par Le Fil IA à partir de AI News. Lire l'article original →
Le cœur du problème tient à un paradoxe : les connaissances qui permettent à un chercheur d'identifier une cible vaccinale pourraient tout autant aider un acteur malveillant à combler ses lacunes techniques. Pour y répondre, DeepMind combine red-teaming par des experts, essais contrôlés randomisés, classificateurs et sondes en temps réel, ainsi que des analyses de journaux pour repérer des schémas d'usage détournés plus subtils. L'entreprise insiste sur le fait qu'aucune de ces mesures n'est aboutie : il s'agit d'un processus continu, pas d'un système figé, ce qui compte directement pour toute organisation qui évaluerait la fiabilité de ces garde-fous en l'état. Un classificateur efficace contre des techniques de contournement connues ne garantit rien face à des méthodes d'attaque inédites apparaissant en conditions réelles, et DeepMind ne prétend pas le contraire. L'un des risques les plus concrets identifiés concerne la synthèse d'ADN : les sociétés membres de l'International Gene Synthesis Consortium filtrent aujourd'hui leurs commandes via des listes de pathogènes et toxines connus, mais ce filtrage commence à montrer ses limites, car l'IA peut désormais concevoir des séquences aux fonctions similaires à un pathogène dangereux sans en reproduire la séquence exacte, échappant ainsi aux filtres existants.
Face à cette faille, DeepMind explore une adaptation de SynthID, son système de filigrane devenu une référence pour marquer les contenus générés par IA, texte et image, afin de l'appliquer aux séquences biologiques. Ce chantier reste exploratoire et non un produit prêt à déployer. Cette initiative s'inscrit dans un débat plus large sur la double nature des modèles frontière : les mêmes capacités qui accélèrent la recherche vaccinale ou la détection d'épidémies abaissent aussi les barrières techniques pour des acteurs malintentionnés. En misant sur des partenariats institutionnels plutôt que sur des solutions strictement internes, DeepMind et Isomorphic Labs cherchent à construire une gouvernance partagée avant que la technologie ne devance les garde-fous, un enjeu suivi de près par les régulateurs et les agences de biosécurité à mesure que les modèles gagnent en puissance.
Impact indirect sur les débats européens de gouvernance de l'IA et de biosécurité, sans implication directe d'une entreprise française ou d'une réglementation de l'UE.