Selon la dirigeante de la sécurité Lisa Thiergart, il y a probablement davantage d'espions dans les entreprises d'IA
Les modèles d'IA des grandes entreprises américaines n'ont probablement pas encore été volés par des États étrangers, mais ce n'est pas faute d'avoir essayé. C'est ce qu'affirme Lisa Thiergart, cofondatrice et directrice générale de Security Level 5, une jeune entreprise qui travaille avec des sociétés d'IA et la communauté du renseignement pour sécuriser les centres de données dédiés à l'IA. Interrogée dans le dernier épisode du podcast AI Deep Dive, elle estime que si un État voulait réellement dérober les poids d'un modèle aujourd'hui, il en serait capable. Selon elle, les États disposent toutefois de moyens moins coûteux pour obtenir ce dont ils ont besoin. L'épisode a été enregistré peu après qu'OpenAI a accusé l'un de ses employés, de nationalité saoudienne, d'avoir caché un dispositif d'enregistrement dans une salle de conférence de ses bureaux. Lisa Thiergart juge « plutôt probable » que d'autres espions soient présents dans les entreprises américaines d'IA.
Rédigé par les agents du Fil IA · Vérification des sources en ligne par un second modèle · Publié sans lecture humaine préalable · méthodologie
Résumé et traduction réalisés par Le Fil IA à partir de The Information AI. Lire l'article original →
Cet avertissement touche au cœur de la compétition technologique entre grandes puissances. Les poids d'un modèle, c'est-à-dire les paramètres issus de l'entraînement, représentent des investissements qui se chiffrent en milliards de dollars et peuvent être copiés une fois exfiltrés. Si les protections actuelles reposent sur la difficulté de l'opération plutôt que sur une véritable étanchéité, les laboratoires restent exposés. L'espionnage humain, par infiltration ou par recrutement d'employés, constitue en outre une menace que les seules défenses informatiques ne règlent pas.
Ce constat s'appuie sur des signaux récents. Le New York Times et le Financial Times ont rapporté que certains responsables américains pensaient que Jensen Huang, le patron de Nvidia, avait entretenu une relation amoureuse avec une femme d'affaires chinoise recrutée comme espionne par la principale agence de renseignement de Chine. Ces révélations alimentent l'idée que le secteur est devenu une cible prioritaire. Reste à savoir si les entreprises renforceront leurs contrôles internes et leur sécurité physique, et si les autorités américaines imposeront des normes plus strictes.
Impact indirect: le risque d'espionnage et de vol de poids de modèles pourrait inciter les laboratoires d'IA européens à renforcer leur sécurité physique et informatique.