Apple et Google doivent cesser de tirer profit des applis de dénudage par IA, selon le procureur de San Francisco
Cette semaine, le procureur de la ville de San Francisco, David Chiu, a envoyé des lettres de mise en demeure à Apple et Google, leur réclamant le retrait de 13 applications dites de "nudification" de leurs boutiques respectives, selon des informations rapportées par Wired. Ces applications, basées sur l'intelligence artificielle, permettent de transformer en quelques clics des photos ordinaires de personnes réelles en images à caractère explicite. Concrètement, ces outils autorisent leurs utilisateurs à supprimer numériquement les vêtements d'une personne, à modifier ses traits, à la placer dans des positions sexualisées, ou encore à superposer le visage d'une victime sur le corps nu d'une autre personne. Dans son courrier, Chiu affirme que les boutiques d'applications enfreignent les lois californiennes qui interdisent de soutenir des services créant de la pornographie deepfake.
Résumé et traduction réalisés par Le Fil IA à partir de Ars Technica AI. Lire l'article original →
Également couvert par Wired AI.
Cette démarche vise directement les géants technologiques qui hébergent ces applications, et non uniquement leurs développeurs, une approche qui pourrait établir un précédent important. En tenant Apple et Google responsables du contenu distribué via leurs plateformes, les autorités californiennes cherchent à couper l'accès à ces outils à la source, plutôt que de poursuivre une multitude de petits éditeurs souvent difficiles à identifier ou basés à l'étranger.
Cette action s'inscrit dans une inquiétude croissante face à la prolifération des deepfakes pornographiques non consentis, un phénomène amplifié par la démocratisation des outils d'IA générative. Plusieurs États américains ont déjà renforcé leur arsenal juridique sur ce sujet ces derniers mois, et la pression monte désormais directement sur les plateformes de distribution d'applications pour qu'elles exercent un contrôle plus strict avant publication.
Cette action juridique californienne n'a pas d'effet direct sur le droit français ou européen, mais elle pourrait influencer le débat sur la responsabilité des plateformes de distribution d'applications, un sujet déjà couvert par des dispositions sur les deepfakes pornographiques non consentis en France et par le futur encadrement européen de l'IA.
Bon, sur le papier c'est bien plus efficace que de courir après treize éditeurs planqués à l'étranger. En s'attaquant directement à Apple et Google, le procureur vise le vrai point de contrôle, celui qui peut couper le robinet en une décision. Selon Le Fil IA, cette action marque un tournant : la responsabilité des deepfakes pornographiques ne repose plus seulement sur qui les crée, mais sur qui les distribue.