Apple et Google doivent cesser de tirer profit des applis de dénudage par IA, selon le procureur de San Francisco
Cette semaine, le procureur de la ville de San Francisco, David Chiu, a envoyé des lettres de mise en demeure à Apple et Google, leur réclamant le retrait de 13 applications dites de "nudification" de leurs boutiques respectives, selon des informations rapportées par Wired. Ces applications, basées sur l'intelligence artificielle, permettent de transformer en quelques clics des photos ordinaires de personnes réelles en images à caractère explicite. Concrètement, ces outils autorisent leurs utilisateurs à supprimer numériquement les vêtements d'une personne, à modifier ses traits, à la placer dans des positions sexualisées, ou encore à superposer le visage d'une victime sur le corps nu d'une autre personne. Dans son courrier, Chiu affirme que les boutiques d'applications enfreignent les lois californiennes qui interdisent de soutenir des services créant de la pornographie deepfake.
Cette démarche vise directement les géants technologiques qui hébergent ces applications, et non uniquement leurs développeurs, une approche qui pourrait établir un précédent important. En tenant Apple et Google responsables du contenu distribué via leurs plateformes, les autorités californiennes cherchent à couper l'accès à ces outils à la source, plutôt que de poursuivre une multitude de petits éditeurs souvent difficiles à identifier ou basés à l'étranger.
Cette action s'inscrit dans une inquiétude croissante face à la prolifération des deepfakes pornographiques non consentis, un phénomène amplifié par la démocratisation des outils d'IA générative. Plusieurs États américains ont déjà renforcé leur arsenal juridique sur ce sujet ces derniers mois, et la pression monte désormais directement sur les plateformes de distribution d'applications pour qu'elles exercent un contrôle plus strict avant publication.
Cette action juridique californienne n'a pas d'effet direct sur le droit français ou européen, mais elle pourrait influencer le débat sur la responsabilité des plateformes de distribution d'applications, un sujet déjà couvert par des dispositions sur les deepfakes pornographiques non consentis en France et par le futur encadrement européen de l'IA.
Vu une erreur factuelle dans cet article ? Signalez-la. Toutes les corrections valides sont publiées sur /corrections.


