☕️ Deepfakes sexuels : Apple et Google de nouveau rappelés à l’ordre
Le procureur municipal de San Francisco, David Chiu, a mis en demeure Apple et Google de retirer treize applications de génération de « deepfakes » sexuels non consenties de leurs boutiques respectives, huit sur l'App Store et cinq sur le Play Store. Ces applications, souvent présentées comme de simples outils d'échange de visages, permettent en réalité de produire des images intimes truquées sans l'accord des personnes représentées. Interrogé par Wired, David Chiu a qualifié cette pratique d'« illégale, préjudiciable et totalement inacceptable ». Son bureau avait déjà engagé des poursuites contre seize sites proposant ce type de services et s'attaque désormais directement aux deux géants technologiques, qu'il accuse d'avoir « engrangé des millions de dollars de commissions » grâce à ces applications dites « nudify ». Google a réagi en supprimant les cinq applications identifiées par le procureur, tandis qu'Apple n'a pas souhaité commenter la mise en demeure.
Cette affaire met en lumière l'incapacité persistante des deux principales boutiques d'applications mobiles à empêcher la diffusion d'outils facilitant des violences numériques à caractère sexuel, malgré des règles internes qui interdisent explicitement pornographie, abus et harcèlement. Une étude du Tech Transparency Project publiée en avril avait déjà révélé l'ampleur du phénomène, ces applications parvenant à contourner la modération en se présentant sous des dénominations ambiguës. Pour les victimes, potentiellement des millions de personnes dont l'image peut être détournée sans leur consentement, les conséquences sont concrètes : atteinte à la vie privée, préjudice psychologique et réputationnel, sans recours immédiat puisque ces contenus circulent souvent avant tout retrait. Pour Apple et Google, l'enjeu est aussi celui de la crédibilité de leur discours sur la sécurité des boutiques, régulièrement mis en avant comme argument commercial et réglementaire.
Ce nouvel épisode illustre un mode de fonctionnement récurrent des deux entreprises, qui agissent essentiellement de manière rétroactive, en retirant les applications signalées après coup plutôt qu'en les détectant en amont. Google affirme pourtant « prendre des mesures proactives », citant la suspension de centaines d'applications et la restriction de termes de recherche comme « nudify ». La législation californienne prévoit des sanctions contre les entreprises qui facilitent sciemment le fonctionnement de services de deepfakes pornographiques, ce qui expose désormais directement les deux plateformes à un risque juridique. David Chiu exige non seulement le retrait des applications visées, mais aussi la rupture des relations commerciales avec leurs éditeurs et un renforcement durable des procédures de contrôle. Reste à savoir si cette pression judiciaire suffira à faire évoluer des systèmes de modération jusqu'ici régulièrement pris en défaut face à la prolifération de ces outils.
Bien que la mise en demeure vise des pratiques americaines, une reponse d'Apple et Google pourrait faire evoluer leurs politiques de moderation des applications de deepfakes egalement disponibles en France et dans l'UE.
Vu une erreur factuelle dans cet article ? Signalez-la. Toutes les corrections valides sont publiées sur /corrections.
