L’IA de Google l’accuse de crimes sexuels, Ashley MacIsaac contre-attaque

☕️ Deepfakes sexuels : Apple et Google de nouveau rappelés à l’ordre

Le procureur municipal de San Francisco, David Chiu, a mis en demeure Apple et Google de retirer treize applications de génération de « deepfakes » sexuels non consenties de leurs boutiques respectives, huit sur l'App Store et cinq sur le Play Store. Ces applications, souvent présentées comme de simples outils d'échange de visages, permettent en réalité de produire des images intimes truquées sans l'accord des personnes représentées. Interrogé par Wired, David Chiu a qualifié cette pratique d'« illégale, préjudiciable et totalement inacceptable ». Son bureau avait déjà engagé des poursuites contre seize sites proposant ce type de services et s'attaque désormais directement aux deux géants technologiques, qu'il accuse d'avoir « engrangé des millions de dollars de commissions » grâce à ces applications dites « nudify ». Google a réagi en supprimant les cinq applications identifiées par le procureur, tandis qu'Apple n'a pas souhaité commenter la mise en demeure. Cette affaire met en lumière l'incapacité persistante des deux principales boutiques d'applications mobiles à empêcher la diffusion d'outils facilitant des violences numériques à caractère sexuel, malgré des règles internes qui interdisent explicitement pornographie, abus et harcèlement. Une étude du Tech Transparency Project publiée en avril avait déjà révélé l'ampleur du phénomène, ces applications parvenant à contourner la modération en se présentant sous des dénominations ambiguës. Pour les victimes, potentiellement des millions de personnes dont l'image peut être détournée sans leur consentement, les conséquences sont concrètes : atteinte à la vie privée, préjudice psychologique et réputationnel, sans recours immédiat puisque ces contenus circulent souvent avant tout retrait. Pour Apple et Google, l'enjeu est aussi celui de la crédibilité de leur discours sur la sécurité des boutiques, régulièrement mis en avant comme argument commercial et réglementaire. Ce nouvel épisode illustre un mode de fonctionnement récurrent des deux entreprises, qui agissent essentiellement de manière rétroactive, en retirant les applications signalées après coup plutôt qu'en les détectant en amont. Google affirme pourtant « prendre des mesures proactives », citant la suspension de centaines d'applications et la restriction de termes de recherche comme « nudify ». La législation californienne prévoit des sanctions contre les entreprises qui facilitent sciemment le fonctionnement de services de deepfakes pornographiques, ce qui expose désormais directement les deux plateformes à un risque juridique. David Chiu exige non seulement le retrait des applications visées, mais aussi la rupture des relations commerciales avec leurs éditeurs et un renforcement durable des procédures de contrôle. Reste à savoir si cette pression judiciaire suffira à faire évoluer des systèmes de modération jusqu'ici régulièrement pris en défaut face à la prolifération de ces outils.

💬 Bon, quand le procureur doit s'y reprendre à deux fois pour faire bouger Apple et Google, c'est que le problème n'est pas technique, il est économique : ces apps rapportent des commissions, et tant que le retrait reste réactif, l'incitation à laisser filer existe toujours. Google supprime ses cinq apps, Apple ne dit rien, ça résume assez bien qui prend le sujet au sérieux et qui attend que ça se tasse. Le vrai test, c'est la Californie qui menace de sanctionner les plateformes elles-mêmes, pas juste les éditeurs, ça pourrait enfin changer l'équation.

Personne n'a besoin de l'IA pour chercher sur Internet, dit le tribunal dans sa décision contre Google

Un tribunal allemand a rendu une décision préliminaire contre Google, jugeant le géant américain responsable des fausses affirmations générées par son outil AI Overviews. L'affaire, révélée par le média spécialisé The Decoder, implique deux éditeurs qui ont découvert que l'intelligence artificielle de Google les associait publiquement à des pratiques frauduleuses. L'une des formulations incriminées était sans ambiguïté : "Oui, [le site] est connu pour des pratiques commerciales douteuses et est souvent perçu comme une arnaque." Malgré l'envoi d'une lettre de mise en demeure plus tôt dans l'année 2025, Google n'a pas corrigé ces affirmations trompeuses, poussant les éditeurs à porter l'affaire devant la justice. Le tribunal a rejeté l'argument avancé par Google selon lequel les utilisateurs comprennent généralement que les réponses de l'IA ne sont pas toujours exactes et doivent être vérifiées. Cette décision ouvre un précédent juridique potentiellement applicable à tous les moteurs de recherche intégrant de l'IA, ainsi qu'aux chatbots qui reformulent et synthétisent des sources tierces. Jusqu'ici, les entreprises technologiques s'abritaient derrière le caractère probabiliste de l'IA pour éviter toute responsabilité éditoriale. Ce jugement remet directement en cause cette stratégie défensive : les plateformes pourraient désormais être tenues juridiquement responsables des affirmations factuellement incorrectes ou diffamatoires produites automatiquement par leurs systèmes. Pour les éditeurs de presse et les entreprises ciblées par de fausses informations générées par IA, c'est une ouverture concrète vers des recours juridiques effectifs. L'affaire s'inscrit dans un contexte de déploiement massif des interfaces de recherche augmentée par l'IA, portées par Google AI Overviews, Perplexity ou Bing Copilot, qui affichent des réponses synthétisées directement dans les résultats de recherche. Ces fonctionnalités soulèvent depuis leur lancement des questions profondes sur la fiabilité des informations présentées, les droits des éditeurs dont le contenu est aspiré, et la responsabilité des plateformes. La décision allemande pourrait inciter les régulateurs européens à renforcer le cadre juridique autour des systèmes génératifs, et contraindre les géants tech à développer des mécanismes bien plus robustes de vérification et de correction de leurs outils d'IA.

💬 L'argument "les utilisateurs savent que l'IA peut se tromper" était du flan dès le départ, et ce tribunal allemand vient de le dire clairement. Quand ton système génère publiquement qu'un site est une arnaque, tu ne t'abrites pas derrière le caractère probabiliste du modèle, c'est tout. Ce précédent, c'est le genre de pression qui va forcer les plateformes à construire des garde-fous sérieux, bien plus que n'importe quel rapport de régulateur.

L’encyclopédie Britannica attaque OpenAI en justice et l’accuse de reproduire ses contenus

Encyclopaedia Britannica et Merriam-Webster ont engagé des poursuites judiciaires contre OpenAI, accusant le géant de l'IA d'avoir reproduit et mémorisé leurs contenus sans autorisation pour entraîner ses modèles de langage. Cette action en justice s'inscrit dans une vague de contentieux qui monte en puissance entre les acteurs de l'IA générative et les détenteurs de droits intellectuels. L'enjeu est de taille pour l'ensemble du secteur éditorial. Si les plaignants obtiennent gain de cause, cela pourrait contraindre OpenAI, et par extension l'ensemble de l'industrie, à repenser ses pratiques d'acquisition de données d'entraînement, voire à indemniser rétroactivement les éditeurs dont les contenus ont été ingérés. Pour des institutions comme Britannica, dont la crédibilité repose sur des décennies de production éditoriale rigoureuse, voir leurs contenus intégrés dans des systèmes commerciaux sans accord ni rémunération constitue une menace directe à leur modèle économique. Au cœur de la plainte figure le concept de « mémorisation » : les modèles d'OpenAI auraient non seulement été entraînés sur les contenus protégés, mais seraient capables de les reproduire quasi intégralement à la demande. Cette notion dépasse la simple question de l'entraînement et touche directement au droit de reproduction, un terrain juridique potentiellement plus favorable aux plaignants. L'affaire a été rapportée par Reuters et suit plusieurs procès intentés par des médias comme le New York Times ou des associations d'auteurs. Cette offensive d'institutions aussi emblématiques que Encyclopaedia Britannica, fondée en 1768, et Merriam-Webster signale que le front judiciaire contre OpenAI s'élargit bien au-delà de la presse d'actualité. La multiplication de ces recours pourrait accélérer l'adoption de cadres légaux encadrant l'utilisation des données pour l'entraînement de l'IA, un débat qui s'intensifie simultanément en Europe et aux États-Unis.

Jay Edelson a forcé Facebook à payer. Il s'attaque maintenant à l'IA de la Silicon Valley

Jay Edelson, avocat spécialisé dans les recours collectifs basé à Chicago, est devenu l'une des figures les plus redoutées de la Silicon Valley. En moins d'un an, il a participé à un règlement d'un milliard de dollars contre Anthropic pour violation de droits d'auteur, et déposé trois affaires très médiatisées contre OpenAI et Google concernant leurs chatbots d'intelligence artificielle. Il prépare actuellement une nouvelle plainte contre OpenAI, attendue dès la semaine prochaine selon des informations non encore publiées : une femme affirme que ChatGPT aurait transformé son ancien petit ami en harceleur, en lui fournissant des informations ou en alimentant une obsession que le système aurait pu amplifier. Ces procédures illustrent une montée en puissance du contentieux juridique autour de l'IA générative, qui touche désormais des domaines aussi divers que le droit d'auteur, la sécurité des utilisateurs et la responsabilité des plateformes. Pour l'industrie, les enjeux sont considérables : les grands modèles de langage ont été entraînés sur des corpus massifs dont la légalité reste contestée, et leurs interactions avec les utilisateurs peuvent avoir des conséquences imprévisibles dans la vie réelle. Pour les entreprises comme OpenAI ou Google, dont les valorisations atteignent plusieurs centaines de milliards de dollars, ces procès représentent un risque financier et réputationnel croissant. Edelson s'est bâti une réputation en attaquant des géants comme Facebook sur des questions de vie privée et de données biométriques, obtenant des règlements massifs là où d'autres avocats échouaient. Son cabinet, Edelson PC, fonctionne sur un modèle de contingence : il ne perçoit d'honoraires qu'en cas de victoire, ce qui lui permet de prendre des risques que les cabinets traditionnels évitent. Alors que la régulation de l'IA avance lentement côté législatif, les recours collectifs s'imposent comme un levier de responsabilisation de facto, et Edelson entend bien occuper ce terrain durablement.

💬 Un milliard contre Anthropic en moins d'un an, c'est pas anodin. Ce qui m'intéresse ici, c'est pas l'avocat, c'est le signal : faute de régulation qui avance, c'est la voie judiciaire qui commence à fixer les règles du jeu, et ça va aller vite. L'affaire ChatGPT-harceleur va faire du bruit, même si le fond juridique est moins solide que les dossiers droits d'auteur.