Character.AI poursuivie en justice pour un chatbot se présentant comme médecin agréé

xAI traîne un utilisateur en justice pour création d’images porno de mineurs avec Grok

xAI, la société d'intelligence artificielle fondée par Elon Musk, a déposé mardi une plainte devant un tribunal fédéral du Texas contre un utilisateur de son chatbot Grok. L'accusé, Terry Harwood, un homme de Caroline du Sud déjà arrêté cette année dans le cadre d'une enquête pour exploitation sexuelle de mineurs, aurait détourné Grok pour générer des images à caractère sexuel impliquant des mineurs. Selon la plainte, il aurait importé des photos ordinaires d'adultes et de mineurs dans l'outil, puis tenté de les transformer en contenus sexuellement explicites grâce à l'intelligence artificielle. xAI l'accuse également d'avoir créé des deepfakes pornographiques mettant en scène des adultes sans leur consentement. L'entreprise réclame des dommages et intérêts, dont le montant n'a pas été précisé, ainsi qu'une interdiction permanente empêchant Harwood d'utiliser Grok à l'avenir. Cette action en justice marque un tournant notable : il s'agit de l'une des premières procédures intentées par une société d'IA directement contre l'un de ses propres utilisateurs pour ce type d'abus, plutôt que de se contenter d'une suspension de compte. Pour xAI, l'enjeu dépasse le cas individuel : la société cherche à démontrer qu'elle prend au sérieux les usages criminels de sa technologie, dans un contexte où sa responsabilité juridique et réputationnelle est directement engagée. Pour l'industrie de l'IA générative dans son ensemble, cette affaire illustre la difficulté croissante à empêcher le détournement d'outils grand public à des fins d'exploitation sexuelle, qu'il s'agisse de mineurs ou d'adultes visés par des deepfakes non consentis. Elle pourrait aussi inciter d'autres entreprises du secteur à judiciariser davantage leurs politiques de modération plutôt que de se limiter à des sanctions internes. Cette plainte intervient alors que xAI est déjà sous surveillance concernant les garde-fous de Grok. Ces derniers mois, la société avait été critiquée après des révélations selon lesquelles son chatbot aurait permis la création de deepfakes sexuels non consentis reproduisant l'apparence de personnes réelles. Dans sa plainte, xAI rappelle qu'elle lutte contre ces dérives en suspendant ou supprimant les comptes fautifs, et qu'elle signale les contenus suspects d'exploitation sexuelle de mineurs au Centre national américain pour les enfants disparus et exploités (NCMEC). L'affaire s'inscrit dans un débat plus large sur la responsabilité des entreprises d'IA générative face aux usages détournés de leurs outils, à un moment où les régulateurs, aux États-Unis comme ailleurs, s'interrogent sur l'encadrement légal des deepfakes et des contenus pédopornographiques générés par IA.

La promesse d’une « IA pour tous » au service du bien commun a du plomb dans l’aile

La suspension soudaine, par Anthropic, de ses deux modèles les plus avancés, Mythos 5 et sa version grand public Fable 5, a provoqué une onde de choc bien au-delà du cercle des utilisateurs directement affectés. En quelques jours, le Conseil de l'IA et du Numérique a publié une note qualifiant l'événement de « point de bascule » et affirmant que « la menace sur l'autonomie numérique européenne n'est plus une hypothèse, elle est devenue une réalité tangible ». Le Conseil, co-présidé par Anne Bouverot (ex-Orange, présidente du conseil d'administration de l'ENS) et Guillaume Poupard (ex-directeur général de l'ANSSI, aujourd'hui CTO d'Orange), souligne que la coupure a touché l'ensemble des clients, partout dans le monde, sans distinction, comme l'avait déjà fait Adobe en octobre 2019, lorsque la société avait suspendu ses services au Venezuela sur ordre de l'administration Trump, empêchant même l'ouverture de documents PDF. Ce que cet épisode révèle, c'est la matérialisation d'un risque longtemps théorisé : le kill switch. La question se posait déjà autour de S3ns et Bleu, les deux offres de cloud souverain français adossées aux infrastructures de Google et Microsoft. S3ns, certifié SecNumCloud par l'ANSSI, estime pouvoir fonctionner quelques mois sans mises à jour depuis les États-Unis ; Bleu revendique une capacité d'autarcie d'environ un an, avec la possibilité de proposer des liaisons directes à ses clients pour fonctionner totalement isolé d'Internet. Mais la coupure d'Anthropic va plus loin : ce ne sont plus de simples outils logiciels qui disparaissent, ce sont des modèles de langage devenus centraux dans des workflows professionnels entiers. Le cas Nicolas Guillou, juge français à la Cour pénale internationale privé d'accès aux services numériques américains, illustre jusqu'où peut aller cette dépendance. Pour le Conseil de l'IA, cet événement s'inscrit dans une stratégie d'endiguement technologique américaine plus large, « jusqu'ici principalement incarnée par les restrictions à l'exportation des puces NVIDIA les plus performantes » vers la Chine. Washington entend éviter un nouveau « moment DeepSeek », soit l'émergence d'une alternative non américaine capable de rivaliser. Les LLM ne sont plus perçus comme de simples services en ligne mais comme des actifs stratégiques, au même titre que les semi-conducteurs ou les réseaux télécoms. L'Europe, encore largement dépourvue de modèles fondateurs de premier rang à l'échelle mondiale, se retrouve dans une position de dépendance structurelle que cette coupure a rendue impossible à ignorer, et que ni S3ns, ni Bleu, ni aucune certification nationale ne peuvent, seuls, résoudre.

Claude Max : un abonné accuse Anthropic de l’avoir trompé, la justice s’en mêle

Un développeur basé à Washington, Karl Kahn, a déposé lundi 15 juin 2026 une plainte fédérale devant le tribunal du district nord de Californie contre Anthropic, la société mère de Claude. L'action en justice, présentée comme un potentiel recours collectif, cible spécifiquement les offres Claude Max : le forfait Max 5x, facturé 100 dollars par mois, et le Max 20x, à 200 dollars mensuels. Ces abonnements premium sont commercialisés avec la promesse, respectivement, de cinq et vingt fois plus d'utilisation que l'offre Pro standard. Selon la plainte, la réalité serait radicalement différente : Kahn affirme avoir épuisé environ 15 % de son quota hebdomadaire au cours d'une seule session de travail de cinq heures, se heurtant ensuite à des limitations bloquant la poursuite normale de son activité. Les avocats réclament le remboursement de tous les abonnés ayant souscrit à ces offres depuis avril 2025. L'affaire pointe un angle mort croissant dans le secteur des abonnements à l'IA : la lisibilité des conditions réelles d'utilisation. Le grief central ne porte pas sur l'existence même des plafonds, qu'Anthropic avait documentés dès 2025 pour freiner les usages les plus intensifs, mais sur la manière dont les multiplicateurs "5x" et "20x" ont été présentés au public. Pour les plaignants, ces labels publicitaires créent une attente disproportionnée par rapport à ce que les utilisateurs peuvent réellement consommer au quotidien, sans qu'aucun outil de mesure ne leur permette de vérifier l'adéquation entre la promesse et la pratique. À 100 ou 200 dollars par mois, le décalage perçu entre l'offre et la réalité est d'autant plus difficile à accepter pour des développeurs et professionnels qui structurent leurs workflows autour de ces capacités annoncées. Cette plainte s'inscrit dans un contexte de montée en pression générale sur les modèles économiques des plateformes d'IA générative. Anthropic, qui a levé des milliards de dollars ces dernières années pour concurrencer OpenAI et Google, mise sur ses abonnements premium pour générer des revenus récurrents significatifs. La multiplication des offres à paliers, Pro, Max 5x, Max 20x, reproduit la logique des opérateurs télécom ou des FAI, avec des "promesses de performance" qui ont déjà valu des condamnations dans d'autres secteurs. Si le recours collectif est certifié par le tribunal, des milliers d'abonnés pourraient être concernés. Anthropic n'a pas commenté les accusations, qui restent pour l'instant de simples allégations. Mais la procédure, même à ses débuts, envoie un signal à l'ensemble du secteur : la transparence sur les limites réelles des abonnements IA n'est plus optionnelle.

💬 Le "20x" sans unité précise, c'était une invitation à se faire poursuivre. Si tu structures ton workflow autour d'un quota annoncé et que tu l'épuises en une session, la confiance s'effondre, et le ticket de caisse est là pour le prouver. Anthropic a fait ce que font tous les télécoms depuis 30 ans : vendre du "jusqu'à" comme du garanti.

Les employés de Meta poursuivent l'entreprise en justice après des licenciements qu'ils attribuent à des systèmes d'IA discriminatoires

Meta a fait l'objet d'une plainte déposée par des employés actuels et anciens devant un tribunal fédéral californien, accusant l'entreprise d'avoir utilisé des systèmes d'intelligence artificielle discriminatoires pour établir ses listes de licenciements. Selon la plainte, ces outils algorithmiques auraient été employés lors de la suppression de 8 000 postes chez Meta, et auraient ciblé de façon disproportionnée les salariés en situation de handicap ainsi que ceux en congé parental. Les plaignants affirment que ces systèmes automatisés, censés optimiser les décisions de réduction d'effectifs, auraient en réalité reproduit ou amplifié des biais discriminatoires envers des catégories de personnel déjà vulnérables. Cette affaire soulève des questions cruciales sur la responsabilité juridique des entreprises qui délèguent des décisions à fort impact humain, comme les licenciements, à des algorithmes opaques. Pour les salariés concernés, les conséquences sont concrètes : perte d'emploi dans un contexte où leur situation personnelle (handicap, parentalité) les rendait déjà plus vulnérables sur le marché du travail. Pour l'industrie tech dans son ensemble, ce procès pourrait créer un précédent sur l'usage de l'IA dans les ressources humaines, un domaine où la tentation d'automatiser les décisions difficiles se heurte aux exigences de non-discrimination. Cette plainte s'inscrit dans une vague plus large de restructurations massives menées par les géants de la tech, qui ont multiplié les licenciements par milliers ces dernières années tout en investissant davantage dans l'automatisation de leurs processus internes, y compris décisionnels. Le recours croissant à l'IA pour trier, évaluer ou sélectionner des employés pose la question de la transparence de ces systèmes et de leur conformité avec les lois anti-discrimination existantes. L'issue de cette procédure judiciaire pourrait influencer la façon dont Meta et d'autres entreprises encadrent, ou non, l'usage de l'intelligence artificielle dans leurs futures décisions de gestion des ressources humaines.

💬 Bon, là on quitte le débat théorique sur les biais des algorithmes de recrutement pour attaquer directement leur usage dans les licenciements, c'est un cran au-dessus. Meta a viré 8 000 personnes avec un système qui aurait sur-ciblé les salariés en situation de handicap et les congés parentaux, ça pue le proxy discriminant classique (genre l'algo utilise des critères qui corrèlent avec le handicap sans le dire explicitement). Selon Le Fil IA, ce procès va fixer un précédent sur un truc que personne n'ose dire tout haut : les entreprises tech utilisent déjà l'IA pour trancher qui reste et qui part, sans cadre légal qui tienne la route.