Aller au contenu principal
Sex toys IA au rayon jouets : le scandale qui éclabousse l’industrie
ÉthiqueLe Big Data · 1 min de lecture

Sex toys IA au rayon jouets : le scandale qui éclabousse l’industrie

Source originale ↗·

Un rapport du PIRG Education Fund révèle que certains jouets connectés pour enfants (poupées, robots éducatifs) utilisent des technologies d'IA initialement conçues pour des usages adultes, y compris des chatbots relationnels et des sex toys connectés. Ces systèmes ne filtrent pas correctement les interactions avec un public mineur, produisant parfois des réponses inadaptées. Plus de 100 organisations ont signé une lettre appelant les fabricants à la transparence sur leurs protocoles de sécurité, soutenue par des sénateurs dont Marsha Blackburn et Richard Blumenthal.

Cet article vous a été utile ?

Vu une erreur factuelle dans cet article ? Signalez-la. Toutes les corrections valides sont publiées sur /corrections.

À lire aussi

Scandale OpenAI : Ils ont créé des journalistes qui n’existent pas !
1Le Big Data 

Scandale OpenAI : Ils ont créé des journalistes qui n’existent pas !

The Wire by Acutus, site d'information lancé le 29 décembre 2025, utilise des agents d'IA qui se présentent comme de vrais journalistes pour obtenir des citations d'experts humains. L'enquête, publiée par Model Republic via The Midas Project, révèle qu'aucun contributeur humain n'est identifiable sur le site, et que le détecteur Pangram estime à 97 % la proportion de contenus générés automatiquement. L'analyse du code source confirme un processus éditorial largement automatisé : sur cinq étapes de révision, une seule implique un humain, pour une durée moyenne de 44 secondes par article. Les enquêteurs ont retrouvé des champs destinés à alimenter l'IA en informations de base, des suggestions de questions d'interview, et un champ nommé « aiOriginalText » permettant de comparer le texte brut généré aux modifications apportées. L'affaire prend une dimension concrète avec Nathan Calvin, vice-président et conseiller juridique de l'association Encode : il a reçu un email d'un certain Michael Chen, se présentant comme journaliste pour Acutus et proposant un questionnaire sur une loi liée à l'IA au Tennessee. Ce journaliste n'existe nulle part en ligne, et l'adresse utilisée était le contact générique du site. Ce cas franchit un seuil inédit par rapport aux fermes à contenus IA déjà documentées. Jusqu'ici, l'IA produisait des textes ; ici, elle contacte de vraies personnes en se faisant passer pour un journaliste, ce qui lui permet d'extraire des citations authentiques pour crédibiliser un contenu entièrement automatisé. Pour les experts sollicités, il est impossible de distinguer un agent IA d'un journaliste humain. Pour l'ensemble du secteur médiatique, cela signifie qu'un processus éditorial complet, de l'interview à la publication, peut désormais s'exécuter sans intervention humaine réelle en moins d'une minute. La dimension politique aggrave les risques : le site cible aussi des voix critiques envers l'IA. Le chercheur John Sherman, défenseur de la sécurité de l'IA, a fait l'objet d'un article à charge accompagné de prises de contact avec les organisations avec lesquelles il collabore. Les liens entre The Wire by Acutus et OpenAI restent indirects mais troublants. Plusieurs articles du site ont été relayés par Patrick Hynes, figure des relations publiques proche du Parti républicain, dont le réseau se connecte à des structures liées à d'importants financements autour de l'IA, certains impliquant des personnalités associées à OpenAI. Aucune implication directe n'est formellement établie, mais l'hypothèse avancée est sensible : ce type de plateforme pourrait servir à diffuser des positions favorables à l'IA sous couvert de journalisme indépendant. L'affaire survient au moment où OpenAI renforce sa présence dans les médias, ayant récemment racheté l'émission TPBN, très suivie dans la Silicon Valley. Elle relance une question urgente : en l'absence de cadre légal imposant la transparence sur l'origine des contenus, rien n'empêche des agents automatisés de mener des interviews et de publier des articles sans que ni les sources humaines ni les lecteurs ne le sachent.

UEL'AI Act européen impose la transparence sur les contenus générés par IA, ce qui rendrait de telles pratiques illicites en Europe, mais l'absence de mécanismes de vérification concrets expose les experts et médias européens à des risques identiques d'interviews menées par des agents automatisés se faisant passer pour des journalistes.

ÉthiqueActu
1 source
L'IA séduit-elle vraiment les artistes quand on les paie assez ?
2The Verge AI 

L'IA séduit-elle vraiment les artistes quand on les paie assez ?

Pippa présente son service comme une alternative éthique aux générateurs vidéo par intelligence artificielle, à un moment où les illustrateurs dénoncent depuis plusieurs années l'entraînement de modèles génératifs sur leurs œuvres sans autorisation ni compensation. Contrairement à des concurrents accusés de pillage de contenu protégé par le droit d'auteur, la startup rémunère directement les artistes dont le travail sert à construire ses outils. Comme la plupart des entreprises proposant des modèles texte-vers-vidéo, son produit principal consiste en courtes séquences générées par les utilisateurs, assemblées à partir de contenus créés par des créateurs consentants et payés pour leur contribution. Cette approche vise à répondre à la controverse qui oppose depuis des années artistes et startups d'IA générative, un conflit qui a déjà donné lieu à plusieurs batailles judiciaires retentissantes aux États-Unis. En proposant une rémunération, Pippa cherche à démontrer qu'il est possible de développer des technologies génératives performantes sans reproduire les pratiques jugées abusives de ses concurrents. Pour l'industrie créative, l'enjeu est de taille : si ce modèle économique s'avère viable et attractif, il pourrait inciter d'autres acteurs du secteur à revoir leurs pratiques d'acquisition de données d'entraînement, plutôt que de s'appuyer sur du contenu récupéré sans consentement. Cette initiative s'inscrit dans un contexte plus large où la question de la rémunération équitable des créateurs face à l'IA générative devient centrale, tant sur le plan éthique que juridique. Les tribunaux américains examinent actuellement plusieurs recours collectifs contre des entreprises d'IA accusées d'utiliser illégalement des œuvres protégées. Reste à savoir si le montant proposé aux artistes sera suffisant pour les convaincre d'adhérer à cette technologie qu'ils ont longtemps combattue, et si ce modèle de compensation deviendra une norme du secteur ou restera une exception marginale face à la pression concurrentielle.

💬 Pippa mise sur un truc simple : payer les artistes plutôt que scraper leur boulot sans leur demander. Sur le papier c'est la première tentative sérieuse de sortir du modèle "on pille et on s'excuse après coup", mais tout dépend du chèque au bout, si c'est trois fois rien les artistes n'adhéreront jamais vraiment. Le vrai test n'est pas éthique, il est économique : est-ce que payer correctement les créateurs reste viable face à des concurrents qui, eux, ne paient rien.

ÉthiqueActu
1 source
Ne confiez pas vos secrets à l'IA : 5 raisons et que faire si vous en avez déjà trop dit
3ZDNET AI 

Ne confiez pas vos secrets à l'IA : 5 raisons et que faire si vous en avez déjà trop dit

Les assistants conversationnels comme ChatGPT, Gemini ou Claude sont devenus des confidents numériques pour des millions d'utilisateurs, mais ces échanges apparemment privés ne le sont pas. Partager des informations personnelles, médicales ou professionnelles avec ces outils expose à des risques concrets et souvent méconnus, allant de la collecte de données à leur réutilisation à des fins commerciales. L'enjeu touche directement la souveraineté des données personnelles. Contrairement à une conversation privée, les échanges avec un chatbot sont soumis aux conditions d'utilisation des plateformes, des documents que la grande majorité des utilisateurs ne lisent jamais. Ces données peuvent être conservées sur des serveurs, analysées par des équipes humaines pour améliorer les modèles, ou transmises à des tiers partenaires. La confidentialité supposée de ces interactions est une illusion que les géants de la tech n'ont aucune obligation légale de maintenir dans la plupart des juridictions. Parmi les 5 risques identifiés figurent notamment l'utilisation des conversations pour entraîner de futurs modèles d'IA, les fuites de données en cas de faille de sécurité, et l'exploitation commerciale non anticipée d'informations sensibles. Pour les utilisateurs ayant déjà partagé trop d'informations, des recours existent : supprimer l'historique des conversations depuis les paramètres du compte, désactiver les options de collecte de données dédiées à l'entraînement, une fonctionnalité disponible chez OpenAI et Google, et éviter systématiquement tout détail identifiant lors des prochaines interactions. Alors que l'IA conversationnelle s'intègre dans les usages quotidiens à une vitesse inédite, la question de la confidentialité des échanges reste largement sous-estimée par le grand public. Le sujet monte pourtant en puissance dans les débats réglementaires, notamment en Europe où le RGPD pourrait s'appliquer plus strictement aux données traitées par ces systèmes, une pression croissante sur des acteurs encore peu transparents sur leurs pratiques réelles.

UELe RGPD impose des obligations strictes aux fournisseurs d'IA opérant en Europe, et cet article sensibilise les utilisateurs européens à exercer leurs droits (suppression, opt-out) auprès de ces services.

ÉthiqueOpinion
1 source
Anthropic joue encore sur les peurs de l’IA toute-puissante pour se mettre en valeur
4Next INpact 

Anthropic joue encore sur les peurs de l’IA toute-puissante pour se mettre en valeur

Alors qu'elle se prépare à entrer en bourse, Anthropic a publié sur son site web un texte alarmiste sur les risques de l'IA générative, signé notamment par Marina Favaro, responsable de son pôle R&D. Le document avance un chiffre frappant : en mai 2026, Claude serait l'auteur de plus de 80 % du code intégré dans la base de code d'Anthropic elle-même. Partant de ce constat, l'entreprise de Dario Amodei extrapole vers le scénario de l'« auto-amélioration récursive » : des systèmes d'IA capables de créer leurs propres successeurs sans intervention humaine. Pour conjurer ce péril, Anthropic propose un moratoire sur la R&D en IA générative et convoque la comparaison avec le traité sur les forces nucléaires à portée intermédiaire signé en 1987 par Ronald Reagan et Mikhaïl Gorbatchev, tout en avertissant que « nous n'avons pas autant de temps devant nous ». Le problème, pour ses critiques, est que ce discours catastrophiste arrive à un moment particulièrement opportun pour l'entreprise. En présentant l'IA comme une force potentiellement incontrôlable, Anthropic se positionne simultanément comme la firme la plus responsable du secteur, celle qui prend au sérieux les risques que ses concurrents minimisent. Cette posture de « safety company » n'est pas nouvelle, mais elle prend une dimension particulière à la veille d'une introduction en bourse qui s'annonce comme l'une des plus importantes de l'histoire de la tech. Le chercheur Irénée Régnauld résume le paradoxe en une formule : « Anthropic agite le drapeau des risques avec la Pause comme horizon moral juste avant la plus vaste IPO du monde », et s'interroge sur les militants de la sécurité de l'IA : « les Pausistes vont-ils se rendre compte qu'ils sont les dindons de la farce ? » Ce type de rhétorique ne surgit pas dans le vide. Dès 2024, les chercheuses Emile Torres et Timnit Gebru avaient documenté la manière dont les discours sur la sécurité de l'IA permettent aux grandes entreprises tech d'attirer des ressources et de détourner l'attention des critiques concrètes, réglementaires ou sociales. Anthropic s'inscrit dans une tradition plus large, héritée des courants TESCREAL (transhumanisme, long-termisme), qui tend à dramatiser des risques spéculatifs à long terme pour éclipser les nuisances actuelles et mesurables. Le texte lui-même contient une contradiction révélatrice : si Claude génère 80 % du code d'Anthropic, c'est bien l'équipe dirigeante qui choisit quelles fonctionnalités développer, pas le modèle. L'entreprise instrumentalise son propre succès commercial pour nourrir une peur qu'elle se propose ensuite, seule, de maîtriser.

ÉthiqueOpinion
1 source

Recevez l'essentiel de l'IA chaque jour

Une sélection éditoriale quotidienne, sans bruit. Directement dans votre boîte mail.

Recevez l'essentiel de l'IA chaque jour

Gratuit · 1 email le matin, l'essentiel de l'IA · désinscription en un clic