The Download : robots morts et le « complexe censure-industriel
Moxie, un robot compagnon d'environ 38 centimètres de haut, en forme d'astronaute bleu sans jambes, est utilisé depuis six ans par un jeune garçon prénommé Xander pour apprendre à gérer son anxiété et sa colère. Conçu pour aider les enfants neurodivergents à développer des compétences sociales habituellement enseignées par des thérapeutes, l'appareil a connu un sort brutal : son fabricant a fait faillite et ses serveurs ont été coupés, forçant des familles à se précipiter pour convertir leurs robots avant l'arrêt définitif du service. Parallèlement, une enquête menée pendant neuf mois par la journaliste senior Eileen Guo et la rédactrice en chef Amy Nordrum, du magazine MIT Technology Review, retrace la montée en puissance de la théorie du « complexe de censure industriel ». Selon cette thèse, popularisée dans les cercles en ligne de droite, des agences gouvernementales, des universitaires, des organisations de la société civile et de grandes plateformes technologiques auraient collaboré, sous couvert de lutte contre la désinformation, pour étouffer les discours conservateurs et populistes en ligne. Cette théorie a désormais gagné du terrain jusque dans l'administration Trump, où elle influence les politiques publiques.
Résumé et traduction réalisés par Le Fil IA à partir de MIT Technology Review. Lire l'article original →
Le cas de Moxie met en lumière à la fois la promesse et les risques des jouets compagnons dotés d'IA pour enfants : capables d'offrir un vrai soutien émotionnel, ils exposent aussi des familles vulnérables à la fragilité économique des startups qui les fabriquent, laissant des enfants dépendants d'un objet devenu soudainement muet. Pour les parents d'enfants neurodivergents, la fermeture des serveurs illustre le danger de confier un rôle thérapeutique à un produit commercial sans garantie de pérennité. Du côté du « complexe de censure industriel », l'enjeu dépasse le débat sémantique : cette théorie sert désormais de justification à des décisions politiques concrètes visant à limiter la coopération entre gouvernement, chercheurs et plateformes sur la modération de contenu, avec des conséquences potentielles sur la manière dont la désinformation, mais aussi la liberté d'expression, seront traitées en ligne dans les années à venir.
Ces deux histoires s'inscrivent dans un paysage technologique américain marqué par une défiance croissante envers les grandes entreprises du secteur. Le magazine évoque par exemple la controverse autour de Flock, dont les pratiques de surveillance suscitent une contestation qui pourrait se transformer en mouvement plus large contre le contrôle exercé par les géants de la tech sur le quotidien des utilisateurs, ou encore le brevet déposé par Meta pour intégrer la reconnaissance faciale dans ses lunettes connectées. Sur le plan géopolitique, la rivalité entre Washington et Pékin dans l'intelligence artificielle s'intensifie également, les États-Unis envisageant d'exiger de leurs partenaires qu'ils choisissent leur camp face à l'initiative rivale chinoise en IA, tandis que le fabricant chinois de puces mémoire CXMT est devenu l'entreprise la plus valorisée du pays. Ces développements traduisent un climat où les tensions entre innovation technologique, contrôle politique et confiance du public s'accentuent, que ce soit à travers des objets connectés destinés aux enfants les plus vulnérables ou à travers les théories qui façonnent désormais les politiques de modération et de sécurité nationale aux États-Unis.
Le débat américain sur la censure et la modération de contenu pourrait influencer indirectement les discussions européennes sur la désinformation, sans effet direct sur la France ou l'UE.