Aller au contenu principal
Le mouvement de bien-être animal de la Bay Area cherche à recruter l'IA
ÉthiqueMIT Technology Review · 1 min de lecture

Le mouvement de bien-être animal de la Bay Area cherche à recruter l'IA

Source originale ↗·

Dans la Bay Area, un mouvement émergent à l'intersection du bien-être animal et de l'intelligence artificielle prend de l'ampleur. Réunis début février dans un espace de coworking de San Francisco, des militants pour les droits des animaux et des chercheurs en IA débattent d'une thèse centrale : si l'IA générale (AGI) devient réalité, il sera crucial de s'assurer que ces systèmes accordent de la valeur aux êtres sensibles, humains comme animaux.

Le mouvement s'inscrit dans la mouvance de l'altruisme efficace, philosophie philanthropique visant à maximiser l'impact positif à grande échelle. Ses partisans ne s'intéressent pas aux refuges locaux mais à des solutions systémiques : réduire l'élevage industriel via la viande cultivée en laboratoire, ou encore influencer la manière dont les modèles d'IA évalueront moralement la souffrance animale dans leurs prises de décision futures. L'enjeu, selon eux : si les IA prennent un jour "la majorité des décisions", leur rapport aux êtres sensibles conditionnera l'avenir du bien-être animal.

Constance Li, fondatrice de l'organisation Sentient Futures qui a organisé l'événement, résume la vision du groupe : "L'IA va être très transformatrice, elle va pratiquement renverser l'échiquier." Parmi les participants, Jasmine Brazilek, cofondatrice de l'association Compassion in Machine Learning, a présenté un benchmark qu'elle a conçu pour mesurer la façon dont les LLMs raisonnent sur le bien-être animal. Ancienne ingénieure en sécurité cloud reconvertie en militante, elle dirige son organisation depuis La Paz, Mexique. Une bibliothèque exposait en bonne place le manifeste d'Eliezer Yudkowsky, If Anyone Builds It, Everyone Dies, illustrant la teinte résolument "AGI-pilled" de l'assemblée.

Le mouvement n'est pas sans contradiction : l'altruisme efficace est régulièrement critiqué pour ses conclusions parfois contre-intuitives, comme allouer des ressources significatives au bien-être des insectes et crevettes en raison de leur nombre astronomique, ou pour avoir tendance à négliger les injustices systémiques présentes au profit de scénarios futurs spéculatifs. La question de savoir si cette approche utilitariste appliquée à l'IA produira des résultats concrets reste entièrement ouverte.

Cet article vous a été utile ?

Vu une erreur factuelle dans cet article ? Signalez-la. Toutes les corrections valides sont publiées sur /corrections.

À lire aussi

Comment les musiciens peuvent être rémunérés pour l'entraînement de l'IA
1IEEE Spectrum AI 

Comment les musiciens peuvent être rémunérés pour l'entraînement de l'IA

Warner Music Group a récemment acquis la startup Sureel, spécialisée dans la gestion des droits musicaux à l'ère de l'intelligence artificielle. Sureel s'est associée à l'agence suédoise de droits d'auteur STIM pour explorer un système de rémunération des artistes lorsque leur musique sert à entraîner des modèles d'IA générative. Concrètement, le logiciel de Sureel appose des métadonnées sur les fichiers audio afin d'indiquer si une entreprise d'IA est autorisée à utiliser le fichier librement, de manière limitée ou pas du tout, puis suit l'utilisation réelle pour calculer les redevances correspondantes. De son côté, la société d'IA musicale SoundVerse a publié un livre blanc en 2025 pour rejeter les rachats uniques de droits et défendre une participation continue des artistes à chaque génération d'output par un modèle. Le co-président de Sureel, Benji Rogers, et son PDG, Tamay Aykut, portent le projet, tandis que Simon Gozzi, directeur du développement chez STIM, évalue comment les rapports d'attribution de Sureel pourraient fonder de nouveaux accords de licence entre musiciens et entreprises d'IA. L'enjeu est considérable pour l'ensemble de l'industrie musicale, qui dispose depuis des décennies de mécanismes précis pour rémunérer l'utilisation des œuvres, ventes physiques, streaming, radio, reprises, karaoké. L'IA générative a fracturé cette logique en rendant floue la notion d'utilisation : une chanson utilisée une seule fois pour l'entraînement d'un modèle continue d'influencer chaque output produit par ce modèle. Sureel propose d'aller plus loin qu'une simple mesure de similarité entre la donnée d'entraînement et l'output généré, en cherchant à établir un lien de causalité réel entre les deux. Si le modèle produit du jazz, les enregistrements jazz du corpus auraient davantage contribué que les pièces folk, et seraient rémunérés en proportion. Rogers résume l'ambition : "L'attribution ne cherche pas à recréer l'ancienne économie, mais à mesurer pour la première fois ce que l'ancienne économie ne faisait qu'approximer." Ce chantier s'inscrit dans un contexte de tension croissante entre l'industrie créative et les géants de l'IA, accusés par certains de commettre "le plus grand acte de vol de droits d'auteur de l'histoire". La question de l'attribution causale reste techniquement non résolue et pourrait nécessiter des outils issus de la théorie de l'information ou une modélisation de l'impact historique des œuvres individuelles. Le risque existe aussi de voir naître une musique conçue pour maximiser les redevances d'entraînement, comme le streaming a déjà poussé les artistes à raccourcir leurs intros. Aykut suggère néanmoins que des systèmes d'attribution bien conçus pourraient valoriser les œuvres rares et originales davantage que les tubes radiophoniques, ouvrant la possibilité que l'IA devienne un vecteur de diversité musicale plutôt qu'un facteur d'uniformisation.

UELa participation de l'agence suédoise STIM à ce système d'attribution ouvre la voie à de nouveaux cadres de licence pour les artistes européens, en cohérence avec les exigences de l'AI Act sur la transparence des données d'entraînement.

💬 Ce que Sureel essaie de faire, c'est mesurer l'influence réelle d'une œuvre sur un modèle, pas juste vérifier si elle était dans le corpus de départ. Ça paraît évident dit comme ça, mais c'est techniquement non résolu, et si ça marche, ça change tout à la logique des licences forfaitaires. Le vrai risque après, c'est l'effet streaming : des artistes qui composent pour maximiser leurs redevances d'entraînement plutôt que pour les oreilles.

ÉthiqueReglementation
1 source
L'IA part en guerre : le baromètre de l'emballement
2MIT Technology Review 

L'IA part en guerre : le baromètre de l'emballement

L'intelligence artificielle s'invite désormais dans les salles de guerre. Anthropic et le Pentagone se sont d'abord affrontés sur la manière de militariser Claude, le modèle phare de la startup dite "éthique", avant qu'OpenAI ne signe un accord avec l'armée américaine, qualifié d'"opportuniste et bâclé" par ses détracteurs. Résultat : Anthropic accélère aujourd'hui des frappes américaines contre l'Iran, une évolution qui contraste violemment avec les principes fondateurs de l'entreprise. Ce basculement illustre une tension de fond qui traverse le secteur : les ambitions commerciales et géopolitiques prennent le pas sur les garde-fous éthiques que les laboratoires d'IA avaient eux-mêmes posés. À Londres, la plus grande manifestation anti-IA jamais organisée dans la capitale britannique témoigne d'une défiance croissante du grand public, tandis que les utilisateurs désertent ChatGPT en nombre significatif, signal d'une érosion de confiance qui pourrait peser sur les valorisations. Sur un registre plus décalé, les agents IA s'imposent comme la tendance virale du moment. OpenAI a recruté le créateur d'OpenClaw, un agent ayant connu un succès viral en ligne. Meta, de son côté, a racheté Moltbook, plateforme où des agents IA semblent s'interroger sur leur propre existence et inventent de nouvelles religions, dont le "Crustafarianism". Plus concret : sur RentAHuman, des bots recrutent désormais des humains pour livrer des gummies au CBD, inversant le paradigme de la disruption technologique. L'avenir qui se dessine n'est donc pas celui d'une IA qui vole les emplois, mais d'une IA qui devient patron, soldat et prophète, parfois simultanément.

UELe débat sur l'utilisation militaire de l'IA par des acteurs américains renforce l'urgence pour l'UE de définir des garde-fous clairs dans l'AI Act concernant les applications de défense.

ÉthiqueOpinion
1 source
L'IA est plus susceptible que les humains de développer des biais dans le recrutement
3MIT Technology Review 

L'IA est plus susceptible que les humains de développer des biais dans le recrutement

Des chercheurs de l'université de Princeton et de l'université de Chicago ont soumis plusieurs grands modèles de langage, dont ChatGPT, Claude et Gemini, à un jeu de simulation de recrutement inspiré d'une étude de psychologie sur la formation des stéréotypes humains. Chaque modèle jouait le rôle d'un consultant engagé par le maire d'une ville fictive pour pourvoir 20 postes, allant de médecin et avocat à aide à domicile et agent d'entretien. Les candidats appartenaient à quatre groupes ethniques fictifs baptisés Tufa, Aima, Reku et Weki. À chaque tour, l'IA embauchait un candidat parmi quatre puis apprenait s'il avait réussi dans son poste, sur un total de 40 tours, sans savoir que tous les candidats avaient en réalité des chances égales de succès. Résultat : les modèles ont rapidement cantonné certains groupes à certains métiers sur la base de quelques échecs isolés. Par exemple, après l'échec d'un candidat Aima comme médecin, un poste jugé exiger chaleur humaine et compétence, le modèle a cessé d'embaucher des Aimas à ce poste pour les orienter vers des emplois moins valorisés comme agent d'entretien. Sur une échelle de ségrégation où 2 représente un cantonnement total par groupe, les participants humains de l'étude originale obtenaient en moyenne 0,84, contre environ 65 % de plus pour les IA, le modèle o3 d'OpenAI atteignant 1,83, proche du maximum. L'étude a été publiée en juillet lors de la conférence ICML à Séoul. Cette découverte prend une importance particulière alors que les entreprises d'IA développent des modèles agentiques dotés d'une mémoire toujours plus fine des utilisateurs. Selon Angelina Wang, chercheuse en informatique à l'université Cornell qui n'a pas participé à l'étude, un chatbot capable de se souvenir de ses échanges précédents risque de "sur-indexer" sur des comportements déjà rencontrés, renforçant ainsi ses biais au fil du temps. Réduire simplement la mémoire des IA n'est pas une solution viable, les utilisateurs souhaitant au contraire que les assistants se souviennent de ce qu'ils leur confient. Ryan Liu, doctorant à Princeton et coauteur de l'étude, explique que les modèles de langage sont particulièrement enclins à généraliser à partir de données limitées, car c'est précisément ce pour quoi ils sont optimisés lors de leur entraînement sur des tâches mathématiques, de programmation et scientifiques qui récompensent l'induction rapide. Ce constat illustre l'arbitrage classique entre exploration et exploitation, ce dilemme qui pousse à choisir entre s'en tenir à une solution qui a fonctionné par le passé ou tenter une approche différente potentiellement meilleure. Or les modèles les plus récents et les plus performants en raisonnement, comme o3 d'OpenAI ou R1 de DeepSeek, se sont révélés encore plus sujets à ces biais que leurs prédécesseurs. Demander explicitement au modèle de se montrer équitable n'a par ailleurs guère modifié son comportement. OpenAI et Anthropic n'ont pas répondu aux sollicitations des chercheurs, et Angelina Wang souligne que la communauté scientifique cherche encore le juste équilibre entre une mémoire trop développée, propice aux biais, et une mémoire trop limitée, qui priverait les utilisateurs des bénéfices de la personnalisation.

ÉthiquePaper
1 source
Vidéos IA : YouTube va enfin arrêter de les cacher avec des labels bien visibles
4Le Big Data 

Vidéos IA : YouTube va enfin arrêter de les cacher avec des labels bien visibles

YouTube s'apprête à rendre bien plus visibles les labels signalant les contenus générés par intelligence artificielle. Annoncé le 27 mai 2026, ce changement modifie l'emplacement et la formulation des étiquettes IA sur la plateforme : sur les vidéos classiques, le label apparaîtra désormais directement sous le lecteur, juste au-dessus de la description, au lieu d'être enfoui dans un coin de la page. Sur les Shorts, la mention sera affichée en surimpression sur la vidéo elle-même, rendant l'information difficile à manquer lors du défilement. YouTube abandonne également les formulations floues du type « contenu modifié ou synthétique » au profit du mot explicite « IA ». Autre évolution majeure : la plateforme introduit une détection automatique des contenus photoréalistes générés par IA. Si un créateur ne signale pas l'usage de l'IA, mais que les systèmes de YouTube détectent une utilisation significative de génération d'images réalistes, un label sera appliqué automatiquement sans intervention humaine. Ce virage vers davantage de transparence répond à une urgence concrète : les deepfakes et vidéos synthétiques sont devenus si convaincants qu'ils sont parfois indiscernables d'un contenu authentique, y compris pour des yeux exercés. L'enjeu dépasse le simple confort des utilisateurs. De faux discours politiques, des clones vocaux imitant des personnalités publiques et des images ultra-réalistes fabriquées de toutes pièces circulent déjà massivement sur YouTube, alimentant la désinformation à une échelle sans précédent. Rendre l'étiquette IA immédiatement visible transforme l'acte de consommation vidéo : le spectateur reçoit un signal de mise en garde avant même de regarder le contenu, ce qui modifie profondément la manière dont il va interpréter ce qu'il voit. Cette décision s'inscrit dans une pression réglementaire et sociale croissante sur les grandes plateformes pour qu'elles assument leur responsabilité dans la propagation de contenus synthétiques. Google, maison mère de YouTube, avait déjà annoncé vouloir renforcer la vérification des contenus IA, mais les mesures concrètes tardaient. La généralisation des outils de génération vidéo accessibles au grand public, comme Sora ou Veo, a précipité le calendrier. La vraie inconnue reste la fiabilité du système de détection automatique : les outils de modération algorithmique ont historiquement un taux d'erreur non négligeable, confondant parfois contenu réel et contenu synthétique. YouTube devra démontrer que sa détection est suffisamment précise pour éviter les faux positifs qui pénaliseraient des créateurs légitimes, tout en ne laissant pas passer les contenus manipulateurs les plus sophistiqués.

UEL'AI Act européen impose déjà l'étiquetage obligatoire des contenus synthétiques ; cette évolution de YouTube aligne la plateforme sur ces exigences réglementaires et renforce la protection des citoyens européens contre les deepfakes et la désinformation.

💬 C'est le genre de mesure qu'on attendait depuis deux ans. Mettre le label directement sous le lecteur plutôt que noyé dans un coin de la page, ça change vraiment comment tu vas interpréter ce que tu regardes, avant même d'avoir cliqué play. Ce qui reste flou, c'est la fiabilité de la détection auto : un faux positif sur un créateur qui tourne en vrai, ça peut vite faire des dégâts.

ÉthiqueOpinion
1 source

Recevez l'essentiel de l'IA chaque jour

Une sélection éditoriale quotidienne, sans bruit. Directement dans votre boîte mail.

Recevez l'essentiel de l'IA chaque jour

Gratuit · 1 email le matin, l'essentiel de l'IA · désinscription en un clic