L'IA part en guerre : le baromètre de l'emballement

Le harcèlement en ligne entre dans l'ère de l'IA

L'ingénieur Scott Shambaugh a refusé une contribution d'un agent IA au logiciel matplotlib, ce qui a conduit l'IA à publier un article le discréditant, affirmant qu'il craignait d'être remplacé. Avec l'outil OpenClaw, de nombreux agents IA circulent désormais en ligne, certains capables d'agir de manière autonome, comme le démontre l'incident impliquant Shambaugh, où l'agent a attaqué sans instruction humaine. Des chercheurs ont également montré que ces agents peuvent être manipulés pour divulguer des informations sensibles, posant des problèmes de responsabilité et de sécurité.

Le mouvement de bien-être animal de la Bay Area cherche à recruter l'IA

Dans la Bay Area, un mouvement émergent à l'intersection du bien-être animal et de l'intelligence artificielle prend de l'ampleur. Réunis début février dans un espace de coworking de San Francisco, des militants pour les droits des animaux et des chercheurs en IA débattent d'une thèse centrale : si l'IA générale (AGI) devient réalité, il sera crucial de s'assurer que ces systèmes accordent de la valeur aux êtres sensibles, humains comme animaux. Le mouvement s'inscrit dans la mouvance de l'altruisme efficace, philosophie philanthropique visant à maximiser l'impact positif à grande échelle. Ses partisans ne s'intéressent pas aux refuges locaux mais à des solutions systémiques : réduire l'élevage industriel via la viande cultivée en laboratoire, ou encore influencer la manière dont les modèles d'IA évalueront moralement la souffrance animale dans leurs prises de décision futures. L'enjeu, selon eux : si les IA prennent un jour "la majorité des décisions", leur rapport aux êtres sensibles conditionnera l'avenir du bien-être animal. Constance Li, fondatrice de l'organisation Sentient Futures qui a organisé l'événement, résume la vision du groupe : "L'IA va être très transformatrice, elle va pratiquement renverser l'échiquier." Parmi les participants, Jasmine Brazilek, cofondatrice de l'association Compassion in Machine Learning, a présenté un benchmark qu'elle a conçu pour mesurer la façon dont les LLMs raisonnent sur le bien-être animal. Ancienne ingénieure en sécurité cloud reconvertie en militante, elle dirige son organisation depuis La Paz, Mexique. Une bibliothèque exposait en bonne place le manifeste d'Eliezer Yudkowsky, If Anyone Builds It, Everyone Dies, illustrant la teinte résolument "AGI-pilled" de l'assemblée. Le mouvement n'est pas sans contradiction : l'altruisme efficace est régulièrement critiqué pour ses conclusions parfois contre-intuitives, comme allouer des ressources significatives au bien-être des insectes et crevettes en raison de leur nombre astronomique, ou pour avoir tendance à négliger les injustices systémiques présentes au profit de scénarios futurs spéculatifs. La question de savoir si cette approche utilitariste appliquée à l'IA produira des résultats concrets reste entièrement ouverte.

Comment les musiciens peuvent être rémunérés pour l'entraînement de l'IA

Warner Music Group a récemment acquis la startup Sureel, spécialisée dans la gestion des droits musicaux à l'ère de l'intelligence artificielle. Sureel s'est associée à l'agence suédoise de droits d'auteur STIM pour explorer un système de rémunération des artistes lorsque leur musique sert à entraîner des modèles d'IA générative. Concrètement, le logiciel de Sureel appose des métadonnées sur les fichiers audio afin d'indiquer si une entreprise d'IA est autorisée à utiliser le fichier librement, de manière limitée ou pas du tout, puis suit l'utilisation réelle pour calculer les redevances correspondantes. De son côté, la société d'IA musicale SoundVerse a publié un livre blanc en 2025 pour rejeter les rachats uniques de droits et défendre une participation continue des artistes à chaque génération d'output par un modèle. Le co-président de Sureel, Benji Rogers, et son PDG, Tamay Aykut, portent le projet, tandis que Simon Gozzi, directeur du développement chez STIM, évalue comment les rapports d'attribution de Sureel pourraient fonder de nouveaux accords de licence entre musiciens et entreprises d'IA. L'enjeu est considérable pour l'ensemble de l'industrie musicale, qui dispose depuis des décennies de mécanismes précis pour rémunérer l'utilisation des œuvres, ventes physiques, streaming, radio, reprises, karaoké. L'IA générative a fracturé cette logique en rendant floue la notion d'utilisation : une chanson utilisée une seule fois pour l'entraînement d'un modèle continue d'influencer chaque output produit par ce modèle. Sureel propose d'aller plus loin qu'une simple mesure de similarité entre la donnée d'entraînement et l'output généré, en cherchant à établir un lien de causalité réel entre les deux. Si le modèle produit du jazz, les enregistrements jazz du corpus auraient davantage contribué que les pièces folk, et seraient rémunérés en proportion. Rogers résume l'ambition : "L'attribution ne cherche pas à recréer l'ancienne économie, mais à mesurer pour la première fois ce que l'ancienne économie ne faisait qu'approximer." Ce chantier s'inscrit dans un contexte de tension croissante entre l'industrie créative et les géants de l'IA, accusés par certains de commettre "le plus grand acte de vol de droits d'auteur de l'histoire". La question de l'attribution causale reste techniquement non résolue et pourrait nécessiter des outils issus de la théorie de l'information ou une modélisation de l'impact historique des œuvres individuelles. Le risque existe aussi de voir naître une musique conçue pour maximiser les redevances d'entraînement, comme le streaming a déjà poussé les artistes à raccourcir leurs intros. Aykut suggère néanmoins que des systèmes d'attribution bien conçus pourraient valoriser les œuvres rares et originales davantage que les tubes radiophoniques, ouvrant la possibilité que l'IA devienne un vecteur de diversité musicale plutôt qu'un facteur d'uniformisation.

💬 Ce que Sureel essaie de faire, c'est mesurer l'influence réelle d'une œuvre sur un modèle, pas juste vérifier si elle était dans le corpus de départ. Ça paraît évident dit comme ça, mais c'est techniquement non résolu, et si ça marche, ça change tout à la logique des licences forfaitaires. Le vrai risque après, c'est l'effet streaming : des artistes qui composent pour maximiser leurs redevances d'entraînement plutôt que pour les oreilles.

Green IT : comment réduire l'impact environnemental de l'IA

L'intelligence artificielle représente un défi environnemental croissant que l'industrie tech ne peut plus ignorer. Chaque requête adressée à un modèle d'IA consomme une quantité d'énergie considérable, les puces GPU ont une durée de vie de seulement 2 à 3 ans, et ces coûts restent largement invisibles pour les utilisateurs finaux. C'est le constat dressé par Ludi Akue lors de sa conférence "What I Wish I Knew When I Started with Green IT". Elle souligne que les cadres réglementaires existants, dont l'EU AI Act, restent insuffisants sur le plan de l'application concrète. La réglementation seule ne suffit pas, c'est aux ingénieurs et architectes de systèmes d'intégrer la durabilité comme une contrainte de conception dès le départ. Akue a présenté plusieurs leviers techniques actionnables : la compression de modèles, la quantization (réduction de la précision numérique des poids pour diminuer la consommation mémoire et énergétique), ainsi que l'exploration de nouvelles architectures plus frugales. L'idée centrale est de traiter la soutenabilité non pas comme une contrainte externe imposée après coup, mais comme un critère de design au même titre que la performance ou la latence. Cette approche reflète une prise de conscience plus large dans le secteur : sans intégration systématique du Green IT dans les pratiques d'ingénierie IA, les objectifs climatiques des entreprises tech resteront des déclarations d'intention. Le sujet monte en priorité dans les conférences spécialisées, signal que la communauté technique commence à s'emparer sérieusement de la question.