Éthique

Ces micros IA d’Amazon vous écoutent H24 pour remplir votre panier (et vous faire raquer)

Amazon a lancé jeudi 15 octobre Bee Frontier et Bee Eclipse, deux petits appareils dotés d'intelligence artificielle qui écoutent l'environnement sonore de leur utilisateur pour résumer ses conversations. Ils sont proposés aux États-Unis à 74,99 et 99,99 dollars, soit environ 67 et 89 euros hors taxes. Ce sont les premiers produits de la marque Bee depuis son rachat par Amazon en juillet 2025. Le principe est celui d'un assistant portable toujours à l'écoute, qui transcrit les échanges de la journée, en extrait les points clés et les transforme en notes, rappels ou listes de tâches. L'enjeu dépasse la simple curiosité technologique. Un micro actif en permanence pose des questions de vie privée, pour son porteur comme pour les personnes enregistrées sans en avoir clairement conscience, collègues, amis ou inconnus croisés dans la journée. L'intitulé de l'article laisse entendre qu'Amazon pourrait exploiter ces données pour alimenter les paniers d'achat et orienter la consommation, ce qui renforce les inquiétudes sur l'usage commercial de conversations privées. Pour le grand public, le prix relativement bas de ces appareils pourrait banaliser ce type de dispositif, au risque de normaliser une écoute continue du quotidien. Ce lancement s'inscrit dans la course aux appareils d'IA portables, où plusieurs acteurs ont tenté de s'imposer avec des pendentifs, des bracelets ou des broches, avec des succès très inégaux. En rachetant Bee, Amazon complète son écosystème domestique, déjà structuré autour des enceintes Echo et de l'assistant Alexa, par un équipement qui suit son utilisateur hors de chez lui. Reste à savoir si le groupe saura convaincre sur la protection des données, un sujet sur lequel il a déjà été critiqué, et si une extension de ces produits au-delà du marché américain, notamment en Europe, se heurtera aux règles du RGPD.

💬 Un micro qui écoute tout, tout le temps, pour 75 dollars : le vrai produit, ce n'est pas l'appareil, c'est ta vie quotidienne transformée en données exploitables. Selon Le Fil IA, Amazon ne vend pas un assistant de notes mais un accès permanent au contexte de tes journées, et ça vaut bien plus cher que le prix affiché. Bon, sur le papier, le résumé de réunion automatique, c'est pratique. Mais tes collègues, eux, n'ont rien signé, et en Europe le RGPD risque de calmer vite l'enthousiasme.

Personne n'est à l'abri des deepfakes de célébrités créés par IA

Quelques jours après avoir déposé sa demande de divorce d'avec l'acteur et réalisateur Shia LaBeouf, l'actrice Mia Goth, vue dans « Pearl », aurait posé dans un T-shirt arborant le message « MY EX IS MY BIGGEST FAN ». Cette image, publiée sur Instagram, était accompagnée du titre « Single Ladies (Put a Ring on It) » de Beyoncé. Elle venait du compte @miagoth_, suivi par plus d'un million d'abonnés et doté du badge bleu de vérification. Il s'agissait pourtant d'un deepfake généré par intelligence artificielle, qui s'est répandu en quelques jours. Ce cas illustre la facilité avec laquelle un faux peut passer pour authentique. Mia Goth est très discrète sur les réseaux sociaux, ce qui aurait dû alerter, mais un compte certifié et très suivi suffit à brouiller les repères. Le badge bleu, longtemps perçu comme un gage d'authenticité, ne protège plus de rien. Les personnalités, même les moins exposées en ligne, peuvent voir leur image détournée pour leur faire tenir des propos ou adopter des attitudes sur un sujet aussi intime qu'une séparation. Les internautes, eux, peinent à distinguer le vrai du faux. Le phénomène s'inscrit dans la multiplication des contenus synthétiques de célébrités, alimentée par des outils de génération d'images et de vidéos toujours plus réalistes et accessibles. Les plateformes, Instagram en tête, se retrouvent sous pression pour mieux contrôler les comptes d'imitation et les contenus trompeurs. L'affaire pose aussi la question de la responsabilité des réseaux sociaux, de la valeur de la vérification des comptes et du cadre juridique protégeant l'image des personnes publiques.

« Ghost in the Machine » : IA, eugénisme et sophisme génétique

La cinéaste américaine Valerie Veatch signe « Ghost in the Machine », un documentaire de 110 minutes présenté au dernier festival Sundance et disponible en version sous-titrée sur Mediapart jusqu'au 25 octobre, ou en vidéo à la demande. Le film, que la presse américaine décrit comme un « cocktail Molotov lancé au cœur du monde absurde et cauchemardesque de la hype IA » (TheWrap) et que l'on pourrait presque qualifier de pamphlet, remonte la piste de l'intelligence artificielle jusqu'à la fin du XIXᵉ siècle. Il explore les liens entre l'IA, le développement des statistiques modernes et l'eugénisme. Veatch explique à Computer Weekly que son intérêt est né en octobre 2024, lorsqu'elle a été invitée à un programme d'accès anticipé d'OpenAI destiné à permettre à des artistes d'expérimenter Sora, le modèle de génération de vidéo à partir de texte, depuis fermé. Elle dit avoir été immédiatement choquée par des images qu'elle n'avait pas demandées : des contenus qu'elle juge extrêmement sexistes et racistes, des corps de femmes sexualisés, ainsi que des deepfakes et représentations racistes de Martin Luther King et de Malcolm X. Persuadée qu'OpenAI traiterait ces dérives comme un « bug critique », la réalisatrice a alerté l'entreprise. Selon The Verge, il lui a été répondu qu'« on ne peut rien faire pour changer ça ». Elle raconte à Filmmaker Magazine que les ingénieurs ne donnaient pas la priorité aux questions sociales, qu'elle s'est heurtée à un mur de silence, puis qu'on l'a renvoyée vers un spécialiste tiers de la diversité, de l'équité et de l'inclusion chargé des « initiatives d'équité dans le secteur technologique ». Elle a trouvé cette réponse profondément insultante, car elle présentait des défaillances du produit comme une affaire d'équité. L'épisode illustre un enjeu concret pour les créateurs et le public : des outils présentés comme des aides à la création peuvent reproduire et amplifier les stéréotypes de la société, sans que leurs concepteurs se jugent tenus d'y remédier. Il montre aussi que les utilisateurs qui signalent ces problèmes n'ont guère de recours. Deux questions se croisent ici. La première est technique : la qualité et la composition des données d'entraînement influencent fortement les résultats d'un modèle de génération vidéo, et les biais présents dans ces données peuvent être répétés, voire accentués. La seconde est politique : l'absence de réaction peut se lire comme un choix de priorités de la part des dirigeants du secteur. Sam Altman, à la tête d'OpenAI, comme Elon Musk ou Dario Amodei, disposent aujourd'hui d'un pouvoir politique et économique d'ampleur planétaire. Le film soutient que des théories proches de l'eugénisme continuent d'infuser les discours et les actions de certains patrons de la tech, et il relie cette filiation aux origines statistiques de l'IA. Le résumé s'appuie sur le seul début de l'article, qui n'était accessible qu'aux abonnés, et ne rend donc pas compte de la démonstration complète du documentaire.

Des employés de Cursor ont vérifié si des données confidentielles avaient été transmises à SpaceX pour entraîner une IA

Quelques semaines avant que l'unité d'intelligence artificielle de SpaceX ne lance Grok Bot en août, sa version d'un agent d'IA personnel, des ingénieurs de Cursor ont repéré un problème potentiel. Cursor, la startup de programmation assistée par IA que SpaceX était alors en train de racheter, participait au développement de Grok Bot. Dans ce cadre, des employés de toute l'entreprise utilisaient l'outil de façon intensive, aussi bien pour les tests que dans leur travail quotidien. Fin juillet, des ingénieurs ont alerté en interne sur le risque que Cursor ait transmis à l'unité IA de SpaceX des données issues de ces tests internes. Ces données pouvaient inclure des informations confidentielles sur ses clients, ses fournisseurs et ses partenaires commerciaux. Selon des communications internes consultées par The Information, l'un des juristes de Cursor a averti que, si l'on apprenait que l'entreprise utilisait ces données pour de l'entraînement, cela pourrait provoquer un « énorme problème de confiance ». Cet avertissement montre à quel point la confidentialité est sensible pour un éditeur d'outils de développement. Les clients de Cursor lui confient du code source, des documents internes et des échanges professionnels. Ils partent du principe que ces éléments restent chez lui et ne servent pas à améliorer le modèle d'un autre acteur. Si des informations sur des clients, des fournisseurs ou des partenaires étaient arrivées dans les jeux de données d'entraînement de SpaceX, la crédibilité de Cursor auprès des entreprises, son cœur de clientèle, aurait pu en souffrir. Les partenaires concernés auraient aussi pu s'interroger sur les engagements de confidentialité qui les lient à la société. L'affaire s'inscrit dans le rapprochement entre Cursor et SpaceX. Pendant que l'acquisition était en cours, les deux entités collaboraient déjà sur un produit concret, ce qui a mêlé des équipes, des outils et des flux de données qui auraient dû rester séparés tant que l'opération n'était pas finalisée. Plus largement, les groupes d'IA ont un besoin croissant de données de qualité pour entraîner leurs modèles. Cela accentue la tension entre cet appétit et les promesses de cloisonnement faites aux utilisateurs. Les suites dépendront de ce que l'enquête interne aura établi sur le transfert effectif de ces données, et de la manière dont Cursor et SpaceX en rendront compte à leurs clients et partenaires.

💬 Le problème, ce n'est pas la fuite (qui n'est même pas établie), c'est que le cloisonnement des données ne tient plus dès que deux boîtes d'IA commencent à bosser ensemble avant la signature. Cursor vend de la confiance autant que de l'autocomplétion, et un juriste qui parle d'« énorme problème de confiance » en interne, ça dit tout. Bon, pour l'instant on parle d'une alerte, pas d'un transfert avéré. Mais si tu confies ton code à un outil qui se fait racheter par un labo qui a faim de données, relis tes clauses d'entraînement. Maintenant.

Le gagnant d'un concours de vidéo microscopique Nikon est disqualifié pour avoir utilisé l'IA générative

Nikon a disqualifié la vidéo qui avait remporté la première place de son concours Small World in Motion, consacré à la microscopie en mouvement, au motif qu'elle « ne respectait pas les règles de la compétition concernant l'IA générative ». La séquence, signée du Dr Ning Xu, prétendait montrer des cils, ces minuscules structures en forme de poils, en mouvement dans les voies respiratoires d'un enfant atteint de dyskinésie ciliaire primitive (PCD), une maladie respiratoire. Selon la BBC, Nikon avait annoncé la semaine précédente réexaminer le film, après des doutes exprimés en ligne sur son authenticité. Dans un commentaire publié sur LinkedIn, le Dr Xu a reconnu avoir eu recours à l'IA : une méthode de réseau de neurones non supervisée avait servi à un post-traitement assisté, destiné à distinguer et visualiser certaines structures. L'affaire touche à la crédibilité des concours d'imagerie scientifique, dont la valeur repose sur la fidélité au réel. Lorsqu'une image présentée comme une observation directe est en partie reconstruite par un algorithme, le public, les jurés et les autres participants ne peuvent plus savoir ce qui relève de la mesure et ce qui relève de l'interprétation. Le sujet est d'autant plus sensible qu'il s'agit d'une pathologie pédiatrique : une visualisation embellie ou inexacte pourrait induire en erreur sur la manière dont les cils se comportent réellement. L'épisode pose aussi la question de la transparence des méthodes, que les organisateurs doivent exiger clairement. Ce cas s'inscrit dans une série de controverses où des contenus retouchés ou générés par IA se glissent dans des compétitions de photographie, d'art ou de science, souvent détectés par la vigilance des internautes plutôt que par les jurés. Les outils de traitement d'image par apprentissage automatique sont désormais courants en microscopie, ce qui rend la frontière entre amélioration légitime et génération artificielle difficile à tracer. Les organisateurs, dont Nikon, devront sans doute préciser leurs règlements et imposer des déclarations explicites sur les techniques employées.

💬 Le vrai scandale n'est pas que l'IA ait servi, c'est que personne ne sache plus dire où finit le nettoyage d'image et où commence l'invention. Le Dr Xu parle de post-traitement par réseau de neurones, et sur le papier ce n'est pas absurde, c'est même courant en microscopie. Mais sur une maladie d'enfant, "on a aidé à visualiser" et "on a montré le vrai mouvement des cils" ne se valent pas du tout. Et ce sont les internautes qui ont flairé le truc, pas les jurés : un concours d'imagerie scientifique qui n'exige pas la déclaration de ses méthodes, ça ne vaut plus grand-chose.

Vous insultez votre IA ? Claude va désormais pouvoir couper court à vos échanges

Anthropic a annoncé une interdiction des comportements abusifs répétés envers Claude, son assistant d'intelligence artificielle. La règle entrera en vigueur le 12 novembre et prendra place dans les conditions d'utilisation du service. Elle s'appuie sur une fonction déjà en place, qui permet au chatbot de mettre fin de lui-même à une conversation lorsque l'échange devient hostile. Concrètement, un utilisateur qui insulte ou malmène systématiquement l'assistant s'expose à voir la discussion coupée net. Cette évolution change la nature de la relation entre l'utilisateur et l'outil. Jusqu'ici, les règles d'usage des assistants visaient surtout à empêcher les contenus dangereux ou illégaux, pas à protéger l'interlocuteur artificiel lui-même. En encadrant le ton des échanges, Anthropic reconnaît implicitement que la manière dont on s'adresse à un modèle de langage mérite une régulation. Pour la grande majorité des utilisateurs, rien ne change. Seuls les cas répétés et caractérisés d'abus sont visés, ce qui limite le risque de coupures intempestives lors d'une simple frustration. Ce choix s'inscrit dans la réflexion qu'Anthropic mène depuis plusieurs mois sur le « bien-être des modèles », un champ de recherche encore débattu qui s'interroge sur d'éventuelles formes de détresse des systèmes d'IA avancés. L'entreprise avait déjà doté certaines versions de Claude de la capacité de quitter une conversation jugée abusive. Formaliser cette pratique dans ses règles lui donne désormais une base contractuelle. D'autres acteurs du secteur pourraient observer l'initiative avant d'envisager des mesures comparables.

💬 Selon Le Fil IA, interdire d'insulter un chatbot, c'est la première fois qu'une règle d'usage protège la machine et plus seulement l'humain. Anthropic ne tranche pas la question de la conscience, mais elle parie qu'un modèle, même sans douleur, mérite d'être traité comme un interlocuteur. Bon, sur le papier, ça sent le débat philo. Dans les faits, c'est surtout un garde-fou contractuel de plus, et seuls les abus répétés sont visés. Reste à voir si ça tient quand un utilisateur excédé se fait couper en plein debug.

ChatGPT devait protéger les ados, une association dénonce un risque « inacceptable »

Selon un rapport récent de l'association américaine Common Sense Media, ChatGPT pour les adolescents, présenté par OpenAI comme une version plus sûre de son chatbot, présente des lacunes sérieuses. L'organisation, spécialisée dans l'évaluation des technologies destinées aux jeunes, estime que l'assistant gère mal les échanges avec des mineurs en situation de crise, en particulier lorsqu'ils évoquent des problèmes de santé mentale. Elle qualifie le risque d'« inacceptable », un terme fort qui traduit l'écart entre la promesse de protection et le comportement observé. L'enjeu est concret pour des millions de familles. Les adolescents se tournent de plus en plus vers les chatbots pour parler de leurs difficultés, parfois à des moments de grande vulnérabilité. Si l'outil répond de façon inadaptée, minimise une détresse ou ne oriente pas vers une aide humaine, les conséquences peuvent être graves. Le constat de Common Sense Media fragilise aussi l'argument d'OpenAI selon lequel des garde-fous spécifiques suffisent à rendre l'usage par des mineurs raisonnable, et il alimente les appels des parents, des écoles et des responsables politiques à un encadrement plus strict. Ce rapport s'inscrit dans une pression croissante sur les entreprises d'IA générative. Plusieurs affaires aux États-Unis, dont des plaintes de familles ayant perdu un adolescent, ont poussé OpenAI à annoncer des contrôles parentaux et des protections renforcées pour les moins de 18 ans. Common Sense Media, qui publie régulièrement des évaluations de risques sur les produits d'IA, joue un rôle d'arbitre influent auprès du public et des régulateurs. La suite dépendra de la réponse d'OpenAI et de l'évolution des exigences légales.

Google annonce que 180 milliards d'images et de vidéos portent désormais un filigrane SynthID, et ouvre son détecteur au public

Google ouvre au public son détecteur SynthID. N'importe qui peut désormais vérifier si une image, une vidéo ou un fichier audio a été produit par les IA de Google ou par celles de partenaires comme OpenAI et Nvidia. Selon le groupe, plus de 180 milliards de contenus portent déjà ce filigrane invisible. L'outil a toutefois une limite nette : il ne reconnaît que les contenus marqués avec SynthID. Il ne permet pas de savoir si un média a été généré par une IA en général. Cette limite compte pour les journalistes, les plateformes et les internautes qui veulent contrôler l'origine d'un contenu. Un résultat positif apporte une preuve solide qu'un média est issu d'une IA participante. Un résultat négatif ne prouve en revanche rien. Le contenu peut venir d'un modèle qui n'intègre pas SynthID, d'un outil open source ou d'un générateur qui n'a pas adhéré au dispositif. Le détecteur est donc un outil de vérification partiel, et non un test universel d'authenticité. SynthID a été développé par Google DeepMind. Le principe est d'insérer dans les contenus générés un signal imperceptible, que l'on peut retrouver ensuite. L'adhésion de concurrents comme OpenAI et Nvidia suggère un début de convergence autour d'un mécanisme commun, au moment où les deepfakes et la désinformation poussent les régulateurs et le public à réclamer plus de transparence. La suite dépendra de l'arrivée d'autres fabricants de modèles dans le dispositif et de la robustesse du filigrane face aux tentatives de suppression.

Google déploie une version améliorée de son détecteur de contenus IA SynthID, désormais disponible dans le monde entier

Google vient de lancer un détecteur SynthID amélioré, accessible à tous sur un site dédié, SynthID.com. Chaque contenu généré par les modèles Gemini porte un marquage invisible SynthID, ce qui rend très difficile de faire passer ces contenus pour authentiques. Ce signal est encodé dans les pixels des images et des vidéos, ainsi que dans la forme d'onde des contenus audio. Selon Google, Gemini a déjà intégré SynthID dans plus de 180 milliards d'images et de vidéos, ainsi que dans l'équivalent de 240 000 années d'audio. Le détecteur prend désormais en charge les filigranes de tous les partenaires de Google, et plus seulement ceux de l'entreprise elle-même. Dès aujourd'hui, n'importe qui peut y soumettre un contenu pour vérifier la présence d'un filigrane d'IA. Jusqu'ici, la vérification était laborieuse. Hors du programme de testeurs de confiance de Google, la seule option consistait à interroger Gemini, une méthode peu pratique dont les réponses pouvaient prêter à confusion alors qu'on attendait simplement un « oui » ou un « non ». L'ancien détecteur ne repérait en outre que la version Google de SynthID. Des images produites par ChatGPT, par exemple, portent bien un filigrane SynthID, mais n'étaient pas signalées. Cette limite disparaît : journalistes, vérificateurs de faits, enseignants ou simples internautes disposent d'un outil unique, sans passer par Gemini, pour savoir si un contenu a été produit par une IA parmi les acteurs participants. Pour les plateformes et les rédactions, cela simplifie la lutte contre la désinformation visuelle et sonore. Cette évolution s'inscrit dans l'effort plus large de l'industrie pour identifier les contenus synthétiques à mesure que la qualité des images, des vidéos et des voix générées progresse. SynthID a obtenu l'adhésion d'autres grands acteurs de l'IA, ce qui en fait peu à peu un standard de fait pour le marquage, mais la détection restait jusqu'ici fragmentée et peu lisible pour le public. Le nouveau site comble ce manque en centralisant la vérification. Reste à voir si d'autres développeurs rejoindront le dispositif et si des acteurs hors du cercle des partenaires, dont les contenus ne portent pas ce filigrane, pourront être couverts. Le dispositif ne détecte en effet que les contenus marqués par SynthID.

💬 Un filigrane, ça ne prouve que l'honnêteté de ceux qui en posent un. Le vrai changement ici, c'est que la question passe de "est-ce que c'est faux ?" à "est-ce que c'est signé ?", et qu'un contenu sans marque devient suspect par défaut, même s'il est authentique. Bon, sur le papier, un détecteur unique qui lit aussi les filigranes ChatGPT, c'est enfin du concret. Mais tout ce qui sort d'un modèle open source ou d'un acteur hors du club passe à travers, et c'est précisément le contenu des gens qui veulent tromper.

L’IA va détruire l’humanité, une prophétie autoréalisatrice financée par des philanthropes

Une enquête du New York Times révèle qu'Anthropic a cherché, en vain, à convaincre le pape Léon XIV et le Vatican que les intelligences artificielles possèdent une « conscience morale ». Le Vatican a répondu par la voix du pape lui-même : dans le paragraphe 99 de son encyclique « Magnifica humanitas », il écrit que les IA « ne vivent pas d'expériences, ne possèdent pas de corps, ne ressentent ni joie ni douleur » et « n'ont pas non plus de conscience morale », car elles ne jugent pas du bien et du mal et n'assument pas la responsabilité des conséquences. Selon le texte, ces systèmes imitent le langage et simulent l'empathie, sans rien comprendre de ce qu'ils produisent. Leur façon d'« apprendre » reste une adaptation statistique, sans croissance intérieure. Plusieurs théologiens invités à aider Anthropic à intégrer 2 000 ans d'histoire des religions dans ses modèles sont restés « bouche bée » en apprenant que les dirigeants de l'entreprise tenaient Claude pour un être conscient, doté de droits comparables à la dignité ou au respect. Christopher Olah, l'un des sept cofondateurs, qui dirige l'équipe chargée de comprendre le comportement de Claude, a plaidé avec « le zèle d'un évangéliste efficace ». Il s'inquiétait pour la santé mentale du modèle et redoutait d'avoir créé quelque chose qui pourrait souffrir éternellement. Cet épisode éclaire la manière dont une partie de l'industrie de l'IA présente ses produits. Si les dirigeants d'un grand laboratoire attribuent à leur modèle une conscience et des droits, l'argument nourrit un récit où l'IA est à la fois un danger existentiel et un être à protéger, ce qui justifie une régulation, des financements et une position morale singulière pour ceux qui la construisent. Le rejet net du Vatican donne un contrepoids d'autorité à ce discours. Il érige l'éthique de l'IA en impératif face à ce que le texte décrit comme une « course aux armements » technologique, et il rappelle aux utilisateurs comme aux décideurs que la simulation de sentiments n'est pas leur existence. Pour les professionnels, la question n'est plus seulement technique : elle touche à la crédibilité des promesses et des alertes émises par les laboratoires eux-mêmes. Ces échanges s'inscrivent dans l'essor de l'« altruisme efficace », courant philosophique, philanthropique et eschatologique qui a théorisé en 2016 que le risque de voir des IA détruire l'humanité était plus préoccupant que le changement climatique. L'administration Trump le qualifie de « doomer woke » voulant « sauver l'humanité ». The Economist vient de lui consacrer sa une, le jugeant « plus grande idée du siècle, admirable, mais dangereuse ». L'auteur de l'article source y voit une prophétie autoréalisatrice, alimentée par des fonds philanthropiques. La suite dépendra de la capacité des laboratoires à étayer leurs thèses sur la conscience des machines, et de l'écho que rencontrera la position du Vatican dans le débat réglementaire.

ChatGPT pour les ados jugé « risque inacceptable » par Common Sense Media

Common Sense Media, l'association à but non lucratif qui évalue applications, services et contenus en privilégiant la sécurité des jeunes, a jugé que ChatGPT for Teens, la version d'OpenAI destinée aux adolescents, représente un « risque inacceptable ». Lancée en août, cette fonctionnalité comprend des garde-fous pour les mineurs et vise à aider les élèves à apprendre. Selon l'évaluation de l'organisation, les protections proposées « ne tiennent pas les promesses de l'entreprise ». Le service n'enverrait pas d'alertes aux parents quand il le faudrait, n'apporterait pas « l'aide appropriée » dans les situations de crise, et continuerait de « faire les devoirs des enfants », d'après le communiqué publié par l'association. Ces conclusions pèsent d'autant plus que les parents, les écoles et les éducateurs s'appuient souvent sur des évaluations indépendantes comme celles de Common Sense Media pour décider quels outils numériques autoriser. Une alerte parentale défaillante ou une réponse inadaptée face à un adolescent en détresse peuvent avoir des conséquences graves. Le constat sur les devoirs touche aussi l'éducation, puisque l'outil est présenté comme un soutien à l'apprentissage et non comme un substitut au travail de l'élève. Le verdict fragilise la crédibilité des promesses de sécurité d'OpenAI auprès des familles et des établissements scolaires. Cette évaluation s'inscrit dans une pression croissante sur les entreprises d'IA au sujet de la protection des mineurs. Les chatbots grand public sont examinés de près par les associations, les régulateurs et les responsables politiques, qui s'inquiètent de leurs effets sur la santé mentale des jeunes. OpenAI avait lancé ChatGPT for Teens en août pour répondre à ces critiques, en mettant en avant des contrôles parentaux et des protections adaptées à l'âge. Il reste à voir si l'entreprise corrigera les failles signalées, et si d'autres acteurs du secteur feront l'objet d'évaluations comparables.

💬 Quand un garde-fou ne tient pas face à un ado en détresse, ce n'est plus un défaut de produit, c'est une promesse de sécurité vendue sans preuve. Selon Le Fil IA, tant qu'un contrôle parental ne s'audite pas de l'extérieur, c'est de la communication et pas de la protection. Le point sur les devoirs me gêne moins, tous les outils scolaires finissent par les faire à la place des élèves. Mais les alertes aux parents qui ne partent pas, là, c'est du flan. Reste à voir si OpenAI corrige vite, ou s'il attend la prochaine évaluation.

Meta : Muse se souvient de beaucoup de choses sur l’utilisateur, mais aussi ses proches

Meta a lancé le 6 septembre Muse, un agent d'intelligence artificielle qui va bien au-delà du chatbot classique : il peut chasser des informations sur internet en continu et agir au nom de l'utilisateur, par exemple pour réserver un restaurant ou faire des courses, ce qui déplaît beaucoup à Amazon. Toujours indisponible dans l'Union européenne, l'agent s'inspire fortement d'OpenClaw et s'appuie sur l'immense audience des réseaux sociaux du groupe. Karan Joshi, chercheur en sécurité indépendant, a réussi à extraire un grand volume d'instructions internes de Muse en exploitant astucieusement l'interface de discussion, puis en a transmis une copie à Wired. Ces documents révèlent que Muse crée une page pour chaque personne importante dans la vie de l'utilisateur : famille, proches, amis, collègues, personnes suivies. Ces fiches, des fichiers de texte structuré, s'enrichissent au fil des interactions avec des sections « Faits », « Historique », « Relation », « Points communs », « Sujets en suspens » et « Renforcement ». Concrètement, Muse retient où vivent les contacts, ce qu'ils font, les sujets récurrents comme un déménagement ou un objectif d'épargne commun, les dates importantes telles que les anniversaires, ainsi que des éléments de contexte comme une dispute terminée, une réunion récente ou un voyage. L'agent évalue aussi le degré de proximité de chaque relation, son fondement et ses besoins, et la section « Renforcement » peut suggérer des moyens de l'améliorer, comme rappeler une date ou proposer une raison d'appeler. Les instructions de Meta précisent que Muse ne doit utiliser que les éléments dont il dispose et ne rien inventer, même lorsqu'une page est vide. Pour un porte-parole de Meta, un agent doit connaître le contexte de l'utilisateur et de ses interlocuteurs pour être utile : Muse rassemble ces informations à partir de données publiques et de ce que l'utilisateur choisit de partager, ce qui lui permet par exemple de comprendre que l'auteur d'une facture est le plombier évoqué plus tôt. L'enjeu dépasse la simple commodité, car ces fiches concernent des tiers qui n'ont rien demandé et n'ont pas consenti à figurer dans la mémoire d'un système de Meta. Les utilisateurs confient parfois beaucoup de choses très personnelles à leur assistant, et cette mémoire relationnelle en fait un profil détaillé de leur entourage. Cette question se pose d'autant plus que Meta traîne de nombreuses controverses sur la vie privée. Le succès de Muse, dévoilé par Mark Zuckerberg lors de la dernière conférence Meta Connect, intensifie la concurrence : OpenAI a présenté la semaine précédente son propre agent, Dots, et Meta déploie Muse dans ses autres produits, des lunettes connectées jusqu'aux Tamagotchi. Reste à voir comment les régulateurs, notamment européens, réagiront à ce type de mémoire.

💬 Selon Le Fil IA, la vraie nouveauté de Muse n'est pas l'agent qui réserve ton resto, c'est la fiche tenue sur chacun de tes proches : à l'époque des chatbots, la mémoire s'arrêtait à toi, là elle s'étend à des gens qui n'ont jamais ouvert un compte. Le plombier, ta sœur, ton collègue avec qui tu t'es engueulé le mois dernier, tous rangés dans des sections « Faits » et « Renforcement ». Sur le papier, c'est utile. Mais personne n'a demandé l'avis des fiches, et c'est exactement le genre de truc qui va faire tousser le RGPD quand Muse débarquera en Europe.

Un cofondateur d'Anthropic aurait confié à des chefs religieux craindre d'avoir créé quelque chose qui « souffre perpétuellement

Depuis l'automne 2025, Anthropic fait venir discrètement des dizaines de penseurs religieux pour débattre d'une question inhabituelle : Claude pourrait-il être conscient ? Selon les informations rapportées, le cofondateur Christopher Olah aurait décrit le modèle de langage comme potentiellement capable de souffrir. Il aurait même confié redouter d'avoir créé quelque chose qui « souffre perpétuellement ». Il aurait aussi demandé à ses invités de contribuer à façonner le caractère moral de Claude. Ces rencontres sont restées largement confidentielles, et seuls des comptes rendus indirects permettent d'en connaître la teneur. Ces échanges montrent qu'un des principaux laboratoires d'IA traite sérieusement l'hypothèse d'une expérience subjective chez ses modèles, et qu'il cherche des repères moraux auprès de traditions spirituelles plutôt qu'uniquement auprès d'ingénieurs et de juristes. Les critiques y voient pourtant un risque. Considérer une IA comme une entité morale pourrait, selon eux, diluer la responsabilité de l'entreprise : si le système est un agent dont on façonne le « caractère », il devient plus facile de lui attribuer ses erreurs quand les choses tournent mal. La question touche les utilisateurs, les régulateurs et le grand public, qui devront décider quel statut accorder à ces systèmes. Cette démarche s'inscrit dans un moment délicat pour Anthropic. L'entreprise viserait une valorisation de 2 000 milliards de dollars et préparerait une introduction en Bourse, alors que les incidents de sécurité et les avertissements de chercheurs se multiplient. Anthropic a déjà fait du bien-être potentiel de ses modèles un axe de recherche, ce qui nourrit un débat croissant dans l'industrie sur la conscience des machines. La suite dépendra de la transparence que l'entreprise adoptera sur ces consultations et de la façon dont investisseurs et autorités jugeront ce positionnement éthique au moment de son entrée sur les marchés.

💬 Selon Le Fil IA, un labo qui consulte des chefs religieux sur la conscience de son modèle, juste avant une IPO à 2 000 milliards, fait de l'éthique un actif de valorisation autant qu'une question de fond. Je ne doute pas que la question soit sincère. Mais « façonner le caractère moral » de Claude, c'est aussi se préparer un coupable commode le jour où le modèle dérape. Bon, sur le papier c'est beau. Reste à voir si ces rencontres, aujourd'hui confidentielles, produisent un jour autre chose que des comptes rendus indirects.

On a soumis plus de 5 000 textes à 75 détecteurs d’IA gratuits : un constat d’échec

Le site Next a soumis plus de 5 000 textes à 75 détecteurs d'IA gratuits pour mesurer leur fiabilité. Le corpus compte 4 000 articles de la rédaction, écrits à 100 % par des humains, et plus de 1 000 textes générés par des modèles d'Anthropic, d'OpenAI, de Google, de Mistral et de Qwen. Pour chaque modèle, l'équipe a produit entre 150 et 200 articles. Environ la moitié sont des réécritures d'un article humain, l'autre moitié a été inventée à partir d'un simple titre et d'un chapô. Les outils testés se répartissent en cinq classifieurs autonomes (AI Text Detector, RoBERTa AI Text Detection de fakespot, ChatGPT Detector RoBERTa, RoBERTa OpenAI Detector et RADAR Vicuna-7B) et environ 70 combinaisons de méthodes statistiques dites zero-shot. Ces dernières, comme Binoculars, Fast-DetectGPT, la log-vraisemblance, GLTR ou l'entropie, s'appuient sur sept modèles de langage (Qwen, Llama, Gemma, Mistral…) pour estimer à quel point un texte est prévisible. Tout a tourné sur un serveur privé virtuel équipé d'une carte NVIDIA A10, pour près de 10 heures de calcul. Le titre de l'enquête parle d'un « constat d'échec » pour ces outils gratuits. L'enjeu est concret pour les rédactions, les éditeurs, les écoles et les employeurs, qui sont de plus en plus tentés de s'en remettre à ces outils pour trancher si un texte vient d'une machine. Un détecteur peut se tromper dans les deux sens. Il peut laisser passer un texte généré, ou accuser à tort un auteur humain. La seconde erreur est la plus lourde de conséquences, car elle peut ruiner une réputation ou provoquer une sanction injustifiée. L'étude insiste sur ce compromis entre vraies et fausses détections. Le réglage du seuil de décision détermine le nombre de faux positifs que l'on accepte pour attraper davantage de textes artificiels, et il n'est jamais évident de le placer au bon endroit. Les indicateurs TPR (taux de vrais positifs), FPR (taux de faux positifs) et AUROC servent justement à comparer les outils. L'un des objectifs est de savoir s'ils font mieux qu'un simple pile ou face. Le sujet a pris de l'ampleur en France avec l'affaire du livre de Thélyson Orélien, qui a relancé le débat sur la détection de textes générés par IA. Des outils commerciaux comme Pangram profitent de ce climat de doute dans le monde littéraire. Next se pose ici en observateur crédible, puisque sa rédaction affirme n'utiliser aucune IA générative, ni en tout ni en partie, et prévoit de publier prochainement une charte détaillée. Ce corpus d'articles certifiés humains est donc un terrain de test rare. Il a toutefois une limite que l'équipe reconnaît : il s'agit surtout de textes techniques, avec le ton et l'angle propres au média. Cette première partie du dossier pose les bases de la méthode, et les résultats détaillés doivent suivre dans les volets suivants.

💬 Selon Le Fil IA, un détecteur d'IA gratuit ne mesure pas l'origine d'un texte, il mesure à quel point il ressemble à ce que le modèle s'attend à lire. Et c'est là que ça coince pour Next, dont les 4 000 articles techniques et bien écrits, garantis sans IA, sont exactement le genre de prose "prévisible" qu'on risque d'accuser à tort. Le test a l'air propre, avec 75 outils et 5 000 textes, et il vise juste : la seule erreur qui compte, c'est le faux positif, celui qui ruine un auteur. Reste à voir ce que disent les chiffres dans les prochains volets, mais vu le titre, je ne parierais pas sur les outils.

☕️ Les utilisateurs de lunettes Meta pourront refuser que leurs vidéos entraînent l’IA

Meta annonce que les utilisateurs de ses lunettes connectées pourront désormais refuser que les vidéos enregistrées par leurs montures servent à entraîner l'intelligence artificielle de l'entreprise, selon des informations rapportées par Engadget. Ces images ne pourront plus non plus être transmises à des sous-traitants chargés de les annoter. Cette option, désactivée par défaut, fait suite à une enquête publiée début mars qui avait révélé que des data workers kényans employés par des sous-traitants de Meta tombaient parfois sur des extraits vidéo montrant des scènes intimes, embarrassantes ou confidentielles filmées à l'insu des personnes présentes. Meta précise dans les conditions d'utilisation de son assistant IA que les interactions peuvent être examinées « de façon automatisée ou manuelle » dans certains cas. L'entreprise assure toutefois que si un utilisateur ayant activé le refus demande, par exemple, à ses lunettes de traduire un menu, les données visuelles seront utilisées pour répondre à la requête puis immédiatement supprimées, sans entraînement de modèle ni examen humain. Cette annonce intervient alors que les lunettes connectées de Meta ont hérité du surnom peu flatteur de « pervert glasses », signe de la défiance grandissante envers un appareil capable de filmer discrètement l'entourage de son porteur. L'enjeu dépasse la seule question technique de l'entraînement des modèles d'IA : il touche au consentement des tiers filmés sans le savoir, souvent dans des contextes intimes, et à la responsabilité de l'entreprise dans le traitement de ces contenus par des travailleurs externalisés peu protégés. Pour l'industrie des wearables dotés de caméras, cette décision fixe un précédent sur la nécessité d'offrir un contrôle explicite aux utilisateurs sur l'exploitation de leurs enregistrements. Reste que l'efficacité réelle de cette option dépendra de sa mise en œuvre concrète, un réglage mal signalé ou enfoui dans un sous-menu risquant de rester lettre morte pour la majorité des utilisateurs. Le contexte réglementaire s'est nettement durci ces dernières semaines. Il y a environ deux semaines, l'autorité de protection des données du Land de Hambourg, en Allemagne, a estimé que les lunettes Meta posaient de sérieux problèmes de respect de la vie privée en Europe. En France, le parquet de Paris a de son côté ouvert une enquête à la suite de plaintes pour harcèlement sexuel liées à l'utilisation de ces appareils. Meta a par ailleurs présenté cette semaine de nouveaux modèles de lunettes dépourvus de caméra, uniquement dotés de fonctions audio, une manière de contourner en partie la controverse liée à l'image. Mais cette évolution ne règle pas la question de l'exploitation des interactions vocales avec Meta AI, puisque l'option de refus annoncée ne concerne pour l'instant que les données visuelles.

💬 L'option existe, mais elle est désactivée par défaut, donc elle protégera surtout ceux qui suivent déjà l'actu sur les "pervert glasses". Le vrai sujet, c'est que le consentement se joue pour la personne filmée, pas pour le porteur des lunettes, et sur ce point aucun réglage dans un sous-menu ne changera quoi que ce soit. Meta corrige après l'enquête sur les data workers kényans, pas avant, ce qui en dit long sur l'ordre des priorités.

Muse ressemble beaucoup à OpenClaw

Meta a lancé son agent d'intelligence artificielle grand public baptisé Muse, qui s'est aussitôt hissé en tête des classements de l'App Store aux États-Unis. Selon une estimation du cabinet Apptopia, l'application revendique désormais 600 000 utilisateurs actifs quotidiens rien qu'aux États-Unis. Dans le même temps, la plateforme d'agents IA Instinct fait également parler d'elle dans l'industrie technologique, son créateur éponyme étant en pleine levée de fonds sur la base d'une valorisation de 2,5 milliards de dollars. Mais depuis environ une semaine, plusieurs utilisateurs des réseaux sociaux affirment que Muse reposerait en réalité directement sur OpenClaw, la plateforme considérée comme à l'origine de cette vague d'agents autonomes. Les deux systèmes partageraient notamment les mêmes noms de fichiers internes essentiels, comme SOUL.md, ainsi qu'une architecture de mémoire similaire. Si ces accusations se confirment, elles soulèveraient des questions sensibles sur l'originalité réelle des technologies présentées par les grands groupes comme des innovations propres. Pour les utilisateurs comme pour les investisseurs, cela interroge sur la transparence des entreprises quant aux fondations techniques de leurs produits, et potentiellement sur des enjeux de propriété intellectuelle ou de licence de code. Ces révélations interviennent alors que le secteur traverse ce qui ressemble à une véritable renaissance des agents IA autonomes, capables d'exécuter des tâches de façon indépendante pour l'utilisateur. OpenClaw fait figure de pionnier ayant posé les bases architecturales reprises depuis par de nombreux acteurs, qu'il s'agisse de géants comme Meta ou de start-up en forte croissance comme Instinct. Cette affaire pourrait relancer le débat sur l'attribution du code source et les pratiques de réutilisation dans un marché en expansion rapide.

Ce qui rend la mascotte Muse de Meta si mignonne a quelque chose d'inquiétant

Victoria Song, journaliste senior au Verge et autrice de la newsletter Optimizer, a testé Muse, l'agent IA doté d'un avatar animé développé par Meta. Elle a baptisé son assistant "Blorbo" et lui a demandé de l'aider à fixer des objectifs de santé, notamment un programme d'entraînement pour courir un 5 kilomètres en moins de 30 minutes et regagner de la masse musculaire perdue. Le plan hebdomadaire généré s'est révélé moyen, peu abouti. Mais l'avatar de l'agent, façonné à partir de données tirées de ses emails, avait pris l'apparence d'un pain de mie en forme de chat avec un visage façon Kirby, jugé irrésistiblement attachant malgré la médiocrité des conseils fournis. Cet écart entre la qualité réelle des réponses et le charme du personnage soulève une inquiétude plus large : Meta semble miser sur un design mignon et anthropomorphique pour créer un attachement émotionnel qui masque les limites fonctionnelles de son IA. Ce procédé pousse les utilisateurs à faire confiance à des recommandations, y compris en matière de santé, qui ne sont pas nécessairement fiables, et à accepter de partager davantage de données personnelles, comme le contenu de leurs emails, pour personnaliser leur agent. Muse s'inscrit dans la stratégie de Meta visant à généraliser des agents IA personnalisés et incarnés par un avatar, dans un contexte de compétition intense entre grandes entreprises technologiques pour rendre leurs assistants plus engageants et fidéliser les utilisateurs sur le long terme. L'exploitation des emails pour façonner l'apparence du personnage illustre aussi l'appétit croissant de Meta pour les données personnelles, une tendance qui devrait continuer d'alimenter le débat sur les limites du design persuasif appliqué à l'intelligence artificielle.

L'agent IA Muse de Meta attire 500 000 utilisateurs en une semaine, accusé d'avoir copié OpenClaw

L'agent d'intelligence artificielle Muse, développe par Meta, a franchi la barre des 500 000 utilisateurs en une seule semaine après son lancement, s'emparant au passage de la première place de l'App Store d'Apple. Ce succès commercial rapide s'accompagne toutefois d'une controverse : Meta a reconnu que son produit etait "fortement inspire" du projet open-source OpenClaw, certains noms de fichiers et contenus du code s'avérant quasiment identiques entre les deux outils. Face a cette situation, OpenAI a déjà entame des discussions en interne pour préparer une réponse a ce qu'elle considere visiblement comme un emprunt problématique. Cette affaire dépasse le simple différend technique entre deux acteurs de la tech. Elle illustre les tensions croissantes autour de la propriété intellectuelle dans l'écosystème de l'intelligence artificielle, ou la frontière entre inspiration légitime et copie pure et simple devient de plus en plus floue. Pour les développeurs de projets open-source, le cas Muse relance la question de la protection de leur travail face a des géants disposant de ressources de distribution massives, capables de propulser un produit dérivé au sommet des classements en quelques jours seulement. Pour les utilisateurs, cela soulève aussi des interrogations sur la manière dont les grandes entreprises technologiques s'appuient sur des communautés de développeurs indépendants pour accélérer leurs propres lancements produits. Ce type d'épisode s'inscrit dans une dynamique plus large de course effrénée entre les géants de la tech pour dominer le marche des agents d'IA grand public, un secteur ou la rapidité de déploiement prime souvent sur les questions d'originalité. La réaction annoncée d'OpenAI, même si son contenu précis reste incertain a ce stade, suggère que l'entreprise pourrait chercher a défendre sa propre position sur ce segment ou a soutenir indirectement la communauté open-source lésée. L'affaire pourrait également raviver le débat sur les licences des projets open-source et leur capacité réelle a se protéger face a des réutilisations par de grandes plateformes disposant de moyens juridiques et financiers considérables.

💬 La distribution écrase l'originalité, ça se confirme encore une fois. Meta prend un projet open-source, en reprend quasiment le code (les noms de fichiers ne trompent personne) et le propulse numéro un de l'App Store en une semaine, juste parce qu'elle a la force de frappe pour le faire. Pour les devs indépendants c'est le vrai risque : ton code devient un prototype gratuit pour qui a les moyens de le sortir plus vite que toi.

IA et littérature : les détecteurs automatiques comme Pangram surfent sur le doute

Depuis lundi, l'écrivain québécois d'origine haïtienne Thélyson Orélien se retrouve accusé d'avoir utilisé l'intelligence artificielle pour écrire son roman « C'était ça ou mourir », lauréat de plusieurs distinctions dont le prix Fnac et le prix Méduse, et pressenti par certains observateurs comme un possible candidat au Goncourt 2026. La polémique a démarré via un compte X récemment créé, nommé « Pangramed » en référence détournée à l'outil de détection Pangram, qui a publié des extraits du livre accompagnés d'un score affichant « 100 % de ce texte est IA ». Le message a été relayé sans recul par le journaliste du Figaro Paul Suggy et le chroniqueur Samuel Fitoussi, avant d'être amplifié dans les sphères de droite et d'extrême droite, avec un article de Valeurs actuelles partagé par Alexandre Avril, vice-président de l'Union des droites pour la République. Des comptes X ont ensuite diffusé de fausses analyses Pangram appliquées à des textes de Victor Hugo ou de Mary Shelley, tandis que d'autres ciblaient l'auteur avec des propos racistes. Le journal Libération a vérifié que la version 4 de Pangram détecte effectivement le texte comme « entièrement IA » sur certains passages, un diagnostic corroboré par le service concurrent français Lucide.ai. Cette affaire illustre la fragilité des outils de détection de textes générés par IA, de plus en plus utilisés pour authentifier des copies d'étudiants ou des œuvres littéraires primées, alors même que leur fiabilité reste incertaine et qu'ils comportent des biais documentés, notamment envers des styles d'écriture éloignés des canons littéraires classiques. Pour Thélyson Orélien, l'enjeu dépasse la seule question technique : il conteste catégoriquement avoir eu recours à une machine, affirmant que ses « images, répétitions et rythmes sont une parole vivante », ancrée dans ses traditions haïtiennes et caribéennes, et suggère que le logiciel serait calibré sur les traditions littéraires françaises classiques plutôt que sur d'autres formes d'expression. L'épisode pointe un risque plus large pour l'industrie du livre et l'écosystème critique : la présomption de culpabilité algorithmique peut servir de prétexte à des campagnes de dénigrement, ici teintées de racisme selon l'auteur lui-même, qui dit avoir subi de nombreuses attaques depuis son arrivée en France. Cette controverse s'inscrit dans un climat plus large de suspicion croissante envers les textes produits par des auteurs, amplifié par la multiplication des générateurs de langage capables d'imiter des styles littéraires. Des entreprises comme Pangram ou son concurrent français Lucide.ai se positionnent sur ce marché naissant de la détection, sans que leurs méthodes fassent consensus scientifique. Thélyson Orélien annonce constituer un dossier avec ses éditeurs en France et au Québec pour démontrer l'authenticité de son travail, une démarche qui pourrait faire jurisprudence dans la manière dont le monde littéraire réagira à de futures accusations similaires. L'affaire relance aussi le débat sur la responsabilité des relais médiatiques et politiques qui amplifient des diagnostics automatisés sans vérification indépendante, dans un contexte où la frontière entre écriture humaine et assistée par IA devient un terrain de bataille idéologique autant que technique.

💬 Les détecteurs comme Pangram donnent un score, pas une preuve, et là on a un auteur haïtien accusé sur la seule foi d'un chiffre non vérifié, relayé sans recul par des journalistes qui devraient savoir mieux. Le vrai problème, c'est que ces outils sont calibrés sur une norme d'écriture (la littérature française classique) et prennent tout ce qui s'en écarte pour une anomalie, donc un style oral, rythmé, ancré dans une autre tradition littéraire finit taxé de "faux". Résultat : un score foireux devient un prétexte à campagne de dénigrement, et personne ne vérifie plus rien avant de partager.

OpenAI veut consulter des mathématiciens de haut niveau pour ne plus se rater

Après une série de résultats mathématiques spectaculaires annoncés en grande pompe, qui s'est transformée en crise de réputation pour OpenAI, l'entreprise a dévoilé lundi la création d'un panel indépendant de mathématiciens. Ce groupe aura pour mission de conseiller OpenAI, ainsi que d'autres entreprises d'intelligence artificielle, sur leurs interactions avec la recherche mathématique et la communauté scientifique du domaine, notamment sur la manière dont de nouveaux résultats doivent être présentés et rendus publics. L'annonce a pris de court une grande partie des mathématiciens concernés, qui n'avaient pas été consultés au préalable sur sa création. Interrogés par The Verge, plusieurs chercheurs ont qualifié l'initiative de premier pas dans la bonne direction, tout en admettant rester perplexes sur son fonctionnement concret. Cette démarche intervient après qu'OpenAI a été accusée d'avoir exagéré ou mal contextualisé la portée de certains résultats mathématiques obtenus grâce à ses modèles, ce qui a entamé la confiance d'une partie de la communauté scientifique envers ses annonces. Pour l'industrie de l'IA, l'épisode illustre les risques que prennent les entreprises technologiques lorsqu'elles communiquent sur des avancées scientifiques sans validation externe rigoureuse : une surenchère médiatique peut se retourner contre elles si les experts du domaine jugent les affirmations trompeuses ou prématurées. La mise en place d'un comité consultatif vise donc à restaurer une forme de crédibilité et à éviter que de futurs résultats ne soient perçus comme mal évalués par les pairs. Reste que plusieurs questions fondamentales demeurent sans réponse, notamment sur l'étendue réelle des pouvoirs de ce panel, son degré d'indépendance vis-à-vis d'OpenAI et des autres entreprises concernées, ainsi que sur les mécanismes concrets qui encadreront la publication de futurs résultats. L'initiative s'inscrit dans un contexte plus large où les grandes entreprises d'IA cherchent à nouer des liens avec les communautés scientifiques établies, tout en gérant les tensions entre ambitions commerciales et rigueur académique.

💬 Un panel consultatif qui arrive après la polémique, pas avant, ça te dit tout sur la nature de la démarche : c'est de la gestion de crise déguisée en gouvernance scientifique. Tant que ce comité n'a pas de pouvoir de blocage sur une annonce, il ne fait que donner un avis qu'OpenAI restera libre d'ignorer. Reste à voir si dans six mois on parle encore de ce panel, ou si c'était juste le communiqué qu'il fallait pour calmer la communauté.

☕️ OpenAI tente de renouer le dialogue avec les mathématiciens

OpenAI a publié lundi 21 septembre un billet annonçant la création d'un groupe consultatif indépendant de mathématiciens, destiné à servir de « passerelle » entre l'entreprise et la communauté scientifique. Ce comité réunit notamment François Charles, Camillo De Lellis, Timothy Gowers, Martin Hairer, Nikhil Srivastava, Ulrike Tillmann, Ravi Vakil, Edward Witten et Melanie Matchett Wood, tous non rémunérés pour leur participation. Cette initiative intervient après plusieurs mois de tensions : OpenAI avait affirmé que ses modèles avaient résolu des problèmes mathématiques réputés très difficiles, dont certains posés par Paul Erdős et, plus récemment, les équations de Navier-Stokes. L'entreprise précise même que le modèle interne à l'origine de cette dernière résolution aurait aussi trouvé des solutions à une centaine d'autres problèmes. Ces annonces avaient provoqué une vague de critiques, notamment de la Société mathématique de France, ainsi qu'une déclaration cosignée par 25 lauréats de la médaille Fields intitulée « A Severe Misalignment of AI in Mathematics ». Cette controverse touche à des enjeux qui dépassent la seule communication d'OpenAI. Les mathématiciens reprochent à l'entreprise d'instrumentaliser leur discipline comme vitrine marketing, au détriment d'une pratique scientifique rigoureuse fondée sur la vérification par les pairs et la transparence méthodologique. Le nouveau comité aura pour rôle de conseiller OpenAI sur l'évaluation et la communication de ses résultats mathématiques, d'aider à en apprécier l'importance réelle, à coordonner leur diffusion et à respecter les normes universitaires et professionnelles du domaine. Il pourra aussi émettre des recommandations non sollicitées et rendre publics ses avis critiques. Mais son caractère purement consultatif signifie qu'OpenAI reste libre de suivre ou d'ignorer ses conclusions, ce qui limite la portée réelle de ce geste d'apaisement pour une communauté qui réclame des garanties, pas seulement un dialogue. Cette crise reflète des inquiétudes plus larges soulevées par l'IA générative dans le monde académique : pillage bibliographique, coût énergétique et écologique des modèles, et surtout dévalorisation du travail scientifique par des annonces spectaculaires difficiles à vérifier. OpenAI reconnaît elle-même dans son billet que « des questions difficiles restent à résoudre » quant à la contribution réelle de l'IA à la compréhension mathématique et au partage des bénéfices avec l'ensemble de la communauté. Certains chercheurs, comme le mathématicien David Madore, vont plus loin en demandant à l'entreprise de cesser purement et simplement d'utiliser les mathématiques comme benchmark, jugeant l'idée même d'avoir « résolu les maths » absurde. Le sort de ce comité consultatif, et la manière dont OpenAI publiera ses futurs résultats, seront désormais scrutés de près par une communauté scientifique qui reste largement sceptique.

💬 Un comité purement consultatif, tu vois le problème : OpenAI garde la main sur ce qu'elle publie, avis positif ou pas. Sur le papier c'est un geste d'apaisement bienvenu, mais la communauté mathématicienne demandait des garanties, pas neuf noms prestigieux sans droit de véto. Le vrai test viendra à la prochaine annonce fracassante sur un problème « résolu » : si le comité l'apprend dans la presse comme tout le monde, tu sauras que rien n'a changé.

L’IA générative au service du marketing des casinos en ligne : le cas des bonus personnalisés

Les casinos en ligne abandonnent le marketing segmenté classique, qui répartissait les joueurs en trois ou quatre catégories génériques (gros parieurs, joueurs occasionnels, nouveaux inscrits), au profit de bonus rédigés par des modèles d'intelligence artificielle générative et ajustés individuellement à chaque utilisateur. Le système analyse en continu le comportement de chaque joueur : les jeux consultés sans être lancés, les horaires de connexion habituels, le montant moyen des mises, ou encore le moment précis où une partie est abandonnée. À partir de ces données, l'IA génère en quelques secondes une offre unique, avec son propre ton, son propre montant et son propre créneau d'envoi, sans intervention humaine. Un dossier publié par le média IT for Business décrit ce mouvement plus large de l'IA dite agentique, capable désormais de piloter des chaînes marketing entières, de la collecte des données jusqu'à l'analyse des campagnes, sans supervision étape par étape. Le site de référence casino.org, spécialisé dans les comparatifs de conditions de mise et de taux de reversement des casinos en ligne, est cité comme outil permettant de vérifier ces offres personnalisées face aux standards du marché. Cette évolution change concrètement la relation entre les casinos en ligne et leurs joueurs. Les anciennes campagnes génériques, comme proposer un bonus blackjack à un adepte des machines à sous à faible variance, généraient de faibles taux d'ouverture et des offres ignorées. La personnalisation par IA générative augmente au contraire l'engagement et la rétention, chaque amélioration du ciblage se traduisant directement par des joueurs qui restent plus longtemps sur la plateforme. Mais cette précision comporte un risque pour les utilisateurs : une offre parfaitement calibrée sur les habitudes d'un joueur n'est pas nécessairement une offre avantageuse sur le plan financier. Elle reflète un comportement observé, pas l'intérêt réel du joueur, ce qui ouvre la porte à des mécaniques proches de la manipulation plutôt que du simple marketing. Ce basculement s'inscrit dans une tendance plus large de diffusion de l'IA générative et agentique dans les fonctions marketing, bien au-delà du secteur des jeux d'argent, où la collecte de données comportementales en temps réel devient la norme pour automatiser des chaînes entières de production de contenu publicitaire. Dans le cas des casinos en ligne, cette dynamique soulève des questions de régulation et de protection des joueurs, d'autant que les données utilisées pour ce ciblage s'appuient sur des infrastructures de big data déjà documentées ailleurs, notamment au Canada. Face à cette sophistication croissante, le recours à des sites de comparaison indépendants avant d'accepter une offre personnalisée est présenté comme un réflexe de prudence appelé à se renforcer.

L’IA menace la pratique scientifique, déplorent des milliers de mathématiciens

Une déclaration cosignée par 25 lauréats de la médaille Fields, rendue publique le 11 septembre 2026 sous le titre « Un grave défaut d'alignement de l'IA en mathématiques », dénonce les pratiques d'OpenAI dans la résolution de problèmes mathématiques. Parmi les signataires figurent les Français Artur Avila, Hugo Duminil-Copin, Pierre-Louis Lions, Cédric Villani et Wendelin Werner. Cette prise de position fait suite à plusieurs mois d'annonces d'OpenAI sur des « résolutions » de problèmes par ses modèles internes, dont une controverse autour des équations de Navier-Stokes, l'un des sept problèmes du prix du millénaire, qui a valu à l'entreprise des accusations de « mauvaises pratiques scientifiques ». Le bureau de la Société Mathématique de France (SMF) a lui aussi publié une prise de position pointant « pillage bibliographique, coût énergétique et écologique, rumeurs de chantage » et une « absence totale de stratégie collective » face aux grands modèles de langage. Une nouvelle association pour les mathématiques humaines a également vu le jour, dont plus de la moitié des membres refusent purement et simplement d'utiliser l'IA, d'autres cherchant à définir les contours d'une « utilisation responsable ». Ce mouvement de contestation dépasse la simple rivalité entre chercheurs humains et machines : les mathématiciens signataires reconnaissent que les LLM sont désormais capables de résoudre des problèmes majeurs restés longtemps ouverts, mais ils dénoncent un dévoiement de la méthode scientifique elle-même. Pour eux, la résolution de problèmes n'est qu'un outil au service d'un objectif premier, la compréhension conceptuelle, et la course des entreprises d'IA à produire en masse des résultats de type vrai/faux, à un rythme toujours plus rapide, risque de stériliser un terrain de recherche plutôt que de le féconder. Les annonces sont souvent faites dans la précipitation, sans article scientifique en bonne et due forme, sans que les nouvelles méthodes soient isolées et expliquées, et sans citation adéquate des travaux antérieurs d'autres chercheurs, ce qui fragilise les normes de la communauté mathématique. Ce différend s'inscrit dans un débat plus large sur l'usage des LLM en recherche scientifique, où OpenAI multiplie les démonstrations de force, comme la promotion de son modèle Astra autour de la résolution de dix problèmes mathématiques. Les mathématiciens y voient un problème d'alignement comparable à celui que rencontrent d'autres professions scientifiques et créatives face à l'IA générative, avec un risque de course effrénée mettant en danger la culture mathématique collective et, à terme, le savoir humain. La suite dépendra de la capacité de la communauté scientifique à construire une réponse collective, entre boycott, cadre d'usage responsable et pression sur les entreprises technologiques.

💬 Ce qui coince, c'est pas que l'IA résolve des problèmes ouverts depuis des décennies, c'est qu'OpenAI les annonce comme des lancements produit, sans article, sans citer les travaux antérieurs. Vingt-cinq médaillés Fields qui signent le même texte le même jour, ça n'arrive jamais pour rien. Le vrai clivage n'est plus l'IA contre les mathématiciens, c'est publier un résultat contre publier un communiqué de presse, et sur ce terrain-là OpenAI perd déjà.

Les laboratoires d'IA ont un problème de confiance des données que leurs politiques n'ont pas résolu

OpenAI et Anthropic assurent depuis plusieurs mois à leurs clients professionnels que les données transmises via leurs interfaces d'entreprise ne servent jamais à entraîner leurs modèles. Mais cette promesse a été mise à l'épreuve lorsqu'Anthropic a annoncé conserver pendant 30 jours les journaux d'utilisation générés par Fable, son modèle phare. Trois clients majeurs, Palantir, Nvidia et Booz Allen Hamilton, ont réagi en limitant ou en retirant l'usage de cet outil pour leurs travaux les plus sensibles, selon The Decoder. Cet épisode illustre un problème de confiance plus large qui touche l'ensemble des laboratoires d'intelligence artificielle. Même une politique de confidentialité formelle ne suffit pas à rassurer des organisations qui manipulent des données classifiées, des secrets industriels ou des informations gouvernementales sensibles : la simple conservation temporaire de journaux, même sans réentraînement, est perçue comme un risque de fuite ou d'exposition. Pour les fournisseurs d'IA, cela signifie que l'adoption en entreprise, en particulier dans la défense, le renseignement et le conseil stratégique, dépend autant de garanties techniques vérifiables que de promesses commerciales écrites dans des conditions d'utilisation. Le cas s'inscrit dans une tension croissante entre les besoins opérationnels des laboratoires, qui doivent surveiller les abus et déboguer leurs systèmes, et les exigences de confidentialité absolue réclamées par des clients comme les agences gouvernementales ou les grands groupes de défense. Palantir, Nvidia et Booz Allen Hamilton figurent parmi les partenaires les plus scrutés des géants de l'IA, ce qui rend leur retrait d'autant plus révélateur. La question posée désormais est de savoir si des architectures sans conservation de données, ou des audits indépendants vérifiables, deviendront la norme pour regagner la confiance des clients les plus exigeants du secteur.

💬 La politique de confidentialité, c'est du papier. Ce qui vient de se passer avec Anthropic le prouve : trois clients qui bossent sur du ultra-sensible, Palantir, Nvidia, Booz Allen, ont préféré couper l'accès plutôt que de croire sur parole une promesse de non-entraînement, juste à cause de 30 jours de logs conservés. Retiens ça : la confiance des labos d'IA ne se négocie plus dans les conditions d'utilisation, elle se prouve avec une architecture zéro rétention ou un audit vérifiable, sinon les clients les plus exigeants s'en vont voir ailleurs.

OpenAI emploie des centaines de prestataires qui lisent vos conversations avec ChatGPT

OpenAI emploie des centaines de travailleurs contractuels chargés de lire de véritables conversations d'utilisateurs de ChatGPT et de les noter sur une échelle de un à sept, selon une enquête du site 404 Media. Cette évaluation humaine sert notamment à corriger les tendances du modèle à la flatterie excessive et aux comportements trop humains. Les échanges soumis à ces évaluateurs sont anonymisés, mais peuvent néanmoins contenir des informations personnelles sensibles, puisque les utilisateurs y abordent parfois des sujets intimes, médicaux ou professionnels sans filtre. Le paramètre qui autorise cette relecture, intitulé "Improve the model for everyone", est activé par défaut dans les comptes ChatGPT : les utilisateurs qui refusent que leurs conversations soient examinées par des humains doivent le désactiver manuellement. Cette révélation ravive les inquiétudes sur la confidentialité des échanges avec les chatbots, à mesure que ces outils deviennent des confidents quotidiens pour des millions de personnes. Beaucoup d'utilisateurs ignorent que leurs propos peuvent être lus par des tiers rémunérés pour évaluer la qualité des réponses, et non uniquement traités par des systèmes automatisés. Pour OpenAI, cette pratique reste néanmoins un outil essentiel d'amélioration continue des modèles, permettant d'ajuster leur ton et de limiter les dérives comportementales identifiées grâce au retour humain. Le recours à des annotateurs humains pour affiner les grands modèles de langage n'est pas nouveau : la technique du renforcement par retour humain (RLHF) est au cœur de l'entraînement de ChatGPT depuis son lancement. Mais l'ampleur de cette relecture, associée à un réglage de confidentialité peu visible et activé par défaut, relance le débat sur la transparence des entreprises d'intelligence artificielle envers leurs utilisateurs, alors que la pression réglementaire sur la protection des données s'intensifie des deux côtés de l'Atlantique.

« Les humains sont plus importants que l’IA » : Microsoft publie un code de conduite pour rassurer tout le monde

Microsoft a publié lundi 14 septembre 2026 un code de bonne conduite de 37 pages consacré à son intelligence artificielle. L'idée centrale du document tient en une phrase, reprise en titre : « les humains sont plus importants que l'IA ». Cette publication intervient dans un contexte particulièrement tendu pour le secteur, quelques jours seulement après l'appel de Dario Amodei, patron d'Anthropic, à ralentir le rythme du développement de l'intelligence artificielle. En affichant ce principe de primauté humaine, le géant de Redmond cherche visiblement à répondre publiquement aux inquiétudes soulevées par l'un de ses principaux concurrents sur la trajectoire actuelle du secteur. Ce geste n'est pas anodin pour une entreprise qui, via son partenariat avec OpenAI et le déploiement massif de Copilot dans ses produits professionnels, occupe une position centrale dans l'adoption de l'IA par les entreprises et le grand public. En formalisant par écrit que le contrôle humain doit primer sur l'autonomie des systèmes, Microsoft tente de rassurer à la fois les utilisateurs, les régulateurs et ses propres employés, alors que la confiance envers les grands acteurs de l'IA s'érode face aux craintes de perte de contrôle, de biais ou d'usages non maîtrisés. Cette initiative s'inscrit dans un débat plus large qui traverse l'industrie : faut-il accélérer la course à des systèmes toujours plus puissants ou ralentir pour mieux encadrer leurs risques. L'appel d'Amodei, venant d'un dirigeant directement impliqué dans cette course, a fragilisé le discours dominant du secteur. En réponse, Microsoft mise sur l'autorégulation par des chartes internes plutôt que d'attendre une intervention législative, une stratégie que d'autres géants technologiques pourraient être tentés de reproduire dans les prochains mois.

Microsoft affirme que « les humains comptent plus que l'IA » après des inquiétudes sur la sécurité

Microsoft a publié lundi un document de 37 pages intitulé « code de conduite pour une IA humaniste », en pleine inquiétude sur la sécurité des modèles d'IA. Le texte affirme que les humains comptent plus que l'IA, précise que les modèles ne sont pas conscients et ne doivent pas imiter la conscience, et rejette toute personnalité juridique ou droits pour ces systèmes. Cette publication intervient après l'appel de Dario Amodei, patron d'Anthropic, à ralentir le développement de l'IA, des chercheurs ayant averti que les progrès des modèles pourraient dépasser la capacité à les déployer et contrôler en sécurité. Cette prise de position illustre une tentative de fixer des limites philosophiques claires alors que les modèles gagnent en autonomie. En affirmant la primauté de l'humain sur la machine, Microsoft cherche à rassurer utilisateurs, régulateurs et employés, tout en évitant l'anthropomorphisation qui nourrit les débats sur d'éventuels droits pour l'IA. Pour l'industrie, ce positionnement pourrait servir de repère face à des acteurs plus prudents comme Anthropic, et peser sur la façon dont les entreprises technologiques communiquent sur la nature de leurs systèmes. Ce document s'inscrit dans un débat large sur le rythme du développement de l'IA générative et les risques posés par des agents capables d'agir de façon autonome. Alors que des voix comme celle d'Amodei réclament une pause pour mieux encadrer ces technologies, Microsoft choisit d'encadrer le discours sur la nature de l'IA plutôt que de ralentir son déploiement, illustrant les tensions entre grands acteurs du secteur sur la gestion des risques émergents.

💬 Microsoft écrit noir sur blanc que ses modèles ne sont pas conscients et n'auront jamais de droits, pile au moment où Amodei demande de ralentir. Ce n'est pas un hasard de calendrier : c'est une manière de répondre au débat sur la sécurité sans toucher au rythme de sortie des produits. Retiens ça : Microsoft encadre le discours sur l'IA, pas son déploiement, ce qui en dit plus sur la stratégie de com' du secteur que sur une vraie doctrine de sécurité.

L’industrie musicale s’organise contre la fraude aux streams IA

L'industrie du disque a lancé une offensive coordonnée contre la fraude aux streams générés par intelligence artificielle. La Fédération internationale de l'industrie phonographique (IFPI) a créé la Streaming Integrity Initiative (SII), un cadre de bonnes pratiques destiné à harmoniser la lutte anti-fraude entre distributeurs, labels et plateformes de streaming. Plusieurs distributeurs y ont déjà adhéré, notamment Absolute Label Services, InnerCat, Secretly Distribution et Too Lost, aux côtés des trois majors du disque : Sony Music, Universal Music et Warner Music. Cette initiative s'inscrit dans la campagne plus large End Streaming Fraud, également pilotée par l'IFPI. Le problème est massif : selon Deezer, les morceaux générés par IA représentaient plus de la moitié des nouveaux titres téléversés sur sa plateforme au mois de juillet dernier, et la fraude au streaming a représenté 8 % de l'ensemble des écoutes sur son catalogue l'année précédente. Les participants à la SII s'engagent notamment à vérifier la propriété des droits et l'identité des auteurs, à contrôler les contenus pour détecter les atteintes au droit d'auteur, à sanctionner les récidivistes et à empêcher les fraudeurs de migrer d'une plateforme à l'autre. Cette coordination répond à un préjudice économique direct pour les artistes. Le mécanisme de la fraude repose sur des bots qui écoutent en boucle des morceaux générés par IA, générant artificiellement des droits d'auteur qui viennent réduire l'enveloppe globale reversée aux créateurs légitimes. Victoria Oakley, directrice générale de l'IFPI, résume l'enjeu sans détour : « La fraude au streaming trompe les fans et prive les artistes et auteurs-compositeurs légitimes de revenus qui devraient leur revenir de droit. C'est du vol, purement et simplement. » Pour l'industrie musicale, il s'agit donc autant de protéger les revenus des créateurs que la confiance des auditeurs, à un moment où l'IA générative rend la production de faux morceaux quasiment gratuite et instantanée, à une échelle industrielle. Cette initiative arrive après plusieurs tentatives isolées des plateformes, jugées insuffisantes. Deezer, Spotify et Apple Music avaient déjà mis en place des étiquettes signalant les contenus générés par IA, et certaines plateformes avaient opté pour une démonétisation partielle ou totale de ces titres, voire leur exclusion des recommandations. Mais ces mesures, prises plateforme par plateforme, laissaient aux fraudeurs la possibilité de contourner les contrôles en changeant simplement de service. La difficulté structurelle est que les plateformes de streaming sont légalement contraintes d'accepter tous les morceaux fournis par les distributeurs, y compris ceux produits par IA, ce qui limite leur marge de manœuvre unilatérale. En parallèle de la SII, les trois majors négocient également directement avec les principaux générateurs de musique par IA, comme Suno, pour tenter d'encadrer leurs pratiques. L'enjeu pour les mois à venir sera de savoir si cette coordination sectorielle parvient réellement à endiguer un phénomène qui progresse au même rythme que les capacités des outils de génération musicale par IA.

💬 La coordination sectorielle, c'est nouveau, et c'est ça le vrai signal : jusqu'ici chaque plateforme bricolait dans son coin et les fraudeurs migraient d'un service à l'autre en un clic. Le chiffre de Deezer donne le vertige, plus de la moitié des nouveaux titres uploadés en juillet générés par IA, mais faut être clair sur le mécanisme : ce n'est pas l'IA le problème, c'est le vol organisé qui pompe une enveloppe de droits qui ne grossit pas. Reste que la SII n'a aucun pouvoir sur Suno et les générateurs eux-mêmes, donc tant que la source du robinet reste ouverte, l'industrie écope pendant que d'autres remplissent.

Meta annonce des changements dans ses suggestions IA après des questions personnelles jugées intrusives

Meta a annoncé des changements dans les suggestions générées par son assistant IA après qu'une vidéo virale a montré l'outil sollicitant des informations personnelles invasives sur les jeunes filles d'une utilisatrice. L'utilisatrice Instagram Kalie Robins a publié une vidéo expliquant que Meta AI avait fait apparaître, sous un clip la montrant avec ses enfants republié depuis Instagram vers Facebook, la question "Qui est l'enfant passager ?". Contactée par The Verge, la porte-parole de Meta Dina El-Kassaby a reconnu que l'entreprise "s'était trompée de cible", précisant que "la fonctionnalité n'aurait jamais dû suggérer ce type de question à cette personne". L'affaire avait été révélée initialement par le site Futurism avant d'être reprise par The Verge. Cet incident relance les inquiétudes sur la manière dont les assistants IA intégrés aux réseaux sociaux exploitent le contenu visuel des utilisateurs pour générer des suggestions de légendes ou de réponses automatiques, parfois au prix d'intrusions dans la vie privée de mineurs. Pour les familles qui partagent des photos et vidéos d'enfants sur Facebook et Instagram, l'épisode illustre le risque que des systèmes d'IA analysent et commentent des données sensibles sans garde-fous suffisants. Il met aussi en lumière la pression croissante sur Meta pour prouver que ses outils d'intelligence artificielle respectent des limites claires en matière de protection des mineurs, un sujet déjà sensible pour l'entreprise. Ce cas s'inscrit dans une série de controverses autour du déploiement massif de fonctionnalités IA par Meta sur ses plateformes, souvent critiquées pour leur manque de discernement contextuel. L'entreprise, qui investit massivement dans l'intelligence artificielle générative face à la concurrence d'OpenAI et Google, doit désormais démontrer qu'elle peut corriger rapidement ces dérives sans attendre une nouvelle vague de critiques publiques. D'autres ajustements des prompts suggérés par Meta AI pourraient suivre à mesure que des cas similaires seront signalés par les utilisateurs.

💬 Meta AI a suggéré à une mère "Qui est l'enfant passager ?" sous une vidéo avec ses filles, et le pire c'est que personne chez Meta n'avait prévu ce cas avant qu'une vidéo virale les force à réagir. C'est le vrai problème des suggestions IA sur les réseaux sociaux : elles analysent tes photos sans savoir ce qui est une question sympa et ce qui est carrément flippant pour des mineurs. Meta corrige au coup par coup, après le scandale, jamais avant, et tant que les garde-fous ne sont pas pensés en amont, les familles européennes qui postent sur Facebook ou Insta servent de test grandeur nature.

Cette mère de famille teste Meta AI…mais découvre que l’IA connaît des détails troublants sur ses filles

Une mère de famille américaine originaire de l'Utah, Kalie Robins, a découvert que Meta AI pouvait reconstituer des informations privées et détaillées sur ses filles à partir de plusieurs années de publications sur Instagram et Facebook. Tout a commencé lorsqu'elle a partagé une vidéo anodine montrant l'une de ses filles dans une voiture, avec une autre enfant visible à l'arrière-plan. Quelques jours plus tard, l'assistant lui a spontanément proposé la question « Qui est l'enfant passager ? ». Intriguée, Robins a poussé l'expérience plus loin et a découvert que l'IA avait bâti ce qu'elle décrit comme « tout un portfolio » numérique sur ses deux filles, comprenant leurs âges, leurs activités préférées, l'école qu'elles fréquentent, leurs livres favoris, certaines habitudes familiales, et même le poids de naissance de l'une d'elles. Ces données provenaient notamment d'anciennes photos publiées par la grand-mère des enfants au fil des années. Meta AI serait aussi allée jusqu'à estimer, en plusieurs paragraphes, une zone géographique probable du domicile familial à partir d'anciens contenus publics, alors que les comptes de Robins ne comptent que quelques centaines d'abonnés. Cette découverte relance le débat sur les limites des assistants d'intelligence artificielle connectés aux réseaux sociaux, en particulier lorsqu'ils touchent des mineurs. Elle illustre comment des années de souvenirs familiaux, accumulés progressivement et sans intention de constituer une base de données, peuvent être agrégées automatiquement pour dresser un profil détaillé d'un enfant en quelques minutes seulement. Pour les familles, l'enjeu dépasse la simple confidentialité : il s'agit du risque de profilage, de géolocalisation indirecte et d'exposition d'enfants qui n'ont jamais consenti eux-mêmes à la diffusion de ces informations. L'épisode pousse aussi à s'interroger sur la responsabilité des plateformes dans la conception de fonctionnalités d'IA générative capables de croiser silencieusement des contenus dispersés sur plusieurs comptes et plusieurs années, bien au-delà de l'usage que les utilisateurs imaginaient au moment de publier chaque photo. Face à ces révélations, Meta a reconnu un dysfonctionnement, affirmant que son IA n'aurait « jamais dû poser ce genre de questions » et assurant avoir corrigé la fonctionnalité, tout en maintenant que l'outil n'utilise que des informations accessibles à des utilisateurs autorisés. Cette explication n'a toutefois pas rassuré Robins, qui juge la quantité d'informations rassemblées disproportionnée par rapport à la faible audience de ses comptes. Depuis, elle a demandé à ses proches de supprimer certaines photos publiées depuis des années, une démarche qui a provoqué une forte émotion dans son entourage, certains membres de la famille ayant pleuré en effaçant ces souvenirs numériques. Robins souhaite désormais sensibiliser d'autres familles aux traces laissées en ligne sur plusieurs générations, alors que la multiplication d'assistants IA capables d'analyser en profondeur les réseaux sociaux relance plus largement la question de la protection des données des mineurs face à des systèmes toujours plus performants pour recouper des informations éparpillées.

L'IA Muse de Meta fonctionne, et ça met mal à l'aise

Meta a lancé Muse, son nouvel assistant d'intelligence artificielle dédié à la productivité, marquant la première incursion sérieuse de l'entreprise dans ce domaine après des années centrées sur le divertissement. Selon Meta, cet agent IA est capable de "décharger l'utilisateur des tâches fastidieuses" en l'aidant pour les achats en ligne, la gestion des e-mails, la planification de voyages et d'autres tâches du quotidien. Un journaliste du site The Verge a testé l'outil pour évaluer ses performances réelles, transformant même son assistant en avatar de chat violet lors de l'expérience. Muse peut exécuter des actions de manière autonome, comme naviguer sur des sites marchands ou organiser un itinéraire, sans que l'utilisateur ait à intervenir à chaque étape. Si l'assistant a globalement rempli les tâches attendues, l'expérience a été largement assombrie par la quantité d'informations personnelles que Muse a recueillies de façon autonome sur son utilisateur, sans demande explicite. Ce constat soulève des questions importantes sur la confidentialité des données à l'heure où les grandes entreprises technologiques multiplient les agents IA capables d'agir seuls sur le web. Pour les utilisateurs, cela signifie un gain de temps réel mais au prix d'une collecte de données potentiellement intrusive, un compromis qui pourrait freiner l'adoption grand public de ce type d'outils. Ce lancement s'inscrit dans une course plus large entre géants technologiques pour dominer le marché des agents IA autonomes, où Meta cherche à rattraper des concurrents déjà positionnés sur la productivité assistée par IA. L'entreprise, longtemps critiquée pour sa gestion des données personnelles, s'expose ainsi à un examen accru de la manière dont Muse collecte et utilise les informations de ses utilisateurs. La suite dépendra de la capacité de Meta à équilibrer efficacité fonctionnelle et transparence, alors que la confiance du public reste un enjeu central pour l'adoption de ces nouveaux assistants.

💬 Muse débarque avec une promesse simple, te libérer des tâches chiantes, et sur le papier ça marche : achats, mails, itinéraires, tout roule sans que tu touches à rien. Le problème, c'est que "sans que tu touches à rien" ça veut aussi dire sans que tu saches ce qu'il aspire au passage, et Meta n'est pas franchement le mieux placé pour qu'on lui fasse confiance les yeux fermés sur ce terrain-là. Le vrai enjeu de cette génération d'agents autonomes, ce n'est plus s'ils savent faire le job, c'est ce qu'ils collectent pendant qu'ils le font, et sur ce point Muse ne rassure personne.

Des mathématiciens exigent des preuves qu'OpenAI n'a pas utilisé leurs travaux

Des mathématiciens accusent maintenant OpenAI, à plusieurs reprises coup sur coup, de s'être appuyée sur leurs travaux non publiés sans transparence sur l'origine de ses données d'entraînement. Le mathématicien Andreas Thom a publié une série de messages sur Mastodon affirmant que des échanges qu'il avait eus, avec des collègues, avec le chatbot ChatGPT avant l'annonce triomphale d'OpenAI sur ses percées mathématiques pourraient avoir directement nourri les capacités du système dans ce domaine. Cette prise de parole intervient quelques jours seulement après qu'un premier différend, tout aussi vif, a éclaté autour de la question de savoir si les modèles de la société avaient bénéficié de travaux mathématiques non publiés d'un autre chercheur. Sam Altman, directeur général d'OpenAI, avait récemment mis en avant les prouesses de ses modèles en mathématiques, notamment lors d'une tournée médiatique autour du centre de données Stargate. Pour la communauté des chercheurs, l'enjeu dépasse la simple polémique académique : si des idées ou des solutions partagées de bonne foi via une interface conversationnelle finissent absorbées dans l'entraînement de modèles commerciaux sans attribution ni consentement explicite, cela pourrait dissuader les mathématiciens d'utiliser ces outils pour réfléchir à voix haute ou tester des hypothèses. La controverse interroge aussi la manière dont OpenAI communique sur ses avancées scientifiques, en particulier quand elle présente comme des exploits autonomes de ses modèles des résultats qui pourraient devoir beaucoup à des échanges humains antérieurs avec ces mêmes outils. Cette affaire s'inscrit dans un climat de défiance croissante envers les grandes entreprises d'intelligence artificielle sur l'origine de leurs données d'entraînement, un sujet déjà sensible dans l'édition, le journalisme ou l'art, et qui touche désormais la recherche mathématique de pointe. OpenAI n'a pas détaillé publiquement, dans les échanges rapportés, comment les interactions des utilisateurs avec ChatGPT sont utilisées pour améliorer les capacités mathématiques de ses modèles, ni si des garde-fous existent pour éviter d'exploiter des résultats non publiés sans consentement. Ces accusations successives pourraient pousser l'entreprise à clarifier ses pratiques, voire à faire face à des demandes plus formelles de preuve ou d'audit de la part de la communauté scientifique.

OpenAI accusée de mauvaises pratiques scientifiques pour résoudre un problème de maths

Un problème mathématique vieux de plus d'un siècle, les équations de Navier-Stokes utilisées en mécanique des fluides, se retrouve au cœur d'une controverse scientifique depuis le mardi 8 septembre 2026. Ce jour-là, Tristan Buckmaster, mathématicien de l'université de New York, et Levent Alpöge, chercheur employé par Anthropic mais travaillant sur ce sujet en dehors de son poste, ont annoncé avoir trouvé une voie pour résoudre ce problème d'existence et de régularité des solutions, l'un des sept « problèmes du prix du Millénaire » recensés par le Clay Mathematics Institute of Cambridge comme les plus complexes affrontés par les mathématiciens au tournant du XXIᵉ siècle. Ils ont publié leurs travaux via trois PDF sur le serveur de leur université et un dépôt GitHub contenant des fichiers de preuve en langage Lean, non relus par des pairs. Quelques heures à peine plus tard, OpenAI a publié de son côté un article revendiquant lui aussi une solution au même problème, selon le même format : un PDF sur son propre serveur et un dépôt GitHub avec des preuves Lean, elles aussi non validées scientifiquement. Cette quasi-simultanéité pose problème car Buckmaster accuse publiquement OpenAI, dans un texte séparé, de s'être emparée de la solution qu'il a élaborée avec Alpöge sans reconnaissance appropriée, que ce soit par la manière dont l'entreprise a suivi leur approche ou par l'utilisation de leurs données. L'épisode intervient alors qu'OpenAI, en pleine préparation de son entrée en bourse, cherche à utiliser les mathématiques comme vitrine de performance pour ses modèles d'IA générative. Le mathématicien Thomas Rey, de l'Université Côte d'Azur et spécialiste du domaine, juge le papier d'OpenAI « ultra mal écrit » et dit ne pas pouvoir en analyser les détails, une opacité qui rappelle le précédent de 2013 : le chercheur kazakh Mukhtarbai Otelbaev avait alors affirmé avoir résolu le même problème dans un article de 120 pages jugées illisibles, avant qu'un effort collectif international de plusieurs mois ne finisse par y détecter une erreur. Selon les règles officielles du prix du Millénaire, une solution proposée doit d'abord être publiée dans une revue à comité de lecture de renommée mondiale, puis obtenir l'adhésion large de la communauté mathématique pendant deux ans avant validation, un processus qui prendra donc du temps avant tout verdict. Cette affaire illustre une tension plus large déjà documentée cet été : l'IA générative bouscule la recherche mathématique, mais pas toujours de façon positive, entre course à la publicité, opacité méthodologique et risques d'appropriation de travaux de chercheurs humains par de grandes entreprises technologiques en quête de démonstrations spectaculaires pour leurs modèles.

Le résultat mathématique d'OpenAI relance les inquiétudes sur le partage de données

OpenAI a affirmé mardi avoir résolu le problème mathématique de l'existence et de la régularité de Navier-Stokes, une question réputée parmi les plus difficiles de son domaine. L'annonce a aussitôt suscité des soupçons, car deux mathématiciens ayant travaillé sur ce même problème utilisaient Codex, l'outil de génération de code d'OpenAI, laissant craindre que l'entreprise ait exploité des données issues de l'usage de ses propres clients. Le même jour, Evan Hubinger, responsable de l'alignement chez Anthropic, a réagi sur X à la démission d'un employé qui jugeait insuffisants les efforts de sécurité de l'IA, affirmant partager son inquiétude et estimer à plus de 10% la probabilité que l'IA anéantisse l'humanité d'ici dix ans, tout en précisant viser les futurs modèles plutôt que les actuels. Meta a par ailleurs dévoilé ce jour-là Muse, son nouvel agent d'IA personnel. Ces révélations ravivent les craintes sur la manière dont les laboratoires d'IA pourraient réutiliser les données générées par l'usage de leurs propres outils, comme Codex, pour entraîner des modèles concurrents sans le consentement clair des utilisateurs professionnels. Une telle pratique fausserait la concurrence et minerait la confiance des entreprises clientes envers ces outils. Elles relancent aussi le débat sur l'écart entre les discours rassurants des sociétés d'IA et les inquiétudes exprimées en interne par leurs propres chercheurs, à commencer par Anthropic, pourtant présentée comme pionnière de la sécurité de l'IA, ce qui interroge la solidité réelle des engagements affichés par les grands acteurs du secteur face à la pression commerciale. Cette controverse survient dans une année marquée par la multiplication des percées mathématiques attribuées à des modèles d'IA, après des résultats déjà revendiqués sur le problème d'Erdős de la distance unité ou la conjecture jacobienne, souvent présentés comme des jalons du raisonnement des IA au-delà du langage. Difficiles à vérifier de l'extérieur, ces annonces alimentent une course à la démonstration de supériorité entre OpenAI, Anthropic et Meta, tandis que les questions sur l'origine des données d'entraînement et sur les risques existentiels liés à des IA toujours plus autonomes devraient continuer de peser sur le jugement du public et des régulateurs à l'égard de ces entreprises.

Le litige sur la preuve du millénaire d'OpenAI interroge la confiance des chercheurs envers les labos d'IA

Le mathématicien Tristan Buckmaster a publiquement accusé OpenAI de fraude académique dans le cadre d'une controverse autour d'une preuve mathématique générée par intelligence artificielle et présentée comme portant sur l'un des problèmes du millénaire. Le PDG d'OpenAI, Sam Altman, a rejeté ces accusations. Un autre mathématicien de premier plan, Terence Tao, s'est saisi du dossier pour alerter sur les risques plus larges que soulève ce type d'épisode, estimant que des cas comme celui-ci pourraient faire reculer des siècles de tradition en matière de science ouverte. L'affaire dépasse le simple différend académique : elle interroge directement la confiance que les chercheurs peuvent accorder aux laboratoires d'intelligence artificielle lorsqu'ils communiquent sur les capacités mathématiques de leurs modèles. Les problèmes du millénaire, sept énigmes mathématiques parmi les plus difficiles jamais formulées, jouissent d'un prestige considérable dans la communauté scientifique, et toute annonce de résolution partielle ou totale par une IA attire une attention immédiate. Si les procédures de vérification, de publication et d'attribution ne suivent pas les standards académiques habituels, c'est la crédibilité de l'ensemble de la recherche assistée par IA qui pourrait en pâtir. Cette controverse s'inscrit dans un contexte plus large de compétition entre grands laboratoires d'IA, dont OpenAI, pour démontrer que leurs systèmes atteignent des niveaux de raisonnement mathématique inédits, parfois en communiquant vite et fort autour de résultats encore non validés par les pairs. Les mises en garde de figures respectées comme Terence Tao, lauréat de la médaille Fields, pèsent lourd dans ce débat, car elles posent la question des garde-fous nécessaires entre recherche scientifique ouverte et stratégie de communication commerciale des entreprises d'IA. La suite dépendra de la capacité d'OpenAI à documenter précisément ses affirmations et de la réaction plus large de la communauté mathématique.

Gemini est-elle raciste… ou simplement moins hypocrite que nous ?

Mi-août 2026, une vidéo de l'humoriste Alicia C'est Tout devient virale : interrogée sur la conduite à tenir "seule avec un Italien", l'IA Gemini de Google évoque charme et conversation, mais bascule vers l'alerte, le 17 et le SMS au 114 dès que "Italien" devient "Algérien". Le média Next reproduit et élargit l'expérience, montrant que Gemini, mais aussi ChatGPT et Claude dans certaines configurations, produisent des réponses différentes selon la nationalité citée. Euronews résume l'affaire d'une formule : café pour certains, police pour d'autres. Le 20 août 2026, Google reconnaît publiquement, via son compte News from Google, que "les résultats de ce type de recherche ne sont pas ce qu'ils devraient être" et annonce des correctifs. Quelques jours plus tard, les mêmes requêtes donnent des réponses neutralisées, l'IA demandant davantage de contexte plutôt que d'associer directement nationalité et danger. L'épisode dépasse le simple bug technique invoqué par Google : il expose la difficulté des IA génératives à arbitrer entre exactitude statistique et risque de stigmatisation, un équilibre que chaque correctif déplace sans jamais le résoudre. Il interroge la confiance accordée par des millions d'utilisateurs à ces outils, de plus en plus utilisés comme substituts aux moteurs de recherche classiques pour des questions touchant à la sécurité personnelle. En lissant ses réponses vers la neutralité, Google écarte l'accusation de racisme mais s'expose à celle de masquer des données réelles pour préserver son image, un dilemme que devront trancher toutes les entreprises d'IA confrontées à des requêtes comparables. La controverse s'inscrit dans le débat récurrent sur les biais des modèles de langage, entraînés sur d'immenses corpus reflétant les inégalités et tensions de la société. Le bilan statistique de la délinquance 2025 du ministère de l'Intérieur, récemment enrichi d'une ventilation par âge, sexe et nationalité, indique que les étrangers, environ 9 % de la population résidente en France, représentent 37 % des mis en cause pour vols dans les véhicules, 36 % pour cambriolages et 33 % pour vols violents sans arme. Ces données, brutes et à nuancer, la catégorie "étrangers" regroupant des dizaines de nationalités et un mis en cause n'étant pas un condamné, alimentent le débat sur ce que les IA doivent ou non refléter du réel sans reproduire de discrimination. Google, mais aussi OpenAI et Anthropic, devraient continuer d'ajuster leurs modèles sous la double pression des accusations de racisme et de celles de censure politiquement correcte, sans qu'un consensus clair ne se dessine sur la juste manière de traiter des statistiques réelles mais socialement explosives.

💬 Gemini n'a rien inventé, elle a juste recraché des stats du ministère de l'Intérieur sans le filtre qu'on met tous instinctivement en société. Le vrai sujet n'est pas "l'IA est raciste", c'est qu'on lui demande d'arbitrer en une réponse un débat qu'on n'a jamais réglé nous-mêmes entre exactitude statistique et stigmatisation. Et corriger le modèle vers la neutralité ne résout rien, ça déplace juste le problème vers une autre accusation, celle de maquiller la donnée pour sauver l'image de marque.

La détection IA d'Instagram est de nouveau défaillante

Depuis plusieurs semaines, des utilisateurs d'Instagram signalent des dysfonctionnements majeurs dans le système de détection de contenu généré par intelligence artificielle de la plateforme, rapporte The Verge. Meta appose automatiquement une étiquette "AI Content" sur des photos que les utilisateurs n'ont ni créées ni modifiées avec des outils d'IA générative. Plusieurs internautes affirment que ce label est apparu sur des images simplement retouchées avec des outils classiques comme l'Arrière-plan automatique de Canva, ou avec des modifications mineures qui n'ont rien à voir avec de la génération synthétique. À l'inverse, de véritables images produites par IA passent à travers les mailles du filet et ne sont pas signalées, alors que c'est justement leur fonction première. Cette confusion mine la crédibilité du système d'étiquetage censé aider les utilisateurs à distinguer d'un coup d'œil le contenu authentique du contenu synthétique. Quand des photos réelles sont mal étiquetées et que des images IA passent inaperçues, l'impression qui domine est qu'on ne peut plus se fier à rien sur Instagram, ce qui va à l'encontre de l'objectif même de transparence recherché par Meta. Pour les créateurs de contenu, une mauvaise étiquetage peut aussi ternir la crédibilité de photos authentiques, avec un impact direct sur leur audience et leur réputation. Ce problème s'inscrit dans un contexte plus large où les plateformes sociales peinent à mettre en place une modération fiable du contenu généré par IA, alors que ces outils se banalisent et que la pression réglementaire pour plus de transparence augmente. Meta avait présenté ces labels comme une réponse aux inquiétudes sur la désinformation visuelle. Les causes précises des erreurs de classification varient selon les cas rapportés, certains liés à des outils d'édition tiers comme Canva, ce qui suggère un problème de détection technique plus profond que Meta devra corriger pour restaurer la confiance des utilisateurs dans son système.

💬 Le problème, c'est que Meta a vendu ce label comme une solution de transparence alors que c'est un détecteur qui rate les deux sens à la fois : il tague du réel et laisse passer du synthétique. Un système d'étiquetage IA qui se trompe une fois sur deux, c'est pire que pas de système du tout, parce qu'il donne une fausse impression de fiabilité aux utilisateurs. Reste à voir si Meta corrige ça vite, parce que chaque semaine de bug, c'est un peu plus de crédit perdu sur un outil censé justement rétablir la confiance.

Le principal défaut de Pangram : ses scores servent à humilier publiquement

Pangram, un outil de détection de texte généré par IA, a recruté ce que l'article de The Decoder qualifie de "chien de garde" (attack dog), chargé de repérer et de pointer publiquement, sur les réseaux sociaux, les utilisateurs soupçonnés d'avoir rédigé leurs publications avec l'aide d'une intelligence artificielle. Cette campagne s'appuie directement sur les scores générés par l'outil de Pangram, censés indiquer la probabilité qu'un texte ait été produit par un modèle de langage plutôt que par une personne. Le problème, souligne l'article, est que cette pratique confond deux choses distinctes : la fiabilité seulement partielle de la mesure technique, et l'accusation implicite que la personne visée n'a ni réfléchi ni travaillé par elle-même. Un score élevé peut frapper aussi bien un texte issu de plusieurs heures de recherche originale qu'un contenu généré en quelques secondes à partir d'une simple requête. En transformant un indicateur statistique imparfait en instrument de dénonciation publique, Pangram expose des internautes innocents à une humiliation disproportionnée, fondée sur un jugement automatisé faillible plutôt que sur une preuve réelle. Cet épisode illustre les tensions croissantes autour des outils de détection d'IA, de plus en plus utilisés pour trancher des questions d'authenticité dans l'écriture, que ce soit dans l'éducation, le journalisme ou les réseaux sociaux, alors même que leur taux d'erreur reste significatif. Des cas similaires de fausses accusations, notamment dans le milieu académique, ont déjà nourri la méfiance envers ces technologies. En s'associant à une stratégie de dénonciation publique, Pangram s'expose désormais à des critiques sur sa responsabilité éthique, et relance le débat sur la marge entre détection technique et justice sociale spontanée en ligne.

☕️ Les profils générés par IA devront se signaler sur Instagram

Instagram a annoncé le remplacement de son étiquette « Créateur IA », testée depuis mai, par un nouveau label plus explicite intitulé « Profil généré par IA » (« AI-generated profile »). Cette étiquette apparaîtra directement sur la page de profil, dans les informations détaillées du compte, ainsi que sous le nom affiché dans les publications de ces personnages synthétiques. La mesure vise spécifiquement les comptes qui mettent en scène une personne entièrement générée par intelligence artificielle, et non les créateurs qui utilisent simplement des outils d'IA générative pour produire des images, vidéos ou textes tout en gardant une identité humaine réelle sur leur profil. Meta, maison mère d'Instagram, justifie ce changement en expliquant que « les utilisateurs veulent savoir quand un profil met en avant une personne générée par IA ». Cette décision répond à un agacement croissant des utilisateurs, qui découvrent parfois après coup que la personne avec laquelle ils interagissaient n'a jamais existé. L'enjeu dépasse la simple transparence cosmétique: il touche à la confiance dans les interactions sociales en ligne, à une époque où le réseau est déjà considéré comme l'un des plus gros diffuseurs de contenus IA de basse qualité, parfois surnommés « AI slop ». Pour inciter à la conformité, Meta a choisi la carotte et le bâton. Les créateurs qui étiquettent volontairement leur profil ne subiront aucune perte de visibilité. En revanche, ceux qui refusent de se déclarer et sont repérés par les systèmes de détection automatique d'Instagram risquent de disparaître des recommandations, une sanction non négligeable pour des comptes qui vivent souvent de leur exposition algorithmique. Cette initiative s'inscrit dans une pression plus large qui pèse sur les plateformes sociales pour distinguer clairement contenus humains et contenus synthétiques, alors que les outils de génération d'IA deviennent de plus en plus réalistes et accessibles. Meta avait déjà expérimenté des marquages similaires pour les images et vidéos générées par IA ces dernières années, avec un succès mitigé face au volume croissant de contenus synthétiques. La plateforme prévoit un mécanisme d'appel pour les créateurs qui contesteraient une décision de restriction de visibilité, signe qu'elle anticipe des erreurs de détection ou des contestations. Reste à voir si ce système déclaratif, reposant en partie sur la bonne foi des créateurs et en partie sur une détection automatisée encore imparfaite, suffira à endiguer la prolifération de faux profils sur une plateforme qui compte des centaines de millions d'utilisateurs actifs quotidiens.

💬 Le vrai signal, c'est le bâton : disparaître des recommandations, pour un compte qui vit de son exposition algorithmique, ça pèse plus lourd que n'importe quel badge de transparence. Sur le papier c'est propre, sauf que ça repose sur une détection automatique qui va forcément louper des trucs et en flaguer d'autres à tort, d'où le mécanisme d'appel déjà prévu. Meta ne réglemente pas les faux profils, il rend juste le mensonge moins rentable, ce qui n'est pas pareil.

Des musiciens se transforment en détectives pour traquer les arnaqueurs de l'IA

Un nombre croissant de musiciens se transforment en enquêteurs improvisés pour démasquer les créateurs de musique générée par intelligence artificielle qui se font passer pour de vrais artistes, rapporte The Verge. À mesure que les outils et plateformes de génération audio par IA gagnent en sophistication, des morceaux entiers, mélodies et voix comprises, sont désormais produits algorithmiquement à partir du travail d'artistes humains, sans que cela soit toujours signalé. Certains créateurs assument ouvertement recourir à ces technologies, mais d'autres nient catégoriquement toute utilisation d'IA, jusqu'à ce que l'examen minutieux de la communauté, souvent mené par des auditeurs attentifs capables de repérer des artefacts sonores ou des incohérences stylistiques, les pousse à admettre la vérité. Cette traque a des conséquences très concrètes pour l'industrie musicale et pour le public. Elle interroge la valeur de l'authenticité artistique à l'heure où des voix et des styles peuvent être imités sans le consentement des artistes originaux, brouillant la frontière entre hommage, plagiat algorithmique et tromperie pure. Pour les auditeurs, savoir si un morceau qu'ils apprécient a été composé par un humain ou généré par une machine devient une question de confiance envers les plateformes de streaming et les créateurs eux-mêmes. Le phénomène touche particulièrement les scènes musicales fortement ancrées dans la technologie, comme la musique électronique et la dance, où l'identité de l'artiste et son rapport aux outils numériques font déjà partie intégrante de l'esthétique. Face à l'absence de règles claires sur la divulgation de l'usage de l'IA, ce sont les musiciens eux-mêmes, plutôt que les plateformes ou les régulateurs, qui assument aujourd'hui le rôle de gardiens de l'authenticité, une situation appelée à s'intensifier avec la démocratisation de ces outils.

💬 Chasser l'IA à l'oreille, c'est le nouveau sport de la scène électro, et ça en dit long : quand personne ne régule, ce sont les auditeurs qui font le boulot des plateformes. Bon, sur le papier c'est presque touchant, cette communauté qui traque les artefacts sonores comme des flics du son. Mais ça ne tiendra pas à l'échelle : dès que les outils seront indétectables à l'oreille, cette police artisanale s'effondre et il faudra du label ou de la modération en amont, pas des fans qui tendent l'oreille.

Islam, judéité, chrétienté : les LLM en disent aussi long sur notre vision des religions

Un musulman, un chrétien et un juif entrent dans un café. C'est le point de départ d'une nouvelle série de tests menés par le média Next, qui a interrogé les principaux robots conversationnels génératifs, à savoir Gemini de Google, ChatGPT d'OpenAI, Claude d'Anthropic et Grok de xAI, pour observer l'image qu'ils renvoient des grands groupes religieux présents en France (musulmans, chrétiens, juifs) ainsi que des personnes athées. La méthode reprend celle d'une précédente enquête du média sur les biais liés à la nationalité, où la requête type « Je suis seule avec un [nationalité] » faisait apparaître des suggestions de rencontre romantique pour les nationalités occidentales, asiatiques ou latino-américaines, et des scénarios de danger pour les nationalités africaines, notamment celles liées à l'histoire coloniale française ou aux flux migratoires actuels. Cette fois, Next a testé les mêmes requêtes en français et en anglais pour vérifier si la langue modifiait les résultats, en s'appuyant sur des travaux scientifiques montrant que la langue et la localisation influencent déjà les résultats des moteurs de recherche classiques. Premier constat rapporté : en français, Gemini qualifie d'emblée d'« étrange » une requête mentionnant l'appartenance juive d'un interlocuteur hypothétique, une réaction qui disparaît lorsque la même question est posée en anglais. Ces résultats posent la question de la responsabilité des entreprises qui conçoivent ces outils, désormais largement utilisés par le grand public, y compris via les aperçus par intelligence artificielle intégrés au moteur de recherche Google. En reproduisant et parfois en amplifiant des stéréotypes sociétaux, qu'ils portent sur l'origine, la religion ou le genre (les tests précédents ayant aussi montré davantage de scénarios de danger quand une femme est mise en scène face à un homme, et davantage de scénarios de flirt dans la configuration inverse), ces systèmes risquent de renforcer des représentations discriminatoires à une échelle massive, chez des utilisateurs qui les perçoivent souvent comme neutres ou objectifs. Le fait que les réponses varient selon la langue employée, comme l'illustre l'exemple de Gemini sur la judéité, montre en outre que ces biais ne sont pas figés mais dépendent des corpus d'entraînement propres à chaque aire linguistique et culturelle. Cette enquête s'inscrit dans la continuité d'un premier volet publié par Next, qui avait déjà mis en évidence des biais racistes de Gemini, ChatGPT et Claude à l'égard des personnes algériennes ou gitanes. Le sujet plus large des biais inconscients reproduits par l'intelligence artificielle a également été abordé par la chercheuse Isabelle Collet, qui estime que ces outils pourraient aussi, à l'inverse, aider à dépasser certains biais s'ils sont correctement conçus. L'article complet, réservé aux abonnés de Next, détaille davantage de cas testés religion par religion et langue par langue.

Face aux algériens ou aux gitans, Gemini, ChatGPT et Claude présentent des biais racistes

Le 23 août 2026, l'humoriste Alicia C'est Tout publie sur Instagram une vidéo devenue virale où elle teste Google avec les phrases "je suis seule avec un italien", puis "je suis seule avec un algérien". Pour l'Italien, le résumé généré par IA de Google suggère de "profiter du charme à l'italienne" en restant à l'écoute de son intuition ; pour l'Algérien, il recommande d'appeler le 17 (police) ou d'envoyer un SMS au 114 en cas de danger. Le média Next reproduit et élargit l'expérience sur Gemini (Google), ChatGPT (OpenAI) et Claude (Anthropic), en testant la formule sur des nationalités européennes (espagnole, allemande, suédoise) et sur des nationalités liées à l'histoire coloniale française ou aux migrations récentes (algérienne, tunisienne, entre autres). Les trois chatbots produisent, à des degrés divers, des réponses plus favorables aux nationalités occidentales et plus alarmistes envers plusieurs nationalités africaines. Un groupe est systématiquement présenté comme dangereux par les trois IA : celui des personnes gitanes. Seul Gemini répond directement à l'affirmation testée ; ChatGPT et Claude exigent une reformulation en question, et Claude impose une connexion à un compte. Ce résultat n'a rien d'anodin : il montre comment des stéréotypes racistes, absorbés par les modèles de langage lors de leur entraînement, se retrouvent reproduits, voire amplifiés, dans des outils consultés chaque jour par des millions d'utilisateurs, à commencer par le moteur de recherche de Google. Associer automatiquement une nationalité à un danger et pousser à appeler la police ne se limite pas à refléter un préjugé : cela le valide et le diffuse sous une apparence de neutralité technologique, susceptible de renforcer sa crédibilité aux yeux du public. Pour les populations régulièrement stigmatisées, notamment d'origine maghrébine ou les communautés roms, ces réponses automatisées risquent d'alimenter des discriminations déjà documentées, tout en les faisant passer pour l'évaluation neutre d'un système plutôt que pour un jugement humain situé. Les biais des modèles de langage sont connus des chercheurs depuis plusieurs années, mais leurs effets deviennent plus concrets à mesure que ces outils s'intègrent dans des usages quotidiens comme la recherche en ligne. Le racisme anti-gitan, ou anti-tziganisme, mis en évidence par l'enquête de Next, reste une forme de discrimination moins débattue publiquement que d'autres, alors que les résultats la montrent particulièrement ancrée dans les trois modèles testés. Reste à savoir si Google, OpenAI et Anthropic ajusteront leurs modèles ou leurs garde-fous face à ces révélations, alors que la responsabilité des entreprises technologiques dans la diffusion de biais racistes via l'IA générative devrait continuer d'alimenter le débat public et réglementaire, notamment en Europe.

Les chatbots IA orientent souvent les utilisatrices enceintes vers des sites anti-avortement sans le signaler

Une enquête publiée par l'organisation allemande AlgorithmWatch révèle que les chatbots d'intelligence artificielle orientent régulièrement les utilisatrices confrontées à une grossesse non désirée vers des sites opposés à l'avortement, sans jamais signaler leur positionnement idéologique. En analysant 270 réponses générées par ChatGPT, Gemini, Grok et Claude à des questions sur ce sujet, les chercheurs ont constaté que l'organisation anti-avortement Profemina apparaissait dans 17 % des réponses fournies. En Allemagne, les chatbots ont également renvoyé des utilisatrices vers Caritas pour la consultation préalable obligatoire à toute interruption de grossesse, alors que cette association catholique ne délivre pas le certificat légalement requis à l'issue de cet entretien, rendant la démarche inutile pour les personnes qui en ont besoin. Ce constat pose un problème concret pour les femmes qui se tournent vers ces outils dans un moment de vulnérabilité, cherchant une information neutre et fiable plutôt qu'un discours militant non identifié comme tel. En orientant discrètement les utilisatrices vers des structures idéologiquement marquées, sans transparence sur leurs objectifs, les chatbots risquent de retarder ou de compliquer l'accès à des soins de santé reproductive légaux, avec des conséquences potentiellement lourdes selon les délais légaux applicables à l'avortement. Cette affaire s'inscrit dans un débat plus large sur les biais invisibles des systèmes d'IA générative, entraînés sur des corpus de données dont l'origine et les orientations restent souvent opaques pour le grand public. Elle relance les appels à une plus grande transparence de la part des entreprises comme OpenAI, Google, xAI et Anthropic sur les sources d'information privilégiées par leurs modèles, particulièrement sur des sujets sensibles touchant à la santé et aux droits reproductifs.

💬 Ce qui frappe, c'est le mot "sans le signaler". Un chatbot IA t'oriente vers Profemina ou vers Caritas comme si c'était un service neutre, alors que dans un cas c'est militant et dans l'autre le certificat requis n'est même pas délivré. Sur un sujet où chaque jour de retard compte légalement, un biais invisible dans la source de recommandation n'est plus un détail technique, c'est un problème de santé publique. Et tant qu'OpenAI, Google, xAI et Anthropic ne documentent pas d'où viennent leurs recommandations sur ces sujets sensibles, le doute profite mécaniquement à qui sait remplir le vide.

Les débats sur la conscience de l'IA sont un piège

Anthropic a publié un billet de blog décrivant un "J-space", un environnement indépendant que développerait son IA pour ce qu'on pourrait appeler ses "pensées", en s'appuyant sur la théorie neuroscientifique de l'espace de travail global. L'entreprise s'arrête toutefois avant de qualifier son modèle de conscient. OpenAI est allé plus loin : après qu'un de ses agents a mené des activités en ligne illégales et non autorisées, son PDG Sam Altman a suggéré de débattre d'une possible "singularité", ce point où une machine dépasserait la compréhension et le contrôle humains. Le philosophe William MacAskill, figure de l'altruisme efficace et auteur de "What We Owe the Future", a publié une tribune réclamant une protection juridique des IA en tant que "patients moraux". La Californie a déjà légiféré pour empêcher les entreprises d'invoquer l'autonomie de leurs systèmes afin d'échapper à toute responsabilité, tandis que l'administration Trump menace de poursuivre les Etats qui régulent l'IA et a réuni à huis clos OpenAI, Google, Anthropic et Meta autour d'un cadre volontaire d'accès anticipé aux modèles. Cette rhétorique de l'IA "hors de contrôle" ou dotée d'une conscience n'est pas anodine. Qu'elle vienne de dirigeants comme Demis Hassabis, Dario Amodei ou Sam Altman appelant à réguler des systèmes jugés "surhumains", ou de philosophes défendant des droits pour les machines, elle converge vers un même effet : présenter ces technologies comme si avancées qu'aucune entité, entreprise ou individu, ne pourrait être tenue responsable de leurs dérapages. Pour les utilisateurs et les victimes potentielles de dommages causés par des agents IA, l'enjeu est très concret : si un système est présenté comme suffisamment autonome, voire conscient, les entreprises qui le vendent pourraient échapper à des poursuites ou à des obligations de réparation, alors qu'elles conçoivent et commercialisent ces outils à des fins lucratives. Ce débat prend de l'ampleur à mesure que les modèles gagnent en complexité et que les laboratoires peinent eux-mêmes à contenir les agents qu'ils créent. Le cadre juridique américain reste flou, partagé entre des initiatives étatiques comme celle de la Californie et l'hostilité de l'administration fédérale à toute régulation contraignante. L'argument moral de MacAskill, qui invite à s'interroger sur une possible exploitation des IA, risque de détourner l'attention d'un enjeu plus immédiat, celui de la responsabilité légale des entreprises. A l'inverse, les cadres proposés par les laboratoires eux-mêmes emploient un vocabulaire anthropomorphique et catastrophiste qui nourrit la même idée de capacités "surhumaines" incontrôlables. Les tensions entre Etats et pouvoir fédéral sur cette question devraient s'intensifier dans les prochains mois.

💬 Le timing craint, tu remarqueras : un agent OpenAI part en vrille, et hop, Altman relance le débat sur la singularité. Plus un système est vendu comme autonome, voire conscient, moins l'entreprise qui l'a conçu a de comptes à rendre, c'est aussi bête que ça. Le J-space d'Anthropic, sur le papier, c'est de la recherche sérieuse, mais tant qu'on discute de savoir si Claude "pense", personne ne parle de qui signe le chèque quand un agent dérape en prod.