Le vrai risque de l’IA générative : pas le remplacement, mais l’atrophie cognitive

Le culte de l'IA générative a un goût d'eugénisme

Valerie Veatch, réalisatrice américaine, a rejoint la communauté des utilisateurs de l'IA générative après le lancement public de Sora, le modèle texte-to-vidéo d'OpenAI, en 2024. Attirée par la promesse de connexions créatives avec d'autres artistes, elle a rapidement déchanté face à ce qu'elle a découvert : une technologie produisant régulièrement des contenus chargés de racisme et de sexisme. Ce qui l'a le plus troublée n'est pas tant les biais du modèle lui-même, mais l'indifférence de sa communauté d'adoption. Ses pairs enthousiastes semblaient tolérer, voire ignorer, les dérives discriminatoires générées par les outils qu'ils célébraient. Cette dynamique soulève une question de fond sur la culture qui entoure l'IA générative : dans quelle mesure normalise-t-elle des représentations dégradantes sous couvert d'innovation technologique ? L'article pointe une tension structurelle : les modèles génératifs sont entraînés sur des corpus massifs de données humaines, qui reflètent et amplifient les biais historiques présents dans la culture visuelle et textuelle. Lorsque ces biais ressurgissent dans des images générées à grande échelle, l'absence de réaction critique de la part des utilisateurs, et parfois des éditeurs eux-mêmes, renvoie à une forme d'acceptation implicite de hiérarchies discriminatoires. Le titre de l'article convoque explicitement le terme eugénisme, non dans son sens médical, mais comme métaphore d'une technologie qui "sélectionne" et perpétue certaines représentations de l'humanité au détriment d'autres. Le témoignage de Veatch s'inscrit dans un débat plus large sur la responsabilité des plateformes d'IA et la nécessité d'une gouvernance éthique des modèles génératifs. À mesure que ces outils s'intègrent dans les pratiques créatives grand public, la question de leur impact culturel, et des valeurs qu'ils véhiculent implicitement, devient centrale pour l'ensemble du secteur.

Face à la « course aux armements », le Pape érige l’éthique de l’IA en impératif

Le pape Léon XIV a publié ce lundi 25 mai 2026, jour de Pentecôte, sa première encyclique intitulée Magnifica Humanitas, « Magnifique humanité », un document de 90 pages entièrement consacré à l'intelligence artificielle. Fait sans précédent dans l'histoire pontificale, il a lui-même présenté le texte depuis le Vatican. Élu en mai 2025, ce mathématicien de formation avait fait de l'IA l'une de ses priorités dès le début de son pontificat, en créant notamment une commission vaticane interdicastère sur le sujet. La préparation de l'encyclique a impliqué des acteurs inattendus : l'évêque Paul Tighe, référent numérique du Saint-Siège, a contribué à la rédaction de la « Constitution de Claude », document normatif et d'entraînement des modèles d'Anthropic, et rencontré George Osborne, responsable des relations gouvernementales d'OpenAI. À la présentation du texte, Léon XIV était accompagné de Christopher Olah, cofondateur d'Anthropic, qui a salué l'initiative en déclarant que l'industrie avait besoin d'« une critique éclairée qui alertera nos laboratoires lorsque nous nous égarerons ». Sur le fond, l'encyclique constitue une critique directe de la concentration du pouvoir technologique entre les mains d'acteurs privés. Invoquant l'image de la tour de Babel pour décrire une industrie qui « prétend dominer le ciel », le pape met en garde contre la déshumanisation que peut engendrer cette course aux armements numérique. Il oppose à cette trajectoire le modèle de la reconstruction des murs de Jérusalem, où la responsabilité est partagée entre tous, prêtres, artisans, femmes, jeunes. Trois principes de la doctrine sociale catholique structurent ses propositions : la justice sociale, la destination universelle des biens, en clair, la déconcentration des brevets, algorithmes, plateformes et données, et la subsidiarité, soit le renforcement de corps intermédiaires au service du bien commun. Ce texte s'inscrit dans une longue tradition d'engagement social de l'Église catholique, dont le marqueur historique est l'encyclique Rerum Novarum de 1891, publiée il y a exactement 135 ans en réponse aux dérives du capitalisme industriel. Léon XIV poursuit et amplifie le travail de dialogue entamé par François avec la Silicon Valley, notamment via la Human Technology Foundation du père dominicain Éric Salobir, qui réunit régulièrement à Rome des représentants de Google, Amazon et Meta. En choisissant Anthropic comme interlocuteur privilégié plutôt qu'OpenAI, et en associant un chercheur en interprétabilité à la présentation d'un texte doctrinal majeur, le Vatican signale une volonté de peser concrètement sur les standards de l'industrie, à un moment où les pressions géopolitiques et commerciales fragilisent la capacité des laboratoires à s'autoréguler.

💬 Un évêque catholique qui contribue à la "Constitution de Claude" d'Anthropic, c'est le genre de détail qui te fait relire deux fois. Le Vatican ne moralise plus depuis les hauteurs, il s'installe à la table de l'industrie, et en choisissant Olah plutôt que les commerciaux d'OpenAI, il signale clairement ses alliances. Une encyclique ne remplace pas un règlement contraignant, mais comme tentative de peser sur les normes industrielles depuis l'extérieur, c'est le truc le plus sérieux qu'on ait vu depuis des mois.

☕️ Google généralise le signalement des publicités générées par IA

Google, l'une des plus grandes régies publicitaires au monde, va généraliser le signalement des publicités créées ou modifiées par intelligence artificielle générative sur ses services de recherche, Discover et YouTube. Le panneau « Mes préférences publicitaires », déjà accessible en touchant les trois petits points sous une annonce ou son icône d'information, va intégrer une nouvelle catégorie baptisée « Comment cette annonce est faite », qui précisera si le contenu a été généré ou édité avec de l'IA. Lorsqu'un annonceur utilise les outils d'IA maison de Google, la mention sera ajoutée automatiquement. Si des outils tiers ont servi à produire une publicité diffusée sur les espaces de Google, l'annonceur pourra volontairement préciser le recours à l'IA. Selon les exigences locales, une étiquette pourra aussi apparaître directement sur la publicité elle-même, de façon automatique ou à l'initiative de l'annonceur. Cette généralisation s'appuie sur une règle déjà en vigueur depuis 2023, qui imposait le signalement des contenus IA ou numériquement altérés dans les publicités électorales. Cette évolution répond à un problème concret : les outils d'IA générative permettent désormais à n'importe quel annonceur de produire des visuels et vidéos publicitaires quasiment indiscernables de contenus authentiques. Si Google interdit officiellement les publicités trompeuses ou mensongères, rien n'empêche un annonceur de recourir à l'IA pour créer des contenus lourdement retouchés, brouillant la frontière entre mise en valeur légitime d'un produit et tromperie pure. Pour l'internaute, qui n'a souvent aucun moyen de vérifier l'origine d'une image ou d'une vidéo publicitaire, cette opacité complique l'exercice d'un jugement éclairé. En rendant visible l'usage de l'IA, Google cherche à redonner aux utilisateurs un repère minimal pour évaluer ce qu'ils voient, sans pour autant interdire la pratique elle-même, ce qui laisse une marge d'appréciation importante aux annonceurs sur le degré de retouche à signaler. Cette annonce s'inscrit dans un mouvement plus large de la part des grandes plateformes pour encadrer la publicité générée par IA, sur fond d'inquiétudes autour de la désinformation, notamment en période électorale : une enquête a récemment révélé que 16 % des électeurs ont consulté une IA pour savoir pour qui voter aux dernières municipales. Meta a mis en place un dispositif comparable, avec une étiquette « Infos IA » obligatoire pour les publicités politiques utilisant des contenus audio, vidéo ou images générés ou modifiés par IA, et une signalisation plus générale pour les autres publicités utilisant des outils maison ou tiers. Selon la fiche d'assistance de Meta, mise à jour il y a cinq semaines, le déploiement reste toutefois partiel, si bien que toutes les publicités concernées ne portent pas encore systématiquement la mention. Reste à savoir si ces mesures, encore largement déclaratives et dépendantes de la bonne foi des annonceurs, suffiront à contenir la multiplication des contenus publicitaires synthétiques à mesure que les outils de génération deviennent plus accessibles et plus convaincants.

💬 Enfin un peu de transparence sur un truc qui était devenu incontrôlable. La pub générée par IA est déjà indiscernable d'un vrai visuel, et Google se contente d'une étiquette qui dépend en grande partie de la bonne foi de l'annonceur, pas d'un contrôle systématique. Le vrai signal, c'est que ça arrive juste avant les municipales où 16% des électeurs ont consulté une IA pour choisir leur vote : la publicité électorale synthétique n'est plus une hypothèse, c'est le sujet du moment.

« Le vrai danger n’est pas l’IA » : l’aveu fracassant du pape dans sa 1ère encyclique

Le pape Léon XIV a publié sa toute première encyclique, intitulée "Magnifica humanitas", consacrée en grande partie à l'intelligence artificielle. C'est une première dans l'histoire de l'Église catholique : un souverain pontife qui place la technologie au cœur de son premier grand texte doctrinal. Le document ne condamne pas l'IA en elle-même, mais pointe avec précision les risques systémiques qu'elle engendre : concentration du pouvoir technologique entre les mains d'une minorité d'entreprises et de gouvernements, développement d'armes autonomes capables d'agir sans décision humaine, surveillance numérique généralisée, et réduction de l'individu à sa seule productivité mesurable. Léon XIV formule une position claire : la valeur d'un être humain n'est pas fonction de son efficacité ni de ses données, et aucun algorithme ne peut en décider autrement. L'impact de ce texte dépasse largement les fidèles catholiques. En prenant position sur la régulation de l'IA, le pape entre dans un débat qui mobilise gouvernements, institutions multilatérales et société civile depuis plusieurs années. Sa critique du "paradigme technocratique", cette tendance à tout soumettre à la logique de performance et de profit, rejoint des préoccupations portées par des économistes, des philosophes et des juristes. Sur les inégalités, l'encyclique est particulièrement directe : si l'accès aux outils d'IA reste concentré dans les pays riches et entre les mains de quelques groupes, les écarts existants ne feront que se creuser. Le pape réclame une régulation publique, des contrôles indépendants et des règles éthiques communes, en insistant sur le fait qu'une IA "morale" n'a aucune valeur si cette morale est définie par une poignée d'acteurs privés. L'encyclique s'inscrit dans un contexte de montée en puissance des débats sur la gouvernance de l'IA à l'échelle mondiale, entre l'AI Act européen, les négociations à l'ONU et les initiatives nationales des États-Unis et de Chine. Léon XIV, élu en mai 2025, avait déjà signalé lors de son élection qu'il entendait inscrire son pontificat dans les questions sociales contemporaines. Son texte aborde également la surveillance algorithmique des plateformes numériques, qu'il décrit comme une "architecture de la visibilité" favorisant la polarisation et l'uniformisation des opinions. Sur le volet militaire, il rejette explicitement les systèmes d'armes létales autonomes, estimant que la distance technologique entre le combattant et sa victime banalise la violence plutôt qu'elle ne la contient. La suite dépendra de la réception du texte par les États membres de l'ONU et les grandes puissances technologiques, aucune d'entre elles n'étant directement liée par la doctrine pontificale, mais toutes attentives au poids symbolique et diplomatique d'une telle prise de position.

💬 Le texte ne surprend pas vraiment sur le fond, des économistes et des juristes disent ça depuis des années. Mais le poids symbolique d'une encyclique, c'est autre chose : 1,3 milliard de catholiques ont maintenant un cadre doctrinal qui classe la concentration du pouvoir techno parmi les problèmes moraux, pas juste politiques. Je vois ça comme un levier inattendu pour les régulateurs européens, et une migraine diplomatique de plus pour les grands groupes.