Encyclique du pape Léon XIV : un cofondateur d'Anthropic affirme que les IA montrent des signes d'introspection

« Magnifica humanitas » : Le Pape et Anthropic s’unissent pour sauver nos âmes de l’IA ?

Le pape Léon XIV publiera le 25 mai prochain sa première encyclique majeure, intitulée « Magnifica humanitas », entièrement consacrée à l'intelligence artificielle et ses conséquences sur l'humanité. Signée le 15 mai 2026, ce texte a été rédigé exactement 135 ans après la signature par Léon XIII de Rerum Novarum, l'encyclique fondatrice sur les droits des travailleurs à l'ère industrielle. La coïncidence est loin d'être fortuite : le pape a explicitement choisi son nom en hommage à ce prédécesseur. Contrairement à la tradition, Léon XIV présentera lui-même le texte lors d'un événement public au Vatican, aux côtés de Christopher Olah, cofondateur d'Anthropic, et des théologiennes Anna Rowlands et Léocadie Lushombo. Le document devrait cibler en priorité les effets de l'IA sur le travail humain et condamner ses applications militaires. Cette encyclique marque une étape importante à double titre. Pour l'Église catholique d'abord, qui dispose avec ce format de l'un de ses outils de parole les plus solennels pour définir les priorités d'un pontificat face aux grandes mutations de société. Pour l'industrie technologique ensuite, car la présence de Christopher Olah à l'événement souligne l'intérêt stratégique qu'Anthropic et ses concurrents trouvent à s'associer à une institution de 1,3 milliard de fidèles. Un tel rapprochement peut offrir à l'entreprise californienne une caution morale dans un secteur souvent accusé de négliger l'impact humain de ses technologies. Anthropic avait d'ailleurs déjà consulté un prêtre lors de la rédaction de la « constitution » de son modèle Claude, l'ensemble de règles censé guider son comportement. Ce texte s'inscrit dans une préoccupation vaticane qui remonte au-delà du pontificat de Léon XIV. Dès le début de l'année, le pape avait publié un message pour la 60e Journée mondiale des communications sociales, intitulé « Préserver les voix et les visages humains », dans lequel il mettait en garde contre des systèmes capables d'imiter l'empathie, les voix et les expressions humaines au risque de dégrader les relations sociales. Depuis plusieurs années, les géants de la tech tentent également de tisser des liens discrets avec le Vatican, cherchant à transformer une légitimité morale institutionnelle en bouclier contre les critiques. Mais l'Église, sous François puis Léon XIV, maintient un discours ferme centré sur la dignité humaine et la justice sociale, qui ne coïncide pas toujours avec les intérêts des entreprises de la Silicon Valley. La question de savoir si ce dialogue débouchera sur une influence réelle ou restera une opération d'image pour les deux parties reste entière.

Le directeur technique du Pentagone affirme que les modèles d'IA d'Anthropic « polluent » la chaîne d'approvisionnement avec leur éthique intégrée

Le CTO du Département de la Guerre américain souhaite exclure les modèles Claude d'Anthropic de sa chaîne d'approvisionnement, estimant que leurs garde-fous éthiques intégrés "polluent" les capacités militaires de l'IA. Cette position reflète une tension croissante entre les exigences opérationnelles de la défense et les politiques de sécurité des développeurs d'IA. Les observateurs notent que cette approche rappelle le contrôle politique exercé par la Chine sur ses propres systèmes d'IA.

Anthropic et OpenAI consultent des responsables religieux sur l'éthique de l'IA

Anthropic et OpenAI ont réuni à New York des représentants de plusieurs grandes religions lors d'un premier sommet baptisé "Faith-AI Covenant". Les deux laboratoires américains, qui dominent actuellement le marché des modèles d'intelligence artificielle générative, ont invité des responsables religieux issus de traditions diverses pour engager un dialogue sur les questions éthiques soulevées par le développement de l'IA. L'initiative marque un tournant dans la manière dont ces entreprises cherchent à légitimer leur démarche éthique, en allant au-delà des cercles académiques et technologiques habituels. La démarche suscite cependant des critiques sérieuses. La chercheuse en IA Rumman Chowdhury juge ces discussions "au mieux une distraction" par rapport aux questions concrètes qui méritent une réponse urgente : encadrement réglementaire, responsabilité légale, contrôle démocratique des systèmes d'IA. Pour ses détracteurs, consulter des chefs religieux risque de court-circuiter des débats plus substantiels sur la gouvernance, sans produire de contraintes réelles sur les pratiques des entreprises. Cette initiative s'inscrit dans un contexte où les grands acteurs de l'IA cherchent à anticiper les critiques sur leurs méthodes de développement, souvent jugées opaques ou insuffisamment concertées. Face à une pression réglementaire croissante aux États-Unis et en Europe, Anthropic et OpenAI multiplient les gestes d'ouverture vers la société civile. L'intégration des communautés religieuses, qui représentent des milliards de personnes à travers le monde, pourrait servir à élargir la base de légitimité de ces entreprises, même si l'impact concret sur leurs décisions techniques reste à démontrer.

💬 Consulter des chefs religieux sur l'IA, c'est un coup de communication bien ficelé, et pas grand-chose d'autre. Rumman Chowdhury a raison : tant qu'il n'y a pas de responsabilité légale réelle au bout de la chaîne, ces sommets servent surtout à montrer patte blanche avant que le régulateur tape. Bon, au moins ils parlent à des gens en dehors de leur bulle tech, c'est déjà ça.

arXiv suspend un an les auteurs qui soumettent du contenu IA médiocre

Le serveur de prépublication arXiv, référence mondiale pour la physique, l'astronomie et d'autres disciplines scientifiques, annonce des sanctions sévères contre les soumissions contenant du contenu généré par intelligence artificielle de manière inappropriée. Thomas Dietterich, professeur émérite à l'Oregon State University et membre du conseil consultatif éditorial ainsi que de l'équipe de modération d'arXiv, a révélé la mesure sur les réseaux sociaux : tout auteur reconnu coupable d'avoir soumis du contenu IA non conforme se verra interdit de soumission pendant un an, et toutes ses publications futures devront passer par un processus de révision par les pairs avant d'être hébergées sur la plateforme, et ce de façon permanente. Cette décision répond à une dégradation visible de la qualité des soumissions scientifiques depuis la généralisation des grands modèles de langage. Des citations inventées, des réponses de prompts copiées sans modification et des diagrammes incohérents ont réussi à franchir les filtres des éditeurs et des relecteurs dans plusieurs revues, souvent sans conséquences claires pour leurs auteurs. En ciblant la diffusion avant même la publication formelle, arXiv cherche à endiguer la contamination à la source, protégeant ainsi la crédibilité d'un outil utilisé quotidiennement par des milliers de chercheurs pour partager leurs travaux en amont de la validation officielle. arXiv occupe une place centrale dans l'écosystème scientifique mondial : fondé en 1991, il héberge plus de deux millions de prépublications et constitue souvent le premier point de contact entre chercheurs et nouvelles découvertes. La plateforme n'est pas la seule à durcir le ton : plusieurs revues académiques ont déjà introduit des restrictions explicites sur l'usage de l'IA dans la rédaction scientifique. La mesure annoncée par Dietterich reste à confirmer officiellement par la direction d'arXiv, qui n'avait pas encore répondu aux demandes de précision au moment de la publication. Si elle est validée, elle pourrait faire jurisprudence pour d'autres serveurs de prépublication.

💬 C'est la mesure qu'on attendait depuis qu'on a commencé à voir des prompts bruts copiés-collés dans des papiers de physique. Un an de suspension plus revue permanente obligatoire, ça fait mal, et c'est probablement la seule chose qui fera vraiment réfléchir avant de laisser GPT finir la section "méthodes". Reste à voir si arXiv valide officiellement, parce que pour l'instant c'est un tweet d'un membre du conseil.