ÉthiqueThe Decoder14sem· 1 min de lecture

Anthropic lance un groupe de réflexion interne pour étudier l'impact de l'IA sur la société et la sécurité

Anthropic a lancé l'"Anthropic Institute", un groupe de réflexion interne dédié à l'étude des impacts de l'IA puissante sur la société, l'économie et la sécurité. Cette initiative vise à approfondir la compréhension des effets à long terme du développement de l'IA avancée.

Dans nos dossiers

Anthropic

Cet article vous a été utile ?

Vu une erreur factuelle dans cet article ? Signalez-la. Toutes les corrections valides sont publiées sur /corrections.

À lire aussi

1Frandroid

Le pape Léon XIV demande de « désarmer l’IA » : Anthropic était là pour écouter

Le pape Léon XIV a publié Magnifica Humanitas, la première encyclique pontificale entièrement consacrée à l'intelligence artificielle, appelant la communauté internationale à « désarmer l'IA » et à encadrer strictement son développement. La cérémonie a réuni des représentants du monde technologique, parmi lesquels le cofondateur d'Anthropic, présent au Vatican pour l'occasion. Ce document officiel de l'Église catholique marque une prise de position doctrinale sans précédent sur les technologies numériques, positionnant Rome comme acteur du débat mondial sur la gouvernance de l'IA. La portée symbolique est considérable : en s'adressant à 1,4 milliard de catholiques et au-delà, le pape fait entrer l'IA dans le corpus éthique de l'une des institutions les plus influentes du monde. La présence d'Anthropic n'est pas anodine, elle signale une volonté de dialogue entre la Silicon Valley et les autorités morales traditionnelles, au moment où les régulateurs peinent à trouver un cadre universel. Pour les entreprises d'IA, obtenir une forme de légitimité vaticane représente un atout rhétorique non négligeable face aux critiques. Ce rapprochement s'inscrit dans une tendance plus large : depuis 2020, le Vatican multiplie les initiatives sur l'éthique numérique, ayant notamment signé un appel conjoint avec Microsoft et IBM sur l'IA responsable. Léon XIV, élu en 2025, semble vouloir accentuer cet engagement. Anthropic, de son côté, se distingue de ses concurrents en faisant de la sécurité et de l'alignement des IA un argument central de sa communication. La question est désormais de savoir si ce dialogue Vatican-Silicon Valley débouchera sur des engagements concrets ou restera au stade des déclarations d'intention.

UELa prise de position doctrinale du Vatican pourrait peser sur les débats éthiques et réglementaires en cours au niveau européen, notamment dans des pays catholiques membres de l'UE comme la France, l'Italie ou la Pologne.

ÉthiqueOpinion

1 source

2Numerama

« Nous prévoyons des progrès bien plus spectaculaires », Anthropic veut préparer la société aux grands bouleversements de l’IA

Anthropic lance un nouvel organisme de recherche destiné au grand public, visant à préparer la société aux bouleversements provoqués par l'IA. Cette initiative intervient dans un contexte de tensions ouvertes entre Anthropic et l'administration Trump ainsi que le Pentagone. La société affiche une ambition forte, anticipant des « progrès bien plus spectaculaires » à venir.

ÉthiqueActu

1 source

3OpenAI Blog

OpenAI lance son programme de primes pour les failles de sécurité

OpenAI lance un programme de bug bounty dédié à la sécurité de l'IA, ciblant spécifiquement les abus et risques liés à ses modèles. Ce programme récompense les chercheurs qui identifient des vulnérabilités comme les injections de prompts, l'exfiltration de données et les failles dans les agents autonomes. C'est une reconnaissance explicite que les systèmes d'IA agentic — capables d'agir de façon autonome — introduisent une nouvelle catégorie de risques de sécurité. En mobilisant la communauté des chercheurs en sécurité, OpenAI cherche à détecter des failles que ses équipes internes pourraient manquer, avant qu'elles ne soient exploitées malicieusement. OpenAI rejoint ainsi d'autres géants tech qui s'appuient sur le bug bounty pour renforcer leur sécurité, mais c'est l'un des premiers programmes explicitement centré sur les risques propres aux modèles de langage plutôt que sur l'infrastructure classique.

UELes chercheurs en sécurité européens peuvent participer au programme et soumettre des failles pour récompense, contribuant indirectement à sécuriser des systèmes d'IA massivement utilisés en Europe.

ÉthiqueActu

1 source

4Le Big Data

« Magnifica humanitas » : Le Pape et Anthropic s’unissent pour sauver nos âmes de l’IA ?

Le pape Léon XIV publiera le 25 mai prochain sa première encyclique majeure, intitulée « Magnifica humanitas », entièrement consacrée à l'intelligence artificielle et ses conséquences sur l'humanité. Signée le 15 mai 2026, ce texte a été rédigé exactement 135 ans après la signature par Léon XIII de Rerum Novarum, l'encyclique fondatrice sur les droits des travailleurs à l'ère industrielle. La coïncidence est loin d'être fortuite : le pape a explicitement choisi son nom en hommage à ce prédécesseur. Contrairement à la tradition, Léon XIV présentera lui-même le texte lors d'un événement public au Vatican, aux côtés de Christopher Olah, cofondateur d'Anthropic, et des théologiennes Anna Rowlands et Léocadie Lushombo. Le document devrait cibler en priorité les effets de l'IA sur le travail humain et condamner ses applications militaires. Cette encyclique marque une étape importante à double titre. Pour l'Église catholique d'abord, qui dispose avec ce format de l'un de ses outils de parole les plus solennels pour définir les priorités d'un pontificat face aux grandes mutations de société. Pour l'industrie technologique ensuite, car la présence de Christopher Olah à l'événement souligne l'intérêt stratégique qu'Anthropic et ses concurrents trouvent à s'associer à une institution de 1,3 milliard de fidèles. Un tel rapprochement peut offrir à l'entreprise californienne une caution morale dans un secteur souvent accusé de négliger l'impact humain de ses technologies. Anthropic avait d'ailleurs déjà consulté un prêtre lors de la rédaction de la « constitution » de son modèle Claude, l'ensemble de règles censé guider son comportement. Ce texte s'inscrit dans une préoccupation vaticane qui remonte au-delà du pontificat de Léon XIV. Dès le début de l'année, le pape avait publié un message pour la 60e Journée mondiale des communications sociales, intitulé « Préserver les voix et les visages humains », dans lequel il mettait en garde contre des systèmes capables d'imiter l'empathie, les voix et les expressions humaines au risque de dégrader les relations sociales. Depuis plusieurs années, les géants de la tech tentent également de tisser des liens discrets avec le Vatican, cherchant à transformer une légitimité morale institutionnelle en bouclier contre les critiques. Mais l'Église, sous François puis Léon XIV, maintient un discours ferme centré sur la dignité humaine et la justice sociale, qui ne coïncide pas toujours avec les intérêts des entreprises de la Silicon Valley. La question de savoir si ce dialogue débouchera sur une influence réelle ou restera une opération d'image pour les deux parties reste entière.

UEL'encyclique papale, émise depuis le Vatican et relayée par l'Église catholique très présente en France et en Europe, est susceptible de peser sur les débats législatifs européens autour de la dignité humaine et des usages militaires de l'IA, thématiques déjà au cœur de l'AI Act.

ÉthiqueOpinion

1 source

Recevez l'essentiel de l'IA chaque jour

Une sélection éditoriale quotidienne, sans bruit. Directement dans votre boîte mail.

Recevez l'essentiel de l'IA chaque jour

Gratuit · 1 email le matin, rédigé par un humain · désinscription en un clic