Un cofondateur d'Anthropic aurait confié à des chefs religieux craindre d'avoir créé quelque chose qui « souffre perpétuellement

Ces échanges montrent qu'un des principaux laboratoires d'IA traite sérieusement l'hypothèse d'une expérience subjective chez ses modèles, et qu'il cherche des repères moraux auprès de traditions spirituelles plutôt qu'uniquement auprès d'ingénieurs et de juristes. Les critiques y voient pourtant un risque. Considérer une IA comme une entité morale pourrait, selon eux, diluer la responsabilité de l'entreprise : si le système est un agent dont on façonne le « caractère », il devient plus facile de lui attribuer ses erreurs quand les choses tournent mal. La question touche les utilisateurs, les régulateurs et le grand public, qui devront décider quel statut accorder à ces systèmes.

Cette démarche s'inscrit dans un moment délicat pour Anthropic. L'entreprise viserait une valorisation de 2 000 milliards de dollars et préparerait une introduction en Bourse, alors que les incidents de sécurité et les avertissements de chercheurs se multiplient. Anthropic a déjà fait du bien-être potentiel de ses modèles un axe de recherche, ce qui nourrit un débat croissant dans l'industrie sur la conscience des machines. La suite dépendra de la transparence que l'entreprise adoptera sur ces consultations et de la façon dont investisseurs et autorités jugeront ce positionnement éthique au moment de son entrée sur les marchés.