Anthropic veut geler la course à l’IA, vraie peur ou stratégie ?
Anthropic, la société américaine fondée en 2021 par d'anciens chercheurs d'OpenAI et connue pour ses modèles Claude, a publié un long billet de blog appelant à ralentir, voire suspendre temporairement, le développement des systèmes d'intelligence artificielle les plus avancés. L'argument central de l'entreprise repose sur un seuil technique précis : ses propres modèles pourraient bientôt approcher une forme d'auto-amélioration récursive, c'est-à-dire la capacité à se perfectionner eux-mêmes sans intervention humaine directe. Anthropic assure que ce point de bascule n'est pas encore atteint, mais estime qu'il pourrait survenir plus tôt que prévu. L'entreprise appelle donc à une pause mondiale coordonnée entre les principaux laboratoires de recherche et plusieurs gouvernements.
Cet appel aura des conséquences concrètes si jamais il trouve un écho réel. Une IA capable de s'améliorer elle-même pourrait progresser bien plus vite que les institutions et les mécanismes de contrôle censés l'encadrer, ce qui pose des questions légitimes sur la gouvernance des systèmes les plus puissants. Mais la portée pratique d'une telle pause reste douteuse : contrairement à des infrastructures militaires visibles, les entraînements de modèles peuvent être discrets, répartis sur plusieurs serveurs ou simplement externalisés. Anthropic reconnaît elle-même que faire respecter un gel mondial exigerait un niveau de confiance et de coordination que l'industrie de l'IA n'a jamais démontré. Des voix critiques, dont celle du chercheur et entrepreneur Gary Marcus, estiment par ailleurs qu'Anthropic exagère la menace, jugeant que les progrès récents tiennent surtout à des outils plus efficaces plutôt qu'à une intelligence sur le point de s'émanciper.
L'appel arrive dans un contexte qui fragilise sa neutralité. Anthropic s'est imposée comme l'un des acteurs les plus influents de l'IA générative, avec des modèles Claude particulièrement réputés dans le domaine de la programmation et des tâches professionnelles complexes. Un gel du secteur figurerait une hiérarchie actuelle plutôt favorable à l'entreprise, ce qui alimente les soupçons d'une stratégie concurrentielle déguisée en appel à la prudence. La crédibilité de la firme est par ailleurs compliquée par plusieurs révélations sur ses partenariats avec des autorités américaines et des usages militaires de ses technologies, difficiles à concilier avec une posture de garant absolu de la sécurité. Le fond du problème, lui, reste entier : les modèles actuels deviennent effectivement plus puissants, plus autonomes et plus intégrés à des systèmes sensibles, et la question du contrôle humain mérite un débat sérieux. Anthropic pose une vraie question, mais depuis une position qui l'arrange beaucoup, et dans l'IA comme ailleurs, le timing d'une prise de parole n'est jamais anodin.
Un appel mondial à la pause du développement IA ciblant explicitement les gouvernements majeurs renforce les débats autour de l'AI Act et pourrait inciter les institutions européennes à durcir leurs cadres de gouvernance sur les systèmes d'IA avancés.
Vu une erreur factuelle dans cet article ? Signalez-la. Toutes les corrections valides sont publiées sur /corrections.
