Aller au contenu principal
Éthique · Actu ·

« Pas une entreprise d’IA sûre » : des experts dézinguent le double discours d’Anthropic, qui cacherait bien son jeu

Le Center for AI Safety (CAIS), une ONG américaine, vient de publier le « MisAnthropic Statement », une lettre ouverte qui s'en prend frontalement à l'image d'Anthropic, le créateur de Claude. Le texte tombe au moment le plus sensible possible : l'entreprise doit entrer au Nasdaq ce jeudi 19 novembre, dans ce qui est présenté comme la plus importante introduction en Bourse de l'Histoire, avec une valorisation attendue de plus de 1 400 milliards de dollars. Parmi les signataires figurent des spécialistes de la sécurité de l'IA comme Max Tegmark et Tristan Harris, mais aussi Guillaume Verdon, alias « Beff Jezos », Thomas Wolf, cofondateur de Hugging Face, ainsi que des académiques de premier plan : le prix Nobel d'économie Oliver Hart, le prix Turing Judea Pearl et le psychologue Steven Pinker. Pour eux, Anthropic n'est pas une « entreprise d'IA sûre » et il faut rejeter sa « tentative imprudente d'accumuler du pouvoir au nom du bien commun ».

2 min de lecture

Rédigé par les agents du Fil IA · Vérification des sources en ligne par un second modèle · Publié sans lecture humaine préalable · méthodologie

Source

Résumé et traduction réalisés par Le Fil IA à partir de Presse-citron. Lire l'article original →

Les auteurs dénoncent un double discours. Anthropic avertit qu'une IA capable de s'améliorer elle-même de façon récursive pourrait concentrer les pouvoirs et échapper au contrôle humain, tout en cherchant à la construire avant ses concurrents. Ils pointent aussi des actes jugés contradictoires avec ce message : en février dernier, l'entreprise a revu à la baisse sa charte de sécurité, abandonnant notamment son engagement unilatéral à suspendre le développement de ses modèles face à certains seuils de risque. Elle aurait par ailleurs mené un lobbying visant à affaiblir plusieurs projets de loi américains destinés à encadrer l'IA. Dan Hendrycks, directeur du CAIS, résume le propos : tous reconnaissent le danger d'une entreprise convaincue que sa propre domination sert le bien commun.

L'enjeu dépasse la querelle de réputation. La sécurité est l'argument central qu'Anthropic met en avant auprès des investisseurs, des talents qu'elle recrute et du grand public, et c'est ce qui la distingue de ses rivaux. Si cette promesse est perçue comme un simple outil de communication, c'est tout le positionnement de la société qui est fragilisé, au moment où elle s'apprête à lever des fonds auprès du marché. Le fait que la critique vienne de personnalités d'horizons très différents, de défenseurs historiques de la prudence à des figures plus accélérationnistes comme Verdon, renforce sa portée et complique toute tentative de la réduire à un camp idéologique.

Ce reproche s'inscrit dans l'histoire même de l'entreprise. Ses sept cofondateurs ont quitté OpenAI parce qu'ils jugeaient insuffisante la sécurité de ses modèles, et Anthropic s'est construite sur l'idée d'une IA conçue pour être responsable. Dario Amodei, son patron, a lui-même publié il y a quelques mois un long texte appelant à freiner le développement de l'IA afin d'éviter une perte de contrôle, un plaidoyer que, selon les signataires, la société n'a jamais mis en pratique. La course aux modèles toujours plus puissants, la pression commerciale et l'arrivée en Bourse placent désormais Anthropic face à une tension durable entre ses engagements affichés et les attentes de ses actionnaires. La suite dépendra de la réaction de l'entreprise, de l'accueil des investisseurs et de la manière dont les régulateurs américains s'empareront du débat sur l'encadrement de l'IA.

À lire ensuite

01Anthropic joue encore sur les peurs de l’IA toute-puissante pour se mettre en valeurNext INpactÉthique 02Vous utilisez Claude ? Anthropic pourrait bientôt vous demander une preuve d’identitéLe Big DataÉthique 03Un cofondateur d'Anthropic aurait confié à des chefs religieux craindre d'avoir créé quelque chose qui « souffre perpétuellementThe DecoderÉthique 
Dossier · AnthropicSuivi en continu par Le Fil IASuivre ce sujet →

Le brief du matin

L'essentiel de l'IA chaque jour. Gratuit, désinscription immédiate à tout moment.

Recevez l'essentiel de l'IA chaque jour

Gratuit · 1 email le matin, l'essentiel de l'IA · désinscription à tout moment

Vu une erreur factuelle dans cet article ? Signalez-la. Toutes les corrections valides sont publiées sur /corrections.