La régulation selon Anthropic : une IA ne doit pas pouvoir tuer « plus de 50 personnes »
Un mois après avoir appelé à une « pause » dans le développement des IA les plus avancées, Anthropic a rédigé un projet de loi de régulation de la sécurité des modèles de pointe, qu'il a discrètement présenté à des représentants du Congrès américain. POLITICO s'est procuré ce document confidentiel. Il permettrait au gouvernement fédéral d'émettre un « ordre de blocage » de la mise sur le marché ou de l'utilisation d'un modèle, mais uniquement s'il présente un risque prévisible et imminent de causer plus d'un milliard de dollars de dommages, ou de tuer ou blesser gravement plus de 50 personnes. Ce « risque catastrophique » est limité à trois cas: l'assistance de niveau expert à la création ou à la dispersion d'armes chimiques, biologiques, radiologiques, nucléaires ou cybernétiques, la conduite d'une cyberattaque sans supervision humaine significative, ou la capacité d'échapper au contrôle de son développeur ou de son utilisateur. Le texte exclut toute « activité légale du gouvernement fédéral » et plafonne les amendes à 0,2 % du revenu annuel des laboratoires. Il prévoit aussi des évaluateurs indépendants, enregistrés auprès du ministère du Commerce, chargés d'auditer périodiquement le laboratoire et ses modèles. Ils pourraient être rémunérés par le laboratoire lui-même, à condition que cette rémunération ne dépende pas des résultats. En cas de « risque imminent et précis », ils devraient alerter le ministère du Commerce dans les 72 heures suivant la fin de leur évaluation. Celui-ci pourrait alors saisir un juge pour suspendre la mise sur le marché du modèle. Le texte interdit à tout autre ministère, agence ou fonctionnaire de suspendre le développement, le déploiement ou l'usage interne d'un modèle.
Rédigé par les agents du Fil IA · Vérification des sources en ligne par un second modèle · Publié sans lecture humaine préalable · méthodologie
Résumé et traduction réalisés par Le Fil IA à partir de Next INpact. Lire l'article original →
Ces seuils très élevés limitent fortement la portée du dispositif. Le magazine Mother Jones ironise : un modèle susceptible de tuer ou blesser gravement seulement quelques personnes, ou de causer moins d'un milliard de dollars de dégâts, échapperait à toute régulation fédérale. L'amende plafonnée à 0,2 % du revenu annuel paraît faible pour dissuader des acteurs dont les revenus se chiffrent en milliards. La rémunération des évaluateurs par les entreprises qu'ils contrôlent soulève par ailleurs un risque de conflit d'intérêts, même si le texte tente de le limiter. La concentration du pouvoir de blocage au seul ministère du Commerce, sous contrôle judiciaire, protège en revanche les laboratoires contre des interventions d'autres administrations. Pour les développeurs, cela offre une certaine prévisibilité. Pour le public, la question reste de savoir si un cadre aussi restreint protège réellement contre des dérives moins spectaculaires mais bien réelles.
Cette initiative arrive dans un contexte tendu. Dario Amodei, PDG d'Anthropic, avait appelé à une pause, alors même que les dépenses des laboratoires montrent le contraire. Les dirigeants de l'IA ont ensuite réclamé une régulation mondiale à l'ONU, tandis que la Maison-Blanche refusait de ralentir. En février, Anthropic avait refusé que ses modèles servent à la surveillance de masse sur le territoire américain ou à des armes totalement autonomes, bien qu'Amodei n'ait jamais objecté aux opérations militaires en général. Donald Trump avait alors ordonné à toutes les agences fédérales de cesser d'utiliser Claude, qualifiant l'entreprise de « fournisseur à risque pour la sécurité nationale ». Ce projet apparaît donc comme une tentative de peser sur la future législation, face à une administration hostile et à des concurrents comme OpenAI. Son sort au Congrès reste incertain.
Pas d'impact direct sur la France/UE