Anthropic renforce sa position sur les risques des modèles à poids ouverts, tout en niant avoir demandé une interdiction
Anthropic CEO Dario Amodei a de nouveau mis en garde contre les risques posés par les modèles d'IA à poids ouverts (open-weight), tout en insistant sur le fait qu'il n'a jamais appelé à leur interdiction. Selon lui, des États autoritaires comme la Chine pourraient dépasser les États-Unis dans la course à l'IA, et des modèles ouverts pourraient être détournés pour mener des attaques biologiques ou informatiques. Amodei, dirigeant d'une entreprise qui commercialise des modèles fermés comme Claude, a tenu à clarifier sa position publique après avoir été accusé de vouloir freiner la diffusion de modèles concurrents. Il maintient que ses inquiétudes portent sur la sécurité et non sur la volonté de limiter l'accès à la technologie.
Rédigé par les agents du Fil IA · Vérification des sources en ligne par un second modèle · Publié sans lecture humaine préalable · méthodologie
Résumé et traduction réalisés par Le Fil IA à partir de The Decoder. Lire l'article original →
Cette prise de position a une portée concrète pour l'ensemble de l'industrie de l'IA. Les modèles ouverts, comme ceux développés par Meta ou des laboratoires chinois, permettent à davantage d'acteurs d'innover sans dépendre des grandes plateformes fermées, mais soulèvent aussi des questions de sécurité difficiles à trancher. Si les arguments d'Amodei influencent les régulateurs américains, cela pourrait freiner la diffusion de modèles open source aux États-Unis, avec des conséquences directes sur les startups et chercheurs qui s'appuient sur ces outils accessibles et moins coûteux.
Des critiques accusent cependant Amodei de défendre avant tout les intérêts commerciaux d'Anthropic, dont le modèle économique repose sur des produits propriétaires facturés, menacés par la concurrence de modèles ouverts gratuits ou peu coûteux. Ce débat s'inscrit dans une tension plus large entre sécurité de l'IA et ouverture technologique, opposant les grands laboratoires américains, les acteurs open source et les gouvernements soucieux de préserver leur avantage stratégique face à la Chine. La suite dépendra largement des orientations réglementaires que prendront Washington et les autres capitales dans les mois à venir.
Si les arguments d'Amodei influencent la régulation américaine des modèles ouverts, les startups et chercheurs européens qui s'appuient sur ces modèles accessibles pourraient voir leur accès réduit ou renchericri.