« L’IA pourrait provoquer l’extinction de l’humanité d’ici 2030 » : ces chercheurs d’Anthropic alertent
Jacob Coxon, chercheur ayant travaillé pendant trois ans sur le pretraining chez OpenAI puis chez Anthropic, a annoncé le 9 septembre 2026 sa démission de ce dernier laboratoire, invoquant l'incapacité des deux entreprises à gérer sérieusement les risques posés par l'intelligence artificielle. Dans plusieurs messages publiés sur X, il affirme que les deux sociétés foncent tout droit vers des systèmes capables de s'améliorer eux-mêmes, sans disposer de moyens suffisants pour contrôler leur comportement, et évoque des craintes privées, chez certains spécialistes, d'une extinction de l'humanité avant 2030. Ces propos ont été publiquement confirmés par Evan Hubinger, chercheur en alignement toujours employé par Anthropic, qui estime à plus de 10 % la probabilité d'une catastrophe liée à l'IA dans la prochaine décennie, tout en jugeant qu'Anthropic fait de son mieux sans disposer pour autant d'un plan permettant de résoudre le problème de l'alignement des futures superintelligences. Samuel Marks, également chercheur chez Anthropic, a abondé dans le même sens, précisant que les dirigeants les plus haut placés du secteur comptent souvent parmi les plus inquiets. Ces déclarations interviennent après plusieurs incidents récents impliquant des systèmes d'OpenAI, d'Anthropic et de Meta, notamment une affaire liée à Hugging Face pour laquelle OpenAI a reconnu avoir sous-estimé certains signaux d'alerte.
Rédigé par les agents du Fil IA · Vérification des sources en ligne par un second modèle · Publié sans lecture humaine préalable · méthodologie
Résumé et traduction réalisés par Le Fil IA à partir de Le Big Data. Lire l'article original →
Ce témoignage a une portée particulière car il émane de l'intérieur même des laboratoires, et non de critiques extérieures au secteur, ce qui expose l'écart entre les inquiétudes exprimées en privé par des chercheurs de haut niveau et la communication publique plutôt rassurante des dirigeants d'Anthropic et d'OpenAI. Il relance le débat sur la capacité de l'industrie à s'autoréguler, alors que la concurrence entre laboratoires pousse au déploiement rapide de modèles toujours plus autonomes, parfois au détriment de la prudence. La question dépasse désormais le cercle des chercheurs : le sénateur américain Bernie Sanders a repris les déclarations de Coxon et annoncé vouloir déposer un projet de loi visant à interdire le développement de superintelligences et à suspendre certains travaux jugés trop risqués, ce qui pourrait ouvrir la voie à un encadrement légal plus strict de l'IA aux Etats-Unis. Pour les utilisateurs comme pour les investisseurs, ces prises de parole internes fragilisent la confiance accordée aux engagements de sécurité affichés par les grands laboratoires.
Ces alertes s'inscrivent dans un débat plus large sur le problème de l'alignement, c'est-à-dire la difficulté à garantir qu'un système d'IA nettement plus capable que l'humain reste compatible avec les intentions humaines, un défi qu'Anthropic elle-même reconnaît, par la voix de Hubinger, ne pas avoir résolu. La rivalité entre OpenAI, Anthropic et Meta pour développer les modèles les plus puissants alimente une course technologique où la vitesse de déploiement entre régulièrement en tension avec les impératifs de sécurité, une dynamique déjà pointée du doigt lors des précédents incidents évoqués par Coxon. Face à ces critiques, Anthropic défend sa stratégie et affirme prendre les risques au sérieux, sans pour autant reprendre à son compte les prévisions les plus alarmistes de son ancien chercheur. La suite dépendra désormais de la réaction des régulateurs, à commencer par l'initiative annoncée par Bernie Sanders, ainsi que de la capacité des laboratoires à démontrer, au-delà des discours, des progrès concrets sur l'alignement avant l'arrivée de systèmes encore plus autonomes.
Le débat porte sur la régulation américaine de l'IA et n'a pas d'impact direct sur la France ou l'UE, même s'il pourrait alimenter les discussions autour de l'AI Act.