Des chercheurs en IA publient des vidéos : la superintelligence est « aussi dangereuse qu'elle en a l'air
Une douzaine de chercheurs en intelligence artificielle, dont des employés actuels et anciens d'OpenAI, de Google et d'Anthropic, ont accepté de témoigner dans une série d'entretiens vidéo mis en ligne sur le site frominside.ai. Cette initiative est portée par Palisade Research, qui se présente comme une organisation à but non lucratif étudiant les capacités et les motivations des IA. Geoffrey Irving, ancien d'OpenAI et de Google DeepMind, y estime que « la probabilité d'une extinction de l'humanité est à peu près d'une chance sur deux ». Neel Nanda, chercheur chez Google DeepMind, évoque pour sa part « au moins 10 % de chances » que la technologie provoque l'extinction humaine. Plusieurs autres intervenants rejoignent ces avertissements.
Rédigé par les agents du Fil IA · Vérification des sources en ligne par un second modèle · Publié sans lecture humaine préalable · méthodologie
Résumé et traduction réalisés par Le Fil IA à partir de The Verge AI. Lire l'article original →
La portée de ces déclarations tient à l'identité de ceux qui les prononcent. Il ne s'agit pas de militants extérieurs à l'industrie, mais de personnes qui conçoivent, évaluent ou ont conçu les systèmes les plus avancés dans les principaux laboratoires. Des estimations aussi élevées, formulées publiquement par des spécialistes de la sécurité de l'IA, alimentent le débat sur le rythme du développement de la superintelligence et sur la nécessité d'une régulation. Elles pèsent aussi sur les décideurs politiques et sur l'opinion, qui reçoivent ainsi un message direct venu de l'intérieur des entreprises concernées, plutôt que des porte-parole officiels.
Ces prises de parole s'inscrivent dans un climat de tension croissante entre course à la performance et préoccupations de sécurité. Depuis plusieurs années, des chercheurs ont quitté OpenAI et d'autres laboratoires en dénonçant des priorités jugées trop commerciales, tandis que les entreprises investissent des montants colossaux pour atteindre des systèmes toujours plus capables. Palisade Research, connue pour ses travaux sur le comportement de modèles face à des consignes d'arrêt, cherche ici à donner une tribune à ces inquiétudes. Reste à savoir si cette campagne influencera les débats législatifs et la posture des laboratoires eux-mêmes.
Pas d'impact direct sur la France/UE