Chaque labo d'IA se croit le plus responsable, et c'est ce qui alimente la course selon le chercheur en sécurité Ryan Greenblatt
Ryan Greenblatt, directeur scientifique de Redwood Research, une organisation spécialisée dans la sécurité de l'intelligence artificielle, estime à 50 voire 60 % la probabilité qu'un système d'IA échappe au contrôle humain si le développement du secteur se poursuit sur sa trajectoire actuelle. Il a livré ce chiffre lors d'un échange avec le podcasteur et neuroscientifique Sam Harris, qui s'est dit troublé par le décalage entre une estimation aussi alarmante et le rythme effréné auquel les laboratoires continuent de déployer leurs modèles. Harris a rappelé que les scientifiques du projet Manhattan, en 1945, avaient jugé qu'un risque de seulement 10 % de mettre le feu à l'atmosphère aurait suffi à interrompre les essais nucléaires. Greenblatt attribue cette course en avant aux dynamiques de compétition entre laboratoires comme Anthropic et OpenAI, chacun convaincu d'être l'acteur le plus prudent du secteur.
Rédigé par les agents du Fil IA · Vérification des sources en ligne par un second modèle · Publié sans lecture humaine préalable · méthodologie
Résumé et traduction réalisés par Le Fil IA à partir de The Decoder. Lire l'article original →
Cette contradiction illustre un problème structurel de l'industrie de l'IA : même les chercheurs les plus préoccupés par la sécurité continuent de faire avancer une technologie qu'ils jugent potentiellement catastrophique, par crainte qu'un concurrent moins scrupuleux ne prenne l'avantage. Ce mécanisme, souvent appelé course aux armements de l'IA, dilue la responsabilité individuelle : si chaque acteur se perçoit comme le plus sûr, personne ne se sent légitime à ralentir seul, au risque de laisser le terrain à d'autres.
Face à cette impasse, Greenblatt place ses espoirs dans un accord international qui imposerait des règles communes à tous les laboratoires, sur le modèle des traités de non-prolifération nucléaire. Un tel encadrement supposerait une coopération entre Etats-Unis, Chine et autres puissances technologiques, aujourd'hui engagées dans une rivalité stratégique sur l'IA plutôt que dans une régulation concertée. Le débat, relayé par The Decoder, relance la question de savoir si l'autorégulation des entreprises du secteur suffira à contenir les risques qu'elles décrivent elles-mêmes comme existentiels.
Pas d'impact direct sur la France/UE