Près d'un chercheur en IA sur cinq anticipait déjà un scénario d'extinction lié à l'IA en 2024

Cette convergence de voix venues des laboratoires les plus influents du secteur, Anthropic, OpenAI et DeepMind, donne un poids particulier à ces avertissements, qui ne viennent plus de simples commentateurs extérieurs mais de chercheurs impliqués directement dans le développement des systèmes les plus avancés. Pour l'industrie, cela relance la pression en faveur d'une régulation plus stricte et d'investissements accrus dans la sécurité et l'alignement des modèles. Pour le grand public et les décideurs politiques, ces déclarations, venant de l'intérieur même des entreprises qui construisent ces technologies, sont difficiles à ignorer et alimentent l'inquiétude sur le rythme du développement de l'IA.

Le débat sur les risques existentiels de l'IA n'est pas nouveau, mais il s'intensifie à mesure que les capacités des modèles progressent rapidement. Des figures comme Geoffrey Hinton ou Yoshua Bengio avaient déjà exprimé des craintes similaires ces dernières années, tout en continuant de travailler ou de superviser des recherches dans ce domaine. La tension entre la course à des modèles toujours plus puissants et les appels à la prudence reste au cœur des discussions entre laboratoires, régulateurs et chercheurs, avec des suites possibles allant de nouvelles réglementations à des engagements volontaires de sécurité renforcés au sein des entreprises comme Anthropic, OpenAI et DeepMind.