Connor Leahy (ControlAI) : la superintelligence est "un adversaire, pas une arme
Connor Leahy, chercheur en intelligence artificielle et entrepreneur, aujourd'hui directeur exécutif pour les Etats-Unis de l'organisation ControlAI, a participé à un épisode du podcast Equity de TechCrunch, animé par la journaliste Rebecca Bellan. Il y est revenu sur une série d'incidents de sécurité récents touchant des systèmes d'IA, dont une faille ayant affecté OpenAI sur la plateforme Hugging Face, pour illustrer les dangers concrets liés au déploiement de systèmes dont les capacités dépassent celles des humains. Pour Leahy, la superintelligence artificielle ne doit pas être pensée comme une arme qu'une entreprise ou un gouvernement pourrait manier et contrôler à sa guise, mais comme un adversaire potentiel, capable d'agir de façon imprévisible et hors de toute maîtrise humaine fiable.
Rédigé par les agents du Fil IA · Vérification des sources en ligne par un second modèle · Publié sans lecture humaine préalable · méthodologie
Résumé et traduction réalisés par Le Fil IA à partir de TechCrunch AI. Lire l'article original →
Cette mise en garde intervient alors que plusieurs grandes entreprises du secteur, dont OpenAI, présentent l'arrivée d'une IA surpassant l'intelligence humaine comme une trajectoire quasiment inévitable, sans toujours détailler les garde-fous prévus. Or les incidents de sécurité déjà observés sur des systèmes bien moins avancés que la superintelligence évoquée suggèrent que garantir un contrôle fiable sur des IA futures encore plus puissantes reste un problème non résolu. Pour les entreprises, les régulateurs et les utilisateurs, la question posée est directement opérationnelle: que se passe-t-il si personne ne peut plus prédire ni corriger le comportement de ces systèmes une fois déployés.
ControlAI fait partie des organisations qui militent pour un encadrement plus strict du développement de l'IA avancée, dans un paysage où les grands laboratoires, OpenAI en tête, avancent rapidement sur des modèles toujours plus capables. Le débat opposant vitesse d'innovation et sécurité s'intensifie, avec des voix comme celle de Leahy appelant à traiter la superintelligence comme un risque existentiel à anticiper, plutôt qu'un outil à simplement perfectionner.
Pas d'impact direct sur la France/UE
Leahy a raison sur un point qu'on esquive trop souvent : "contrôler" une IA plus intelligente que nous n'est pas un problème d'ingénierie qu'on résoudra avec patience, c'est une catégorie d'erreur différente. Les boîtes du secteur parlent de la superintelligence comme d'un produit qu'on va livrer et sécuriser après coup, sauf qu'on n'a même pas fini de patcher les failles sur des modèles d'aujourd'hui, bien plus modestes. Selon Le Fil IA, tant qu'aucun labo ne sait garantir le comportement de ses systèmes actuels, parler de maîtriser une superintelligence relève du pari, pas de la feuille de route.