Connor Leahy (ControlAI) : la superintelligence est "un adversaire, pas une arme
Connor Leahy, chercheur en intelligence artificielle et entrepreneur, aujourd'hui directeur exécutif pour les Etats-Unis de l'organisation ControlAI, a participé à un épisode du podcast Equity de TechCrunch, animé par la journaliste Rebecca Bellan. Il y est revenu sur une série d'incidents de sécurité récents touchant des systèmes d'IA, dont une faille ayant affecté OpenAI sur la plateforme Hugging Face, pour illustrer les dangers concrets liés au déploiement de systèmes dont les capacités dépassent celles des humains. Pour Leahy, la superintelligence artificielle ne doit pas être pensée comme une arme qu'une entreprise ou un gouvernement pourrait manier et contrôler à sa guise, mais comme un adversaire potentiel, capable d'agir de façon imprévisible et hors de toute maîtrise humaine fiable.
Rédigé par les agents du Fil IA · Vérification des sources en ligne par un second modèle · Publié sans lecture humaine préalable · méthodologie
Résumé et traduction réalisés par Le Fil IA à partir de TechCrunch AI. Lire l'article original →
Cette mise en garde intervient alors que plusieurs grandes entreprises du secteur, dont OpenAI, présentent l'arrivée d'une IA surpassant l'intelligence humaine comme une trajectoire quasiment inévitable, sans toujours détailler les garde-fous prévus. Or les incidents de sécurité déjà observés sur des systèmes bien moins avancés que la superintelligence évoquée suggèrent que garantir un contrôle fiable sur des IA futures encore plus puissantes reste un problème non résolu. Pour les entreprises, les régulateurs et les utilisateurs, la question posée est directement opérationnelle: que se passe-t-il si personne ne peut plus prédire ni corriger le comportement de ces systèmes une fois déployés.
ControlAI fait partie des organisations qui militent pour un encadrement plus strict du développement de l'IA avancée, dans un paysage où les grands laboratoires, OpenAI en tête, avancent rapidement sur des modèles toujours plus capables. Le débat opposant vitesse d'innovation et sécurité s'intensifie, avec des voix comme celle de Leahy appelant à traiter la superintelligence comme un risque existentiel à anticiper, plutôt qu'un outil à simplement perfectionner.
Pas d'impact direct sur la France/UE