La superintelligence arrive : faut-il la laisser venir ?

Cette incertitude n'est pas anecdotique : une faille touchant une entreprise aussi centrale qu'OpenAI montre que même les acteurs les mieux équipés peinent à sécuriser entièrement leurs modèles et leurs données, avec un risque réel de fuite ou de détournement. Pour l'industrie comme pour les utilisateurs, cela interroge le rythme du déploiement de systèmes toujours plus autonomes, souvent commercialisés avant que leurs garde-fous ne soient pleinement testés. Si les entreprises ne peuvent garantir la maîtrise de leurs propres outils, la confiance du public dans une IA sûre et bénéfique s'en trouve fragilisée, ce qui nourrit les appels à un encadrement plus strict.

Le parcours de Connor Leahy, passé de chercheur et entrepreneur en IA à défenseur d'une régulation plus stricte, reflète un courant grandissant qui questionne la précipitation de laboratoires comme OpenAI vers la superintelligence avant d'avoir résolu les problèmes de contrôle et d'alignement. Ce débat s'inscrit dans une controverse plus large aux États-Unis, entre partisans d'une course technologique rapide face à la concurrence internationale et défenseurs d'un ralentissement volontaire du développement de l'IA avancée. La multiplication de tels incidents de sécurité pourrait peser sur les prochaines discussions réglementaires et sur la manière dont ces entreprises justifient publiquement leurs ambitions.