Sam Altman aurait présenté trois scénarios finaux pour la sécurité de l'IA, dont un où une seule entreprise détruirait les GPU des autres
Sam Altman, le patron d'OpenAI, aurait présenté en interne trois scénarios de fin de partie pour la sécurité de l'intelligence artificielle. Le premier est un organisme de surveillance international calqué sur l'Agence internationale de l'énergie atomique (AIEA). Le deuxième est une fusion des grands laboratoires en une seule entité. Le troisième est une entreprise assez puissante pour couper l'accès au calcul de tous les autres acteurs, c'est-à-dire neutraliser leurs GPU. Altman a lui-même qualifié cette dernière option de « terrible ». Ces propos sont rapportés au conditionnel, à partir d'une présentation interne.
Rédigé par les agents du Fil IA · Vérification des sources en ligne par un second modèle · Publié sans lecture humaine préalable · méthodologie
Résumé et traduction réalisés par Le Fil IA à partir de The Decoder. Lire l'article original →
Cette hiérarchie compte parce qu'elle montre comment le dirigeant d'un des laboratoires les plus influents du secteur envisage la gouvernance de la technologie qu'il développe. Les trois pistes vont de la supervision multilatérale à une concentration extrême du pouvoir. La troisième suppose qu'une seule société détienne de fait un droit de veto sur l'ensemble des capacités de calcul mondiales, ce qui pose une question de légitimité et de contrôle. Pour les régulateurs, les concurrents et les États, le scénario rappelle que la sécurité de l'IA et la concentration de la puissance sont étroitement liées.
L'idée d'une instance inspirée de l'AIEA n'est pas nouvelle dans le débat. Cet organisme, chargé de surveiller l'usage du nucléaire, sert depuis plusieurs années de référence pour imaginer un contrôle international de l'IA, et Altman l'a déjà évoquée publiquement. Les obstacles restent considérables : rivalités géopolitiques, course commerciale entre laboratoires et absence de consensus sur les mesures à appliquer. Le document ne précise pas quelle option Altman privilégie, hormis son rejet explicite de la dernière.
Le débat sur une gouvernance internationale de l'IA inspirée de l'AIEA concerne les États européens et les régulateurs de l'UE, sans mesure directe à ce stade.