OpenAI appelle à des normes internationales sur l'IA capable de s'améliorer elle-même
OpenAI a appelé à la création de normes internationales pour encadrer l'auto-amélioration récursive des systèmes d'intelligence artificielle, un processus par lequel une IA concevrait de façon autonome la génération suivante de modèles. L'entreprise estime qu'en l'absence de garde-fous adaptés, l'humanité pourrait perdre le contrôle de ce processus une fois enclenché. OpenAI plaide pour que les Etats-Unis prennent l'initiative au niveau mondial, en définissant des standards communs de mesure des capacités de l'IA ainsi que des règles de supervision partagées entre pays. Cet appel intervient alors que la course à des systèmes d'IA plus autonomes s'accélère entre les grands laboratoires du secteur. Une auto-amélioration récursive incontrôlée risquerait de faire progresser les capacités des IA plus vite que la capacité des régulateurs, des entreprises et des chercheurs à en évaluer les dangers, qu'il s'agisse de failles de sécurité, de biais ou d'usages malveillants. Pour l'industrie comme pour les gouvernements, l'enjeu est de poser un cadre commun avant que la technologie n'atteigne ce seuil critique, plutôt que de tenter de réguler après coup un phénomène déjà hors de contrôle. Cette prise de position s'inscrit dans un contexte où les grandes entreprises d'IA appellent de plus en plus publiquement à une régulation, tout en poursuivant des investissements massifs dans des systèmes toujours plus puissants. La question de savoir qui fixera les règles du jeu reste ouverte, sur fond de rivalité entre Etats-Unis, Chine et Union européenne sur la gouvernance de l'intelligence artificielle. En proposant que Washington prenne les devants sur les standards de mesure et de supervision, OpenAI cherche aussi à peser sur la définition de ces règles avant que d'autres acteurs, publics ou privés, ne les imposent à sa place.
