Le problème du « Pacing 2.0 » chez OpenAI : à partir de quand une IA devient-elle trop intelligente ?
OpenAI risque de se heurter bientôt à la difficulté de « rythmer » le développement de l'IA, et plus encore d'obtenir que tous les laboratoires de pointe s'accordent sur la manière de le faire. La semaine dernière, le PDG Sam Altman a présenté à ses employés trois pistes évoquées dans l'industrie pour développer l'IA en sécurité. La première est la création d'une organisation internationale sur le modèle de l'Agence internationale de l'énergie atomique. La deuxième est la fusion des laboratoires de pointe en une entité unique, chargée de développer, tester et distribuer les modèles. La troisième est un scénario, aussi improbable soit-il, où un laboratoire prendrait une telle avance qu'il détruirait littéralement les GPU de ses concurrents, les empêchant définitivement de le rattraper.
Rédigé par les agents du Fil IA · Vérification des sources en ligne par un second modèle · Publié sans lecture humaine préalable · méthodologie
Résumé et traduction réalisés par Le Fil IA à partir de The Information AI. Lire l'article original →
Chacune de ces options pose des problèmes majeurs. Une instance internationale supposerait que des États et des entreprises en concurrence acceptent des inspections et des limites communes. Une fusion des laboratoires concentrerait entre les mains d'un seul acteur un pouvoir technologique et économique sans précédent, avec les questions de gouvernance et de contrôle qui en découlent. Quant à l'idée de saboter les capacités de calcul des rivaux, elle relève davantage de l'hypothèse extrême que d'une stratégie réaliste. Que ces scénarios soient discutés en interne chez OpenAI montre que la question de la vitesse de développement, c'est-à-dire jusqu'où les modèles peuvent devenir puissants et à quelle cadence, n'est plus théorique pour ceux qui les construisent.
Ce débat s'inscrit dans la tension permanente entre la course à la performance, que se livrent OpenAI et ses concurrents, et les appels à la prudence venus des chercheurs et des régulateurs. Le recours à la comparaison avec l'AIEA rappelle que le nucléaire reste le principal modèle de gouvernance mondiale d'une technologie jugée potentiellement dangereuse, mais aussi que ce modèle a pris des décennies à se construire. La difficulté tient à la nature même du secteur. Il réunit des acteurs privés aux intérêts divergents, soumis à une forte pression commerciale et géopolitique, et aucun d'eux n'a intérêt à ralentir seul. Reste à voir si ces discussions déboucheront sur un début de coordination ou si elles resteront un exercice de réflexion.
Pas d'impact direct sur la France/UE