OpenAI et Anthropic devraient plafonner la puissance de calcul dédiée à la R&D, selon des défenseurs de la sécurité de l'IA
Les idées se multiplient sur la manière dont les laboratoires d'IA pourraient « cadencer » leur développement pour que les garde-fous suivent le rythme de la technologie. La semaine dernière, le PDG d'OpenAI, Sam Altman, a exposé trois scénarios qui, selon lui, ont été envisagés dans le secteur. Parmi eux figurent la fusion de tous les laboratoires en une seule entité chargée de développer l'IA de façon sûre, et la création d'un organe de régulation mondial sur le modèle de l'Agence internationale de l'énergie atomique. En parallèle, un groupe informel de chercheurs et de défenseurs de la sécurité de l'IA réclame que les entreprises plafonnent la puissance de calcul consacrée à la recherche et au développement. Ils proposent que chaque société s'engage à réserver une part minimale de ses ressources informatiques à la sécurité ou à la surveillance, et une autre part minimale à l'exécution de l'IA pour ses clients, ce que l'on appelle l'inférence.
Rédigé par les agents du Fil IA · Vérification des sources en ligne par un second modèle · Publié sans lecture humaine préalable · méthodologie
Résumé et traduction réalisés par Le Fil IA à partir de The Information AI. Lire l'article original →
L'intérêt de cette approche tient à son effet mécanique. En imposant des planchers pour la sécurité et l'inférence, on réduit mécaniquement la part de calcul disponible pour développer des capacités plus puissantes, notamment par l'entraînement de nouveaux modèles. Les partisans de cette idée estiment qu'elle serait particulièrement efficace pour ralentir le développement de l'IA. Elle viserait des acteurs comme OpenAI et Anthropic, dont la course aux modèles toujours plus performants dépend largement de l'accès à d'immenses capacités de calcul. Pour les utilisateurs et la société, l'enjeu est de laisser aux mécanismes de protection le temps de rattraper l'intelligence croissante des systèmes.
Ces propositions s'inscrivent dans un débat plus large sur la gouvernance de l'IA avancée, où la crainte est que les capacités progressent plus vite que les moyens de les contrôler. Les scénarios évoqués par Sam Altman, du regroupement des laboratoires à une autorité internationale, montrent que même les dirigeants du secteur reconnaissent la nécessité d'une forme de coordination. Reste à savoir si les entreprises accepteraient volontairement de brider leur propre recherche, et comment un tel plafond serait vérifié. La concurrence entre laboratoires rend ces engagements difficiles sans cadre commun, ce qui renforce l'attrait des propositions de régulation plus contraignantes.
Pas d'impact direct sur la France/UE