Les leaders de l'IA veulent ralentir après des années de vitesse imprudente
Après des années à présenter le développement de l'intelligence artificielle comme une course sans merci vers la superintelligence, les grands laboratoires américains ont opéré un revirement de ton ce week-end. Dario Amodei, patron d'Anthropic, a publié un essai de près de 4 000 mots appelant à "ralentir le rythme auquel nous améliorons les capacités des modèles d'IA", pour éviter une "course vers le bas dictée par les incitations commerciales" qui rendrait selon lui les risques catastrophiques plus aigus. Quelques heures plus tard, Sam Altman, cofondateur et PDG d'OpenAI, a publiquement approuvé cette position sur les réseaux sociaux, affirmant que des discussions similaires sur le rythme de développement avaient déjà lieu en interne chez OpenAI. Demis Hassabis, cofondateur et président de Google DeepMind et responsable scientifique d'Alphabet, a jugé que l'essai d'Amodei "pointe dans la bonne direction" et a réitéré son appel à la création d'un organisme de normalisation pour l'ensemble du secteur. De son côté, Satya Nadella, PDG de Microsoft, a déclaré que son entreprise "accueille favorablement la recherche, la concentration et le rythme délibéré nécessaires pour bien faire l'alignement", à l'occasion de la publication d'un long code de conduite pour une "IA humaniste" encadrant ses modèles.
Rédigé par les agents du Fil IA · Vérification des sources en ligne par un second modèle · Publié sans lecture humaine préalable · méthodologie
Résumé et traduction réalisés par Le Fil IA à partir de Ars Technica AI. Lire l'article original →
Ce basculement collectif marque une rupture avec des années de posture concurrentielle où chaque acteur justifiait l'accélération par la crainte de se faire distancer par ses rivaux. Si les dirigeants des principaux laboratoires s'accordent désormais publiquement sur la nécessité de ralentir, cela pourrait ouvrir la voie à une coordination inédite sur la sécurité des systèmes les plus avancés, avec des conséquences directes sur la manière dont les futurs modèles seront testés, déployés et régulés, pour les entreprises comme pour le grand public.
Cette convergence intervient alors que la pression concurrentielle entre Anthropic, OpenAI, Google DeepMind et Microsoft n'a cessé de s'intensifier ces dernières années, chacun cherchant à atteindre en premier une intelligence artificielle générale ou une forme de superintelligence machine. L'appel à un organisme de normalisation lancé par Hassabis, couplé au nouveau code de conduite de Microsoft, laisse entrevoir de premières tentatives concrètes d'autorégulation sectorielle, dans un contexte où les régulateurs publics peinent encore à encadrer ces technologies.
Pas d'impact direct sur la France/UE