OpenAI dissout son équipe dédiée aux risques catastrophiques de l'IA et redistribue ses missions à d'autres groupes
OpenAI a dissous son équipe « Preparedness », chargée d'évaluer si les modèles d'intelligence artificielle développés par l'entreprise pouvaient présenter des risques catastrophiques pour la société. Selon The Decoder, les missions de cette équipe ont été redistribuées à d'autres groupes internes déjà existants, et plusieurs membres du personnel dédié à la sécurité ont quitté l'entreprise ces dernières semaines. En interne, le malaise grandit : une source citée par le média décrit un sentiment diffus de responsabilité et d'inquiétude, la crainte qu'OpenAI n'en fasse pas assez pour encadrer les dangers potentiels de ses propres systèmes.
Résumé et traduction réalisés par Le Fil IA à partir de The Decoder. Lire l'article original →
Cette décision interroge sur la place réelle qu'occupe la sécurité dans la stratégie d'OpenAI, alors que l'entreprise continue de développer des modèles toujours plus puissants et de les déployer à grande échelle auprès de centaines de millions d'utilisateurs. Dissoudre une équipe spécifiquement dédiée aux risques catastrophiques, plutôt que la renforcer, envoie un signal préoccupant à tout le secteur, alors que la course aux systèmes les plus capables s'intensifie face à des rivaux comme Google DeepMind ou Anthropic. Pour les chercheurs en sécurité de l'IA et les régulateurs, cette réorganisation illustre la difficulté à maintenir des garde-fous solides quand les impératifs commerciaux prennent le pas.
L'équipe Preparedness avait été créée pour anticiper des scénarios extrêmes, du mésusage de l'IA à des fins de cyberattaque aux risques liés à des armes biologiques ou chimiques. Sa disparition s'ajoute à une série de départs de responsables de la sécurité chez OpenAI ces deux dernières années, nourrissant les critiques d'anciens employés qui accusent l'entreprise de privilégier la rapidité de déploiement au détriment de la prudence. Reste à savoir si ces missions seront maintenues avec la même rigueur au sein des équipes qui en héritent désormais.
Pas d'impact direct sur la France/UE