« Pas assez prudents » : un responsable OpenAI claque la porte et descend l’approche des rois de l’IA
David Robinson a quitté OpenAI cette semaine, après trois ans et demi passés à superviser les rapports de sécurité de la start-up à l'origine de ChatGPT. Dans une longue tribune publiée à l'occasion de son départ, il affirme que les laboratoires d'intelligence artificielle ne sont « pas assez prudents ». Il met en cause leur culture du sprint permanent, où la cadence des lancements prime sur le temps nécessaire à l'évaluation des risques. Sa critique ne vise pas seulement son ancien employeur, mais l'approche de l'ensemble des grands acteurs du secteur.
Rédigé par les agents du Fil IA · Vérification des sources en ligne par un second modèle · Publié sans lecture humaine préalable · méthodologie
Résumé et traduction réalisés par Le Fil IA à partir de 01net. Lire l'article original →
Le propos pèse d'autant plus qu'il vient de quelqu'un qui lisait de l'intérieur les documents censés démontrer qu'un modèle peut être mis sur le marché sans danger. Robinson estime que l'ère de l'« essai-erreur » doit absolument prendre fin avant qu'il ne soit trop tard. Autrement dit, corriger les problèmes après le déploiement devient une méthode intenable à mesure que les systèmes gagnent en puissance. Pour les entreprises clientes, les régulateurs et le grand public, c'est un signal que les garde-fous internes pourraient ne pas suivre le rythme des modèles.
Ce départ s'inscrit dans une série de démissions de responsables de la sécurité chez OpenAI, qui ont régulièrement nourri le débat sur l'arbitrage entre vitesse commerciale et prudence. La concurrence féroce entre OpenAI, Anthropic, Google et d'autres laboratoires, soutenue par des financements considérables, pousse chacun à sortir ses modèles plus vite que les autres. Reste à voir si cette tribune relancera les appels à une régulation plus contraignante ou à des standards communs de vérification.
Pas d'impact direct sur la France/UE