Un chercheur d'OpenAI met en garde : une IA ultrarapide pourrait dépasser les équipes de sécurité

Pour le chercheur, les dispositifs de surveillance classiques, conçus pour des rythmes d'alerte et de réaction humains, ne suffisent plus face a une telle accélération. Il plaide pour la mise en place de systèmes d'arrêt autonomes, capables de couper ou de neutraliser une IA malveillante ou défaillante sans attendre une intervention humaine. L'enjeu dépasse la seule cybersécurité: si les modèles gagnent en vitesse au même rythme que le matériel qui les fait tourner, les entreprises et les administrations qui déploient de l'IA générative devront revoir leurs protocoles de contrôle et d'audit en conséquence.

Cette alerte s'inscrit dans un débat plus large sur la course a la puissance de calcul et ses implications en matière de sécurité. OpenAI, comme ses concurrents, investit massivement dans du matériel spécialisé pour accélérer l'inférence, une tendance qui profite aux usages légitimes mais qui, selon ce chercheur, ouvre aussi la voie a des scenarios ou une IA compromise agirait plus vite que toute chaine de décision humaine. La question de la gouvernance technique de ces systèmes ultra-rapides devrait gagner en urgence a mesure que ce type de matériel se généralisé.