La sécurité, un enjeu a tous les niveaux pour deployer l'IA physique a grande echelle
NVIDIA a détaillé les fondations de sécurité qu'elle a bâties pour l'IA physique, secteur en pleine bascule de la recherche vers le déploiement à grande échelle. Selon le cabinet ABI Research, le parc mondial de véhicules autonomes de niveau 3 à 5 devrait atteindre 49 millions d'unités d'ici 2035, tandis qu'Omdia prévoit le déploiement d'environ 60 millions de robots industriels entre 2026 et 2035. Face à cette montée en puissance, NVIDIA présente Halos comme le premier et le seul système de sécurité complet couvrant l'ensemble de la chaîne, matériel, logiciel, comportement de l'IA et environnement d'exploitation, pour les véhicules autonomes et la robotique. Pour l'automobile, la pile technique s'appuie sur le calculateur DRIVE AGX Thor et la plateforme véhicule Hyperion conçue pour les véhicules autonomes de niveau 4, sur un système d'exploitation unifié bâti sur DriveOS certifié ASIL D, complété par Halos Core et Halos Middleware pour l'isolation des systèmes et la communication déterministe. Le modèle de bout en bout Alpamayo, des modèles vision langage action en source ouverte, vise à apporter de l'explicabilité sur les scénarios rares, tandis que le Halos Safety Evaluation Framework fournit les outils de validation par simulation. NVIDIA s'appuie sur plus d'une décennie de développement dans la sécurité des véhicules autonomes pour bâtir cette expertise en sécurité fonctionnelle, fusion de capteurs et vision par IA. Cette annonce marque un tournant pour l'industrie de la robotique et des véhicules autonomes, qui approche un point d'inflexion comparable à celui traversé par le secteur automobile ces dernières années. Constructeurs, régulateurs, assureurs et responsables de la sécurité au travail exigent désormais des preuves tangibles que le matériel, le logiciel, le comportement de l'IA et l'environnement d'exploitation fonctionnent ensemble en toute sécurité, sans intervention humaine. Pour les robots humanoïdes et industriels qui s'apprêtent à entrer massivement dans les usines et entrepôts partagés avec des travailleurs, disposer d'un cadre de sécurité éprouvé conditionne l'acceptabilité réglementaire et sociale de leur déploiement. L'enjeu dépasse la simple conformité technique: il s'agit de garantir que des machines pilotées par IA prennent des décisions sûres au moment précis où elles se traduisent en actions physiques, dans des environnements dynamiques que des barrières statiques ne peuvent plus entièrement contrôler. Cette évolution s'inscrit dans un changement de paradigme de sécurité que quatre facteurs viennent redéfinir: la nécessité d'une sécurité contextuelle capable de s'adapter aux conditions changeantes des routes, usines et entrepôts, l'exigence d'une assurance spécifique au comportement de l'IA combinant garde-fous de conception, d'exécution et de validation, le caractère continu du déploiement à mesure que mises à jour logicielles et nouvelles tâches modifient les conditions d'exploitation, et le recours croissant à la simulation et aux données synthétiques pour valider des scénarios trop nombreux pour être testés uniquement en conditions réelles. Des normes émergentes comme l'ISO/IEC TS 22440 commencent à encadrer spécifiquement les risques liés à l'IA. NVIDIA positionne Halos comme une réponse à ces quatre défis, avec des principes communs à l'automobile et à la robotique, mais des plateformes et des preuves de conformité adaptées à chaque domaine. Reste à voir comment régulateurs et assureurs s'approprieront ces référentiels à mesure que des dizaines de millions de véhicules et de robots autonomes rejoindront routes, usines et entrepôts d'ici 2035.
