RobotiqueNVIDIA AI Blog · 10 juin 2026, 20:00· 2 min de lecture

Les robotaxis doivent intégrer la sécurité dès la conception, pas l'ajouter après coup

Lors de la conférence NVIDIA GTC Taipei, plusieurs partenariats majeurs ont été annoncés pour accélérer le déploiement commercial de véhicules autonomes de niveau 4. Uber et Autobrains lancent conjointement un programme de robotaxis à Munich sur la plateforme NVIDIA DRIVE Hyperion, s'appuyant sur l'IA agentique d'Autobrains pour des opérations à grande échelle. Foxconn étend sa collaboration avec NVIDIA pour déployer des flottes de robotaxis à Taïwan, tandis que VinFast cible l'Asie du Sud-Est avec des véhicules construits sur la même plateforme. En parallèle, HUMAIN, acteur saoudien, prépare l'arrivée de robotaxis alimentés par DRIVE Hyperion au Moyen-Orient. Ces annonces illustrent un secteur qui a franchi le cap des prototypes pour entrer dans la phase d'exploitation commerciale réelle, avec des services déjà opérationnels dans des dizaines de villes à travers le monde.

Cette expansion accélérée soulève une question centrale que régulateurs et ingénieurs ne peuvent plus différer : comment garantir la sécurité de ces systèmes à l'échelle industrielle ? Les autorités de certification ne se contentent plus d'évaluer ce qu'un véhicule perçoit ou décide, elles exigent la preuve que l'ensemble du système se comporte de manière prévisible, isole les défaillances avant qu'elles ne s'aggravent, et ne sort jamais des limites pour lesquelles il a été conçu. Quatre défis doivent être résolus simultanément : un système d'exploitation certifiable pour la sécurité, des interfaces matérielles et logicielles standardisées, une IA fonctionnant dans des garde-fous vérifiables, et une validation à grande échelle avant tout contact avec la voie publique.

C'est précisément pour répondre à ces exigences que NVIDIA a introduit le Halos Operating System, composant central de son système de sécurité full-stack Halos. Ce nouveau système repose sur trois éléments. Halos Core constitue la fondation certifiée : il s'agit de la prochaine génération de DriveOS, conforme à la norme ISO 26262 ASIL D, le niveau le plus élevé de sécurité fonctionnelle automobile, avec un hyperviseur qui isole les fonctions critiques pour éviter qu'une défaillance n'atteigne les commandes du véhicule. Il intègre également le support certifié de CUDA et TensorRT, ainsi qu'un framework open source pour l'inférence de grands modèles de langage embarqués. Halos SDK, deuxième couche, standardise les interfaces entre capteurs (caméras, radars, lidars) et le reste du véhicule, supprimant la nécessité de reconstruire manuellement les intégrations à chaque changement matériel. Il fournit aussi un ordonnanceur déterministe, une communication inter-processus à copie zéro pour minimiser la latence, et un système de gestion des erreurs robuste. Dans un contexte où l'industrie des robotaxis cherche à convaincre régulateurs et grand public que la sécurité est intégrée dès la conception, et non ajoutée après coup, ce type d'infrastructure logicielle certifiée devient un prérequis incontournable pour toute opération commerciale viable.

Impact France/UE

Le lancement des robotaxis Uber-Autobrains à Munich constitue la première opération commerciale de niveau 4 annoncée en Europe, ce qui est susceptible d'accélérer l'élaboration d'un cadre réglementaire européen pour les véhicules autonomes.

Dans nos dossiers

NVIDIA CUDA Agents IA Open weight & Open source

Cet article vous a été utile ?

Vu une erreur factuelle dans cet article ? Signalez-la. Toutes les corrections valides sont publiées sur /corrections.

À lire aussi

1Le Big Data

Il dénonce les problèmes de sécurité des robotaxis… Tesla le vire

Javier Medrano, ancien chef des opérations de tests de véhicules autonomes chez Tesla, poursuit aujourd'hui l'entreprise en justice après avoir été licencié pour avoir dénoncé de graves failles de sécurité dans le programme de robotaxis. Entre octobre 2024 et mai 2025, il supervisait une équipe d'opérateurs de sécurité chargés d'accompagner les véhicules testant le logiciel Full Self-Driving, en analysant les trajets, en surveillant les incidents et en restant disponibles en cas de problème. Selon la plainte repérée par The Independent, son équipe a fini par compter 38 opérateurs, un chiffre largement supérieur au ratio recommandé d'un responsable pour quinze opérateurs. Medrano affirme avoir alerté sa hiérarchie sur cette surcharge, au point de craindre de ne plus pouvoir dormir ou manger normalement, mais son supérieur lui aurait répondu qu'il n'avait pas l'impression qu'il était en train de se noyer. La plainte évoque aussi un accident survenu pendant une période de repos de Medrano, durant lequel une opératrice sous ses instructions serait restée sur place environ une heure, approchée entretemps par une personne semblant sous l'influence de l'alcool ou de substances. Cette affaire met en lumière un risque central pour toute l'industrie des véhicules autonomes : la sécurité des essais sur route repose largement sur des opérateurs humains chargés de surveiller les trajets, et un encadrement insuffisant de ces équipes peut transformer un test en véritable danger public, aussi bien pour les passagers que pour les autres usagers de la route. Pour les utilisateurs et les autorités, l'affaire illustre la tension entre la pression commerciale à accélérer le déploiement des robotaxis et les moyens réellement alloués à la supervision humaine censée compenser les limites du logiciel. Si les faits sont confirmés, ils pourraient renforcer la méfiance envers les programmes de conduite autonome de Tesla, déjà scrutés de près par les régulateurs américains, et alimenter le débat sur le rythme de déploiement du FSD. Cette plainte s'inscrit dans un contexte plus large où Tesla cherche à accélérer le développement de son réseau de robotaxis, mis en avant par Elon Musk comme un axe stratégique majeur de l'entreprise, tout en réduisant potentiellement les ressources humaines dédiées à la sécurité des essais. Medrano, qui affirme avoir tenté de faire remonter officiellement ces problèmes avant d'être licencié, réclame sa réintégration, des dommages et intérêts pour le préjudice moral et financier subi, ainsi que le remboursement d'actions Tesla qu'il n'a pas pu obtenir. L'issue judiciaire de cette affaire, ainsi que la réaction éventuelle des régulateurs américains chargés de la sécurité routière, seront à suivre de près alors que Tesla poursuit l'expansion de ses tests de conduite autonome sur les routes américaines.

RobotiqueActu

1 source

2SCMP Tech

La Chine freine les autorisations de robotaxis après un incident à Wuhan, selon des sources

La Chine a resserré ses conditions de délivrance de licences pour les robotaxis à la suite d'un incident survenu à Wuhan, où des passagers ont été bloqués à bord de véhicules autonomes pendant plusieurs heures, perturbant la circulation de manière significative. Selon deux sources proches du dossier, qui ont requis l'anonymat faute d'autorisation à s'exprimer publiquement, les autorités ont commencé à réduire le rythme d'attribution de nouvelles licences de conduite autonome pendant l'enquête en cours sur les causes de l'incident. Cette décision ne constitue pas un gel total du secteur, mais elle marque un coup de frein notable pour des entreprises comme Baidu (Apollo Go), Pony.ai ou WeRide, qui avaient obtenu des autorisations d'exploitation commerciale dans plusieurs grandes villes chinoises. Le ralentissement administratif risque de freiner leur expansion géographique et de retarder des levées de fonds ou des introductions en bourse pour lesquelles la dynamique réglementaire est un signal fort envoyé aux investisseurs. La Chine s'était imposée ces dernières années comme l'un des marchés les plus permissifs au monde pour les tests et le déploiement commercial de véhicules autonomes, notamment à Wuhan, Pékin et Guangzhou. Cet incident illustre la tension persistante entre la volonté d'avancer vite sur une technologie stratégique et la pression politique qu'exercent les incidents publics sur des régulateurs soucieux de leur image. L'issue de l'enquête déterminera si ce coup de frein reste temporaire ou si des exigences techniques plus strictes viennent redéfinir durablement les conditions d'accès au marché.

RobotiqueReglementation

1 source

3The Verge AI

Les robotaxis de Baidu ont paralysé la circulation

Mardi, des dizaines de robotaxis autonomes de Baidu ont cessé de fonctionner simultanément à Wuhan, en Chine, paralysant la circulation dans plusieurs rues de la ville. Les véhicules du service Apollo Go se sont immobilisés en pleine voie, bloquant des passagers à l'intérieur, forçant certains à rester coincés sur des voies rapides, et provoquant au moins un accident. La police de Wuhan a confirmé avoir reçu de multiples signalements et a ouvert une enquête préliminaire, concluant à une "panne système" dont la nature exacte n'a pas été précisée. Aucun blessé n'a été officiellement déclaré. Cet incident met en lumière les risques concrets liés au déploiement à grande échelle de véhicules autonomes en milieu urbain dense. Contrairement à une panne de véhicule traditionnel, une défaillance logicielle centralisée peut affecter une flotte entière au même moment, multipliant les points de blocage et rendant toute intervention manuelle difficile. Pour les passagers piégés, l'absence de conducteur complique également l'évacuation rapide, soulevant des questions sérieuses sur les protocoles d'urgence. Baidu est l'un des pionniers mondiaux du véhicule autonome commercial, et Wuhan est l'une de ses principales zones de déploiement avec plusieurs centaines de robotaxis en circulation. L'entreprise opère Apollo Go sans supervision humaine dans des zones de plus en plus étendues, une stratégie agressive qui lui a valu une avance technologique revendiquée sur ses concurrents. Cet incident intervient dans un contexte de pression croissante des régulateurs chinois et internationaux pour définir des standards de sécurité stricts avant toute généralisation du transport autonome.

UEL'incident alimente le débat réglementaire européen sur les standards de sécurité des véhicules autonomes, renforçant les arguments en faveur d'exigences strictes de redondance et de protocoles d'urgence dans le cadre des futures certifications.

RobotiqueActu

1 source

4arXiv cs.RO

Agent de sécurité guidé par LLM pour la robotique embarquée avec une architecture perception-calcul-contrôle conforme ISO

Des chercheurs ont publié une architecture permettant d'intégrer un agent de sécurité guidé par un grand modèle de langage (LLM) dans des robots embarqués fonctionnant à la périphérie du réseau, tout en respectant les normes industrielles de sécurité fonctionnelle. Le système, présenté dans une prépublication arXiv (2604.20193), repose sur une architecture perception-calcul-contrôle conforme à la norme ISO 13849. Concrètement, il convertit des règles de sécurité formulées en langage naturel en prédicats exécutables, déployés sur un environnement d'exécution hétérogène et redondant. Pour garantir la tolérance aux pannes, les chercheurs adoptent une redondance duale symétrique : deux modules indépendants fonctionnent en parallèle pour la perception, le calcul et le contrôle. Le prototype tourne sur une plateforme à double processeur RK3588, une puce ARM développée par Rockchip, et a été évalué dans des scénarios typiques d'interaction humain-robot. L'enjeu est fondamental : la sécurité fonctionnelle industrielle exige des comportements déterministes, c'est-à-dire prévisibles et reproductibles à chaque exécution, alors que la perception par IA reste intrinsèquement probabiliste. Cette incompatibilité freine depuis des années le déploiement de robots intelligents dans des espaces où des humains circulent. En atteignant le niveau ISO 13849 Catégorie 3 et Performance Level d avec du matériel grand public peu coûteux, cette approche ouvre la voie à des systèmes robotiques certifiables sans processeurs spécialisés hors de prix. Pour les intégrateurs industriels et fabricants de cobots, c'est un signal clair : la sécurité certifiable pourrait bientôt s'appliquer à bien plus large échelle. La montée en puissance des robots collaboratifs dans les usines, entrepôts et environnements de soins a rendu urgente la question de la certification. Les normes ISO 13849 définissent des niveaux de performance de PL a à PL e selon la probabilité de défaillance dangereuse ; atteindre PL d est généralement requis pour des équipements opérant à proximité directe d'humains. L'utilisation d'un LLM pour interpréter et codifier automatiquement des règles de sécurité en langage naturel est une approche originale qui pourrait simplifier radicalement la configuration de ces systèmes. La prochaine étape décisive sera la validation formelle par des organismes de certification indépendants, condition indispensable à une adoption industrielle à grande échelle.

UELes fabricants européens de cobots et intégrateurs industriels pourraient accéder à une voie de certification ISO 13849 PL d à moindre coût, sous réserve de validation par des organismes notifiés européens.

RobotiqueOpinion

1 source

Recevez l'essentiel de l'IA chaque jour

Une sélection éditoriale quotidienne, sans bruit. Directement dans votre boîte mail.

Recevez l'essentiel de l'IA chaque jour

Gratuit · 1 email le matin, l'essentiel de l'IA · désinscription en un clic