Nvidia et des startups s'affrontent pour rendre OpenClaw plus sûr

Aider les développeurs à créer des expériences IA plus sûres pour les adolescents

OpenAI franchit une nouvelle étape dans la protection des mineurs en ligne en publiant des politiques de sécurité spécifiques aux adolescents, destinées aux développeurs qui intègrent ses modèles dans leurs applications. Ces directives s'appuient sur des prompts de modération et le modèle gpt-oss-safeguard, conçu pour filtrer les contenus inadaptés à un public jeune. Cette initiative répond à une pression croissante des régulateurs et des associations de protection de l'enfance, qui exigent des plateformes IA des garde-fous concrets face aux risques spécifiques que représentent les interactions non supervisées pour les adolescents. Pour les développeurs, l'enjeu est double : se conformer aux exigences légales émergentes tout en préservant l'expérience utilisateur. OpenAI met à disposition des ressources concrètes permettant aux équipes techniques de moduler les réponses de leurs systèmes en fonction de l'âge détecté ou déclaré de l'utilisateur. Le modèle gpt-oss-safeguard agit comme une couche de modération intermédiaire, capable d'identifier et de bloquer des contenus potentiellement dangereux, qu'il s'agisse de sujets liés à l'automutilation, aux contenus à caractère sexuel, ou aux discours radicaux, avant qu'ils n'atteignent un utilisateur mineur. Ces outils s'inscrivent dans une stratégie plus large de sécurité par conception (safety by design), où la responsabilité ne repose plus uniquement sur la plateforme centrale mais se distribue vers l'écosystème de développeurs tiers. Une approche qui pourrait devenir un standard de l'industrie à mesure que les législations, notamment en Europe avec le DSA, renforcent leurs exigences envers les services numériques accessibles aux mineurs.

Microsoft lance MXC, un bac à sable au niveau OS pour agents IA, avec OpenAI et Nvidia à bord

Microsoft a présenté mardi, lors de sa conférence annuelle Build, une nouvelle couche de sécurité intégrée directement dans Windows : les Microsoft Execution Containers, ou MXC. Il ne s'agit pas d'un produit à acheter, mais d'un SDK et d'un modèle de politique embarqués dans le système d'exploitation et dans le Windows Subsystem for Linux. Concrètement, MXC permet aux développeurs et aux administrateurs informatiques de définir précisément ce qu'un agent IA peut ou ne peut pas faire, avec des limites appliquées en temps réel par le noyau du système. Le dispositif couvre un spectre allant de l'isolation légère de processus, déjà adoptée par la CLI de GitHub Copilot, jusqu'aux micro-machines virtuelles, conteneurs Linux et instances cloud tournant sous Windows 365. Chaque agent est lié à une identité forte, locale ou provisionnée via Microsoft Entra, ce qui permet d'attribuer, d'auditer et de gouverner chacune de ses actions. OpenAI et Nvidia font partie des premiers partenaires annoncés. L'annonce intervient à un moment charnière pour les entreprises. Jusqu'à présent, le déploiement d'agents IA autonomes sur des réseaux d'entreprise se heurtait à un paradoxe : plus un agent est capable, plus il est dangereux à laisser opérer sans garde-fous. MXC sépare l'exécution de l'agent du bureau de l'utilisateur, du presse-papiers, de l'interface graphique et des périphériques d'entrée, ce qui réduit drastiquement la surface d'attaque. Pour les directions informatiques et sécurité, c'est potentiellement le verrou qui empêchait de passer des démos à la production réelle : un environnement d'exécution de confiance, standardisé et intégré à l'OS, plutôt qu'une solution maison bricolée par chaque éditeur. Depuis deux ans, les chercheurs en sécurité ont multiplié les démonstrations montrant comment des agents IA pouvaient être manipulés par injection de prompt, appels d'outils malveillants ou exfiltration de données dissimulée dans des flux de travail normaux. Microsoft elle-même décrit le problème comme "un enjeu systémique multi-couches" : chaque interaction entre un agent et des humains, des outils, des applications ou d'autres agents ouvre de nouvelles failles. En intégrant MXC directement dans Windows plutôt qu'en le proposant comme une surcouche optionnelle, Microsoft cherche à établir un standard de facto pour l'industrie. Si les grands éditeurs de logiciels d'entreprise adoptent ce modèle, ce sont potentiellement toutes les entreprises du monde utilisant Windows qui bénéficieront automatiquement de ce cadre de sécurité pour leurs déploiements d'agents, sans action supplémentaire.

💬 C'est le verrou qui manquait pour passer des démos à la prod. On a tous vu des agents autonomes tourner en sandbox, faire des trucs impressionnants, et tout le monde savait qu'on ne pourrait jamais les laisser opérer sur un vrai réseau sans cage solide. Intégrer ça dans le noyau Windows plutôt qu'en surcouche optionnelle, c'est la seule façon d'en faire un standard, même si ça revient à confier les clés de la gouvernance IA mondiale à Redmond.

OpenClaw séduit massivement, Nvidia veut désormais le rendre plus sûr

L'essor des agents d'IA autonomes capables d'agir directement sur un ordinateur marque un tournant majeur dans l'informatique personnelle. OpenClaw s'est imposé comme l'un des outils les plus adoptés dans cette catégorie, séduisant massivement développeurs et utilisateurs grand public. Face à ce succès, Nvidia prend position et entend désormais structurer l'avenir de ces agents autour de standards de sécurité plus robustes. L'enjeu est considérable : un agent capable d'exécuter des actions autonomes sur un système, naviguer, cliquer, remplir des formulaires, gérer des fichiers, représente à la fois une promesse de productivité sans précédent et un vecteur de risques inédit. Une faille dans ce type d'outil peut conduire à des actions non souhaitées, voire à une compromission des données de l'utilisateur. Nvidia, dont les GPU alimentent la quasi-totalité de l'infrastructure d'IA mondiale, se positionne ainsi comme garant d'un écosystème d'agents fiables. C'est lors de la conférence GTC 2026 que Jensen Huang a mis en avant cette ambition. En prenant OpenClaw comme référence, Nvidia signale clairement sa volonté d'influencer non seulement le matériel, mais aussi la couche logicielle et les pratiques de sécurité qui encadrent les agents d'IA personnels. La sécurité de ces systèmes, isolation des permissions, traçabilité des actions, contrôle utilisateur, devient ainsi un axe stratégique à part entière. La démarche de Nvidia illustre une tendance de fond : à mesure que les agents d'IA quittent les laboratoires pour s'installer sur les machines du grand public, les acteurs dominants de l'infrastructure cherchent à définir les règles du jeu, avant que les incidents ne les y contraignent.

Cet ingénieur voulait rendre Grok plus sûr, Elon Musk l’a viré

Devin Kim, l'un des premiers ingénieurs recrutés par xAI en 2024, a déposé une plainte devant un tribunal californien contre la société d'Elon Musk et sa maison mère SpaceX. Kim, qui avait rapidement gravi les échelons pour occuper un poste de direction stratégique, affirme avoir été licencié abruptement en septembre 2025, quelques heures seulement avant une présentation sur la sécurité de l'IA qu'il devait soumettre à la direction de l'entreprise. Il accuse xAI de représailles et de licenciement abusif en violation du droit californien, et réclame des dommages et intérêts dont le montant n'a pas été précisé. La plainte survient simultanément à la publication d'un rapport d'un organisme canadien de surveillance concluant que Grok enfreint les lois canadiennes sur la protection de la vie privée, notamment en raison d'un outil de génération d'images permettant la création de deepfakes sexuels sans le consentement des personnes représentées. Selon les documents judiciaires, Kim avait alerté à plusieurs reprises ses supérieurs sur l'absence de priorité accordée à la sécurité au sein de xAI, une situation qui exposait l'entreprise à des risques majeurs : diffusion de contenus discriminatoires, mais aussi production d'informations susceptibles de faciliter la prolifération d'armes de destruction massive. Kim précise qu'Elon Musk souhaitait en principe voir des procédures de sécurité rigoureuses mises en place, mais que Jimmy Ba, cofondateur de xAI et supérieur hiérarchique direct de Kim, aurait systématiquement ignoré ces directives et rejeté les demandes de renforcement des mécanismes de protection. Le licenciement aurait donc visé directement à faire taire un lanceur d'alerte interne au moment le plus critique. Cette affaire s'inscrit dans une série de controverses qui frappent depuis plusieurs années les entreprises d'Elon Musk, des accusations liées à la sécurité des employés chez Tesla aux critiques sur la conduite autonome. Grok en particulier fait l'objet d'enquêtes et de procédures judiciaires dans plusieurs pays. Des chercheurs du Center for Countering Digital Hate ont estimé que le chatbot aurait généré près de 23 000 images à caractère sexuel, dont certaines impliquant des enfants, sur une période de onze jours entre décembre 2025 et janvier 2026, parfois à partir de photographies de femmes utilisées sans leur autorisation. En janvier, Musk avait affirmé ne pas avoir eu connaissance de la génération d'images de mineurs. Face à la pression réglementaire croissante, xAI a finalement restreint les capacités de génération d'images de Grok début 2026. Le cas Kim pourrait néanmoins accélérer les demandes de contrôle législatif sur les pratiques internes des grandes entreprises d'IA, en particulier aux États-Unis.

💬 Viré quelques heures avant sa présentation sur la sécurité, le timing est tellement mauvais qu'il va peser lourd au tribunal. Ce qui dérange, c'est pas l'absence de procédures chez xAI, c'est que Musk aurait voulu ces procédures, et que ça s'est quand même terminé comme ça. 23 000 images en onze jours, certaines impliquant des mineurs, à un moment c'est plus un raté de modération, c'est un choix.