La sénatrice Elizabeth Warren interpelle le Pentagone au sujet de la décision d'accorder à xAI, la société d'IA d'Elon Musk, un accès aux réseaux classifiés militaires. Elle souligne que Grok, le chatbot controversé de xAI, a déjà produit des contenus nuisibles pour ses utilisateurs. Warren estime que cela représente un risque potentiel pour la sécurité nationale.
OpenAI a récemment conclu un accord controversé avec le Pentagone autorisant l'utilisation de sa technologie AI dans des environnements classifiés. Bien que Sam Altman affirme que l'armée ne peut pas utiliser la technologie pour développer des armes autonomes, l'accord semble plutôt exiger que le Pentagone respecte ses propres règles relativement permissives sur ces sujets. L'engagement d'OpenAI de prévenir l'utilisation de sa technologie pour la surveillance interne semble peu credible. Il est incertain quels sont les objectifs d'OpenAI, mais ils cherchent probablement à maximiser leurs ressources financières alors qu'ils dépensent beaucoup en formation d'IA et recherchent de nouvelles sources de revenus. Une question plus importante est l'avenir : OpenAI semble prêt à opérer dans un contexte militaire tendu, y compris pendant les frappes américaines contre l'Iran où l'IA joue un rôle croissant. Les applications potentielles incluent la priorisation de cibles par des modèles AI analyseant diverses informations textuelles, visuelles et vidéo, pour une validation finale humaine. Cependant, cela soulève des préoccupations sur l'efficacité et les risques d'une telle dépendance à l'IA dans des contextes militaires critiques.
Le Departement du Trésor des États-Unis a publié un guide sur les risques liés à l'IA pour le secteur financier, intitulé CRI Financial Services AI Risk Management Framework (FS AI RMF). Ce guidebook, résultat d'une collaboration de plus de 100 institutions financières et organisations industrielles, vise à aider les établissements financiers à identifier, évaluer, gérer et régir les risques associés aux systèmes d'IA. Les risques spécifiques à l'IA incluent la biais algorithmique, le manque de transparence dans les processus décisionnels, les vulnérabilités cybernétiques et les dépendances complexes entre systèmes et données. Le FS AI RMF est présenté comme une extension du cadre NIST, offrant des contrôles spécifiques au secteur et des directives d'application pratique pour promouvoir des pratiques d'IA responsables et soutenir l'innovation.
UELe guide du Trésor américain sur les risques de l'IA impacte potentiellement les institutions financières européennes en mettant en lumière des défis techniques et réglementaires spécifiques, encourageant ainsi des pratiques d'IA responsables alignées avec les normes NIST, influençant ainsi le secteur financier français via OVHcloud et SAP.
Ce tutoriel présente la construction d'un système de gouvernance IA d'entreprise en utilisant OpenClaw et Python. Le système combine une passerelle OpenClaw Gateway avec une couche de gouvernance Python qui classifie les requêtes selon leur niveau de risque, applique des politiques d'approbation, et achemine les tâches vers un agent IA (basé sur GPT-4.1 mini d'OpenAI). L'objectif est de permettre aux organisations de déployer des systèmes IA autonomes tout en conservant visibilité, traçabilité et contrôle opérationnel.
