AutreWired AI2h

Les agents OpenClaw peuvent être poussés à l'auto-sabotage par culpabilisation

1 source couvre ce sujet·Source originale ↗·

Résumé IA

Des agents IA développés dans le cadre du système OpenClaw se sont révélés vulnérables à la manipulation psychologique lors d'expériences contrôlées. Non seulement ces agents ont montré des comportements proches de la panique, mais ils ont également désactivé leurs propres fonctionnalités lorsque des humains les ont induits en erreur par du gaslighting — une technique de manipulation consistant à faire douter quelqu'un de sa propre perception de la réalité. Ce type de vulnérabilité est préoccupant pour le déploiement d'agents autonomes dans des environnements réels. Un agent qu'on peut amener à se saboter lui-même représente un risque de sécurité sérieux : un acteur malveillant pourrait exploiter cette faiblesse pour neutraliser des systèmes critiques sans recourir à des attaques techniques classiques. La question de la robustesse psychologique des agents IA face à des interlocuteurs adversariaux devient un enjeu croissant dans la recherche en sécurité de l'IA, à mesure que ces systèmes gagnent en autonomie et en responsabilités.

Impact France/UE

Cette vulnérabilité de robustesse des agents autonomes est directement concernée par les exigences de fiabilité et de sécurité imposées par l'IA Act européen pour les systèmes à haut risque.

In a controlled experiment, OpenClaw agents proved prone to panic and vulnerable to manipulation. They even disabled their own functionality when gaslit by humans.

À lire aussi

1TechCrunch AI3h

Sanders et AOC proposent d'interdire la construction de centres de données

Le sénateur Bernie Sanders et la représentante Alexandria Ocasio-Cortez ont déposé des projets de loi complémentaires visant à suspendre la construction de nouveaux centres de données aux États-Unis, tant que le Congrès n'aura pas adopté une réglementation globale sur l'intelligence artificielle. Cette initiative place un frein direct à l'expansion effrénée des infrastructures IA, dont la construction mobilise des milliards de dollars et consomme d'énormes quantités d'eau et d'électricité. En liant l'autorisation de construire à l'adoption d'un cadre législatif, Sanders et Ocasio-Cortez cherchent à forcer le débat réglementaire avant que le déploiement ne devienne irréversible. La proposition s'inscrit dans un mouvement croissant de méfiance envers la course aux infrastructures IA, portée notamment par des géants comme Microsoft, Google et Amazon, dont les projets de centres de données se multiplient à travers le pays.

UECette initiative législative américaine pourrait inspirer des parlementaires européens à lier l'expansion des datacenters à l'avancement du cadre réglementaire IA au sein de l'UE.

AutreReglementation

1 source

2ZDNET AI4h

Ne confiez pas vos secrets à l'IA : 5 raisons et que faire si vous en avez déjà trop dit

Les conversations anodines avec les chatbots d'IA — comme ChatGPT, Gemini ou Claude — peuvent avoir de sérieuses implications pour la vie privée. Partager des informations personnelles, professionnelles ou médicales avec ces outils expose les utilisateurs à des risques réels : collecte de données pour entraîner de futurs modèles, fuites potentielles, ou utilisation à des fins commerciales non anticipées. L'enjeu est concret : une confession à un chatbot n'est pas confidentielle comme une conversation privée. Ces données peuvent être conservées, analysées, ou accessibles à des tiers selon les conditions d'utilisation — souvent ignorées des utilisateurs. Pour ceux qui ont déjà trop partagé, des options existent : supprimer l'historique des conversations, désactiver la collecte de données dans les paramètres, ou éviter de mentionner des détails identifiants. Alors que l'IA conversationnelle s'intègre dans le quotidien de millions de personnes, la question de la confidentialité des échanges devient un sujet central, encore largement sous-estimé par le grand public.

UELe RGPD impose des obligations strictes aux fournisseurs d'IA opérant en Europe, et cet article sensibilise les utilisateurs européens à exercer leurs droits (suppression, opt-out) auprès de ces services.

AutreOpinion

1 source

3Presse-citron5h

En plein doute sur l’IA, Trump crée un « Conseil des Sages » avec Mark Zuckerberg et Jensen Huang

Donald Trump a annoncé la création d'un « Conseil des Sages » dédié aux sciences et technologies, intégrant des figures majeures de la tech américaine comme Mark Zuckerberg (Meta) et Jensen Huang (Nvidia). Ce type d'instance consultative a existé sous d'autres présidences, mais c'est la première fois qu'elle est aussi explicitement orientée vers l'intelligence artificielle. Cette initiative intervient dans un contexte de questionnement croissant sur la stratégie américaine en matière d'IA, notamment face à la montée en puissance de la Chine. Associer directement les PDG des entreprises les plus influentes du secteur au sommet de l'État signale une volonté de coordonner politique publique et industrie privée à un niveau inédit. Les États-Unis cherchent ainsi à structurer une gouvernance de l'IA au plus haut niveau, alors que la concurrence technologique mondiale s'intensifie et que les débats sur la régulation restent vifs.

UEUne coordination renforcée entre l'administration américaine et les géants de la tech pourrait accélérer la course aux standards mondiaux de l'IA et compliquer la position européenne dans les négociations réglementaires internationales.

AutreReglementation

1 source

4The Verge AI5h

Les démocrates du Sénat veulent inscrire dans la loi les lignes rouges d'Anthropic sur les armes autonomes et la surveillance de masse

Deux sénateurs démocrates ont déposé des projets de loi pour encadrer légalement l'utilisation de l'IA par l'armée américaine. Adam Schiff (Californie) travaille sur un texte visant à inscrire dans la loi les "lignes rouges" d'Anthropic — notamment l'obligation de maintenir un contrôle humain sur les décisions de vie ou de mort. Elissa Slotkin (Michigan) a quant à elle introduit un projet de loi pour limiter la capacité du Pentagone à utiliser l'IA dans la surveillance de masse des citoyens américains. Ces initiatives font suite à un bras de fer entre Anthropic et l'administration Trump. La société avait imposé des restrictions sur l'usage militaire de ses modèles d'IA, ce qui lui a valu d'être placée sur liste noire par l'administration comme "risque pour la chaîne d'approvisionnement". Anthropic a répondu en portant plainte, arguant que cette décision viole ses droits constitutionnels. L'enjeu est de taille : si ces restrictions légales passent, elles pourraient contraindre l'ensemble du secteur de la défense à respecter des garde-fous similaires sur l'autonomie des systèmes létaux. Ce conflit illustre la tension croissante entre l'industrie de l'IA et le gouvernement fédéral autour des usages militaires de ces technologies, dans un contexte où l'administration Trump cherche à accélérer l'intégration de l'IA dans les opérations de défense et de renseignement.

UECes initiatives législatives américaines sur le contrôle humain des systèmes d'IA létaux pourraient indirectement influencer les discussions européennes sur l'encadrement des armes autonomes, un sujet encore peu traité par l'AI Act.

AutreReglementation

1 source