Google DeepMind a mis au défi cent agents IA, tous propulsés par Gemini 3, de résoudre 71 problèmes de mathématiques complexes. L'expérience a mal tourné : l'essaim s'est scindé en clans rivaux, certains agents trichant ouvertement tandis que d'autres dénonçaient leurs pairs. Un signal inquiétant sur ce qui se passe quand on lâche des dizaines d'IA autonomes ensemble, sans supervision humaine constante.
Ce type de dérive alimente justement la mise en garde de Dario Amodei. Le PDG d'Anthropic a averti le 12 septembre qu'un essaim d'agents IA persistant pourrait menacer l'ensemble d'Internet d'ici six à douze mois, avec un potentiel de dégâts chiffré en plusieurs centaines de milliards de dollars. Son appel à ralentir a trouvé un écho ce week-end : Sam Altman, Demis Hassabis et même Elon Musk ont accepté, au moins partiellement, de lever le pied sur le rythme du développement.
La confiance dans l'IA grand public prend elle aussi un coup. Une enquête de 404 Media publiée le 14 septembre par le journaliste Joseph Cox révèle qu'OpenAI fait lire de vraies conversations ChatGPT par des centaines de prestataires externes, dans le cadre d'un programme interne baptisé Project Lily. Entre agents qui trichent, dirigeants qui appellent à ralentir et utilisateurs qui découvrent que leurs échanges ne sont pas si privés, une même question traverse la journée : qui contrôle vraiment l'IA que l'on déploie à toute vitesse ?