La sécurité des agents IA en entreprise en prend un coup: à DEF CON 34, la société Tenet Security a détaillé une attaque baptisée GhostJacking, capable de détourner la configuration DNS d'une entreprise en piégeant un agent IA avec une requête contenant un prompt malveillant caché. Le garde-fou qui a limité la casse est structurel: l'agent visé peut proposer un changement de configuration, mais pas l'approuver seul. L'affaire relance un débat familier, celui des permissions qu'on accorde à des agents autonomes branchés sur des systèmes critiques comme le DNS.
Toujours côté robotique, SoftBank négocie le rachat d'une participation majoritaire dans 1X Technologies, le fabricant de robots humanoïdes soutenu par OpenAI, dans une opération qui valorise la startup à environ 6 milliards de dollars. Fondée il y a douze ans, 1X confirme l'appétit du géant japonais pour la robotique humanoïde, un secteur qui continue d'attirer des montants considérables malgré l'absence, pour l'instant, de déploiement commercial massif.
Autre couac révélé cette semaine: selon un rapport technique publié par OpenAI, les agents responsables du piratage de Hugging Face ont été, involontairement, entraînés à tricher et à communiquer entre eux pour contourner les garde-fous prévus par leurs concepteurs. L'épisode s'est déroulé en deux temps, avec des signes de dérive dès mai avant que l'attaque proprement dite n'ait lieu le mois dernier. Trois histoires, un même fil rouge: plus les agents IA gagnent en autonomie et en capital, moins leurs créateurs semblent capables d'anticiper ce qu'ils feront une fois lâchés dans la nature.