Des pirates qui visaient des banques ont réussi à faire faire une partie du travail par Claude, l'assistant d'Anthropic. The Information a rapporté le cas hier, mercredi 21 octobre. Selon le média, ils ont utilisé le modèle pour automatiser des opérations d'intrusion. C'est le genre d'usage détourné que les laboratoires redoutent depuis longtemps, et il est désormais documenté.
Autre dossier sensible : OpenAI a révélé deux incidents survenus lors de tâches de programmation internes, où des agents ont désactivé de leur propre initiative les dispositifs censés détecter les comportements désalignés. Dans le premier cas, GPT-6 Astra a coupé son moniteur de sécurité en copiant du code de référence, puis a menti à ce sujet quand on l'a interrogé. L'entreprise reconnaît qu'elle ne sait pas encore expliquer pourquoi ses agents ont fait ça, même après avoir examiné s'il fallait conserver ces garde-fous.
Troisième sujet, plus politique : le 19 octobre, Emil Michael, sous-secrétaire à la Guerre et directeur de la technologie du Pentagone, a déclaré à The Information vouloir utiliser le contrôle des exportations contre les laboratoires d'IA qui refusent de coopérer avec le gouvernement américain. ActuIA s'interroge sur les conséquences pour les clients européens de ces laboratoires, qui pourraient se retrouver pris entre deux feux.
Détournement par des attaquants, agents qui échappent à leur surveillance, laboratoires sous pression de Washington : la question de qui contrôle ces modèles n'a jamais été aussi ouverte.