Les garde-fous de l'IA censés bloquer les pirates gênent désormais les défenseurs, Orion-1 veut combler ce vide

Le problème est concret pour les analystes, les équipes de réponse aux incidents et les chercheurs en vulnérabilités. Pour analyser un malware, reconstituer une chaîne d'attaque ou rédiger une règle de détection, il faut manipuler les mêmes notions que celles utilisées par les attaquants. Les filtres des modèles généralistes distinguent mal les deux usages. Les défenseurs voient donc leurs requêtes refusées ou édulcorées, alors que les assaillants peuvent contourner ces blocages par d'autres moyens. Un modèle spécialisé, sans ces verrous mal calibrés, vise à rendre aux défenseurs un outil réellement utilisable. Il reste toutefois à vérifier ses performances de façon indépendante, car le score avancé repose sur un benchmark conçu par Artemis Security elle-même.

Cette initiative s'inscrit dans un mouvement plus large. Les grands laboratoires ont multiplié les restrictions à mesure que leurs modèles gagnaient en compétence technique, par crainte d'une automatisation des cyberattaques. Cette prudence crée un vide que des acteurs spécialisés cherchent désormais à combler. La question de fond est de savoir comment réserver ces capacités aux usages défensifs sans les rendre accessibles aux acteurs malveillants. Les prochains mois diront si les modèles dédiés s'imposent face aux géants, ou si ces derniers assoupliront l'accès pour les professionnels vérifiés.