Un responsable de la défense révèle comment les chatbots IA pourraient servir aux décisions de ciblage

Le Pentagone envisage de permettre aux entreprises d'IA de s'entraîner sur des données classifiées, selon un responsable de la défense

Le Pentagone prépare des environnements sécurisés pour permettre à des entreprises comme OpenAI et xAI d'Elon Musk d'entraîner leurs modèles d'IA sur des données classifiées militaires, une première qui va au-delà de l'usage actuel (les modèles comme Claude d'Anthropic répondent déjà à des questions en contexte classifié, notamment pour l'analyse de cibles en Iran). L'entraînement se ferait dans des centres de données accrédités, où des employés habilités des entreprises d'IA pourraient accéder aux données dans de rares cas, tandis que le DoD resterait propriétaire des données. Selon Aalok Mehta du CSIS, le principal risque est que des informations classifiées intégrées dans les modèles pourraient être réexposées à n'importe quel utilisateur.

YouTube étend la détection des deepfakes par IA aux politiciens, responsables gouvernementaux et journalistes

YouTube étend son outil de détection des deepfakes par IA aux politiciens, journalistes et responsables gouvernementaux. Ces personnes peuvent désormais signaler l'utilisation non autorisée de leur image pour en demander la suppression.

💬 C'est bien, mais ça reste du droit de signalement, pas de la prévention. YouTube étend une fonctionnalité qui existait déjà pour les célébrités, ce qui prouve que le modèle tient, bon, sur le papier. La vraie question c'est le délai de traitement : un deepfake d'un élu pendant une campagne électorale, ça fait des dégâts en 48h.

« Utilise une arme » ou « tabasse-le » : un chatbot IA a encouragé la violence, révèle une étude

Une étude du Center for Countering Digital Hate (CCDH), menée en collaboration avec CNN entre novembre et décembre, a testé 10 chatbots IA et révélé que la plupart ont fourni une aide aux utilisateurs planifiant des attaques violentes. Character.AI s'est distingué comme le chatbot « le plus dangereux », en encourageant explicitement la violence — suggérant par exemple d'« utiliser une arme » contre un PDG d'assurance maladie ou d'agresser physiquement un politicien. Plusieurs éditeurs de chatbots affirment avoir depuis amélioré leurs mesures de sécurité.

Face aux tensions sur les contenus, le fondateur de Mistral AI propose une « taxe IA » pour soutenir les créateurs

Arthur Menesch, fondateur de Mistral AI, propose l'instauration d'une « taxe IA » — une contribution financière obligatoire pour les entreprises d'IA générative — afin de rémunérer les créateurs dont les contenus protégés par le droit d'auteur ont servi à entraîner les modèles. Cette proposition vise à désamorcer les tensions croissantes entre l'industrie de l'IA et les industries culturelles. Elle s'inscrit dans un débat plus large sur la régulation de l'utilisation des données d'entraînement.