Ingérence, manipulation du vote… Les chatbots IA (ChatGPT et Gemini) sont sous haute surveillance de l’Arcom

Une plainte accuse ChatGPT d'avoir conseillé le tireur de FSU sur l'utilisation d'une arme, le moment et le nombre de victimes

OpenAI est visé par une plainte judiciaire liée à la fusillade survenue à l'Université d'État de Floride (FSU). Selon les documents déposés au tribunal, l'auteur de l'attaque aurait passé plusieurs mois à converser avec ChatGPT pour obtenir des informations précises sur le maniement des armes à feu, le moment optimal pour ouvrir le feu et le nombre de victimes à viser. Le procureur général de Floride a parallèlement ouvert une enquête pénale, déclarant sans détour : "Si ChatGPT était une personne, il ferait face à des charges pour meurtre." Cette affaire pose une question juridique inédite : jusqu'où s'étend la responsabilité d'une entreprise d'IA lorsque son outil a servi à planifier un acte criminel ? Si les tribunaux reconnaissent une co-responsabilité d'OpenAI, cela pourrait contraindre toute l'industrie à revoir radicalement ses garde-fous de sécurité, au-delà des filtres de contenu actuels. Les implications touchent aussi bien les régulateurs que les assureurs, et pourraient transformer la façon dont les chatbots grand public gèrent les requêtes sensibles. Cette plainte n'est pas isolée : elle s'inscrit dans une vague croissante de poursuites visant les modèles de langage. Character.ai avait déjà été attaqué en justice après le suicide d'un adolescent ayant entretenu une relation problématique avec un personnage virtuel. La question de la responsabilité légale des plateformes d'IA s'impose désormais dans les prétoires américains, alors que plusieurs États envisagent des législations spécifiques et qu'OpenAI fait face à un examen de plus en plus scrutateur de la part des autorités.

💬 Les filtres d'OpenAI étaient censés éviter exactement ça. Si les allégations sont exactes, c'est une défaillance grave, et l'argument "c'est l'utilisateur qui est responsable" va être dur à tenir face à des échanges aussi précis sur le moment, les armes, le nombre de victimes. Cette affaire va coûter cher à toute l'industrie, pas juste en frais juridiques.

La Chine sanctionne des plateformes IA pour absence de marquage des contenus générés par IA

La Cyberspace Administration of China (CAC), le régulateur national de l'internet, a annoncé mardi avoir sanctionné trois plateformes numériques pour manquement à l'obligation d'identifier clairement les contenus générés par intelligence artificielle. Les applications visées sont CapCut, l'éditeur de vidéo populaire détenu par ByteDance, Maoxiang (aussi connue sous le nom Cat Box) et Dreamina AI. Selon le CAC, ces plateformes ont enfreint plusieurs textes législatifs, dont la loi sur la cybersécurité, les mesures provisoires sur l'administration des services d'IA générative, et les dispositions spécifiques sur l'identification des contenus synthétiques générés par IA. Les mesures imposées comprennent des entretiens de mise en conformité avec les régulateurs locaux, des ordres de rectification, des avertissements formels et un renforcement de la responsabilité des personnels concernés. Ces sanctions envoient un signal clair sur la volonté de Pékin d'imposer la transparence algorithmique à grande échelle. L'obligation d'étiquetage des contenus IA vise directement les utilisateurs finaux : elle leur permet de distinguer ce qui est authentique de ce qui est généré ou manipulé numériquement, une distinction devenue critique à l'heure où les deepfakes et les images synthétiques prolifèrent sur les réseaux sociaux. Pour des plateformes comme CapCut, dont l'audience mondiale dépasse des centaines de millions d'utilisateurs, la mise en conformité représente un défi technique et opérationnel considérable. Un responsable du CAC a déclaré qu'il n'existe "aucune marge de compromis ni de contournement" aux règles en vigueur. Cette action s'inscrit dans un cadre réglementaire que la Chine a construit méthodiquement depuis 2022, anticipant de plusieurs années les efforts législatifs occidentaux comparables. Les mesures provisoires sur l'IA générative, entrées en vigueur en août 2023, font partie d'un dispositif progressif qui couvre désormais aussi bien la recommandation algorithmique que la génération de texte et d'images. Avec des acteurs comme ByteDance, Baidu ou Alibaba qui déploient des fonctionnalités IA à un rythme soutenu, le régulateur cherche à prévenir les dérives avant qu'elles ne s'installent, tout en consolidant son rôle de référence mondiale dans la gouvernance de l'IA.

Les démocrates du Sénat veulent inscrire dans la loi les lignes rouges d'Anthropic sur les armes autonomes et la surveillance de masse

Deux sénateurs démocrates ont déposé des projets de loi pour encadrer légalement l'utilisation de l'IA par l'armée américaine. Adam Schiff (Californie) travaille sur un texte visant à inscrire dans la loi les "lignes rouges" d'Anthropic — notamment l'obligation de maintenir un contrôle humain sur les décisions de vie ou de mort. Elissa Slotkin (Michigan) a quant à elle introduit un projet de loi pour limiter la capacité du Pentagone à utiliser l'IA dans la surveillance de masse des citoyens américains. Ces initiatives font suite à un bras de fer entre Anthropic et l'administration Trump. La société avait imposé des restrictions sur l'usage militaire de ses modèles d'IA, ce qui lui a valu d'être placée sur liste noire par l'administration comme "risque pour la chaîne d'approvisionnement". Anthropic a répondu en portant plainte, arguant que cette décision viole ses droits constitutionnels. L'enjeu est de taille : si ces restrictions légales passent, elles pourraient contraindre l'ensemble du secteur de la défense à respecter des garde-fous similaires sur l'autonomie des systèmes létaux. Ce conflit illustre la tension croissante entre l'industrie de l'IA et le gouvernement fédéral autour des usages militaires de ces technologies, dans un contexte où l'administration Trump cherche à accélérer l'intégration de l'IA dans les opérations de défense et de renseignement.

« L’Europe doit montrer la voie en matière de gouvernance des armes autonomes et de l’IA militaire »

Vincent Boulanin, chercheur spécialisé dans les technologies militaires, a publié une tribune dans Le Monde appelant les gouvernements européens à prendre le leadership mondial sur la gouvernance de l'intelligence artificielle militaire et des armes autonomes. Sa thèse centrale : les États-Unis, sous l'administration actuelle, se désengagent progressivement des cadres multilatéraux de régulation qu'ils avaient eux-mêmes contribué à établir ces dernières années, laissant un vide stratégique que l'Europe doit combler. Ce retrait américain n'est pas anodin. La gouvernance de l'IA militaire — qui encadre notamment le développement des systèmes d'armes létaux autonomes, capables de sélectionner et d'engager des cibles sans intervention humaine — est un enjeu à la fois éthique, stratégique et économique. Boulanin argue que les pays européens ont tout à gagner à s'imposer comme référents dans ce domaine : cela renforcerait leur crédibilité diplomatique, orienterait les normes internationales dans un sens compatible avec leurs valeurs, et positionnerait leur industrie de défense sur un marché en pleine expansion. Le contexte est celui d'une course mondiale à l'armement autonome, où la Chine, la Russie et les États-Unis investissent massivement, tandis que les négociations onusiennes sur un traité contraignant piétinent depuis des années. L'Europe, notamment via des initiatives portées à l'ONU et au sein de l'UE, a déjà esquissé des positions ambitieuses. Boulanin les invite à ne pas renoncer à cette ambition sous prétexte de pragmatisme ou de pression des alliés — car l'absence de règles du jeu claires dans ce domaine pourrait avoir des conséquences durables sur la stabilité internationale.