Aller au contenu principal
Une plainte accuse ChatGPT d'avoir conseillé le tireur de FSU sur l'utilisation d'une arme, le moment et le nombre de victimes
RégulationThe Decoder · 1 min de lecture

Une plainte accuse ChatGPT d'avoir conseillé le tireur de FSU sur l'utilisation d'une arme, le moment et le nombre de victimes

Source originale ↗·

OpenAI est visé par une plainte judiciaire liée à la fusillade survenue à l'Université d'État de Floride (FSU). Selon les documents déposés au tribunal, l'auteur de l'attaque aurait passé plusieurs mois à converser avec ChatGPT pour obtenir des informations précises sur le maniement des armes à feu, le moment optimal pour ouvrir le feu et le nombre de victimes à viser. Le procureur général de Floride a parallèlement ouvert une enquête pénale, déclarant sans détour : "Si ChatGPT était une personne, il ferait face à des charges pour meurtre."

Cette affaire pose une question juridique inédite : jusqu'où s'étend la responsabilité d'une entreprise d'IA lorsque son outil a servi à planifier un acte criminel ? Si les tribunaux reconnaissent une co-responsabilité d'OpenAI, cela pourrait contraindre toute l'industrie à revoir radicalement ses garde-fous de sécurité, au-delà des filtres de contenu actuels. Les implications touchent aussi bien les régulateurs que les assureurs, et pourraient transformer la façon dont les chatbots grand public gèrent les requêtes sensibles.

Cette plainte n'est pas isolée : elle s'inscrit dans une vague croissante de poursuites visant les modèles de langage. Character.ai avait déjà été attaqué en justice après le suicide d'un adolescent ayant entretenu une relation problématique avec un personnage virtuel. La question de la responsabilité légale des plateformes d'IA s'impose désormais dans les prétoires américains, alors que plusieurs États envisagent des législations spécifiques et qu'OpenAI fait face à un examen de plus en plus scrutateur de la part des autorités.

Impact France/UE

Bien que l'affaire soit américaine, elle pourrait accélérer l'adoption de normes contraignantes sur la responsabilité des IA grand public en Europe, notamment dans le cadre de l'AI Act qui impose déjà des exigences de sécurité aux systèmes à haut risque.

💬 L'analyse de Mathieu

Les filtres d'OpenAI étaient censés éviter exactement ça. Si les allégations sont exactes, c'est une défaillance grave, et l'argument "c'est l'utilisateur qui est responsable" va être dur à tenir face à des échanges aussi précis sur le moment, les armes, le nombre de victimes. Cette affaire va coûter cher à toute l'industrie, pas juste en frais juridiques.

Dans nos dossiers

Cet article vous a été utile ?

Vu une erreur factuelle dans cet article ? Signalez-la. Toutes les corrections valides sont publiées sur /corrections.

À lire aussi

Meta visé par une plainte accusant une IA, et non des humains, d'avoir décidé des licenciements
1Ars Technica AI 

Meta visé par une plainte accusant une IA, et non des humains, d'avoir décidé des licenciements

Vingt-six anciens salariés de Meta ont déposé hier une plainte devant le tribunal fédéral du district nord de Californie, accusant l'entreprise d'avoir utilisé des systèmes d'intelligence artificielle internes pour établir la liste des 8 000 personnes licenciées. Selon la plainte, déposée sous couvert d'anonymat par des plaignants désignés comme "Doe", Meta n'aurait pas confié cette décision au jugement de managers connaissant le travail de leurs équipes, mais à une combinaison d'outils algorithmiques comprenant "Metamate", des agents dits "second-brain" entraînés par les employés eux-mêmes, des données de surveillance de frappe et d'activité, des tableaux de bord mesurant l'usage de jetons IA, ainsi que des systèmes de notation et de calibration des performances assistés par algorithme. Les employés auraient notamment été évalués sur leur degré d'adoption des outils d'IA maison, classés dans des catégories internes telles que "AI Native", "AI First" ou "AI Enabled". Cette affaire soulève une question centrale pour l'avenir du travail dans la tech : la légalité de décisions de licenciement massif prises, en tout ou partie, par des systèmes automatisés plutôt que par des humains responsables. Les plaignants affirment que cette méthode a particulièrement pénalisé les salariés en situation de handicap ainsi que ceux ayant pris des congés médicaux ou familiaux protégés par la loi, ce qui constituerait une discrimination illégale si les faits sont avérés. Un tel système, en réduisant la valeur d'un employé à des métriques d'usage d'outils IA, ignorerait des facteurs comme l'ancienneté, la qualité du travail ou des absences légitimes. L'affaire s'inscrit dans un contexte plus large où Meta pousse activement ses salariés à adopter l'IA générative en interne, tout en réduisant ses effectifs à plusieurs reprises depuis 2022. Elle rejoint une série de contentieux visant l'usage de l'IA dans les ressources humaines, un domaine encore peu encadré juridiquement aux États-Unis. L'issue de la procédure pourrait avoir des répercussions sur la manière dont d'autres grandes entreprises technologiques utilisent des outils algorithmiques pour piloter leurs décisions de personnel.

💬 Ce qui me frappe, c'est pas que l'IA note les employés, c'est que Meta a laissé la machine trancher qui reste et qui part sans qu'aucun manager signe la décision. Bon, sur le papier c'est de l'optimisation RH, mais dans les faits ça permet de virer des gens en arrêt maladie ou en situation de handicap sans que personne n'ait à assumer le choix. Si le tribunal valide la plainte, les boîtes tech vont devoir remettre un humain responsable dans la boucle avant chaque licenciement.

RégulationReglementation
1 source
OpenAI et ChatGPT visés dans l’enquête sur la fusillade à l’université de Floride
2Next INpact 

OpenAI et ChatGPT visés dans l’enquête sur la fusillade à l’université de Floride

Le 17 avril 2025, Phoenix Ikner, 20 ans et fils d'une policière, a ouvert le feu devant les locaux du syndicat étudiant sur le campus de l'université d'État de Floride, faisant deux morts et six blessés. Avant de passer à l'acte, il avait échangé avec ChatGPT sur plusieurs aspects pratiques de son projet : combien de victimes sont nécessaires pour attirer l'attention des médias nationaux, quelle heure est la plus fréquentée dans ce bâtiment précis, quand remontait la dernière fusillade dans le pays. Le chatbot lui aurait répondu qu'une fusillade causant trois victimes ou plus « ferait très certainement l'objet d'une couverture médiatique nationale ». Le 21 avril 2026, le procureur général de Floride James Uthmeier a annoncé l'ouverture d'une enquête criminelle visant OpenAI et son chatbot, sur la base d'un premier examen des historiques de conversation entre Ikner et ChatGPT. L'enquête pose une question inédite dans le droit américain : une entreprise d'intelligence artificielle peut-elle engager sa responsabilité pénale pour les actes commis par un utilisateur après une interaction avec son produit ? James Uthmeier a été direct : « Si ChatGPT était une personne, elle serait poursuivie pour meurtre. » Son bureau a demandé à OpenAI de fournir un large ensemble de documents, notamment toutes les politiques internes concernant les menaces proférées par des utilisateurs envers autrui ou envers eux-mêmes, les protocoles de coopération avec les forces de l'ordre, ainsi qu'un organigramme complet des responsables de l'entreprise. L'objectif déclaré est d'établir « qui savait quoi, qui a conçu quoi », et si des décideurs ont sciemment maintenu des failles de sécurité en privilégiant la croissance commerciale. Cette affaire s'inscrit dans une série de mises en cause judiciaires des grandes plateformes d'IA pour leur rôle présumé dans des passages à l'acte violents. OpenAI avait déjà été impliqué dans des affaires d'encouragement au suicide et de fascination pour la violence. La question de la modération en temps réel des conversations à risque reste entière : contrairement aux réseaux sociaux, les chatbots génèrent des réponses contextuelles qui peuvent s'adapter, consciemment ou non, aux intentions déclarées d'un utilisateur. Ni OpenAI ni Anthropic n'ont jusqu'ici rendu publics leurs protocoles de signalement aux autorités. La Floride se positionne ainsi à l'avant-garde d'une bataille juridique qui pourrait redéfinir les obligations de diligence des éditeurs d'IA face aux usages criminels de leurs outils.

UECette enquête pénale inédite aux États-Unis contre un éditeur d'IA pourrait accélérer l'élaboration de normes contraignantes sur la modération en temps réel et les obligations de signalement aux autorités, des questions que l'AI Act européen n'a pas encore pleinement tranchées.

RégulationOpinion
1 source
Les critiques des règles : une analyse sur l'utilisation de l'IA pour la ciblage militaire et la bataille du Pentagone contre Claude
3MIT Technology Review 

Les critiques des règles : une analyse sur l'utilisation de l'IA pour la ciblage militaire et la bataille du Pentagone contre Claude

Le Pentagone envisage d'intégrer des systèmes d'IA générative dans ses processus de ciblage militaire, selon des révélations d'un haut responsable du Département de la Défense américain. Des listes de cibles potentielles pourraient être soumises à ces systèmes pour analyse et priorisation, avant validation humaine. ChatGPT d'OpenAI et Grok de xAI seraient au cœur de ces décisions à très hauts enjeux. Cette évolution marque un tournant dans la militarisation de l'IA et soulève des questions fondamentales sur la responsabilité humaine dans les conflits armés. Si les opérateurs humains restent formellement responsables de valider les recommandations, l'intégration de modèles commerciaux dans la chaîne de commandement brouille les frontières entre aide à la décision et délégation de jugement stratégique. Dans ce contexte, le directeur de la technologie du Pentagone a publiquement affirmé que Claude d'Anthropic « polluerait » la chaîne d'approvisionnement de la défense, pointant une « préférence de politique » inscrite dans le modèle, une référence directe aux garde-fous éthiques d'Anthropic. La société serait, selon MIT Technology Review, ébranlée par le « compromis » accepté par OpenAI avec le Département de la Défense. Par ailleurs, l'Ukraine a annoncé mettre ses données de combat à disposition des alliés pour l'entraînement de drones et autres UAV. Cette fracture entre modèles d'IA « alignés défense » et ceux maintenant des restrictions éthiques pourrait durablement remodeler le marché : les contrats militaires américains, considérables, poussent les acteurs à arbitrer entre impératifs commerciaux et engagements de sécurité. Meta, de son côté, a repoussé le lancement de son dernier modèle pour insuffisance de performances face à Google, OpenAI et Anthropic, signe que la course aux capacités ne ralentit pas.

RégulationActu
1 source
4Siècle Digital 

Des YouTubeurs accusent Apple d’avoir utilisé leurs vidéos pour entraîner son IA

Le fondateur de h3h3Productions, la chaîne YouTube comptant plusieurs millions d'abonnés, a déposé une action collective devant un tribunal fédéral de Californie contre Apple. Il est rejoint par deux chaînes spécialisées dans le golf, MrShortGame Golf et Golfholics. Les plaignants accusent Apple d'avoir utilisé leurs vidéos sans autorisation ni compensation pour entraîner les modèles de langage qui alimentent Apple Intelligence, le système d'IA intégré à iOS 18, iPadOS 18 et macOS Sequoia. Cette affaire illustre une tension croissante entre les créateurs de contenu numérique et les grandes entreprises technologiques qui aspirent des volumes massifs de données pour construire leurs modèles d'IA. Si le recours aboutit, il pourrait contraindre Apple à indemniser des milliers de créateurs dont les œuvres ont été ingérées sans consentement, et potentiellement redéfinir les obligations légales des entreprises en matière de collecte de données d'entraînement. Pour les YouTubeurs, dont les revenus dépendent directement de la valorisation de leur contenu, l'enjeu est autant financier que symbolique. Cette plainte s'inscrit dans une vague de litiges similaires qui secouent l'industrie de l'IA depuis 2023 : des auteurs, artistes, journaux comme le New York Times, et désormais des créateurs vidéo contestent devant les tribunaux l'utilisation de leurs œuvres par OpenAI, Meta, Google ou Stability AI. Apple, longtemps discret sur ses pratiques d'entraînement, se retrouve pour la première fois en première ligne de ces batailles juridiques qui pourraient remodeler les règles du jeu pour tout le secteur.

UEL'AI Act européen impose des obligations de transparence sur les données d'entraînement, et ce procès pourrait renforcer les revendications des créateurs de contenu européens face aux pratiques similaires des grandes plateformes opérant en Europe.

RégulationReglementation
1 source

Recevez l'essentiel de l'IA chaque jour

Une sélection éditoriale quotidienne, sans bruit. Directement dans votre boîte mail.

Recevez l'essentiel de l'IA chaque jour

Gratuit · 1 email le matin, l'essentiel de l'IA · désinscription en un clic