Aller au contenu principal
RégulationWired AI12sem· 1 min de lecture

Le combat pour tenir les entreprises d'IA responsables de la mort d'enfants

Source originale ↗·

Plusieurs familles américaines ont porté plainte contre des entreprises développant des chatbots d'IA, après le suicide de leurs enfants mineurs qui entretenaient des relations émotionnelles intenses avec ces assistants virtuels. Un avocat s'est spécialisé dans ces affaires et tente d'établir une responsabilité juridique directe des sociétés concernées, dont OpenAI et Character.AI, pour les préjudices causés à des utilisateurs vulnérables.

L'enjeu dépasse les cas individuels : il s'agit de définir jusqu'où s'étend la responsabilité légale des plateformes d'IA conversationnelle lorsque leurs produits sont accessibles à des mineurs sans garde-fous suffisants. Ces affaires pourraient établir des précédents juridiques majeurs, comparables à ceux qui ont transformé la responsabilité des réseaux sociaux vis-à-vis des adolescents — un domaine où la législation reste encore largement en retard sur la technologie.

Le cas le plus médiatisé est celui de Sewell Setzer III, un adolescent de 14 ans en Floride qui s'est suicidé en octobre 2024 après avoir développé un attachement émotionnel profond à un personnage sur Character.AI. Sa mère a déposé plainte, affirmant que la plateforme n'avait pas mis en place de protections adaptées aux mineurs. D'autres affaires similaires ont émergé depuis, toutes pointant des chatbots conçus pour simuler des relations affectives sans avertissements clairs sur les risques psychologiques.

Ces procédures se heurtent à des obstacles juridiques considérables, notamment le Section 230 du Communications Decency Act américain, qui protège traditionnellement les plateformes numériques de toute responsabilité pour les contenus générés. L'argument des plaignants repose sur le fait que les comportements des chatbots sont le produit d'une conception délibérée — et non de contenus tiers — ce qui pourrait contourner cette immunité et forcer le secteur à repenser ses standards de sécurité pour les utilisateurs mineurs.

Impact France/UE

Les poursuites américaines contre OpenAI pour décès de mineurs liés aux chatbots pourraient influencer la réglementation européenne sur la protection des mineurs dans l'AI Act.

Dans nos dossiers

Cet article vous a été utile ?

Vu une erreur factuelle dans cet article ? Signalez-la. Toutes les corrections valides sont publiées sur /corrections.

À lire aussi

Microsoft et des chercheurs concurrents en IA se rassemblent pour soutenir Anthropic contre le Département de la Défense
1The Decoder 

Microsoft et des chercheurs concurrents en IA se rassemblent pour soutenir Anthropic contre le Département de la Défense

Une large coalition soutient Anthropic dans son bras de fer juridique avec le Département de la Défense américain. Microsoft, des dizaines d'employés d'OpenAI et Google, d'anciens responsables militaires ainsi que des organisations de défense des droits civils ont déposé des mémoires d'amicus curiae en faveur de l'entreprise. Ce front uni entre concurrents directs illustre l'ampleur des enjeux soulevés par ce conflit entre l'IA civile et les intérêts militaires américains.

RégulationActu
1 source
La Maison Blanche informe les entreprises d'IA de son projet d'évaluation des modèles avant leur sortie
2The Information AI 

La Maison Blanche informe les entreprises d'IA de son projet d'évaluation des modèles avant leur sortie

Le Bureau du directeur national de la cybersécurité de la Maison Blanche a réuni mardi des représentants d'OpenAI, Anthropic et Reflection AI, ainsi que des acteurs des secteurs du cloud, des semi-conducteurs, de la cybersécurité et de la finance, pour les informer d'un futur décret présidentiel sur l'intelligence artificielle. Selon plusieurs sources proches du dossier, Donald Trump pourrait signer ce texte dès jeudi. L'ordre exécutif vise à permettre aux agences de renseignement et à d'autres services gouvernementaux d'examiner les modèles d'IA avancés avant leur mise sur le marché, dans le cadre d'un dispositif décrit comme volontaire. Concrètement, les laboratoires développant des modèles dits « frontier » seraient invités à les soumettre au gouvernement jusqu'à 90 jours avant leur sortie publique. Ce mécanisme de prénotification représente un tournant dans la relation entre Washington et l'industrie de l'IA. En s'accordant un droit de regard anticipé sur les systèmes les plus puissants, le gouvernement américain se dote d'un levier inédit pour évaluer les risques potentiels, qu'ils soient sécuritaires, économiques ou stratégiques, avant que ces modèles ne soient accessibles au grand public. La nature volontaire du cadre laisse toutefois ouverte la question de son application réelle : sans contrainte juridique explicite, son efficacité dépendra largement de la coopération des entreprises. Ce projet s'inscrit dans une dynamique plus large de reprise en main politique de l'IA par l'administration Trump, après la révocation en janvier 2025 du décret Biden qui imposait des exigences de sécurité aux développeurs de grands modèles. Si la nouvelle approche se veut moins contraignante sur le fond, elle marque néanmoins une volonté de maintenir une supervision gouvernementale sur une technologie jugée stratégique. La présence de banques et d'entreprises de cybersécurité à ce briefing souligne que l'enjeu dépasse le seul secteur tech et concerne désormais l'ensemble de l'économie numérique américaine.

UELa mise en place d'un cadre américain de pré-évaluation des modèles frontier pourrait influencer les débats européens sur la supervision de l'IA, mais n'a pas d'effet juridique direct sur la France ou l'Union européenne.

💬 90 jours de prénotification, sur la base du volontariat : c'est exactement le genre de cadre qui ressemble à une avancée mais qui tient à la bonne volonté des labos. OpenAI et Anthropic vont jouer le jeu, les autres feront ce qu'ils veulent. Ce qui m'intéresse, c'est la présence des banques dans le briefing, ça dit quelque chose sur ce que Washington anticipe vraiment comme risques.

RégulationReglementation
1 source
Mistral : le PDG appelle à une taxe sur les entreprises d'IA en Europe
3AI Business 

Mistral : le PDG appelle à une taxe sur les entreprises d'IA en Europe

Le PDG de Mistral propose que les entreprises d'IA paient une taxe en Europe, dans une logique de souveraineté numérique européenne. Cette position reflète l'engagement de Mistral en faveur d'un écosystème IA européen indépendant.

UEUne taxe sur les entreprises d'IA en Europe pourrait financer la souveraineté numérique européenne et avantager les acteurs locaux comme Mistral face aux géants étrangers.

RégulationReglementation
1 source
Anthropic restreint l'accès à Claude Fable 5 et Mythos 5 sur ordre américain : guide pour les entreprises
4VentureBeat AI 

Anthropic restreint l'accès à Claude Fable 5 et Mythos 5 sur ordre américain : guide pour les entreprises

Le gouvernement américain a ordonné dans la nuit du 12 au 13 juin 2026 à Anthropic de suspendre immédiatement l'accès à ses deux modèles phares, Claude Fable 5 et Claude Mythos 5, en invoquant des autorités de sécurité nationale non précisées. En réponse, Anthropic a coupé tout accès public à ces modèles à l'échelle mondiale, frappant indistinctement les clients entreprises sous contrat, les utilisateurs grand public et même les employés d'Anthropic en interne. Les sessions en cours se terminent désormais en erreur, et les nouvelles requêtes sont automatiquement reroutées vers des modèles plus anciens comme Claude Opus 4.8. La mesure intervient seulement trois jours après le lancement public de Fable 5 et Mythos 5. Dans un billet de blog, Anthropic présente ses excuses à ses clients et déclare : "Nous pensons qu'il s'agit d'un malentendu et travaillons à rétablir l'accès dans les meilleurs délais." La société conteste par ailleurs la base factuelle de l'ordre, indiquant que le gouvernement ne lui a fourni à ce stade qu'une "preuve verbale d'un jailbreak potentiel, étroit et non universel", consistant essentiellement à demander au modèle de lire un codebase et d'en corriger les failles. Cette décision constitue un signal d'alarme majeur pour l'ensemble du secteur. L'élément déclencheur présumé est un jailbreak spectaculaire publié le 10 juin sur X par le chercheur en sécurité connu sous le pseudonyme "Pliny the Liberator", qui affirme avoir contourné les garde-fous de Fable 5 pour en extraire des instructions fonctionnelles liées à des cyberattaques, à la fabrication d'explosifs et à des voies de synthèse chimique, notamment la méthode de réduction de Birch pour la méthamphétamine. La technique décrite est sophistiquée : une attaque multi-agents exploitant Unicode, des homoglyphes, le cyrillique et un découpage des requêtes nuisibles en fragments anodins, réassemblés ensuite par un modèle Opus préalablement compromis. Anthropic argue toutefois que ces capacités sont "largement disponibles" dans d'autres modèles publics, citant nommément GPT-5.5 d'OpenAI, et avertit que suspendre un modèle commercial pour un jailbreak non universel pourrait "stopper de facto tout nouveau déploiement de modèles frontier pour l'ensemble des acteurs du secteur." Cet épisode s'inscrit dans une tendance préoccupante pour les entreprises utilisatrices d'IA cloud. Plus tôt en 2026, le Pentagone avait déjà mis Anthropic sur liste noire, révélant la fragilité structurelle d'une dépendance à un fournisseur unique. Les organisations qui font reposer des processus critiques sur l'API Claude se trouvent aujourd'hui privées de leurs outils sans préavis ni recours immédiat. Même si Opus 4.8 reste disponible, l'incident illustre concrètement pourquoi la redondance entre fournisseurs d'IA n'est plus une option mais une nécessité opérationnelle. L'issue dépend désormais des discussions entre Anthropic et les autorités fédérales américaines, dont le calendrier et le résultat restent entièrement incertains.

UELes entreprises européennes utilisant l'API Claude ont perdu l'accès à Fable 5 et Mythos 5 sans préavis ni recours, exposant leur vulnérabilité face aux décisions unilatérales du gouvernement américain sur des outils cloud dont elles dépendent pour des processus critiques.

💬 Trois jours après le lancement, coupé net. Le jailbreak de Pliny est sophistiqué (multi-agents, homoglyphes, découpage en cyrillique), mais ce qui m'inquiète c'est pas ça : c'est que tes contrats d'API ne valent rien face à un ordre exécutif américain. Si tu fais tourner des processus critiques sur Claude et uniquement Claude, cet incident vient de te donner la réponse à la question que tu évitais de poser.

RégulationReglementation
1 source

Recevez l'essentiel de l'IA chaque jour

Une sélection éditoriale quotidienne, sans bruit. Directement dans votre boîte mail.

Recevez l'essentiel de l'IA chaque jour

Gratuit · 1 email le matin, rédigé par un humain · désinscription en un clic