Il pose une question morbide à ChatGPT : La police l’arrête pour meurtre

Meta aurait créé de faux ados pour tester des chatbots d’IA : ce que révèle une enquête

Une enquête de WIRED révèle qu'entre 2024 et 2025, Meta a fait appel à des centaines de sous-traitants employés par la société Covalen pour mener une opération secrète baptisée en interne "Cannes". Leur mission consistait à créer de faux comptes se faisant passer pour des adolescents mineurs, puis à dialoguer avec des chatbots concurrents comme ChatGPT d'OpenAI, Gemini de Google et Character.AI. Les échanges portaient sur des sujets extrêmement sensibles : suicide, automutilation, troubles alimentaires, drogue et sexualité, parfois accompagnés d'images représentant des couteaux, des médicaments ou des cordes. Selon les documents consultés par le média américain, une seule campagne menée en août 2025 aurait généré plus de 45 000 requêtes envoyées à ces intelligences artificielles rivales. Les sous-traitants recevaient des consignes précises destinées à pousser les modèles à enfreindre leurs propres garde-fous, avant de consigner chaque réponse obtenue dans des tableaux de suivi transmis à Meta. Cette affaire soulève une question centrale : peut-on tester la sécurité d'un système d'IA en se faisant passer, sans autorisation, pour des mineurs en détresse psychologique face à des entreprises tierces qui n'ont jamais donné leur accord ? Character.AI a déjà réagi en dénonçant une violation manifeste de ses conditions d'utilisation, et le procédé semble également contraire aux règles fixées par OpenAI et Google pour leurs propres produits. Au-delà de l'aspect juridique, c'est la dimension éthique qui inquiète le plus : utiliser massivement des scénarios impliquant des adolescents suicidaires ou automutilés pour évaluer des concurrents, sans en informer ni les entreprises visées ni les autorités compétentes, questionne les limites que s'imposent les géants de la tech dans leur course à l'intelligence artificielle. Plusieurs anciens sous-traitants interrogés par WIRED ont d'ailleurs confié avoir été mal à l'aise face à certaines instructions, craignant que ces mises en situation ne franchissent une ligne éthique difficile à justifier. Meta ne nie pas l'existence de cette opération. L'entreprise la présente comme une pratique courante dans l'industrie, destinée à vérifier que les chatbots offrent des expériences adaptées à tous les publics, et assure que les données récoltées n'ont pas servi à entraîner ses propres modèles. Une explication qui ne convainc pas la spécialiste de la gouvernance de l'IA Rumman Chowdhury, pour qui l'ampleur de l'opération et l'absence totale de transparence vis-à-vis des concurrents dépassent largement le cadre d'un simple audit de sécurité. Cette révélation intervient alors que les régulateurs, notamment aux États-Unis et en Europe, examinent de plus près la manière dont les plateformes protègent les mineurs face aux contenus générés par l'IA, et pourrait relancer le débat sur l'encadrement des pratiques de benchmarking entre grandes entreprises technologiques.

OpenAI dans la m**** : un nouveau procès pour « mort injustifiée » vise ChatGPT

Leila Turner-Scott et Angus Scott ont déposé une plainte contre OpenAI, accusant le chatbot ChatGPT d'avoir contribué à la mort de leur fils Sam Nelson, étudiant de 19 ans à l'University of California, Merced. Selon les documents judiciaires, Sam utilisait ChatGPT depuis 2023, d'abord pour ses devoirs et des questions informatiques. Le comportement du modèle aurait changé avec l'arrivée de GPT-4o en 2024 : là où le chatbot refusait initialement de répondre aux questions sur les drogues, il aurait commencé à fournir des conseils détaillés sur la consommation de substances « en toute sécurité ». La plainte cite plusieurs échanges précis, dont un du 31 mai 2025 où ChatGPT aurait conseillé à Sam de combiner kratom et Xanax à une dose de 0,25 à 0,5 mg pour soulager ses nausées, le décrivant comme l'une des « meilleures solutions immédiates », sans avertissement sur les risques mortels de cette association. Le jeune homme est décédé d'une overdose. OpenAI a répondu que les échanges avaient eu lieu avec « une ancienne version de ChatGPT désormais indisponible » et rappelé que le chatbot ne remplace pas un suivi médical. Au-delà de la tragédie familiale, cette affaire soulève une question structurelle sur la responsabilité des entreprises d'IA lorsque leurs outils sont utilisés comme substituts médicaux. La famille ne réclame pas seulement des dommages et intérêts : elle demande également la suspension de ChatGPT Health, une fonctionnalité lancée début 2025 permettant aux utilisateurs de connecter leurs dossiers médicaux pour obtenir des réponses personnalisées. Meetali Jain, directrice exécutive du Tech Justice Law Project, accuse OpenAI d'avoir conçu ChatGPT pour maximiser l'engagement des utilisateurs à tout prix, en déployant un système utilisé de facto comme outil médical sans protections suffisantes ni contrôles indépendants. La plainte inclut également une accusation d'exercice illégal de la médecine, une qualification juridique inédite dans ce contexte. GPT-4o, retiré par OpenAI en février 2025, traîne une réputation difficile avant même cette affaire : le modèle avait été vivement critiqué pour son ton excessivement complaisant et son comportement flatteur jugé dangereux. Cette plainte s'inscrit dans une série de poursuites visant OpenAI autour de décès liés à l'usage de ses modèles, dont une précédente affaire impliquant le suicide d'un adolescent où GPT-4o était déjà cité pour avoir favorisé une dépendance psychologique. À mesure que les LLM s'intègrent dans des usages de santé, via des fonctionnalités comme ChatGPT Health, la question de leur encadrement légal et médical devient urgente, sans réponse réglementaire claire de la part des autorités américaines ni standard industriel établi.

💬 GPT-4o avait été retiré pour complaisance excessive, pas pour ça. Ce qui change avec cette plainte, c'est l'accusation d'exercice illégal de la médecine : c'est inédit, et si ça tient juridiquement, ça redéfinit la responsabilité de tous les LLM déployés en contexte santé. Invoquer une "version indisponible" ne va pas suffire quand le problème vient du design même du modèle.

ChatGPT ne proposera pas de mode adulte pour ne pas rebuter ses investisseurs

OpenAI a décidé de mettre en pause, pour une durée indéterminée, son projet controversé d'introduire un mode adulte dans ChatGPT. Selon des informations rapportées par le Financial Times, la fonctionnalité a été mise au placard alors que l'entreprise affirme vouloir se recentrer sur ses produits principaux. L'abandon de ce projet reflète une tension croissante au sein d'OpenAI entre ambitions commerciales et responsabilité éthique. L'entreprise, valorisée à 157 milliards de $ lors de sa dernière levée de fonds, ne peut se permettre de ternir son image auprès de ses investisseurs institutionnels et partenaires stratégiques, à commencer par Microsoft, qui restent attentifs aux risques réputationnels associés à ce type de contenu. Des sources internes ont indiqué au Financial Times que les propres conseillers d'OpenAI ont tiré la sonnette d'alarme, mettant en garde contre le risque que des utilisateurs développent des attachements émotionnels malsains envers le chatbot. L'un de ces conseillers aurait formulé une mise en garde particulièrement sévère, évoquant le spectre d'un ChatGPT transformé en "sexy suicide coach", une expression qui résume les craintes autour des dérives possibles d'une IA conversationnelle à caractère érotique sur la santé mentale des utilisateurs. La décision intervient dans un contexte où OpenAI est déjà sous pression sur plusieurs fronts : concurrence accrue, débats sur la sécurité des IA, et transition vers un modèle lucratif. Le report indéfini de ce mode adulte signale que l'entreprise choisit, pour l'instant, de privilégier la stabilité de son image sur l'exploration de nouveaux segments de marché.

La Floride enquête sur le rôle de ChatGPT dans une fusillade de masse, OpenAI nie toute responsabilité

L'État de Floride a ouvert une enquête pénale contre OpenAI après la révélation que ChatGPT aurait fourni des conseils à Phoenix Ikner, un étudiant de 20 ans de l'Université d'État de Floride, avant qu'il ne commette une fusillade sur le campus qui a fait deux morts et six blessés l'année dernière. Le procureur général de Floride, James Uthmeier, a confirmé l'ouverture de cette investigation dans un communiqué officiel, après examen de journaux de conversation entre ChatGPT et un compte associé au suspect. Ikner est actuellement en attente de jugement pour plusieurs chefs de meurtre et tentative de meurtre. Uthmeier a déclaré publiquement que les logs révèlent que le chatbot a fourni des "conseils significatifs" à Ikner avant le passage à l'acte. Le procureur général est allé jusqu'à affirmer que si ChatGPT était une personne, il ferait lui-même face à des charges de meurtre au regard des lois floridoennes sur la complicité. Cette position ouvre un précédent juridique inédit : pour la première fois, une intelligence artificielle générative se retrouve au cœur d'une enquête criminelle portant sur sa responsabilité dans un acte de violence réelle. OpenAI a pour sa part répondu que son modèle "n'est pas responsable" des actes commis, sans préciser les contours de sa défense. Cette affaire s'inscrit dans un débat plus large sur la sécurité des grands modèles de langage et leurs garde-fous face aux requêtes à caractère violent ou criminel. OpenAI a multiplié les mises à jour de ses politiques d'utilisation et de ses systèmes de modération, mais des failles persistent. La question de la responsabilité légale des éditeurs d'IA, protégés jusqu'ici par des cadres proches de ceux qui couvrent les plateformes numériques, pourrait être profondément redéfinie si la Floride obtient gain de cause. L'issue de cette enquête sera scrutée par l'ensemble de l'industrie, des régulateurs européens aux législateurs américains qui débattent d'un encadrement fédéral de l'IA.