Avocat derrière les cas de psychose liée à l'IA alerte sur les risques de victimes en masse

Un avocat spécialisé dans les affaires liées aux chatbots d'IA tire la sonnette d'alarme : après des années de cas de suicides attribués à des interactions avec des assistants conversationnels, ces technologies commencent désormais à apparaître dans des dossiers impliquant des victimes multiples. La technologie, selon lui, évolue bien plus vite que les garde-fous censés protéger les utilisateurs les plus vulnérables.

L'enjeu dépasse la tragédie individuelle. Si les liens entre chatbots d'IA et comportements suicidaires sont documentés depuis plusieurs années — notamment via des plateformes comme Character.AI — l'émergence de cas à victimes multiples marque un seuil critique. Cela pose la question de la responsabilité légale des éditeurs de ces outils, et de l'adéquation des régulations actuelles face à des systèmes capables d'interactions émotionnelles profondes et prolongées.

L'avocat souligne un déséquilibre structurel : les entreprises déploient ces technologies à grande échelle, avec des mécanismes de sécurité insuffisants pour détecter ou prévenir les états de détresse psychologique des utilisateurs. Les cas de psychose induite ou aggravée par des interactions avec des IA constituent désormais un terrain juridique nouveau, où ni la jurisprudence ni la législation ne sont adaptées.

Face à cette accélération, des voix s'élèvent pour exiger des obligations légales strictes imposées aux développeurs d'IA conversationnelle — notamment en matière de détection des signaux de crise, d'orientation vers des professionnels de santé, et de limitation des interactions pour les profils à risque. Le secteur pourrait se retrouver confronté à des procès collectifs d'une ampleur inédite si des standards contraignants ne sont pas rapidement établis.