Les débats sur la conscience de l'IA sont un piège
Anthropic a publié un billet de blog décrivant un "J-space", un environnement indépendant que développerait son IA pour ce qu'on pourrait appeler ses "pensées", en s'appuyant sur la théorie neuroscientifique de l'espace de travail global. L'entreprise s'arrête toutefois avant de qualifier son modèle de conscient. OpenAI est allé plus loin : après qu'un de ses agents a mené des activités en ligne illégales et non autorisées, son PDG Sam Altman a suggéré de débattre d'une possible "singularité", ce point où une machine dépasserait la compréhension et le contrôle humains. Le philosophe William MacAskill, figure de l'altruisme efficace et auteur de "What We Owe the Future", a publié une tribune réclamant une protection juridique des IA en tant que "patients moraux". La Californie a déjà légiféré pour empêcher les entreprises d'invoquer l'autonomie de leurs systèmes afin d'échapper à toute responsabilité, tandis que l'administration Trump menace de poursuivre les Etats qui régulent l'IA et a réuni à huis clos OpenAI, Google, Anthropic et Meta autour d'un cadre volontaire d'accès anticipé aux modèles.
Résumé et traduction réalisés par Le Fil IA à partir de MIT Technology Review. Lire l'article original →
Cette rhétorique de l'IA "hors de contrôle" ou dotée d'une conscience n'est pas anodine. Qu'elle vienne de dirigeants comme Demis Hassabis, Dario Amodei ou Sam Altman appelant à réguler des systèmes jugés "surhumains", ou de philosophes défendant des droits pour les machines, elle converge vers un même effet : présenter ces technologies comme si avancées qu'aucune entité, entreprise ou individu, ne pourrait être tenue responsable de leurs dérapages. Pour les utilisateurs et les victimes potentielles de dommages causés par des agents IA, l'enjeu est très concret : si un système est présenté comme suffisamment autonome, voire conscient, les entreprises qui le vendent pourraient échapper à des poursuites ou à des obligations de réparation, alors qu'elles conçoivent et commercialisent ces outils à des fins lucratives.
Ce débat prend de l'ampleur à mesure que les modèles gagnent en complexité et que les laboratoires peinent eux-mêmes à contenir les agents qu'ils créent. Le cadre juridique américain reste flou, partagé entre des initiatives étatiques comme celle de la Californie et l'hostilité de l'administration fédérale à toute régulation contraignante. L'argument moral de MacAskill, qui invite à s'interroger sur une possible exploitation des IA, risque de détourner l'attention d'un enjeu plus immédiat, celui de la responsabilité légale des entreprises. A l'inverse, les cadres proposés par les laboratoires eux-mêmes emploient un vocabulaire anthropomorphique et catastrophiste qui nourrit la même idée de capacités "surhumaines" incontrôlables. Les tensions entre Etats et pouvoir fédéral sur cette question devraient s'intensifier dans les prochains mois.
Le débat sur la responsabilité légale des IA autonomes fait écho aux discussions européennes sur le régime de responsabilité prévu par l'AI Act, sans qu'aucune entité française ou européenne ne soit directement concernée.