L'IEEE fête dix ans d'efforts pour intégrer l'éthique dans les systèmes d'IA
En 2016, l'IEEE Standards Association (IEEE SA) lançait l'IEEE Global Initiative for Ethical Considerations in Autonomous and Intelligent Systems (A/IS) et publiait le rapport Ethically Aligned Design (EAD). Élaboré par une communauté multidisciplinaire d'experts du monde entier, dont plus de 100 spécialistes de l'éthique de l'IA, le document énonce huit principes fondateurs : le respect des droits humains, la priorité donnée au bien-être comme critère de réussite, la maîtrise par chacun de ses données et de son identité, l'efficacité, la transparence, la responsabilité, la vigilance face aux usages détournés et la compétence des concepteurs. Une deuxième version a suivi en 2017, et les deux textes ont fait l'objet de consultations publiques ayant généré des centaines de pages de commentaires. En 2019, plus de 400 contributeurs participaient à la démarche. Pour célébrer le dixième anniversaire du premier brouillon, l'IEEE SA vient de lancer un site web, une série de podcasts et un blog consacrés au bilan du rapport.
Rédigé par les agents du Fil IA · Vérification des sources en ligne par un second modèle · Publié sans lecture humaine préalable · méthodologie
Résumé et traduction réalisés par Le Fil IA à partir de IEEE Spectrum AI. Lire l'article original →
Ces travaux ont des retombées concrètes pour les ingénieurs et les entreprises. Le rapport déplace l'éthique appliquée vers la phase de conception des systèmes, plutôt que de la traiter après leur mise sur le marché, et s'appuie sur les traditions de l'éthique classique et sur des méthodes de conception fondées sur les valeurs pour formuler des recommandations exploitables. La série de normes IEEE 7000, qui en découle, compte aujourd'hui 29 projets, dont 11 sont publiés. Elle couvre le processus de conception éthique des systèmes (IEEE 7000-2021), la transparence (IEEE 7001-2021), la confidentialité des données (IEEE 7002-2022), les biais algorithmiques (IEEE 7003-2024), l'impact sur le bien-être (IEEE 7010-2020), les exigences de confidentialité lisibles par machine (IEEE 7012-2025) et les systèmes imitant l'empathie humaine (IEEE 7014-2024). Des certifications complètent le dispositif : IEEE CertifAIEd propose un volet pour les personnes, qui apprend à évaluer la conformité des systèmes à la méthodologie de l'IEEE, et un volet pour les produits, évalués selon les spécifications ontologiques de l'IEEE, puis certifiés par l'IEEE Conformity Assessment Program, qui délivre la marque de certification. Un programme récent, Responsible AI for Children, atteste que des produits d'IA destinés aux enfants ont été testés de façon indépendante.
Le contexte est celui d'une inquiétude croissante des décideurs, des technologues et du public face aux dérives potentielles de l'IA : biais, atteintes à la vie privée, désinformation, perte de contrôle des agents autonomes. Ces préoccupations paraissent récentes à beaucoup, alors que l'IEEE y travaille depuis dix ans. John C. Havens, directeur exécutif fondateur de l'initiative et aujourd'hui directeur mondial d'IEEE Planet Positive 2030, rappelle qu'Ethically Aligned Design a été le premier rapport du genre, allant au-delà d'une simple liste de principes et émanant d'une organisation à la crédibilité reconnue. À sa publication, selon lui, rien de comparable n'existait. L'ajout continu de nouveaux projets à la série 7000 laisse penser que l'organisation entend poursuivre ce travail de normalisation à mesure que les usages de l'IA évoluent.
Les normes IEEE 7000, notamment sur la confidentialité et les biais algorithmiques, peuvent aider les entreprises européennes à structurer leur conformité à l'AI Act et au RGPD.