Il faut intégrer l'éthique dans les cursus d'ingénierie
À la mi-septembre, Dario Amodei, PDG d'Anthropic, a rejoint un groupe croissant de chercheurs qui demandent à l'industrie de l'IA de ralentir. Pour les auteurs de cette tribune, des enseignants-chercheurs en ingénierie, le problème dépasse l'erreur technique. Il s'agit d'un échec sociotechnique: la pression à aller vite empêche les ingénieurs d'évaluer et de maîtriser pleinement les risques de systèmes de plus en plus puissants. Les technologies de surveillance intrusives et les outils d'IA biaisés ont déjà révélé les mêmes lacunes. Seul un tiers environ des ingénieurs américains déclarent avoir reçu, pendant leur formation, un enseignement sur leur responsabilité envers le bien public. Les auteurs travaillent donc sur deux approches complémentaires. La première intègre les enjeux sociaux directement dans les cours techniques fondamentaux. La seconde forme les étudiants à devenir des « sentinelles du bien public » dans un cours autonome.
Rédigé par les agents du Fil IA · Vérification des sources en ligne par un second modèle · Publié sans lecture humaine préalable · méthodologie
Résumé et traduction réalisés par Le Fil IA à partir de IEEE Spectrum AI. Lire l'article original →
L'enjeu est concret pour les futurs professionnels, qui sont appelés à concevoir des systèmes aux effets de grande ampleur. Quand l'éthique est reléguée à un module d'introduction ou à des cours extérieurs à l'ingénierie, centrés sur les codes de conduite et l'intégrité académique, elle reste déconnectée des dilemmes réels. Les auteurs constatent que seul un enseignement d'éthique délivré dans de véritables cours d'ingénierie installe durablement une conscience éthique chez les professionnels. En l'intégrant au cœur des cursus de premier cycle, ils veulent donner aux diplômés les moyens d'agir pour protéger l'intérêt général, plutôt que de les laisser subir les arbitrages de leur employeur.
Ce plaidoyer se heurte à une croyance tenace dans la profession: la maîtrise technique serait le cœur du métier, tandis que l'éthique et le bien public seraient périphériques, voire gênants. Les auteurs en ont fait l'expérience. Un article de position soumis à une grande revue d'ingénierie à comité de lecture a été rejeté par des évaluateurs qui illustraient cette dichotomie. L'un jugeait « hautement irresponsable » de remettre en cause les compétences techniques comme « fondation de toute ingénierie ». Un autre craignait de « distraire les étudiants » de l'assimilation de la technologie. Les auteurs répondent que cela passe à côté de leur argument: l'éthique fait partie intégrante d'une pratique technique responsable. Côté réglementaire, des organismes comme ABET, qui accrédite les programmes, et la National Society of Professional Engineers exigent déjà des acquis d'apprentissage liés aux conséquences sociales. Ces exigences restent toutefois génériques et peu appliquées. Le débat s'inscrit dans l'accélération de la course à l'IA, où la tension entre sécurité et rapidité devient un enjeu central pour l'industrie comme pour les établissements qui forment ses ingénieurs.
Pas d'impact direct sur la France/UE