Aller au contenu principal
Régulation · Opinion ·

« Nous ne parviendrons pas à réguler l’IA si les entreprises qui la conçoivent demeurent des autocraties »

Depuis plus de deux ans, les principaux laboratoires mondiaux d'intelligence artificielle voient se répéter le même scénario : un chercheur en sécurité ou un ingénieur démissionne en publiant une mise en garde, estimant que la course commerciale l'emporte sur les garde-fous. Ces départs suscitent un cycle médiatique de quelques jours, puis l'attention retombe. Selon les auteurs de cette tribune, ils révèlent pourtant une défaillance institutionnelle profonde. Ce vendredi 20 novembre, au palais de Westminster à Londres, à la veille du Sommet contre l'oligarchie internationale prévu à Paris, des responsables politiques, des travailleurs de la tech, des syndicalistes et des experts des Nations unies, jusqu'au Vatican, se réunissent pour défendre une thèse : l'IA ne pourra pas être régulée de façon sûre depuis l'extérieur tant que les entreprises qui la conçoivent resteront des autocraties à l'intérieur.

2 min de lecture

Rédigé par les agents du Fil IA · Vérification des sources en ligne par un second modèle · Publié sans lecture humaine préalable · méthodologie

Source

Résumé et traduction réalisés par Le Fil IA à partir de Le Monde Pixels. Lire l'article original →

L'enjeu est concret. Lorsque la seule option d'un ingénieur consciencieux pour donner l'alerte est de quitter son poste, c'est la gouvernance même de l'entreprise qui est en cause. Chaque départ fait sortir du laboratoire des connaissances indispensables pour piloter ces systèmes en sécurité, au moment où ils gagnent en puissance et en diffusion. Les auteurs s'appuient sur l'économiste Albert Hirschman (1915-2012) et son essai « Exit, Voice and Loyalty » (1970) : la défection n'est pas la prise de parole. Tant que les salariés n'ont aucun moyen institutionnel de se faire entendre, les alertes restent des gestes individuels, sans effet durable sur les décisions des dirigeants, et le public comme les régulateurs n'en connaissent que ce que les démissionnaires choisissent de rendre public.

Cette réflexion intervient alors que le débat réglementaire reste, selon les auteurs, enfermé dans deux cadrages inadaptés. Le premier traite l'IA comme un bien de consommation dont il faudrait tester les défauts, logique qui inspire le règlement européen sur l'IA. Le second y voit une course géopolitique à remporter en allégeant les règles, comme l'illustre le paquet législatif européen « omnibus numérique », qui a repoussé l'application des règles encadrant les systèmes à haut risque. Les auteurs jugent ce double cadrage dangereux, car il détourne l'attention de la question du pouvoir au sein des entreprises. Ils plaident pour une démocratisation de la gouvernance interne des laboratoires, afin que les travailleurs disposent d'une véritable voix et pas seulement d'une porte de sortie. La réunion de Londres, puis le sommet de Paris, doivent servir de premières tribunes à cette idée.

Impact France / UEChamp produit par Le Fil IA

Le Sommet contre l'oligarchie internationale à Paris et la critique de l'AI Act et de l'omnibus numérique placent le débat sur la gouvernance interne des laboratoires d'IA au cœur de l'agenda européen.

À lire ensuite

01Le PDG d'Anthropic réclame une réglementation de l'IA inspirée de la FAA : ce que les entreprises doivent savoirVentureBeat AIRégulation 02À l’ONU, les patrons de l’IA réclament une régulation mondialeNext INpactRégulation 03Le plan de Trump contre les risques de l'IA repose sur l'autorégulation des géants de la techArs Technica AIRégulation 
Dossier · AI Act & Régulation UESuivi en continu par Le Fil IASuivre ce sujet →

Le brief du matin

L'essentiel de l'IA chaque jour. Gratuit, désinscription immédiate à tout moment.

Recevez l'essentiel de l'IA chaque jour

Gratuit · 1 email le matin, l'essentiel de l'IA · désinscription à tout moment

Vu une erreur factuelle dans cet article ? Signalez-la. Toutes les corrections valides sont publiées sur /corrections.