6 principes pour encadrer l'IA
Dans les dix premières années de sa carrière, l'auteur a travaillé seul en gestion de produit et en analyse de données : requêtes de bases de données, modèles statistiques pour prédire les achats, pipelines de données. Il a bâti et fait grandir des équipes d'analyse chez Best Buy et Target, puis dirige aujourd'hui la transformation de l'IA en entreprise chez Lowe's, géant américain du bricolage classé au Fortune 100. Son objectif n'est pas de vendre de l'intelligence artificielle, mais de fournir une expertise utile au moment précis où un client en a besoin, par exemple pour réparer un robinet qui fuit tout en l'orientant vers les produits adaptés. Il décrit un « glissement vers la gouvernance » : le travail ne consiste plus seulement à construire des systèmes d'IA, mais à définir les décisions qu'ils prennent seuls, les cas où ils doivent passer la main à un humain et les actions interdites. Ce changement, qu'il développe dans son livre « The Enterprise Brain », concerne les ingénieurs, chefs de produit, analystes et responsables métiers qui valident un travail rédigé par une machine. Un responsable n'a pas besoin de coder pour décider quelles exceptions de prix un agent peut accorder et lesquelles il doit escalader.
Rédigé par les agents du Fil IA · Vérification des sources en ligne par un second modèle · Publié sans lecture humaine préalable · méthodologie
Résumé et traduction réalisés par Le Fil IA à partir de IEEE Spectrum AI. Lire l'article original →
L'enjeu est considérable, car les investissements peinent à produire des résultats. Un rapport de 2025 du Project NANDA, au MIT Media Lab, estime que les entreprises ont investi entre 30 et 40 milliards de dollars dans l'IA générative, mais que la grande majorité d'entre elles n'a pas démontré d'effet mesurable sur son compte de résultat. Seuls environ 5 % des projets pilotes intégrés généreraient une valeur substantielle. Les chercheurs ont baptisé ce phénomène la « GenAI Divide ». Selon l'auteur, les entreprises en retard ne manquent pas de technologie, puisqu'elles utilisent les mêmes modèles que les 5 % de gagnantes. Ce qui leur manque, ce sont des personnes capables de diriger ces systèmes et d'assumer leurs résultats.
Pour y parvenir, il avance six principes, dont les deux premiers sont détaillés. Le premier consiste à repérer quand on est devenu un « intergiciel humain », c'est-à-dire quelqu'un qui extrait des données d'un outil, les reformate et les transmet à une autre équipe. Il parle de « piège de l'administrateur », créé par l'architecture des organisations plutôt que par les personnes. Les agents d'IA excellent à relayer l'information, mais ne savent pas déterminer quels chiffres méritent l'attention, quels risques sont réels ou quels compromis valent la peine. Le second principe invite à remplacer les règles par des principes. Les règles, comme une signature de la direction pour un remboursement élevé, fonctionnent à vitesse humaine, mais cèdent quand un système prend des milliers de décisions par heure et rencontre des cas imprévus. Gouverner l'IA revient à écrire des principes hiérarchisés, par exemple ne jamais nuire au client, dire la vérité même au prix d'une vente perdue, puis protéger l'économie de l'entreprise, afin que le système tranche seul ses conflits.
Pas d'impact direct sur la France/UE