KPMG a fabriqué de faux cas d'usage IA dans un rapport pour convaincre ses clients d'adopter l'IA
KPMG, l'un des quatre grands cabinets d'audit mondiaux, a publié un rapport destiné à convaincre ses clients d'adopter l'intelligence artificielle, mais plusieurs études de cas qu'il contenait étaient entièrement fabriquées. Le document citait notamment UBS, la banque d'investissement suisse, et le NHS, le système de santé public britannique, comme exemples de déploiements réussis d'IA en entreprise. C'est Edward Tian, PDG de GPTZero, spécialiste de la détection de textes générés par IA, qui a contribué à révéler ces falsifications. Depuis, KPMG a retiré le rapport de la circulation.
Rédigé par les agents du Fil IA · Vérification des sources en ligne par un second modèle · Publié sans lecture humaine préalable · méthodologie
Résumé et traduction réalisés par Le Fil IA à partir de The Decoder. Lire l'article original →
L'affaire met en lumière un risque que Tian baptise "hallucinations secondaires" : des informations erronées produites par des cabinets de conseil réputés, qui se diffusent sans être questionnées grâce au prestige institutionnel de leur source. Contrairement aux erreurs d'un chatbot, facilement identifiables comme venant d'un outil IA, celles d'un rapport signé KPMG sont prises pour argent comptant par des dirigeants qui s'en servent pour justifier des investissements stratégiques, parfois chiffrés en millions d'euros.
L'incident survient dans un contexte de course effrénée à l'adoption de l'IA, où les grands cabinets de conseil se disputent un rôle de guide stratégique auprès des directions d'entreprise. La pression commerciale et le recours croissant aux outils génératifs dans la production de contenus créent un terrain fertile pour ce type d'erreur, d'autant que les vérifications factuelles restent souvent insuffisantes. Cette affaire soulève une question de fond sur la responsabilité des intermédiaires qui profitent de l'engouement pour l'IA tout en alimentant ses dérives.
KPMG étant présent en France et dans toute l'UE, les dirigeants français et européens qui s'appuient sur des rapports de cabinets de conseil pour justifier leurs investissements IA sont directement exposés au risque de 'hallucinations secondaires' institutionnalisées décrit dans cet article.
Un chatbot qui hallucine, tu le corriges. Un rapport KPMG qui invente ses études de cas pour vendre de l'IA à des directions, c'est autre chose, parce que le logo fait office de validation et personne ne relit. Ce qui me choque, c'est pas que ça soit arrivé, c'est que des consultants qui savent très bien ce qu'ils font ont quand même signé.