On ne sait toujours pas vraiment comment les gens utilisent l'IA
Des chercheurs en intelligence artificielle affirment que les rapports publiés par des entreprises comme Anthropic et OpenAI sur l'usage réel de leurs assistants comme Claude et ChatGPT ne montrent qu'une partie choisie du tableau, sans source indépendante pour les vérifier. Pour combler cette lacune, Anka Reuel, doctorante en informatique au Stanford Trustworthy AI Research (STAIR) Lab, codirige un nouveau projet baptisé AI Observatory, une plateforme publique qui agrège et analyse des conversations réelles avec des modèles comme Claude, Gemini ou Grok, collectées avec le consentement des utilisateurs via sept bases de données existantes. En appliquant la méthodologie de l'Anthropic Economic Index, référence la plus citée du secteur mais centrée sur les usages professionnels, à leur propre jeu de données, l'équipe a constaté que 48% des conversations auraient été écartées de l'analyse. Or ces échanges exclus contiennent bien davantage de contenus sensibles: santé et relations (44,2% contre 31,2% chez Anthropic), sujets adultes ou illicites (7,9% contre 2,1%), harcèlement et discours haineux (27,5% contre 5,66%), contenu sexuel (16,7% contre 2,4%). Le rapport 2025 d'OpenAI sur ChatGPT confirme une tendance similaire, seuls 30% des usages grand public relevant du travail. Entre 2023 et 2025, les conversations du corpus WildChat se sont allongées et complexifiées, avec davantage de bavardage informel, une baisse des mentions par le chatbot de sa propre nature artificielle, et un recul des échanges jugés problématiques, signe possible de garde-fous plus efficaces.
Résumé et traduction réalisés par Le Fil IA à partir de MIT Technology Review. Lire l'article original →
Ces écarts pèsent lourd car les régulateurs, chercheurs et décideurs s'appuient aujourd'hui sur des données très partielles pour évaluer les bénéfices et les risques de l'IA générative, selon Reuel. Un usage massif et croissant tourné vers la compagnie virtuelle, les relations ou des contenus sensibles, largement invisible dans les rapports d'entreprise centrés sur la productivité, change la nature des enjeux de sécurité et de santé mentale à traiter, et complique la capacité des pouvoirs publics à légiférer sur des bases solides.
David Widder, professeur assistant à la School of Information de l'université du Texas à Austin, non impliqué dans le projet, souligne l'intérêt d'une vue d'ensemble plutôt que de billets de blog séparés, comme ceux publiés par Anthropic sur l'usage de Claude pour le soutien affectif ou, plus problématique, la génération de contenus pédopornographiques. L'AI Observatory a aussi révélé de fortes disparités entre modèles: Grok et Gemini sont davantage utilisés pour la recherche d'information, Grok concentrant à la fois l'actualité politique et la désinformation, confirmant des travaux antérieurs sur la propagation de fausses informations via ce chatbot.
Aucune institution ou regulation europeenne n'est directement concernee, mais ces travaux pourraient nourrir le debat des regulateurs europeens sur la fiabilite des donnees d'usage de l'IA generative.