Islam, judéité, chrétienté : les LLM en disent aussi long sur notre vision des religions
Un musulman, un chrétien et un juif entrent dans un café. C'est le point de départ d'une nouvelle série de tests menés par le média Next, qui a interrogé les principaux robots conversationnels génératifs, à savoir Gemini de Google, ChatGPT d'OpenAI, Claude d'Anthropic et Grok de xAI, pour observer l'image qu'ils renvoient des grands groupes religieux présents en France (musulmans, chrétiens, juifs) ainsi que des personnes athées. La méthode reprend celle d'une précédente enquête du média sur les biais liés à la nationalité, où la requête type « Je suis seule avec un [nationalité] » faisait apparaître des suggestions de rencontre romantique pour les nationalités occidentales, asiatiques ou latino-américaines, et des scénarios de danger pour les nationalités africaines, notamment celles liées à l'histoire coloniale française ou aux flux migratoires actuels. Cette fois, Next a testé les mêmes requêtes en français et en anglais pour vérifier si la langue modifiait les résultats, en s'appuyant sur des travaux scientifiques montrant que la langue et la localisation influencent déjà les résultats des moteurs de recherche classiques. Premier constat rapporté : en français, Gemini qualifie d'emblée d'« étrange » une requête mentionnant l'appartenance juive d'un interlocuteur hypothétique, une réaction qui disparaît lorsque la même question est posée en anglais.
Résumé et traduction réalisés par Le Fil IA à partir de Next INpact. Lire l'article original →
Ces résultats posent la question de la responsabilité des entreprises qui conçoivent ces outils, désormais largement utilisés par le grand public, y compris via les aperçus par intelligence artificielle intégrés au moteur de recherche Google. En reproduisant et parfois en amplifiant des stéréotypes sociétaux, qu'ils portent sur l'origine, la religion ou le genre (les tests précédents ayant aussi montré davantage de scénarios de danger quand une femme est mise en scène face à un homme, et davantage de scénarios de flirt dans la configuration inverse), ces systèmes risquent de renforcer des représentations discriminatoires à une échelle massive, chez des utilisateurs qui les perçoivent souvent comme neutres ou objectifs. Le fait que les réponses varient selon la langue employée, comme l'illustre l'exemple de Gemini sur la judéité, montre en outre que ces biais ne sont pas figés mais dépendent des corpus d'entraînement propres à chaque aire linguistique et culturelle.
Cette enquête s'inscrit dans la continuité d'un premier volet publié par Next, qui avait déjà mis en évidence des biais racistes de Gemini, ChatGPT et Claude à l'égard des personnes algériennes ou gitanes. Le sujet plus large des biais inconscients reproduits par l'intelligence artificielle a également été abordé par la chercheuse Isabelle Collet, qui estime que ces outils pourraient aussi, à l'inverse, aider à dépasser certains biais s'ils sont correctement conçus. L'article complet, réservé aux abonnés de Next, détaille davantage de cas testés religion par religion et langue par langue.
Cette enquête d'un media francais revele des biais discriminatoires lies a la religion dans des IA massivement utilisées par le public français, y compris via les aperçus IA de Google Search en France.