Le culte de l'IA générative a un goût d'eugénisme

Les développeurs de Crimson Desert admettent avoir utilisé de l’IA générative

Pearl Abyss, le studio sud-coréen à l'origine de Black Desert Online, a publiquement reconnu avoir eu recours à l'IA générative dans le développement de Crimson Desert, son action-RPG très attendu. Cette admission, diffusée sur les réseaux sociaux, place le studio face à une communauté de joueurs et de créatifs de plus en plus vigilants sur l'usage de ces technologies dans l'industrie du jeu vidéo. La question de l'IA générative dans la création de jeux vidéo est devenue un sujet sensible, à la croisée des débats sur l'emploi des artistes, la propriété intellectuelle et la qualité créative des œuvres. Pour un titre aussi attendu que Crimson Desert, dont le développement a été marqué par plusieurs reports, cette révélation risque d'alimenter les interrogations sur la nature et l'ampleur des éléments générés automatiquement, qu'il s'agisse de textures, d'assets visuels ou d'autres contenus. Le cas Pearl Abyss n'est pas isolé. Le studio fait écho à la polémique récente autour de Sandfall Interactive, qui avait lui aussi dû s'expliquer publiquement sur l'utilisation d'outils d'IA dans son jeu Clair Obscur : Expedition 33. Ces mea culpa successifs révèlent une tendance de fond dans l'industrie : l'intégration discrète, parfois non déclarée, de l'IA générative dans les pipelines de production, suivie d'une reconnaissance publique sous pression communautaire. Face à une montée des attentes en matière de transparence, les studios semblent désormais contraints de communiquer ouvertement sur leurs pratiques, sous peine de voir leur image écornée avant même la sortie de leurs titres. Crimson Desert n'a pas encore de date de lancement confirmée, et cette controverse pourrait peser sur la perception du jeu dans les mois à venir.

Booster les sondages avec l’IA générative, une (fausse) bonne idée ?

En 2024, l'Ifop a publié un sondage sur l'intention de vote des enseignants aux élections européennes en s'associant avec la start-up française Fairgen, spécialisée dans la donnée synthétique. Le sondage affichait un échantillon de 8 000 personnes et 580 enseignants de collège et lycée, mais en réalité, seuls 116 enseignants avaient été interrogés. Les 464 réponses restantes avaient été générées artificiellement via la technologie "DataBoostAI" de Fairgen, décrite comme une IA générative permettant "la mise en relation holistique des données recueillies" pour produire des "échantillons synthétiques". L'information figurait dans la notice méthodologique, mais l'Ifop n'avait pas jugé utile de mentionner explicitement l'usage de l'IA générative dans ses avertissements habituels. Interrogé par Next, l'Ifop n'a pas répondu. Fairgen se présente toujours comme "pionniers de la donnée synthétique" et revendique un partenariat avec l'Ifop "depuis 2023". L'enjeu est considérable pour l'industrie du sondage : si l'IA générative permettait de multiplier virtuellement les réponses à partir d'un petit échantillon réel, les coûts d'enquête s'effondreraient et les délais de production aussi. Les instituts pourraient théoriquement sonder des sous-populations très ciblées, les enseignants, les artisans, les jeunes ruraux, sans avoir à recruter des centaines de profils rares et coûteux. Mais les statisticiens Arthur Charpentier et Guillaume Chauvet pointent le risque fondamental : les données synthétiques reproduisent les biais et corrélations du jeu d'entraînement. Interroger 116 personnes puis en "générer" 464 autres ne produit pas de nouveaux faits, cela amplifie les patterns existants, avec une illusion de précision statistique. La transparence vis-à-vis du public et des régulateurs reste aussi entière : comment évaluer la fiabilité d'un sondage électoral si les réponses ont été en partie fabriquées ? La question va bien au-delà de l'Ifop. Tous les grands instituts lorgent sur ces techniques, mais peu ont franchi le pas publiquement. Chez Ipsos/BVA, le directeur d'études Mathieu Gallard assure que les sondages d'opinion politique et électorale n'utilisent pas encore ces méthodes, tout en reconnaissant que des tests sont en cours, notamment sur des applications marketing ou dans d'autres pays. L'élection présidentielle française de 2027 pourrait devenir un terrain d'expérimentation grandeur nature pour ces technologies, dans un contexte où la défiance envers les sondages est déjà élevée. Si la tentation économique est réelle, le risque de voir des résultats électoraux influencés par des données partiellement synthétiques, sans que le grand public en soit clairement informé, pose une question de fond sur la légitimité démocratique de ces outils.

💬 116 personnes interrogées, 464 inventées, et l'Ifop appelle ça un sondage de 8 000 individus. Le problème, c'est pas l'IA en soi, c'est qu'on habille une économie de moyens avec un vernis de précision statistique. Avec 2027 en ligne de mire, si les instituts s'y mettent sans règles claires, on va avoir des intentions de vote basées sur des patterns amplifiés, pas sur ce que les gens pensent vraiment.

Le vrai risque de l’IA générative : pas le remplacement, mais l’atrophie cognitive

L'intelligence artificielle générative ne menace pas tant nos emplois qu'elle ne risque de vider nos cerveaux. C'est la thèse défendue par Nicolas Bourgerie, CEO de Teach Up, qui distingue deux visions radicalement opposées de l'IA : celle qui produit à notre place, ChatGPT, Copilot, Gemini, Claude, et celle qui entraîne l'apprenant à construire sa propre maîtrise. La première crée une illusion de savoir ; la seconde exige un effort cognitif réel. L'enjeu est stratégique pour les organisations. En déléguant systématiquement les tâches analytiques ou rédactionnelles à une IA générative, les collaborateurs obtiennent des résultats sans comprendre le raisonnement sous-jacent. Cette dépendance est particulièrement dangereuse dans les métiers où jugement, responsabilité et relation humaine ne peuvent être externalisés : management, conformité réglementaire, vente à forte valeur ajoutée, prise de décision stratégique. Les secteurs régulés, banque, assurance, santé, automobile, concentrent les risques les plus aigus. Des cas concrets illustrent le phénomène. Chez plusieurs clients de Teach Up dans la banque et l'industrie automobile, l'usage spontané d'IA générative avait uniformisé les réponses commerciales et affaibli l'argumentation personnalisée. Des parcours de simulation client ont été déployés, forçant les équipes à structurer leurs réponses seules, à justifier leurs choix et à gérer des objections sans assistance en direct. Résultat : une meilleure maîtrise des offres, une plus grande capacité à traiter des cas complexes, et, selon les managers, une hausse mesurable de la confiance des collaborateurs face à l'imprévu. L'IA pédagogique repose sur un principe inverse à l'assistanat : placer l'apprenant en situation active, analyser ses erreurs conceptuelles, ajuster la difficulté, reformuler les problèmes pour l'obliger à expliciter son raisonnement. « Elle ne cherche pas à assister, mais à entraîner », résume Bourgerie. La question posée aux décideurs est finalement celle-ci : quel type de professionnel veut-on former, un collaborateur perpétuellement assisté, ou un expert capable d'agir avec autonomie et lucidité quand l'outil n'est plus là ?

Amnesty appelle à interdire les IA génératives entraînées sur du pillage de données

Amnesty International a publié un rapport détaillé sur les violations des droits humains causées par l'intelligence artificielle générative, appelant explicitement à interdire les modèles entraînés sur du scraping de données non consenti. L'organisation analyse l'ensemble de la chaîne de production de l'IA, des fabricants de puces GPU jusqu'aux contenus générés, en passant par la constitution des jeux de données. Elle cible directement les outils grand public les plus utilisés : ChatGPT, DALL-E, Gemini, Midjourney, LLaMA, Stable Diffusion et DeepSeek. Selon Amnesty, ces modèles ont été construits à partir de données collectées "sans la connaissance ni le consentement des personnes à l'origine des données", qu'il s'agisse d'utilisateurs de réseaux sociaux ou d'artistes. La conclusion est sans appel : le scraping massif et non consenti est "fondamentalement incompatible avec le droit international relatif aux droits humains", notamment le Pacte international relatif aux droits civils et politiques adopté par l'ONU en 1966. L'impact dépasse la seule question de la vie privée. Amnesty identifie des violations du droit à la non-discrimination, à la liberté d'expression et à la liberté de pensée. Le rapport pointe également les coûts environnementaux de l'IA générative, dont l'augmentation continue de la taille des modèles et des volumes de données nécessaires à leur entraînement affecte de manière disproportionnée les pays du Sud global. À cela s'ajoute une domination culturelle et linguistique anglophone structurelle, intégrée dès la phase de collecte des données. Pour l'ONG, derrière l'apparence de sophistication technologique se cache "une réalité faite de principes de conception qui bafouent les droits humains", comparables aux dérives des outils d'IA antérieurs à la générative. Ce rapport s'inscrit dans un mouvement plus large de contestation juridique et institutionnelle du modèle économique des grandes plateformes d'IA. En Europe, l'organisation noyb a déjà menacé Meta d'une class action pour l'entraînement de ses modèles sur des données d'utilisateurs européens, et plusieurs artistes ainsi que des éditeurs de presse ont engagé des procédures similaires aux États-Unis contre OpenAI et Google. Le règlement européen sur l'IA impose des obligations de transparence sur les données d'entraînement, mais les ONG estiment ces mesures insuffisantes. En demandant une interdiction pure et simple des systèmes bâtis sur du scraping non consenti, Amnesty franchit un cap rhétorique notable : il ne s'agit plus de réguler ces pratiques, mais de les proscrire au nom du droit international, ce qui pourrait alimenter de nouvelles stratégies judiciaires et législatives dans les mois à venir.

💬 La position d'Amnesty est radicale, et c'est exactement là son intérêt : plus de régulation molle, on interdit ce qui viole les droits humains, point. Interdire ChatGPT et Gemini du jour au lendemain c'est pas pour demain, mais ancrer ce débat dans le droit international plutôt que dans la soft law de l'AI Act, c'est un changement de registre qui peut nourrir des procédures vraiment musclées. Reste à voir si les juges suivront.