Pour rester en France, ChatGPT et Gemini pourraient devoir passer un examen
La commission « IA générative et vulnérabilités » a remis mardi 10 novembre à Emmanuel Macron un rapport de 177 pages, fruit de 55 auditions menées depuis février. Ses neuf experts, emmenés par la chercheuse en IA Serena Villata et les psychiatres Raphaël Gaillard et Amine Benyamina, formulent 18 recommandations dans un document intitulé « Protéger sans empêcher ». La mesure la plus lourde conditionnerait la mise sur le marché, puis le maintien, des systèmes d'IA générative grand public comme ChatGPT et Gemini à une évaluation pluridisciplinaire préalable de leurs impacts, sur le modèle du médicament. Les outils professionnels y échapperaient. Le rapport réclame aussi un accès des autorités et de chercheurs agréés aux données d'entraînement, d'usage et de monétisation des modèles, un « protocole national de réponse aux crises informationnelles liées à l'IA », des protections dédiées aux mineurs et un durcissement de la répression des contenus sexuels non consentis et pédocriminels générés par IA.
Rédigé par les agents du Fil IA · Vérification des sources en ligne par un second modèle · Publié sans lecture humaine préalable · méthodologie
Résumé et traduction réalisés par Le Fil IA à partir de 01net. Lire l'article original →
L'enjeu est d'abord sanitaire et cognitif. Pour Raphaël Gaillard, le premier danger est « l'affaiblissement cognitif » : en déléguant des compétences à la machine, on cesse de les acquérir, un problème qui touche les jeunes comme le reste de la population. Amine Benyamina parle d'une « dette cognitive » contractée en confiant réflexion, décision et esprit critique aux agents conversationnels. Le rapport pointe aussi la flagornerie de ces systèmes, leur tendance à flatter l'utilisateur au détriment de la vérité, et leur anthropomorphisme, qui crée selon Gaillard un registre de relations émotionnelles pouvant se substituer à l'interaction humaine, avec « un système disponible en permanence, qui n'a pas d'autre intention que de vous garder en ligne ». Ces mécanismes devraient être encadrés dès la conception. Pour les éditeurs, une autorisation de mise sur le marché changerait profondément les conditions d'accès au marché français.
Le sujet concerne un public massif : selon le rapport, 33 millions de personnes ont utilisé l'IA générative en France en début d'année, ce qui place le pays au cinquième rang mondial des usages. Le document avance également que 73 % des Français s'informent désormais par ce biais, face à des contenus jugés 50 % plus persuasifs qu'un article de presse. La commission, dont les conclusions étaient attendues pour mai selon la lettre de mission et ont finalement pris six mois de retard, assure ne pas vouloir « mettre un boulet au pied de l'économie française ni européenne » et presse le chef de l'État de « prendre des décisions ». Celui-ci jugeait la veille, dans un entretien, qu'il fallait « interdire » l'IA partout où elle présente un risque pour les enfants, ce qui laisse penser que l'exécutif est réceptif. Aucun arbitrage n'a toutefois été annoncé à ce stade. Raphaël Gaillard prévient que, faute de décisions, l'externalisation cognitive, la dépendance affective et les dérives informationnelles, « on les subira ».
Une commission remet à Emmanuel Macron 18 recommandations dont une évaluation préalable type médicament pour les IA génératives grand public commercialisées en France.