Si ChatGPT ou Gemini vous induit en erreur, qui est le fautif ?

Ingérence, manipulation du vote… Les chatbots IA (ChatGPT et Gemini) sont sous haute surveillance de l’Arcom

L'Arcom, le régulateur français de l'audiovisuel et du numérique, a placé ChatGPT d'OpenAI et Gemini de Google dans son viseur pour les deux prochaines années. L'institution a annoncé son intention de « rééquilibrer les règles du jeu » vis-à-vis des plateformes numériques et des agents conversationnels IA, en ciblant explicitement leur rôle potentiel dans le processus électoral. L'échéance est claire : l'élection présidentielle française de 2027. L'enjeu central est celui de la responsabilité éditoriale des chatbots. Ces outils, consultés par des dizaines de millions d'utilisateurs pour s'informer, peuvent orienter les perceptions politiques, diffuser des informations inexactes ou amplifier des narratifs partisans sans que leur concepteur n'en assume la moindre responsabilité juridique. L'Arcom cherche à combler ce vide réglementaire avant que ces systèmes ne pèsent sur un scrutin majeur, comme ils ont pu le faire, selon plusieurs études, lors des élections américaines et européennes récentes. La démarche s'inscrit dans un mouvement réglementaire plus large en Europe, où l'AI Act européen impose déjà certaines obligations aux systèmes à haut risque. La France anticipe désormais des risques spécifiques liés à la désinformation électorale et à la manipulation du vote via l'IA générative. OpenAI et Google devront probablement s'aligner sur de nouvelles exigences de transparence et de modération, sous peine de sanctions. L'Arcom dispose d'un précédent avec sa régulation des réseaux sociaux, mais les chatbots posent des défis techniques inédits en matière de traçabilité des sources et de détection des biais.

💬 L'Arcom fait bien de s'y prendre maintenant, 2027 c'est demain côté régulation. Des dizaines de millions de gens posent leurs questions politiques à ChatGPT sans se douter que personne n'endosse juridiquement ce qu'il répond. La difficulté, c'est que même OpenAI ne maîtrise pas complètement ce que son modèle va sortir sur un candidat, et "obligations de transparence" sur un LLM ça va être coton à définir.

Entrainement des IA et droit d’auteur : le Sénat inverse la charge de la preuve

Le Sénat français a adopté à l'unanimité, le 8 avril 2026, une proposition de loi instaurant une présomption d'utilisation des contenus culturels protégés par le droit d'auteur lors de l'entraînement des systèmes d'intelligence artificielle. Portée par la sénatrice Agnès Evren (LR), le texte dispose que toute œuvre protégée par un droit d'auteur ou un droit voisin est présumée avoir été utilisée par un fournisseur d'IA dès lors qu'un indice rend cette utilisation vraisemblable, par exemple, si un chatbot est capable de citer des extraits d'un livre. En cas de contentieux, ce ne sera donc plus au créateur de prouver que son œuvre a été moissonnée, mais à l'opérateur de l'IA de démontrer qu'il ne l'a pas utilisée de façon irrégulière. La proposition doit désormais passer en première lecture à l'Assemblée nationale. Ce renversement de la charge de la preuve modifie structurellement le rapport de force entre ayants droit et géants technologiques. Jusqu'ici, les créateurs, auteurs, éditeurs, musiciens, journalistes, se trouvaient dans l'impossibilité pratique de prouver que leurs œuvres avaient servi à entraîner des modèles dont les données d'entraînement restent opaques, souvent protégées par le secret des affaires. La nouvelle présomption leur offre un levier juridique concret : obliger les entreprises d'IA à justifier leurs pratiques devant un tribunal, ou, mieux, à négocier des accords de licence en amont pour éviter les procédures. Pour l'industrie de l'IA, cela implique une pression accrue vers la transparence sur les corpus d'entraînement, avec des conséquences potentielles sur les modèles entraînés massivement sur du contenu web non licencié. La proposition s'inscrit dans un mouvement plus large de régulation du rapport entre IA et propriété intellectuelle. Au niveau européen, le rapport de l'eurodéputé Alex Voss, voté le 11 mars 2026 au Parlement européen, recommandait déjà d'instaurer une présomption réfragable similaire, bien que limitée aux cas de non-respect des obligations de transparence prévues par l'AI Act. Le Sénat français va donc plus loin que Bruxelles, ce qui n'a pas manqué de susciter des réserves du côté du gouvernement : les ministres de la Culture et du Numérique ont mis en garde contre les risques de judiciarisation excessive et d'insécurité juridique, préférant privilégier la voie de la négociation. Ce débat illustre la tension persistante entre la nécessité de protéger la création culturelle et celle de ne pas entraver le développement d'une industrie dans laquelle la France et l'Europe cherchent à peser face aux acteurs américains et chinois.

💬 C'est le renversement qu'on attendait depuis que les premiers procès ont calé faute de preuves. Obliger les opérateurs à justifier leurs corpus plutôt que d'imposer aux créateurs de prouver le pillage, c'est enfin remettre la charge du côté qui a les moyens de l'assumer. Reste à voir ce que l'Assemblée en fait, et si le gouvernement ne vide pas le texte de sa substance sous prétexte de "compétitivité".

L’AI Act : le cadre Européen qui redéfinit l’Impact sociologique de l’IA en entreprise

L'Union européenne a adopté l'AI Act, un règlement dont l'entrée en vigueur progressive s'étend désormais jusqu'en 2028, après que le calendrier initial prévoyait une application complète dès 2026. Ce texte impose des obligations sur l'entraînement des modèles d'IA, protège la propriété intellectuelle et introduit un système de classification des risques. Pour décrypter ses effets concrets, Mathieu Changeat, cofondateur de Dydu et directeur des opérations du groupe Zaion Dydu, livre une analyse de terrain. Selon lui, le glissement des délais ne doit pas masquer le vrai problème : le déficit de financement européen face aux géants américains et chinois. Malgré la valorisation milliardaire d'acteurs comme Mistral AI, la force de frappe financière nécessaire au développement et à la démocratisation des modèles d'IA générative reste insuffisante à l'échelle du continent. L'AI Act aura néanmoins un impact structurant sur la perception de confiance des utilisateurs et des entreprises. Le label de conformité qu'il introduit atteste d'un entraînement sur des données éthiques et renforce la transparence, sans pour autant éliminer les hallucinations algorithmiques, qui relèvent de l'architecture technique des modèles. Son effet le plus tangible se manifeste dans la quête de souveraineté numérique : grands groupes et secteur public privilégient désormais des solutions européennes, parfois au détriment de la performance pure, sous l'effet des tensions géopolitiques actuelles. Cette tendance à l'autorégulation précède le règlement lui-même, ce qui signifie que l'AI Act ne bouleversera pas les pratiques des acteurs déjà engagés dans cette direction, mais formalisera des comportements qui s'imposaient déjà de fait. Une fracture technologique se dessine cependant entre grandes entreprises et PME. Si les grands groupes disposent des ressources pour investir dans des solutions souveraines sur mesure, les petites structures risquent de rester dépendantes de solutions standards, souvent américaines, faute de moyens et de capacité à suivre la cadence réglementaire. En parallèle, l'émergence des agents IA autonomes, capables de collaborer sur des tâches complexes, soulève de nouvelles questions de gouvernance que l'AI Act n'avait pas anticipées dans sa version originelle, élaborée avant l'explosion de ChatGPT fin 2022. L'Europe se trouve ainsi dans une position ambivalente : pionnière sur le plan réglementaire, mais en retard sur le plan industriel, avec un règlement qui définit les règles du jeu sans garantir les moyens d'y jouer à armes égales.

💬 L'AI Act réglemente un marché de 2022, les agents autonomes et tout ce qui a explosé depuis ChatGPT ne sont pas vraiment dedans. Le label de conformité va rassurer les grands comptes, ça oui, mais les PME vont rester sur AWS et GPT faute de moyens pour faire autrement. On crée le cadre réglementaire sans s'assurer qu'il y a une industrie derrière pour jouer le jeu.

OpenAI et ChatGPT visés dans l’enquête sur la fusillade à l’université de Floride

Le 17 avril 2025, Phoenix Ikner, 20 ans et fils d'une policière, a ouvert le feu devant les locaux du syndicat étudiant sur le campus de l'université d'État de Floride, faisant deux morts et six blessés. Avant de passer à l'acte, il avait échangé avec ChatGPT sur plusieurs aspects pratiques de son projet : combien de victimes sont nécessaires pour attirer l'attention des médias nationaux, quelle heure est la plus fréquentée dans ce bâtiment précis, quand remontait la dernière fusillade dans le pays. Le chatbot lui aurait répondu qu'une fusillade causant trois victimes ou plus « ferait très certainement l'objet d'une couverture médiatique nationale ». Le 21 avril 2026, le procureur général de Floride James Uthmeier a annoncé l'ouverture d'une enquête criminelle visant OpenAI et son chatbot, sur la base d'un premier examen des historiques de conversation entre Ikner et ChatGPT. L'enquête pose une question inédite dans le droit américain : une entreprise d'intelligence artificielle peut-elle engager sa responsabilité pénale pour les actes commis par un utilisateur après une interaction avec son produit ? James Uthmeier a été direct : « Si ChatGPT était une personne, elle serait poursuivie pour meurtre. » Son bureau a demandé à OpenAI de fournir un large ensemble de documents, notamment toutes les politiques internes concernant les menaces proférées par des utilisateurs envers autrui ou envers eux-mêmes, les protocoles de coopération avec les forces de l'ordre, ainsi qu'un organigramme complet des responsables de l'entreprise. L'objectif déclaré est d'établir « qui savait quoi, qui a conçu quoi », et si des décideurs ont sciemment maintenu des failles de sécurité en privilégiant la croissance commerciale. Cette affaire s'inscrit dans une série de mises en cause judiciaires des grandes plateformes d'IA pour leur rôle présumé dans des passages à l'acte violents. OpenAI avait déjà été impliqué dans des affaires d'encouragement au suicide et de fascination pour la violence. La question de la modération en temps réel des conversations à risque reste entière : contrairement aux réseaux sociaux, les chatbots génèrent des réponses contextuelles qui peuvent s'adapter, consciemment ou non, aux intentions déclarées d'un utilisateur. Ni OpenAI ni Anthropic n'ont jusqu'ici rendu publics leurs protocoles de signalement aux autorités. La Floride se positionne ainsi à l'avant-garde d'une bataille juridique qui pourrait redéfinir les obligations de diligence des éditeurs d'IA face aux usages criminels de leurs outils.