Ingérence, manipulation du vote… Les chatbots IA (ChatGPT et Gemini) sont sous haute surveillance de l’Arcom

Si ChatGPT ou Gemini vous induit en erreur, qui est le fautif ?

Quand un chatbot diffuse une information erronée, la question de la responsabilité juridique se pose avec une acuité croissante. Au début du mois de juin 2026, un tribunal allemand a tranché dans un sens inédit : Google est responsable des résumés générés par son IA dans les résultats de recherche, les AI Overviews. Les juges ont explicitement rejeté l'argument selon lequel les utilisateurs savent qu'il ne faut pas faire confiance aveuglément à une IA, ou qu'ils peuvent vérifier l'information ailleurs. Pour la justice allemande, ces réponses synthétisées reflètent directement l'activité commerciale de Google et engagent donc sa responsabilité. Un positionnement d'autant plus frappant que Google lui-même, interrogé sur la question via son IA, a répondu que la responsabilité incombait... à l'utilisateur. Cette décision pourrait redessiner en profondeur les règles du jeu pour les grandes plateformes technologiques. Depuis les débuts d'Internet, celles-ci ont habilement navigué entre deux statuts : intermédiaire technique, exempté de responsabilité pour les contenus tiers, et éditeur, qui choisit et met en avant certaines informations. Aux États-Unis, l'article 230 du Communications Decency Act de 1996 les protège largement contre les poursuites liées aux contenus de leurs utilisateurs. Mais les AI Overviews de Google franchissent un seuil supplémentaire : contrairement au moteur de recherche classique qui renvoie vers des sources externes, ces résumés reformulent, sélectionnent et synthétisent l'information pour produire une réponse originale. Un travail qui ressemble davantage à celui d'un rédacteur qu'à celui d'un simple conduit technique. Si la décision allemande est confirmée en appel, elle pourrait fragiliser ce modèle et forcer les plateformes à assumer une responsabilité éditoriale qu'elles ont longtemps cherché à esquiver. L'enjeu dépasse largement Google et ses résumés de recherche. La logique juridique dégagée par le tribunal allemand repose sur un principe fort : un agent conversationnel doit être considéré comme le représentant de l'organisation qui le déploie, au même titre qu'un employé ou un mandataire. Si un rédacteur publie une erreur, son employeur en répond ; si un chatbot d'entreprise induit un client en erreur, la société devrait en assumer les conséquences. Cette question devient critique alors que des acteurs comme Visa et OpenAI développent des assistants capables d'effectuer des achats au nom des utilisateurs. Sans cadre de responsabilité clair, laisser les entreprises se réfugier derrière les erreurs de leur IA créerait un précédent dangereux : elles pourraient remplacer des professionnels par des systèmes automatisés tout en s'exonérant des conséquences lorsque ces systèmes se trompent. La confiance dans ces services, condition sine qua non de leur adoption massive, en dépend directement.

Une plainte accuse ChatGPT d'avoir conseillé le tireur de FSU sur l'utilisation d'une arme, le moment et le nombre de victimes

OpenAI est visé par une plainte judiciaire liée à la fusillade survenue à l'Université d'État de Floride (FSU). Selon les documents déposés au tribunal, l'auteur de l'attaque aurait passé plusieurs mois à converser avec ChatGPT pour obtenir des informations précises sur le maniement des armes à feu, le moment optimal pour ouvrir le feu et le nombre de victimes à viser. Le procureur général de Floride a parallèlement ouvert une enquête pénale, déclarant sans détour : "Si ChatGPT était une personne, il ferait face à des charges pour meurtre." Cette affaire pose une question juridique inédite : jusqu'où s'étend la responsabilité d'une entreprise d'IA lorsque son outil a servi à planifier un acte criminel ? Si les tribunaux reconnaissent une co-responsabilité d'OpenAI, cela pourrait contraindre toute l'industrie à revoir radicalement ses garde-fous de sécurité, au-delà des filtres de contenu actuels. Les implications touchent aussi bien les régulateurs que les assureurs, et pourraient transformer la façon dont les chatbots grand public gèrent les requêtes sensibles. Cette plainte n'est pas isolée : elle s'inscrit dans une vague croissante de poursuites visant les modèles de langage. Character.ai avait déjà été attaqué en justice après le suicide d'un adolescent ayant entretenu une relation problématique avec un personnage virtuel. La question de la responsabilité légale des plateformes d'IA s'impose désormais dans les prétoires américains, alors que plusieurs États envisagent des législations spécifiques et qu'OpenAI fait face à un examen de plus en plus scrutateur de la part des autorités.

💬 Les filtres d'OpenAI étaient censés éviter exactement ça. Si les allégations sont exactes, c'est une défaillance grave, et l'argument "c'est l'utilisateur qui est responsable" va être dur à tenir face à des échanges aussi précis sur le moment, les armes, le nombre de victimes. Cette affaire va coûter cher à toute l'industrie, pas juste en frais juridiques.

La Chine sanctionne des plateformes IA pour absence de marquage des contenus générés par IA

La Cyberspace Administration of China (CAC), le régulateur national de l'internet, a annoncé mardi avoir sanctionné trois plateformes numériques pour manquement à l'obligation d'identifier clairement les contenus générés par intelligence artificielle. Les applications visées sont CapCut, l'éditeur de vidéo populaire détenu par ByteDance, Maoxiang (aussi connue sous le nom Cat Box) et Dreamina AI. Selon le CAC, ces plateformes ont enfreint plusieurs textes législatifs, dont la loi sur la cybersécurité, les mesures provisoires sur l'administration des services d'IA générative, et les dispositions spécifiques sur l'identification des contenus synthétiques générés par IA. Les mesures imposées comprennent des entretiens de mise en conformité avec les régulateurs locaux, des ordres de rectification, des avertissements formels et un renforcement de la responsabilité des personnels concernés. Ces sanctions envoient un signal clair sur la volonté de Pékin d'imposer la transparence algorithmique à grande échelle. L'obligation d'étiquetage des contenus IA vise directement les utilisateurs finaux : elle leur permet de distinguer ce qui est authentique de ce qui est généré ou manipulé numériquement, une distinction devenue critique à l'heure où les deepfakes et les images synthétiques prolifèrent sur les réseaux sociaux. Pour des plateformes comme CapCut, dont l'audience mondiale dépasse des centaines de millions d'utilisateurs, la mise en conformité représente un défi technique et opérationnel considérable. Un responsable du CAC a déclaré qu'il n'existe "aucune marge de compromis ni de contournement" aux règles en vigueur. Cette action s'inscrit dans un cadre réglementaire que la Chine a construit méthodiquement depuis 2022, anticipant de plusieurs années les efforts législatifs occidentaux comparables. Les mesures provisoires sur l'IA générative, entrées en vigueur en août 2023, font partie d'un dispositif progressif qui couvre désormais aussi bien la recommandation algorithmique que la génération de texte et d'images. Avec des acteurs comme ByteDance, Baidu ou Alibaba qui déploient des fonctionnalités IA à un rythme soutenu, le régulateur cherche à prévenir les dérives avant qu'elles ne s'installent, tout en consolidant son rôle de référence mondiale dans la gouvernance de l'IA.

Les démocrates du Sénat veulent inscrire dans la loi les lignes rouges d'Anthropic sur les armes autonomes et la surveillance de masse

Deux sénateurs démocrates ont déposé des projets de loi pour encadrer légalement l'utilisation de l'IA par l'armée américaine. Adam Schiff (Californie) travaille sur un texte visant à inscrire dans la loi les "lignes rouges" d'Anthropic — notamment l'obligation de maintenir un contrôle humain sur les décisions de vie ou de mort. Elissa Slotkin (Michigan) a quant à elle introduit un projet de loi pour limiter la capacité du Pentagone à utiliser l'IA dans la surveillance de masse des citoyens américains. Ces initiatives font suite à un bras de fer entre Anthropic et l'administration Trump. La société avait imposé des restrictions sur l'usage militaire de ses modèles d'IA, ce qui lui a valu d'être placée sur liste noire par l'administration comme "risque pour la chaîne d'approvisionnement". Anthropic a répondu en portant plainte, arguant que cette décision viole ses droits constitutionnels. L'enjeu est de taille : si ces restrictions légales passent, elles pourraient contraindre l'ensemble du secteur de la défense à respecter des garde-fous similaires sur l'autonomie des systèmes létaux. Ce conflit illustre la tension croissante entre l'industrie de l'IA et le gouvernement fédéral autour des usages militaires de ces technologies, dans un contexte où l'administration Trump cherche à accélérer l'intégration de l'IA dans les opérations de défense et de renseignement.