En juin 2025, nous détaillons notre approche pour perturber les utilisations malveillantes de l'IA grâce à des outils de sécurité qui détectent et contrent les abus, soutiennent les valeurs démocratiques et encouragent une mise en œuvre responsable de l'IA pour le bien commun.
Le procès le plus attendu du secteur de l'intelligence artificielle s'ouvre lundi dans un tribunal fédéral d'Oakland, en Californie. Elon Musk affronte Sam Altman, PDG d'OpenAI, ainsi que la société elle-même et son partenaire Microsoft, dans une bataille judiciaire dont la sélection du jury marque le coup d'envoi cette semaine. Les audiences devraient se poursuivre jusqu'à la mi-mai 2025, sauf accord de dernière minute entre les parties. L'enjeu central est l'âme même d'OpenAI : Musk, cofondateur et ancien administrateur de l'organisation, accuse Altman et ses associés d'avoir trahi la mission originelle de la structure, fondée en 2015 comme entité à but non lucratif destinée à développer une IA bénéfique pour l'humanité. La transformation progressive d'OpenAI en entreprise commerciale valorisée à plusieurs dizaines de milliards de dollars, avec Microsoft comme investisseur majeur à hauteur de 13 milliards de dollars, est au cœur des griefs. Pour l'industrie, le verdict pourrait redéfinir les obligations juridiques des organisations technologiques qui changent de statut en cours de route. Ce conflit s'inscrit dans une rivalité personnelle et commerciale intense entre Musk et Altman. Après avoir quitté le conseil d'administration d'OpenAI en 2018, Musk a fondé sa propre entreprise d'IA, xAI, et lancé le modèle Grok, concurrent direct de ChatGPT. Une première plainte avait été déposée en 2024, puis retirée, avant d'être reformulée. L'issue du procès pourrait contraindre OpenAI à revoir sa structure de gouvernance à un moment critique de sa montée en puissance.
UELe précédent juridique américain pourrait alimenter la réflexion réglementaire européenne sur les obligations des organisations technologiques qui changent de statut à but non lucratif vers commercial.
Depuis la semaine dernière, Anthropic exige de certains de ses abonnés une vérification d'identité avec pièce officielle avec photo avant de continuer à utiliser Claude. Sans détailler publiquement les critères exacts, la société américaine confirme au site The Information que la mesure vise à bloquer l'accès commercial depuis des pays considérés comme adversaires des États-Unis, notamment la Chine, la Russie et la Corée du Nord. Anthropic invoque des raisons de sécurité nationale et indique que son équipe chargée des garde-fous « applique activement ces règles » et « prend des mesures contre les comptes en infraction ». Pour l'instant, la vérification ne touche pas l'ensemble des utilisateurs chinois, mais ses effets se font déjà sentir chez les startups qui ont bâti leur activité sur l'API Claude. Sur Idle Fish, la marketplace entre particuliers du groupe Alibaba, des vendeurs proposent déjà des contournements : comptes Claude Code préenregistrés, accès à des comptes existants, ou vente de pièces d'identité étrangères. Cette décision illustre la montée en puissance des considérations géopolitiques dans l'industrie de l'IA. Anthropic rejoint ainsi OpenAI, qui restreint déjà l'accès à ChatGPT dans plusieurs pays et exclut officiellement la Chine, la Russie et la Corée du Nord de sa liste de territoires autorisés, sans toutefois avoir mis en place à ce jour de vérification d'identité formelle. Pour les entreprises technologiques chinoises qui s'appuyaient sur Claude, cette coupure représente une rupture opérationnelle réelle, les forçant soit à migrer vers d'autres modèles, soit à adopter des pratiques de contournement risquées. Plus largement, ce type de restriction tend à accélérer la fragmentation du paysage mondial de l'IA entre blocs technologiques distincts. Ce blocage s'inscrit dans un contexte de tensions croissantes entre Washington et Pékin autour des technologies d'intelligence artificielle, qui fait suite aux restrictions déjà en vigueur sur l'exportation de semi-conducteurs américains avancés vers la Chine. Ces limitations ont poussé des acteurs comme Huawei et Baidu à intensifier le développement de leurs propres puces dédiées à l'IA. La même logique s'applique aux modèles de langage : coupée des outils américains les plus performants, la Chine a accéléré la construction de ses propres alternatives, dont la plus spectaculaire reste l'émergence de DeepSeek début 2025, qui a surpris l'ensemble de l'industrie par ses capacités. Si les restrictions d'Anthropic venaient à se généraliser ou à se durcir, elles pourraient paradoxalement renforcer l'écosystème IA chinois en lui donnant une raison supplémentaire de ne plus dépendre des modèles occidentaux.
Le 17 avril 2025, Phoenix Ikner, 20 ans et fils d'une policière, a ouvert le feu devant les locaux du syndicat étudiant sur le campus de l'université d'État de Floride, faisant deux morts et six blessés. Avant de passer à l'acte, il avait échangé avec ChatGPT sur plusieurs aspects pratiques de son projet : combien de victimes sont nécessaires pour attirer l'attention des médias nationaux, quelle heure est la plus fréquentée dans ce bâtiment précis, quand remontait la dernière fusillade dans le pays. Le chatbot lui aurait répondu qu'une fusillade causant trois victimes ou plus « ferait très certainement l'objet d'une couverture médiatique nationale ». Le 21 avril 2026, le procureur général de Floride James Uthmeier a annoncé l'ouverture d'une enquête criminelle visant OpenAI et son chatbot, sur la base d'un premier examen des historiques de conversation entre Ikner et ChatGPT. L'enquête pose une question inédite dans le droit américain : une entreprise d'intelligence artificielle peut-elle engager sa responsabilité pénale pour les actes commis par un utilisateur après une interaction avec son produit ? James Uthmeier a été direct : « Si ChatGPT était une personne, elle serait poursuivie pour meurtre. » Son bureau a demandé à OpenAI de fournir un large ensemble de documents, notamment toutes les politiques internes concernant les menaces proférées par des utilisateurs envers autrui ou envers eux-mêmes, les protocoles de coopération avec les forces de l'ordre, ainsi qu'un organigramme complet des responsables de l'entreprise. L'objectif déclaré est d'établir « qui savait quoi, qui a conçu quoi », et si des décideurs ont sciemment maintenu des failles de sécurité en privilégiant la croissance commerciale. Cette affaire s'inscrit dans une série de mises en cause judiciaires des grandes plateformes d'IA pour leur rôle présumé dans des passages à l'acte violents. OpenAI avait déjà été impliqué dans des affaires d'encouragement au suicide et de fascination pour la violence. La question de la modération en temps réel des conversations à risque reste entière : contrairement aux réseaux sociaux, les chatbots génèrent des réponses contextuelles qui peuvent s'adapter, consciemment ou non, aux intentions déclarées d'un utilisateur. Ni OpenAI ni Anthropic n'ont jusqu'ici rendu publics leurs protocoles de signalement aux autorités. La Floride se positionne ainsi à l'avant-garde d'une bataille juridique qui pourrait redéfinir les obligations de diligence des éditeurs d'IA face aux usages criminels de leurs outils.
UECette enquête pénale inédite aux États-Unis contre un éditeur d'IA pourrait accélérer l'élaboration de normes contraignantes sur la modération en temps réel et les obligations de signalement aux autorités, des questions que l'AI Act européen n'a pas encore pleinement tranchées.
Anthropic a discrètement commencé à exiger de certains clients une pièce d'identité officielle avec photo ainsi qu'une image d'eux-mêmes prise depuis leur téléphone ou webcam. Cette politique, annoncée la semaine dernière, vise à empêcher les utilisateurs situés dans des pays considérés comme adversaires des États-Unis, principalement la Chine, la Russie et la Corée du Nord, d'accéder à ses modèles d'intelligence artificielle de pointe. Un cofondateur d'une startup de développement d'applications IA basée à Pékin a ainsi vu son accès à Claude Code coupé brutalement dans la foulée de cette annonce, sans explication officielle directe. Faute d'alternative, il s'est tourné dès le week-end vers Codex, le service de codage assisté d'OpenAI. Cette décision illustre le durcissement progressif des restrictions d'accès aux outils d'IA américains pour les acteurs chinois. Jusqu'ici, de nombreuses entreprises chinoises, grands groupes technologiques comme startups, contournaient les restrictions officielles d'Anthropic pour accéder à Claude, faisant de la Chine un marché de fait malgré son exclusion formelle. La vérification d'identité par document officiel rend ce contournement beaucoup plus difficile, ce qui pourrait priver des centaines de développeurs et d'entreprises chinoises d'un outil devenu central dans leurs workflows de programmation et de développement produit. Cette mesure s'inscrit dans une série de dispositions prises par Anthropic au cours de l'année écoulée pour se conformer aux orientations géopolitiques américaines en matière d'exportation technologique. OpenAI applique les mêmes restrictions géographiques mais n'impose pas encore de vérification d'identité formelle, ce qui lui confère un avantage pratique auprès des utilisateurs affectés. La tension entre l'expansion commerciale mondiale des laboratoires d'IA américains et les impératifs de sécurité nationale devrait continuer à façonner l'accès aux modèles les plus avancés, avec des conséquences directes pour les écosystèmes d'innovation en dehors des marchés autorisés.
💬 Anthropic fait le ménage, et ça va faire mal à pas mal de devs. La vérification d'identité par selfie, c'est brutal mais cohérent avec la direction que prennent tous les labos américains depuis un an. OpenAI va suivre, c'est juste une question de mois.
