OpenAI Japon annonce un plan pour la sécurité des adolescents au Japon

Un plan d'action pour utiliser l'IA au service de la démocratie

Depuis l'invention de l'imprimerie jusqu'à l'essor des médias de masse, chaque révolution de l'information a reconfiguré les formes de gouvernance. Nous entrons aujourd'hui dans une transformation d'une ampleur comparable : l'intelligence artificielle est en train de devenir le principal intermédiaire par lequel les citoyens se forment une opinion et participent à la vie démocratique. Les moteurs de recherche sont déjà largement pilotés par des algorithmes, mais la prochaine génération d'assistants IA ira bien plus loin : elle synthétisera l'information, la mettra en cadre et la présentera avec autorité. Pour un nombre croissant de personnes, interroger une IA deviendra le réflexe par défaut pour se faire une opinion sur un candidat, une loi ou une personnalité publique. Parallèlement, les agents IA personnels commencent à agir au nom de leurs utilisateurs : ils mènent des recherches, rédigent des courriers, soutiennent des causes, et peuvent même orienter des décisions aussi concrètes que le vote sur un référendum ou la réponse à un courrier administratif. Ce double mouvement pose des risques considérables pour les démocraties. L'expérience des réseaux sociaux a déjà montré qu'un algorithme optimisé pour l'engagement, sans agenda politique explicite, peut produire polarisation et radicalisation. Un agent IA qui connaît vos préférences et vos angoisses, conçu pour vous garder actif, expose aux mêmes dérives, avec une subtilité supplémentaire : il se présente comme votre allié, parle en votre nom, et gagne précisément en confiance par cette proximité. À l'échelle collective, les effets deviennent encore plus imprévisibles. Des recherches montrent que des agents individuellement neutres peuvent, en interagissant à grande échelle, générer des biais collectifs. Un espace public où chacun dispose d'un agent personnalisé, parfaitement accordé à ses convictions existantes, n'est plus un espace public : c'est un archipel de mondes privés, chacun cohérent en lui-même, mais collectivement hostile à la délibération partagée qu'exige la démocratie. Cette transformation ne s'annonce pas : elle est déjà en cours, portée par des choix de conception effectués aujourd'hui dans les laboratoires et les départements produit des grandes entreprises technologiques. Les institutions démocratiques ont été conçues pour un monde où le pouvoir se construisait différemment, à une vitesse différente. Trois mutations simultanées les bousculent désormais : la façon dont les citoyens accèdent à la vérité, la façon dont ils exercent leur agentivité civique, et la façon dont se structurent les délibérations collectives. Des acteurs comme Google, OpenAI, Anthropic ou Meta façonnent, souvent sans en avoir pleinement conscience, les nouvelles infrastructures de l'opinion publique. La question n'est plus de savoir si l'IA redéfinira la citoyenneté, mais si les sociétés se donneront les moyens d'en orienter les conséquences avant que les règles du jeu ne soient écrites sans elles.

💬 Le problème avec les réseaux sociaux, c'était un algo sans visage qui optimisait dans le vide. Là, c'est un agent qui te connaît, qui parle en ton nom, et qui gagne ta confiance précisément parce qu'il est "de ton côté". C'est une marche de plus, et pas la plus petite.

OpenAI et Anthropic se lancent à l’assaut des enseignants états-uniens

OpenAI et Anthropic lancent chacun une offre gratuite destinée aux enseignants du système scolaire américain K-12, de la maternelle au lycée. Anthropic propose « Claude for K-12 teachers » avec un an d'accès gratuit, tandis qu'OpenAI, qui avait déjà lancé son offre pour enseignants en novembre dernier avec une gratuité initialement prévue jusqu'en juin 2027, repousse désormais cette échéance à juin 2028 et élargit sa cible aux chefs d'établissement. OpenAI met en avant un espace de travail sécurisé permettant la collaboration entre enseignants d'un même établissement ou district scolaire, avec des options de conformité et de confidentialité renforcées, ainsi qu'un domaine dédié avec authentification unique via SAML pour les responsables d'établissement. De son côté, Anthropic a connecté son outil à des programmes d'études basés sur les données comme les Learning Commons, et met en avant un partenariat avec l'association Teach for America. Les deux entreprises assurent qu'elles n'entraîneront pas leurs modèles sur le matériel pédagogique ou les données des élèves. Cette bataille pour conquérir le corps enseignant américain répond à une logique commerciale claire : en offrant un accès gratuit pendant un à deux ans, OpenAI et Anthropic cherchent à ancrer leurs outils dans les pratiques quotidiennes des enseignants avant de facturer, à terme, les établissements et districts scolaires qui en dépendront. Pour les enseignants, l'argument de vente est la réduction du temps consacré aux tâches administratives, à la préparation de cours, à la correction ou à la communication avec les parents, au profit d'un temps recentré sur les élèves. Mais cette promesse soulève des critiques, notamment autour du partenariat d'Anthropic avec Teach for America, une association accusée par certains de vouloir remplacer des enseignants expérimentés par un modèle standardisé et interchangeable d'éducateurs, argument qui interroge la vision de l'éducation portée par ces outils. Cette offensive intervient alors que l'usage de l'IA générative dans l'éducation reste largement non encadré, y compris en France où le ministère a posé un cadrage jugé insuffisant par les enseignants eux-mêmes, qui décrivent une adoption encore artisanale de ces outils. Aux États-Unis, l'absence de régulation fédérale sur l'usage scolaire de l'IA laisse le champ libre à ces entreprises pour s'implanter directement dans les salles de classe, district par district, avant que les pouvoirs publics n'aient pu établir des règles communes. La question de la dépendance des systèmes éducatifs publics à des outils commerciaux gratuits aujourd'hui, mais potentiellement payants demain, reste entière.

💬 Le calcul est simple : gratuit un à deux ans pour s'incruster dans les habitudes des profs, et la facture tombe quand les districts scolaires ne pourront plus s'en passer. Le partenariat d'Anthropic avec Teach for America, ça pique un peu, remplacer l'expérience par un outil standardisé, c'est pas franchement le projet éducatif qu'on nous vend. Selon Le Fil IA, OpenAI et Anthropic n'équipent pas des profs, ils bâtissent une dépendance avant même que la régulation existe.

Moins de travail, salaires maintenus : la vision d'OpenAI pour un monde transformé par la superintelligence

OpenAI a publié un document de politique publique dans lequel l'entreprise détaille sa vision d'un monde transformé par la superintelligence et formule des recommandations concrètes à l'intention des gouvernements. Parmi les propositions figurent la création d'un fonds de richesse publique, l'instauration d'une semaine de travail de quatre jours et une hausse des taxes sur les plus-values pour les contribuables les plus aisés. Le document s'inscrit dans une réflexion sur la manière dont les États devraient anticiper et encadrer l'émergence de systèmes d'IA dépassant les capacités humaines dans la quasi-totalité des domaines. Ces recommandations signalent un changement de posture notable pour une entreprise privée : OpenAI ne se contente plus de développer des technologies, elle propose désormais une feuille de route économique et sociale à grande échelle. L'idée d'une semaine de quatre jours associée à un maintien des salaires touche directement aux conditions de travail de centaines de millions de personnes, tandis qu'un fonds de richesse publique redistributerait une partie des gains de productivité générés par l'automatisation vers l'ensemble de la population. Ce document intervient dans un contexte de débat croissant sur la concentration des bénéfices de l'IA entre quelques grandes entreprises technologiques. OpenAI, qui a récemment levé des milliards de dollars et restructuré son modèle juridique vers une entité plus commerciale, cherche visiblement à façonner le cadre réglementaire avant que les gouvernements ne le définissent sans elle. La question de savoir si ces propositions relèvent d'une conviction sincère ou d'un exercice de relations publiques restera au coeur des discussions à venir.

OpenAI lance son programme de primes pour les failles de sécurité

OpenAI vient de lancer un programme officiel de primes aux bugs axé sur la sécurité, le Safety Bug Bounty, destiné à identifier et corriger les risques liés à l'utilisation abusive de ses systèmes d'intelligence artificielle. Contrairement aux programmes classiques de bug bounty centrés sur les vulnérabilités techniques, celui-ci cible spécifiquement les failles propres aux modèles IA et à leurs nouveaux usages. Ce programme marque une étape importante dans la manière dont l'industrie aborde la sécurité des systèmes d'IA. Avec la montée en puissance des agents autonomes capables d'exécuter des tâches complexes, les vecteurs d'attaque se sont multipliés et diversifiés, des risques qui ne peuvent plus être traités par les seules méthodes de sécurité logicielle traditionnelles. Parmi les vulnérabilités ciblées figurent notamment l'injection de prompts (prompt injection), la fuite de données (data exfiltration), ainsi que les failles spécifiques aux systèmes agentiques, ces architectures où des modèles IA agissent de façon autonome, enchaînent des outils et prennent des décisions sans supervision humaine constante. Ces risques représentent aujourd'hui l'une des préoccupations majeures de la communauté de la sécurité IA. En ouvrant ce programme à la communauté des chercheurs en sécurité, OpenAI adopte une approche collaborative qui pourrait faire école dans le secteur. Alors que la course au déploiement d'agents IA s'accélère chez les grands acteurs comme Google, Anthropic ou Microsoft, la mise en place de mécanismes structurés pour détecter les abus et les dérives devient un enjeu stratégique autant que éthique.