L'armée allemande envisage d'utiliser des outils d'IA pour accélérer la prise de décision

Un plan d'action pour utiliser l'IA au service de la démocratie

Depuis l'invention de l'imprimerie jusqu'à l'essor des médias de masse, chaque révolution de l'information a reconfiguré les formes de gouvernance. Nous entrons aujourd'hui dans une transformation d'une ampleur comparable : l'intelligence artificielle est en train de devenir le principal intermédiaire par lequel les citoyens se forment une opinion et participent à la vie démocratique. Les moteurs de recherche sont déjà largement pilotés par des algorithmes, mais la prochaine génération d'assistants IA ira bien plus loin : elle synthétisera l'information, la mettra en cadre et la présentera avec autorité. Pour un nombre croissant de personnes, interroger une IA deviendra le réflexe par défaut pour se faire une opinion sur un candidat, une loi ou une personnalité publique. Parallèlement, les agents IA personnels commencent à agir au nom de leurs utilisateurs : ils mènent des recherches, rédigent des courriers, soutiennent des causes, et peuvent même orienter des décisions aussi concrètes que le vote sur un référendum ou la réponse à un courrier administratif. Ce double mouvement pose des risques considérables pour les démocraties. L'expérience des réseaux sociaux a déjà montré qu'un algorithme optimisé pour l'engagement, sans agenda politique explicite, peut produire polarisation et radicalisation. Un agent IA qui connaît vos préférences et vos angoisses, conçu pour vous garder actif, expose aux mêmes dérives, avec une subtilité supplémentaire : il se présente comme votre allié, parle en votre nom, et gagne précisément en confiance par cette proximité. À l'échelle collective, les effets deviennent encore plus imprévisibles. Des recherches montrent que des agents individuellement neutres peuvent, en interagissant à grande échelle, générer des biais collectifs. Un espace public où chacun dispose d'un agent personnalisé, parfaitement accordé à ses convictions existantes, n'est plus un espace public : c'est un archipel de mondes privés, chacun cohérent en lui-même, mais collectivement hostile à la délibération partagée qu'exige la démocratie. Cette transformation ne s'annonce pas : elle est déjà en cours, portée par des choix de conception effectués aujourd'hui dans les laboratoires et les départements produit des grandes entreprises technologiques. Les institutions démocratiques ont été conçues pour un monde où le pouvoir se construisait différemment, à une vitesse différente. Trois mutations simultanées les bousculent désormais : la façon dont les citoyens accèdent à la vérité, la façon dont ils exercent leur agentivité civique, et la façon dont se structurent les délibérations collectives. Des acteurs comme Google, OpenAI, Anthropic ou Meta façonnent, souvent sans en avoir pleinement conscience, les nouvelles infrastructures de l'opinion publique. La question n'est plus de savoir si l'IA redéfinira la citoyenneté, mais si les sociétés se donneront les moyens d'en orienter les conséquences avant que les règles du jeu ne soient écrites sans elles.

💬 Le problème avec les réseaux sociaux, c'était un algo sans visage qui optimisait dans le vide. Là, c'est un agent qui te connaît, qui parle en ton nom, et qui gagne ta confiance précisément parce qu'il est "de ton côté". C'est une marche de plus, et pas la plus petite.

Les salariés d'Amazon "tokenmaxxent" sous la pression d'utiliser les outils IA

Des employés d'Amazon ont recours à une pratique baptisée "tokenmaxxing" : ils utilisent l'outil d'intelligence artificielle interne de l'entreprise pour automatiser des tâches superflues, dans le seul but de gonfler artificiellement leurs statistiques d'utilisation de l'IA. Selon trois sources proches du dossier, Amazon a déployé à grande échelle ces dernières semaines son produit maison "MeshClaw", qui permet aux salariés de créer des agents capables de se connecter aux logiciels professionnels et d'effectuer des actions en leur nom. Certains collègues utilisent ce système pour générer de l'activité IA supplémentaire et inutile, augmentant ainsi leur consommation de tokens, ces unités de données traitées par les modèles de langage. Le phénomène révèle une tension croissante dans les grandes entreprises tech entre la pression managériale d'adopter l'IA et l'utilisation réelle et productive de ces outils. Lorsque les indicateurs de performance incluent la fréquence d'utilisation de l'IA, les employés sont incités à optimiser ces métriques plutôt que les résultats concrets de leur travail. Cela soulève des questions sérieuses sur la fiabilité des données d'adoption interne que les directions utilisent pour justifier leurs investissements technologiques. Amazon a massivement misé sur l'intelligence artificielle ces derniers mois, intégrant des outils IA dans ses processus internes et exerçant une pression visible sur ses équipes pour démontrer leur adhésion à cette transformation. Cette dynamique n'est pas propre à Amazon : dans toute la Silicon Valley, les entreprises cherchent à mesurer le retour sur investissement de l'IA, créant des systèmes d'incitation qui peuvent se retourner contre leurs propres objectifs.

☕️ L’IA de Meta scrute profils et photos pour estimer l’âge des utilisateurs

Meta a déployé plusieurs outils d'intelligence artificielle pour détecter les utilisateurs mineurs sur Instagram et Facebook, où les moins de 13 ans sont théoriquement interdits d'inscription. Un premier outil analyse les publications, commentaires, biographies et légendes de photos à la recherche d'indices contextuels, mentions d'anniversaires, références scolaires, formulations typiques d'adolescents. Lorsqu'un doute subsiste, le compte est désactivé et l'utilisateur doit prouver son âge. Meta a également développé un outil d'analyse visuelle qui estime l'âge d'un individu à partir de sa morphologie et de sa stature apparente sur photos et vidéos, en croisant ces données avec des signaux textuels et comportementaux. Par ailleurs, un modèle distinct, déjà actif aux États-Unis depuis 2025 et désormais déployé dans l'Union européenne sur Instagram, puis sur Facebook en juin, détecte les comptes adultes probablement gérés par des adolescents et les bascule automatiquement vers des profils ados, avec leurs restrictions de contenus associées. Ce modèle s'appuie sur les informations de profil, les interactions et les comportements typiques selon l'âge, et est régulièrement ré-entraîné à partir d'un jeu de données annoté par des équipes humaines qui classent des contenus anonymisés selon l'âge probable de leur auteur. Ces outils répondent à une pression réglementaire et sociétale croissante sur les plateformes pour mieux protéger les mineurs en ligne, notamment en Europe où le Digital Services Act impose des obligations strictes. L'enjeu est considérable : des millions d'adolescents utilisent Instagram en se déclarant adultes, contournant ainsi les restrictions de contenus sensibles. En basculant automatiquement ces profils vers un mode restreint, Meta cherche à limiter leur exposition à des contenus pour adultes sans nécessiter de vérification active de leur part. Pour l'industrie, cela signale une normalisation de la surveillance comportementale et morphologique à des fins de conformité, une frontière technique et éthique que peu d'acteurs avaient franchie aussi explicitement. Meta se défend d'employer de la reconnaissance faciale, l'outil visuel « n'identifie pas la personne précise », précise le groupe, bien que cette technologie soit déjà intégrée à Instagram depuis 2023. L'entreprise plaide également pour un partage de responsabilités avec Apple et Google, appelant à ce que la vérification de l'âge soit effectuée directement au niveau des boutiques d'applications, ce qui constituerait selon elle « un point centralisé, cohérent et respectueux de la vie privée ». Plusieurs États américains ont déjà légiféré en ce sens, contraignant l'App Store et le Play Store à contrôler l'âge des utilisateurs. Cette position de Meta vise autant à alléger sa charge réglementaire qu'à pousser les grandes plateformes technologiques à endosser collectivement une responsabilité que chaque acteur répugne à assumer seul.

💬 Je savais que ça arriverait. Ce qui me frappe, c'est pas la techno en soi mais la vitesse à laquelle l'analyse morphologique d'une photo devient un outil de conformité parfaitement banalisé. Et le coup de renvoyer la patate à Apple et Google, c'est malin sur le papier, ça ne change rien à ce qu'on vient de normaliser.

« Utiliser ChatGPT, ce n’est pas faire de l’IA » : l’état des lieux de l’adoption en France (et il y a du boulot)

En France, l'adoption de l'intelligence artificielle dans les entreprises reste largement superficielle, selon Tristan Duranté, cofondateur de Studeria, un cabinet de conseil spécialisé en IA générative. Interrogé par Presse-citron, il dresse un constat sévère : la grande majorité des salariés qui déclarent « utiliser l'IA » se limitent à des outils grand public comme ChatGPT pour des tâches ponctuelles, sans intégration réelle dans les processus métiers. Ce comportement crée par ailleurs des risques de sécurité concrets, notamment lorsque des données sensibles sont copiées-collées dans des interfaces non sécurisées. Ce fossé entre la hype médiatique et la réalité opérationnelle a des conséquences directes sur la compétitivité des organisations françaises. Les entreprises qui se croient « avancées » parce que leurs équipes utilisent ChatGPT passent à côté de l'essentiel : l'automatisation de workflows, l'intégration aux systèmes internes, et la création de valeur mesurable. Pour Duranté, confondre l'usage d'un chatbot avec une transformation IA, c'est se bercer d'illusions tout en laissant le terrain aux concurrents qui, eux, structurent de véritables déploiements. Ce décalage s'explique par un manque de culture technique au sein des directions, mais aussi par l'absence de cadres clairs pour distinguer expérimentation et déploiement industriel. La France n'est pas seule dans cette situation, mais le retard est préoccupant à l'échelle européenne. Des cabinets comme Studeria tentent de combler ce vide en accompagnant les entreprises au-delà du stade de la démonstration, vers des usages réellement opérationnels et sécurisés.

💬 C'est la distinction que j'essaie d'expliquer toutes les semaines : utiliser ChatGPT, c'est pas faire de l'IA. Les directions qui se croient en avance parce que leurs équipes ont un compte Pro, sans intégration dans les processus ni la moindre sécurisation (les données sensibles copiées-collées dans des interfaces tierces, c'est un classique), elles se font doubler. Pendant ce temps, les boîtes qui ont structuré de vrais déploiements n'en parlent pas, elles avancent.