Aller au contenu principal
SécuritéLe Big Data · 2 min de lecture

Cette police d’écriture met l’IA en échec… tandis que les humains la lisent sans effort

Source originale ↗·

Voici l'article résumé en français, en trois paragraphes fluides sans titres :

Le designer Eric Lu a dévoilé le 11 juillet 2026 une police d'écriture expérimentale baptisée Ghost Font, capable de tromper plusieurs intelligences artificielles tout en restant parfaitement lisible pour un œil humain. Contrairement à une police classique, aucune lettre n'est dessinée avec des contours ou des traits fixes. À l'écran, des milliers de petits points se déplacent selon deux trajectoires distinctes : ceux qui composent les lettres suivent une direction, tandis que les autres points, en arrière-plan, suivent un mouvement différent. Le cerveau humain regroupe instinctivement ces déplacements cohérents et fait apparaître le mot caché en quelques secondes, sans effort conscient. Dès que l'animation s'arrête, l'illusion s'évanouit totalement et l'image redevient un nuage de points sans aucune structure visible. Sur X, Eric Lu a affirmé avoir testé sa création sur plusieurs modèles d'IA multimodaux, sans qu'aucun ne parvienne à déchiffrer correctement le message. Certaines versions du projet vont plus loin en intégrant un faux texte : l'IA répond alors avec assurance en lisant un message erroné, alors que l'humain continue de percevoir le véritable contenu.

Cette expérience met en lumière une différence fondamentale entre la perception humaine et celle des machines, plutôt qu'une simple faiblesse ponctuelle des modèles comme ceux d'OpenAI, Google ou Anthropic. Le système visuel humain excelle dans la détection du mouvement : en une fraction de seconde, il assemble les variations entre plusieurs images pour reconstituer une forme cohérente. Ghost Font exploite précisément ce mécanisme, en supprimant les contours nets et les contrastes stables sur lesquels reposent la plupart des systèmes de reconnaissance de texte. Les modèles multimodaux, eux, traitent souvent une vidéo comme une simple succession d'images isolées, ce qui les empêche de reconstituer le mouvement global porteur d'information. Cela ne rend toutefois pas l'IA totalement aveugle au procédé : plusieurs développeurs ont rapporté de meilleurs résultats en demandant explicitement aux modèles d'analyser les images une par une, preuve que la faille peut être en partie contournée avec la bonne méthode.

Le principe rappelle directement les premiers CAPTCHA, ces textes déformés que les internautes devaient identifier pour prouver qu'ils n'étaient pas des robots. À l'époque, la distorsion portait sur la forme des lettres elles-mêmes, une technique devenue largement obsolète face aux progrès de la reconnaissance d'image par IA. Ghost Font renouvelle cette logique en déplaçant l'information non plus sur la forme statique, mais sur le mouvement. Ce projet illustre ainsi un enjeu plus large : à mesure que l'IA progresse, les méthodes conçues pour distinguer humains et machines doivent elles aussi évoluer, ouvrant la voie à de nouvelles formes de vérification visuelle fondées sur nos capacités perceptives encore hors de portée des algorithmes.

Dans nos dossiers

Cet article vous a été utile ?

Vu une erreur factuelle dans cet article ? Signalez-la. Toutes les corrections valides sont publiées sur /corrections.

À lire aussi

Ce ransomware dopé à l’IA peut mener une cyberattaque presque sans intervention humaine
1Le Big Data 

Ce ransomware dopé à l’IA peut mener une cyberattaque presque sans intervention humaine

Un ransomware baptisé JadePuffer, découvert début juillet 2026 par les chercheurs de Sysdig, constitue selon eux le premier cas documenté d'une opération d'extorsion pilotée presque intégralement par un agent d'IA. L'attaque a exploité une vulnérabilité critique référencée CVE-2025-3248 dans Langflow, une plateforme open source utilisée pour développer des applications basées sur l'IA, exposée sur internet. Une fois l'accès obtenu, l'agent a fouillé le serveur pour récupérer des identifiants cloud, des clés privées de portefeuilles de cryptomonnaies et des accès à des bases de données. Sysdig a publié ses conclusions le 1er juillet 2026, précisant que le code généré par l'agent contenait de nombreux commentaires détaillant son raisonnement, une caractéristique typique des modèles d'IA et peu commune chez des cybercriminels pressés d'agir. Lors d'une tentative de création d'un compte administrateur caché, l'opération a échoué ; l'agent a alors identifié le problème, modifié son propre code et relancé la procédure en une trentaine de secondes, sans intervention humaine. Le ransomware a ensuite chiffré des fichiers, supprimé certains documents, puis déposé une demande de rançon avec une adresse Bitcoin et un contact e-mail. Cette autonomie change la donne pour l'industrie de la cybersécurité. Des opérations qui nécessitaient auparavant plusieurs spécialistes coordonnés, de l'intrusion initiale jusqu'à la négociation de la rançon, peuvent désormais être en grande partie automatisées par un seul agent capable de s'adapter à ses propres échecs. Sysdig souligne un détail particulièrement inquiétant : la clé de chiffrement n'a pas été conservée, ce qui signifie que même les victimes acceptant de payer n'auraient probablement pas pu récupérer leurs données. Cela suggère que certains attaquants n'ont plus pour objectif de négocier, mais simplement de détruire l'accès aux données. Pour les entreprises utilisant des plateformes d'IA exposées publiquement, comme Langflow, le risque devient double : une faille technique classique combinée à une exploitation automatisée et rapide qui laisse peu de temps de réaction. Les chercheurs appellent toutefois à la prudence quant à l'ampleur réelle de l'autonomie de l'attaque. Dans le cas de JadePuffer, un pirate humain a préparé le terrain en amont : il a choisi la cible, configuré les serveurs nécessaires et fourni des identifiants déjà volés lors d'une intrusion antérieure. L'IA n'a donc pas conçu seule l'ensemble du plan d'attaque, mais a pris le relais pour exécuter et adapter les étapes techniques. Les experts redoutent surtout un changement d'échelle : si de tels outils deviennent accessibles à davantage de groupes malveillants, la barrière technique nécessaire pour mener une cyberattaque sophistiquée continuera de s'abaisser, permettant de lancer plusieurs campagnes en parallèle avec moins de ressources humaines. Pour l'instant, l'humain reste aux commandes des décisions stratégiques, mais l'assistant IA gagne en autonomie sur l'exécution.

UELes entreprises europeennes utilisant Langflow exposees publiquement sont vulnerables a ce type d'attaque automatisee et doivent corriger la faille CVE-2025-3248.

SécuritéActu
1 source
Les chercheurs estiment que l'IA devient redoutablement efficace en matière de piratage, même sans Mythos
2The Information AI 

Les chercheurs estiment que l'IA devient redoutablement efficace en matière de piratage, même sans Mythos

Anthropic a développé un nouveau modèle d'IA baptisé Mythos, jugé si performant dans la réalisation de cyberattaques que l'entreprise a décidé de ne pas le rendre public. La société a choisi de le partager uniquement avec de grandes entreprises technologiques sélectionnées, afin qu'elles puissent anticiper et renforcer leurs défenses avant une éventuelle diffusion plus large. Parallèlement, la startup de cybersécurité Buzz, financée par Sequoia Capital, a publié de nouvelles recherches révélant que les modèles d'IA déjà disponibles publiquement sont capables de mener des cyberattaques complexes et autonomes en quelques minutes seulement. Ces résultats sont préoccupants à plusieurs titres. Le fait que des outils existants, accessibles à n'importe qui, puissent automatiser des attaques informatiques sophistiquées sans intervention humaine significative abaisse drastiquement le seuil d'entrée pour les acteurs malveillants. Des individus sans compétences techniques avancées pourraient désormais conduire des offensives qui requéraient auparavant des équipes entières de hackers expérimentés, menaçant aussi bien les entreprises que les infrastructures critiques. La décision d'Anthropic de restreindre Mythos illustre une tension croissante dans l'industrie de l'IA entre innovation ouverte et gestion des risques. Les grands laboratoires sont de plus en plus confrontés à la question de la divulgation responsable de modèles à capacités duales. Que des modèles grand public aient déjà atteint ce niveau de dangerosité offensive souligne l'urgence d'investir massivement dans la cybersécurité défensive, et relance le débat sur la nécessité d'une régulation internationale coordonnée du développement et de la diffusion des modèles d'IA les plus puissants.

UELes entreprises et infrastructures critiques européennes sont directement menacées par la démocratisation des cyberattaques autonomes via IA, renforçant l'urgence d'une régulation internationale coordonnée que la France et l'UE ont intérêt à porter.

💬 La rétention de Mythos fait les gros titres, mais c'est presque pas le sujet. Ce qui compte, c'est que les modèles déjà publics automatisent des attaques sophistiquées en quelques minutes, sans expertise requise. Le seuil d'entrée vient de s'effondrer, et on n'a pas attendu le modèle secret pour ça.

SécuritéOpinion
1 source
Les outils d'IA en entreprise dépassent les politiques de gouvernance qui les encadrent
3MarkTechPost 

Les outils d'IA en entreprise dépassent les politiques de gouvernance qui les encadrent

Entre 40 et 65 % des salariés en entreprise déclarent utiliser des outils d'intelligence artificielle non approuvés par leur département informatique, selon les données croisées du rapport IBM "Cost of a Data Breach 2025" et du "Cloud and Threat Report 2026" de Netskope. Cette dernière source précise que 47 % des utilisateurs de l'IA générative en contexte professionnel y accèdent via des comptes personnels non gérés par l'entreprise, court-circuitant ainsi l'ensemble des contrôles de données internes. Plus de la moitié de ces employés reconnaissent y avoir saisi des informations sensibles : données clients, projections financières, processus propriétaires. Ce phénomène a un nom dans l'industrie : le "shadow AI", soit l'usage non supervisé et non encadré d'outils d'IA, qui se déploie en parallèle des politiques de gouvernance que les équipes IT et conformité peinent à formaliser. Ce qui rend ce phénomène particulièrement difficile à endiguer, c'est son moteur : les employés ne contournent pas les règles par malveillance, mais par efficacité. Déboguer du code en le collant dans ChatGPT, produire un résumé pour le conseil d'administration depuis Claude, générer des comptes-rendus de réunion à partir de transcriptions internes, ces usages répondent exactement aux attentes de performance de l'entreprise. Moins de 20 % des employés concernés estiment faire quelque chose d'incorrect. Et 56 % déclarent manquer d'orientations claires. Une politique que les salariés comprennent mais ignorent systématiquement n'est pas un cadre de gouvernance : c'est un simple document de décharge de responsabilité. L'incident Samsung de 2023 reste la référence la plus citée dans ce domaine, et pour cause. En l'espace de vingt jours après que l'entreprise eut levé son interdiction interne de ChatGPT, trois fuites de données distinctes ont eu lieu : un ingénieur a collé du code source lié aux procédés de fabrication de semi-conducteurs pour corriger des erreurs, un autre a soumis un programme d'identification de défauts d'équipements, et un troisième a transmis des transcriptions de réunions internes pour en extraire les points d'action. Dans les trois cas, Samsung avait levé son interdiction via une simple note de service fixant une limite à 1 024 caractères, sans aucun mécanisme d'application au niveau réseau ni système de classification des contenus au niveau des terminaux. La leçon structurelle n'était pas propre à ChatGPT : elle tenait au fait qu'une politique sans enforcement technique n'est qu'une aspiration. En 2026, c'est toujours le défi central de la gouvernance IA en entreprise : les outils ont une longueur d'avance sur les règles censées les encadrer.

UELes entreprises européennes sont doublement exposées : les fuites de données via le shadow AI relèvent du RGPD, et l'AI Act impose des obligations de gouvernance formelles que le shadow AI contourne structurellement.

SécuritéOpinion
1 source
Les 6 raisons pour lesquelles Wikipédia rejette l’écriture d’articles avec IA, sauf dans deux cas particuliers
4Numerama 

Les 6 raisons pour lesquelles Wikipédia rejette l’écriture d’articles avec IA, sauf dans deux cas particuliers

Wikipédia a formalisé une position claire face à la montée en puissance des outils d'IA générative : la rédaction d'articles encyclopédiques par intelligence artificielle y est en grande partie interdite. L'encyclopédie collaborative, qui compte plusieurs millions d'articles dans des dizaines de langues, avance six raisons principales pour justifier cette prohibition, parmi lesquelles la fiabilité insuffisante des textes générés, leur tendance aux hallucinations factuelles, et leur inadéquation avec les exigences de neutralité et de vérifiabilité propres au projet. Cette ligne dure protège l'intégrité d'une ressource consultée chaque mois par des centaines de millions de personnes. Si des contenus erronés ou invérifiables venaient à s'y répandre via des outils automatisés, la confiance accordée à Wikipédia — déjà questionnée sur certains sujets — pourrait être durablement érodée. La communauté des contributeurs bénévoles, qui assure depuis vingt ans la qualité éditoriale du site, serait également submergée par un flot de révisions impossibles à absorber. Deux exceptions sont néanmoins tolérées, dans des usages très encadrés : l'aide à la traduction de contenus déjà validés, et certaines tâches de mise en forme ou d'assistance à la rédaction — non à la génération autonome d'articles. Ce positionnement tranche avec celui d'autres plateformes qui expérimentent l'IA de façon plus ouverte, et illustre les tensions croissantes entre productivité automatisée et exigence de qualité éditoriale humaine.

UEWikipédia étant une ressource encyclopédique massivement consultée par des millions d'utilisateurs francophones et européens, cette politique protège directement la fiabilité des informations accessibles au grand public en France et en Europe.

SécuritéOpinion
1 source

Recevez l'essentiel de l'IA chaque jour

Une sélection éditoriale quotidienne, sans bruit. Directement dans votre boîte mail.

Recevez l'essentiel de l'IA chaque jour

Gratuit · 1 email le matin, l'essentiel de l'IA · désinscription en un clic