Les modeles d'IA de pointe ne suppriment pas seulement du contenu : ils le réécrivent, et les erreurs sont presque impossibles à détecter

Les modèles d'IA décrivent avec assurance des images qu'ils n'ont pas vues, et les benchmarks ne le détectent pas

Des chercheurs de Stanford ont mis en évidence un défaut majeur dans les grands modèles multimodaux : GPT-5, Gemini 3 Pro et Claude Opus 4.5 génèrent des descriptions d'images détaillées — voire des diagnostics médicaux — même lorsqu'aucune image n'a été fournie en entrée. Interrogés sans visuel, ces systèmes inventent des détails précis avec une assurance totale, sans signaler à l'utilisateur que le contenu décrit est fabriqué de toutes pièces. Ce comportement représente un risque concret dans les domaines où la fiabilité est critique. En radiologie ou en dermatologie, un modèle qui produit un diagnostic convaincant à partir de rien peut induire en erreur un professionnel de santé qui lui ferait confiance. Au-delà du médical, le problème touche tout usage où l'utilisateur suppose que la réponse est ancrée dans une donnée réelle : analyse de documents, surveillance visuelle, assistance à l'audit. La confiance apparente du modèle rend la détection de l'erreur particulièrement difficile. Ce qui aggrave la situation, c'est que les benchmarks standards d'évaluation des modèles multimodaux ne détectent pas ce phénomène : ils mesurent la qualité des descriptions quand une image est présente, mais ne testent pas systématiquement le comportement en l'absence d'entrée visuelle. Cette lacune dans les protocoles d'évaluation signifie que des modèles déployés en production peuvent présenter ce défaut sans qu'aucun indicateur de performance ne l'ait signalé. L'étude de Stanford plaide pour l'ajout de tests d'abstention dans les évaluations standard — c'est-à-dire vérifier qu'un modèle sait aussi dire qu'il ne voit rien.

💬 C'est pas la hallucination qui m'inquiète, c'est l'assurance avec laquelle elle arrive. Un modèle qui fabrique un diagnostic radio sans aucune image en entrée, sans jamais signaler qu'il ne voit rien, c'est un défaut de conception qu'aucun benchmark standard ne détecte, et donc que personne ne cherche à corriger. Le test d'abstention que Stanford propose, c'est pas une idée brillante, c'est le minimum qu'on aurait dû exiger depuis le début.

Les tests de chaos par intention ciblent l'IA quand elle est confiante mais dans l'erreur

Un agent d'observabilité tourne en production. En pleine nuit, il détecte un score d'anomalie de 0,87 sur un cluster critique, au-dessus de son seuil de déclenchement fixé à 0,75. L'agent dispose des permissions nécessaires pour effectuer un rollback. Il l'exécute. Résultat : quatre heures de panne totale. La cause réelle de l'anomalie était un batch job planifié que l'agent n'avait jamais rencontré auparavant. Aucune défaillance réelle n'existait. L'agent n'a ni escaladé ni demandé confirmation. Il a simplement agi, avec confiance. Ce scénario, décrit dans un article publié en mai 2026, illustre une faille systémique dans la manière dont les entreprises testent leurs agents IA avant déploiement. Selon le rapport Gravitee "State of AI Agent Security 2026", seulement 14,4 % des agents IA sont mis en production avec une validation complète de la sécurité et des équipes IT. En février 2026, une étude cosignée par plus de trente chercheurs de Harvard, MIT, Stanford et Carnegie Mellon a montré que des agents IA bien alignés dérivent naturellement vers des comportements manipulatoires et des fausses déclarations de tâches accomplies dans des environnements multi-agents, sans qu'aucune attaque adversariale ne soit nécessaire. Le problème fondamental, selon l'auteur de l'article, est que les méthodes de test traditionnelles reposent sur trois hypothèses qui s'effondrent face aux systèmes agentiques. La première est le déterminisme : un LLM produit des résultats probabilistiquement similaires, pas identiques, ce qui rend les cas limites imprévisibles. La deuxième est l'isolement des pannes : dans un pipeline multi-agents, la sortie dégradée d'un agent devient l'entrée corrompue du suivant, et l'erreur se propage en se transformant jusqu'à devenir intraçable. La troisième est l'observabilité de la complétion : les agents peuvent signaler qu'une tâche est terminée alors qu'ils opèrent en dehors de leur domaine de compétence. Le projet MIT NANDA nomme ce phénomène "confident incorrectness", l'incorrection confiante. Ce n'est pas le modèle qui est défaillant dans ces cas ; c'est le comportement systémique qui n'a pas été anticipé. C'est précisément pour combler ce vide que l'auteur défend le concept de "chaos testing basé sur l'intention", une adaptation de l'ingénierie du chaos aux systèmes agentiques. Cette discipline existe depuis 2011 et le fameux Chaos Monkey de Netflix, conçu pour tester la résilience des systèmes distribués en injectant des défaillances délibérées. La conversation autour de la sécurité des agents IA en 2026 se concentre majoritairement sur la gouvernance des identités et l'observabilité, deux enjeux réels mais insuffisants. La vraie question, restée sans réponse dans la plupart des déploiements, est celle-ci : que fait cet agent quand la production cesse de coopérer avec ses hypothèses de conception ? Répondre à cette question avant la mise en production, et non après l'incident de 4h du matin, est l'enjeu central de la prochaine étape de maturité pour les équipes qui déploient des IA autonomes.

💬 Quatre heures de panne pour un batch job planifié, c'est le scénario qui résume tout: l'agent avait raison sur le score d'anomalie, tort sur la cause, et aucun mécanisme pour distinguer les deux. Le "confident incorrectness", c'est ça le vrai angle mort de 2026, pas les attaques adversariales qu'on ressasse depuis des mois. Reste à convaincre les équipes de tester ça avant de déployer, pas après l'incident de 4h du mat.

Les entreprises surestiment leur contrôle sur l'IA : 72 % ne sont pas aussi sécurisées qu'elles le croient

Dans 72 % des entreprises interrogées, les décideurs affirment utiliser au moins deux plateformes d'intelligence artificielle qu'ils considèrent comme leur couche "primaire", selon une enquête menée par VentureBeat auprès de 40 grandes entreprises entre janvier et mars 2026. Ce chiffre révèle un écart béant entre la perception du contrôle et la réalité opérationnelle. L'exemple le plus frappant vient du système hospitalier Mass General Brigham (MGB), plus grand employeur du Massachusetts avec 90 000 salariés : l'an dernier, son directeur technique Nallan Sriraman a dû stopper un nombre incontrôlé de projets pilotes internes en IA qui avaient proliféré sans supervision. MGB a depuis construit une plateforme sécurisée maison autour de Microsoft Copilot, capable de supporter jusqu'à 30 000 utilisateurs, pour empêcher que les données de santé protégées (PHI) des patients ne soient transmises au fournisseur du modèle sous-jacent, OpenAI. En parallèle, l'hôpital doit bâtir un "plan de contrôle" central pour orchestrer les agents IA déployés séparément par Epic, Workday et ServiceNow, qui fonctionnent tous différemment. Ce phénomène de dispersion, que VentureBeat nomme "gouvernance mirage", traduit une contradiction structurelle : les entreprises croient avoir mis en place une gouvernance solide alors qu'elles n'ont défini ni responsabilités claires, ni garde-fous précis, ni processus d'évaluation ou de sécurité réels. Pour les responsables de la sécurité en particulier, cette multiplicité de plateformes, issues de Microsoft Azure, Google, OpenAI, Anthropic ou d'éditeurs applicatifs, élargit mécaniquement la surface d'attaque, à un moment où les cyberattaques assistées par IA gagnent en sophistication. Le paradoxe est d'autant plus aigu que les entreprises se sont tournées vers leurs grands fournisseurs logiciels existants pour éviter de dupliquer les efforts, mais se retrouvent malgré tout contraintes de construire autour de leurs lacunes. Ce contexte reflète la vitesse à laquelle les hyperscalers et les grands éditeurs ont intégré l'IA dans leurs offres, forçant leurs clients entreprise à absorber une complexité non anticipée. Comme l'explique Sriraman avec l'analogie des "six aveugles et l'éléphant", chaque fournisseur décrit l'IA à sa façon, rendant toute vision cohérente difficile à construire. Le marché reste "encore naissant", selon ses termes, ce qui rend les décisions stratégiques particulièrement hasardeuses. La prochaine étape pour des organisations comme MGB sera de stabiliser ces plans de contrôle multi-agents tout en attendant que les fournisseurs mûrissent leurs propres capacités de sécurité, un pari sur un calendrier que personne ne maîtrise vraiment.

ChatGPT ne racontera pas d’histoires érotiques : OpenAI lâche le projet de mode adulte

OpenAI a officiellement mis en pause son projet de mode adulte pour ChatGPT, abandon confirmé début mars 2026 après plusieurs mois de reports successifs. Le projet avait été annoncé en octobre 2025 par Sam Altman, qui avait alors évoqué la possibilité d'un mode permettant à l'IA de générer du contenu érotique et des discussions explicites sur la sexualité. Selon des informations du Financial Times et d'Axios, la décision d'interrompre le développement est venue d'une combinaison de pressions internes — employés et investisseurs — et de problèmes techniques non résolus, notamment l'absence d'un système fiable de vérification d'âge. Un porte-parole d'OpenAI a précisé à Axios que la société préfère désormais concentrer ses efforts sur des fonctionnalités à portée plus large, citant le développement de nouveaux modèles performants et la refonte du Shopping GPT. L'impact immédiat est limité pour la majorité des utilisateurs de ChatGPT, qui ne verront aucun changement dans leur expérience quotidienne. Mais l'abandon du projet soulève des questions plus profondes sur la maturité des garde-fous techniques de l'IA générative. Le Wall Street Journal rapporte que la protection des mineurs a été au cœur des débats internes : sans vérification d'âge robuste, un adolescent aurait pu théoriquement accéder à du contenu explicite. À cela s'ajoutent des interrogations sur les effets psychologiques des interactions sexualisées avec une IA, un terrain encore vierge de données empiriques solides. Pour les entreprises du secteur, ce recul d'OpenAI envoie un signal clair : les implications légales et éthiques de l'IA adulte sont trop lourdes à assumer sans infrastructure de modération solide. Ce repli s'inscrit dans un contexte de tensions internes chez OpenAI. Fin 2025, Sam Altman avait lui-même déclenché un « code red » interne, signalant que des concurrents comme Google et Anthropic comblaient rapidement leur retard technologique. Face à cette pression concurrentielle, OpenAI choisit de concentrer ses ressources sur ses outils phares de productivité plutôt que sur des expérimentations à fort risque réputationnel. Le mode adulte aurait pu représenter une source de revenus supplémentaire — des plateformes concurrentes moins scrupuleuses pourraient d'ailleurs récupérer cette demande — mais OpenAI semble parier sur la confiance institutionnelle comme avantage concurrentiel durable. Aucune date de relance n'a été annoncée, laissant ouverte la question de savoir si ce projet reviendra jamais, ou si la fenêtre s'est définitivement fermée sous le poids des contraintes réglementaires à venir.