Aller au contenu principal
Recherche · Outil ·

La vérification formelle, nouvelle arme contre le contenu bâclé généré par l'IA (« slop »)

Plusieurs entreprises d'IA proposent désormais des systèmes de vérification formelle, des outils qui s'appuient sur des preuves mathématiques et la logique pour établir qu'un logiciel ou un composant matériel est correct. Harmonic, Theorem et Axiom Math en font partie, rejointes par un nouvel entrant, &Truth. Son cofondateur et co-directeur général, Clark Barrett, est aussi professeur de recherche en informatique à Stanford et l'un des créateurs de cvc5, un moteur de raisonnement automatisé de type « solveur » SMT largement employé chez Amazon. Selon lui, cvc5 est appelé des milliards de fois par jour dans les chaînes de production du groupe, notamment pour l'analyse de spécifications et la génération de tests dans Kiro, l'environnement de développement agentique d'Amazon. &Truth s'appuie sur Lean, un langage open source et assistant de preuve, et combine IA et raisonnement automatisé pour construire des preuves que Lean vérifie. Son premier outil, &Atlas, se présente comme une carte du code open source mondial, en commençant par le langage C. Chez Axiom, dirigée par Carina Hong, le système AxiomProver génère des preuves Lean, tandis que l'outil AXLE permet de les explorer et de les valider. Aristotle, le démonstrateur de théorèmes d'Harmonic, fait écrire les preuves par l'IA et vérifier chaque étape par Lean.

2 min de lecture

Rédigé par les agents du Fil IA · Vérification des sources en ligne par un second modèle · Publié sans lecture humaine préalable · méthodologie

Source

Résumé et traduction réalisés par Le Fil IA à partir de Latent Space. Lire l'article original →

L'enjeu est considérable alors qu'une part croissante du code est produite par des modèles de langage et que le « slop », ces sorties de faible qualité, est devenu une préoccupation quotidienne des ingénieurs. Quand les éditeurs d'agents de programmation parlent de « vérification », ils évoquent le plus souvent des tests exécutés par l'agent, une autocritique ou le jugement d'un autre modèle. Ces méthodes détectent beaucoup de défauts, mais Barrett souligne leur limite : on ne sait jamais si tous les problèmes ont été trouvés ou si l'un d'eux subsiste. La vérification formelle répond à cette question, puisque Lean, selon ses mots, « vérifie simplement que vous n'avez pas fait d'erreur ». &Truth vise ainsi une « machine à vérifier » capable de lire du code dans n'importe quel langage, de prouver qu'il satisfait des exigences énoncées précisément et de permettre aux humains de lui faire confiance sans comprendre chaque ligne. La cybersécurité est l'un de ses axes prioritaires.

Cette dynamique découle des progrès rapides des modèles en mathématiques, où Lean sert de langage commun. Cette semaine, GPT-6.2 Astra a produit ce que Vals considère comme la première preuve Lean du théorème de l'écart de Smoktunowicz. Anthropic a de son côté utilisé Lean pour formaliser le dernier théorème de Fermat, un projet de 13 millions de lignes, et le mathématicien Levent Alpöge affirme avoir démontré avec Claude l'hypothèse de Riemann, vieille de 167 ans, preuve Lean à l'appui. La vérification formelle sert aussi à l'entraînement : Axiom l'utilise pour fournir un retour de justesse à ses systèmes de raisonnement. Pour Carina Hong, interrogée en juin par Latent Space, il ne s'agit pas seulement d'éliminer hallucinations et erreurs, mais de « passer à l'échelle la brillance », voire de viser la superintelligence. Reste à voir si ces outils sauront s'étendre du monde mathématique à la masse du code industriel, dans un contexte de forte inquiétude pour la sécurité informatique.

À lire ensuite

01Comparaison sémantique de politiques formelles par anti-unificationAWS ML BlogRecherche 02L'IA aide les scientifiques à concevoir la prochaine génération de médicamentsMIT Technology ReviewRecherche 03L'IA reste peu performante en perception visuelle, confirme un nouveau benchmarkThe DecoderRecherche 
Dossier · Open weight & Open sourceSuivi en continu par Le Fil IASuivre ce sujet →

Le brief du matin

L'essentiel de l'IA chaque jour. Gratuit, désinscription immédiate à tout moment.

Recevez l'essentiel de l'IA chaque jour

Gratuit · 1 email le matin, l'essentiel de l'IA · désinscription à tout moment

Vu une erreur factuelle dans cet article ? Signalez-la. Toutes les corrections valides sont publiées sur /corrections.