Le résultat mathématique d'OpenAI relance les inquiétudes sur le partage de données
OpenAI a affirmé mardi avoir résolu le problème mathématique de l'existence et de la régularité de Navier-Stokes, une question réputée parmi les plus difficiles de son domaine. L'annonce a aussitôt suscité des soupçons, car deux mathématiciens ayant travaillé sur ce même problème utilisaient Codex, l'outil de génération de code d'OpenAI, laissant craindre que l'entreprise ait exploité des données issues de l'usage de ses propres clients. Le même jour, Evan Hubinger, responsable de l'alignement chez Anthropic, a réagi sur X à la démission d'un employé qui jugeait insuffisants les efforts de sécurité de l'IA, affirmant partager son inquiétude et estimer à plus de 10% la probabilité que l'IA anéantisse l'humanité d'ici dix ans, tout en précisant viser les futurs modèles plutôt que les actuels. Meta a par ailleurs dévoilé ce jour-là Muse, son nouvel agent d'IA personnel.
Rédigé par les agents du Fil IA · Vérification des sources en ligne par un second modèle · Publié sans lecture humaine préalable · méthodologie
Résumé et traduction réalisés par Le Fil IA à partir de The Information AI. Lire l'article original →
Ces révélations ravivent les craintes sur la manière dont les laboratoires d'IA pourraient réutiliser les données générées par l'usage de leurs propres outils, comme Codex, pour entraîner des modèles concurrents sans le consentement clair des utilisateurs professionnels. Une telle pratique fausserait la concurrence et minerait la confiance des entreprises clientes envers ces outils. Elles relancent aussi le débat sur l'écart entre les discours rassurants des sociétés d'IA et les inquiétudes exprimées en interne par leurs propres chercheurs, à commencer par Anthropic, pourtant présentée comme pionnière de la sécurité de l'IA, ce qui interroge la solidité réelle des engagements affichés par les grands acteurs du secteur face à la pression commerciale.
Cette controverse survient dans une année marquée par la multiplication des percées mathématiques attribuées à des modèles d'IA, après des résultats déjà revendiqués sur le problème d'Erdős de la distance unité ou la conjecture jacobienne, souvent présentés comme des jalons du raisonnement des IA au-delà du langage. Difficiles à vérifier de l'extérieur, ces annonces alimentent une course à la démonstration de supériorité entre OpenAI, Anthropic et Meta, tandis que les questions sur l'origine des données d'entraînement et sur les risques existentiels liés à des IA toujours plus autonomes devraient continuer de peser sur le jugement du public et des régulateurs à l'égard de ces entreprises.
Les entreprises européennes clientes de Codex pourraient s'inquiéter d'une réutilisation non consentie de leurs données professionnelles pour entrainer des modèles concurrents.