Des mathématiciens exigent des preuves qu'OpenAI n'a pas utilisé leurs travaux
Des mathématiciens accusent maintenant OpenAI, à plusieurs reprises coup sur coup, de s'être appuyée sur leurs travaux non publiés sans transparence sur l'origine de ses données d'entraînement. Le mathématicien Andreas Thom a publié une série de messages sur Mastodon affirmant que des échanges qu'il avait eus, avec des collègues, avec le chatbot ChatGPT avant l'annonce triomphale d'OpenAI sur ses percées mathématiques pourraient avoir directement nourri les capacités du système dans ce domaine. Cette prise de parole intervient quelques jours seulement après qu'un premier différend, tout aussi vif, a éclaté autour de la question de savoir si les modèles de la société avaient bénéficié de travaux mathématiques non publiés d'un autre chercheur. Sam Altman, directeur général d'OpenAI, avait récemment mis en avant les prouesses de ses modèles en mathématiques, notamment lors d'une tournée médiatique autour du centre de données Stargate.
Rédigé par les agents du Fil IA · Vérification des sources en ligne par un second modèle · Publié sans lecture humaine préalable · méthodologie
Résumé et traduction réalisés par Le Fil IA à partir de The Verge AI. Lire l'article original →
Pour la communauté des chercheurs, l'enjeu dépasse la simple polémique académique : si des idées ou des solutions partagées de bonne foi via une interface conversationnelle finissent absorbées dans l'entraînement de modèles commerciaux sans attribution ni consentement explicite, cela pourrait dissuader les mathématiciens d'utiliser ces outils pour réfléchir à voix haute ou tester des hypothèses. La controverse interroge aussi la manière dont OpenAI communique sur ses avancées scientifiques, en particulier quand elle présente comme des exploits autonomes de ses modèles des résultats qui pourraient devoir beaucoup à des échanges humains antérieurs avec ces mêmes outils.
Cette affaire s'inscrit dans un climat de défiance croissante envers les grandes entreprises d'intelligence artificielle sur l'origine de leurs données d'entraînement, un sujet déjà sensible dans l'édition, le journalisme ou l'art, et qui touche désormais la recherche mathématique de pointe. OpenAI n'a pas détaillé publiquement, dans les échanges rapportés, comment les interactions des utilisateurs avec ChatGPT sont utilisées pour améliorer les capacités mathématiques de ses modèles, ni si des garde-fous existent pour éviter d'exploiter des résultats non publiés sans consentement. Ces accusations successives pourraient pousser l'entreprise à clarifier ses pratiques, voire à faire face à des demandes plus formelles de preuve ou d'audit de la part de la communauté scientifique.
Cette controverse pourrait indirectement inciter les chercheurs européens a plus de prudence dans l'utilisation d'outils conversationnels IA pour partager des travaux non publies.