Des lanceurs d'alerte de l'IA affirment que les chercheurs contrôlent moins souvent les systèmes d'IA
Lundi, le conseil municipal de New York a tenu une audition consacrée aux risques de l'intelligence artificielle, en entendant trois lanceurs d'alerte issus des grands laboratoires : Jacob Coxon, ancien d'Anthropic et d'OpenAI, Alex Turner, ancien de Google DeepMind, et Daniel Kokotajlo, ancien d'OpenAI. Des représentants des laboratoires ont ensuite pris la parole. L'un des points marquants des témoignages concerne l'évolution du travail de recherche lui-même : Coxon et Kokotajlo ont affirmé que, depuis peu, les chercheurs laissent l'IA piloter l'écriture du code et une partie de la recherche, et qu'ils vérifient moins souvent le travail produit par les systèmes.
Rédigé par les agents du Fil IA · Vérification des sources en ligne par un second modèle · Publié sans lecture humaine préalable · méthodologie
Résumé et traduction réalisés par Le Fil IA à partir de The Information AI. Lire l'article original →
Ce témoignage est important, car il touche au cœur du contrôle humain sur le développement de l'IA. Si les chercheurs relisent moins ce que produisent leurs propres modèles, les erreurs, les comportements indésirables ou les failles de sécurité risquent de passer plus facilement inaperçus, alors que ces systèmes servent à concevoir la génération suivante. Les laboratoires ne reprendraient peut-être pas cette formulation à leur compte, et leurs représentants n'ont pas été interrogés sur ce point précis pendant l'audition. Ils sont toutefois les premiers à reconnaître que l'IA a considérablement accéléré la recherche en IA. Anthropic a ainsi indiqué dans un rapport publié le mois dernier que, depuis août, l'IA pilotait plus d'un quart de la recherche et du développement de ses modèles.
Cette audition s'inscrit dans un débat plus large sur la transparence et la supervision des laboratoires d'IA, où d'anciens employés jouent un rôle croissant en alertant les responsables publics sur ce qui se passe réellement en interne. Le fait que ce soit un conseil municipal, et non un organe fédéral, qui entende ces témoignages illustre l'intérêt grandissant des collectivités locales pour le sujet. L'automatisation de la recherche est l'un des enjeux centraux de cette discussion : plus les modèles participent à leur propre amélioration, plus le rythme des progrès s'accélère et plus la question de la vérification humaine devient pressante. La suite dépendra de la réaction des élus, de la volonté des laboratoires de détailler leurs pratiques de contrôle et d'éventuelles initiatives réglementaires.
Pas d\'impact direct sur la France/UE