Bill Gates affirme que les seuils de danger de l'IA sont déjà franchis. Et maintenant ?
Bill Gates a publié ce jour un nouvel essai, le premier d'une série qu'il prévoit de consacrer au sujet, dans lequel il affirme que l'humanité a déjà franchi plusieurs seuils critiques liés à l'intelligence artificielle. Interrogé par MIT Technology Review dans les bureaux de Gates Ventures à Kirkland, dans la banlieue de Seattle, l'ancien PDG de Microsoft, âgé de 70 ans, s'est dit "stupéfait par le manque d'inquiétude et de débat en dehors de l'industrie". Selon lui, les modèles d'IA les plus avancés ont désormais dépassé les limites acceptables en matière de capacités biologiques, cybernétiques, psychosociales, et de destruction du marché du travail, tout en montrant des signes de perte de contrôle. Il se dit particulièrement préoccupé par le risque de bioterrorisme : tout modèle capable de générer de nouvelles molécules devrait, selon lui, faire l'objet d'une surveillance, ce risque étant à ses yeux environ cinquante fois plus probable et inquiétant qu'une pandémie naturelle. Gates multiplie depuis les prises de parole publiques et les échanges privés avec des responsables de l'industrie, des gouvernements et de la société civile pour alerter sur cette évolution rapide.
Résumé et traduction réalisés par Le Fil IA à partir de MIT Technology Review. Lire l'article original →
Cette sortie publique d'une figure aussi influente que Gates pèse lourd dans le débat sur la régulation de l'IA, car elle vient d'un acteur historiquement plutôt technophile et optimiste envers l'innovation. Ses avertissements ciblent des risques très concrets pour les entreprises et les gouvernements : armes biologiques facilitées par des modèles capables de concevoir des molécules inédites, cyberattaques automatisées, manipulation psychosociale à grande échelle, et disparition rapide d'emplois entiers. Pour répondre à ce dernier point, il propose deux mesures inédites : la création d'emplois "réservés aux humains", dont la liste varierait selon les pays, et une taxe sur les robots et sur les "tokens" d'IA, destinée à financer une redistribution lorsque des tâches auparavant humaines sont automatisées. Ces propositions, si elles étaient reprises par des décideurs publics, pourraient influencer les débats fiscaux et sociaux liés à l'automatisation dans de nombreux pays.
Le contexte de cette prise de position s'inscrit dans l'accélération continue des capacités des modèles frontières, alors que les garde-fous réglementaires et techniques peinent à suivre le rythme, selon Gates. Il rappelle que l'industrie promettait depuis des années de mieux encadrer l'accès à ces technologies une fois certains seuils atteints, promesse qu'il juge aujourd'hui non tenue. Malgré ce constat alarmant, Gates conserve une vision à long terme optimiste, estimant que l'IA transformera positivement l'agriculture, la santé, l'éducation et la gestion administrative, menant à terme à une forme d'abondance. Mais il prévient qu'une période de forte turbulence précédera inévitablement cette phase plus favorable, appelant entreprises, gouvernements et société civile à anticiper dès maintenant ces bouleversements plutôt que de les subir.
Ces avertissements pourraient alimenter les débats européens sur la régulation de l'IA (AI Act) sans concerner directement une entité française ou européenne.