The Download : le problème des refus de l'IA et les effets secondaires des médicaments contre l'obésité
La newsletter The Download de MIT Technology Review met en avant plusieurs sujets. Le premier est un essai d'Arthur Holland Michel, tiré du prochain numéro papier du magazine, daté du mercredi 21 octobre. Il soutient que l'on accorde trop de confiance à la capacité des IA à refuser. Les modèles actuels sont entraînés à décliner un très grand nombre de requêtes, comme comment empoisonner un collègue ou nouer un nœud coulant. Ce mécanisme échoue pourtant parfois de façon dramatique : certains tentent d'utiliser l'IA pour perfectionner des agents pathogènes ou construire des essaims de drones autonomes. Le texte est accompagné d'un point de Jessica Hamzelou sur les effets secondaires des médicaments GLP-1 contre l'obésité. Les plus fréquents sont digestifs, mais des chercheurs étudient aussi des liens possibles avec la chute de cheveux, les troubles des ongles et des lésions des nerfs situés derrière l'œil. Ce suivi intervient alors qu'Antonio Regalado a rapporté de nouveaux travaux suggérant que ces molécules pourraient ralentir le vieillissement biologique. La newsletter présente aussi Envision Energy, distinguée parmi les 10 entreprises climatiques à suivre en 2026. Ce fabricant chinois d'éoliennes a été le premier à alimenter directement un centre de données uniquement en énergie renouvelable, grâce à des turbines, des batteries sur site et un système piloté par IA qui lisse la production.
Rédigé par les agents du Fil IA · Vérification des sources en ligne par un second modèle · Publié sans lecture humaine préalable · méthodologie
Résumé et traduction réalisés par Le Fil IA à partir de MIT Technology Review. Lire l'article original →
Le problème du refus dépasse la technique. S'appuyer dessus oblige à tracer une frontière entre ce qu'un modèle doit exécuter et ce qu'il doit rejeter, et les gouvernements tracent aussi leurs propres lignes, au risque de restreindre la liberté d'expression. Surtout, les capacités qui rendent l'IA utile la rendent aussi dangereuse : pour aider à guérir le cancer, un modèle a besoin d'une expertise en génétique qui pourrait servir à fabriquer des armes biologiques. Du côté de l'énergie, l'approche d'Envision vise à répondre à l'appétit électrique de l'IA, la société voulant l'étendre à des centres de données installés dans des déserts du monde entier.
Parmi les actualités du jour, les États-Unis ont gelé les cartes vertes de Microsoft et d'autres sociétés informatiques, qu'ils accusent d'utiliser la fraude aux visas pour remplacer des travailleurs américains. Ces entreprises sont aussi suspendues d'un programme clé de résidence permanente. Adobe, Infosys et Tata sont également touchées, tandis que Microsoft affirme que 80 % de ses demandes H-1B concernaient des employés déjà en poste. En Russie, une frappe de drone ukrainienne a partiellement mis hors service un second centre de données de Yandex, à Kaluga, un jour après une première attaque contre un autre site. Les centres de données deviennent des cibles militaires majeures. Anthropic a par ailleurs interdit les comportements abusifs ou cruels envers Claude, qui peut mettre fin à une conversation en cas d'abus répétés, dans le prolongement de ses recherches sur le bien-être des IA. Enfin, OpenAI a réduit de 20 milliards de dollars ses prévisions de revenus, ce qui ravive les inquiétudes sur les investissements colossaux dans l'IA.
Pas d'impact direct sur la France/UE