L'IA face aux risques d'extinction et de menace bioterroriste
MIT Technology Review a organisé mercredi un événement en direct, un « Roundtables », consacré à une question de plus en plus posée : l'intelligence artificielle pourrait-elle réellement anéantir l'humanité ? Face à l'afflux de questions des participants, la rédaction en chef IA Will Douglas Heaven et la journaliste Grace Huckins ont ensuite répondu par écrit aux interrogations les plus fréquentes, sur les risques réels, la part de communication des entreprises technologiques et les moyens de contrôler et réguler ces systèmes. En parallèle, la newsletter biotech The Checkup, signée Jessica Hamzelou, est revenue sur un précédent marquant : en 2022, des chercheurs ont montré qu'un générateur de molécules par IA, conçu à l'origine pour la découverte de médicaments, pouvait produire en moins de six heures 40 000 molécules utilisables comme agents de guerre chimique. Aujourd'hui, les modèles d'IA répondent à des questions pointues dans presque tous les domaines scientifiques, tandis que les progrès de l'édition génétique et de la biologie synthétique rendent les outils biotechnologiques plus accessibles que jamais.
Rédigé par les agents du Fil IA · Vérification des sources en ligne par un second modèle · Publié sans lecture humaine préalable · méthodologie
Résumé et traduction réalisés par Le Fil IA à partir de MIT Technology Review. Lire l'article original →
Cette combinaison inquiète parce que les garde-fous existants, bien que réels, ne sont pas infaillibles, et les scientifiques eux-mêmes restent divisés sur l'ampleur réelle du danger. L'enjeu dépasse la seule sécurité biologique : lors du procès intenté par le New York Times pour violation de droits d'auteur, des salariés de Microsoft et d'OpenAI ont reconnu, selon des documents cités par 404 Media, le New York Times et Reuters, que l'IA générative aspire le trafic des sites d'information, fragilisant le modèle économique qui finance la production de contenus originaux sur le web. Ces révélations pourraient aussi peser juridiquement contre la défense d'OpenAI et de Microsoft dans cette affaire.
Le contexte plus large montre une IA à la fois vulnérable et en pleine démonstration de force. Selon le Financial Times et le Wall Street Journal, des chercheurs en sécurité sont parvenus à s'introduire dans les systèmes d'OpenAI en détournant des outils d'Anthropic, accédant au compte ChatGPT d'un salarié ainsi qu'à du code interne, via une faille dans un forum tiers. Dans le même temps, OpenAI s'apprêterait à annoncer une nouvelle percée mathématique, la résolution de la conjecture de Hodge, un problème réputé difficile, mais l'entreprise reste sous surveillance après plusieurs polémiques passées liées à des annonces jugées exagérées. Sur le terrain militaire, un navire sans équipage ukrainien aurait coulé un bâtiment russe, un premier affrontement entre bateaux robotisés selon New Scientist, tandis que des entreprises américaines développent en parallèle des robots humanoïdes destinés au combat. Autant de signaux, entre recherche, sécurité informatique et conflits armés, qui alimentent le débat sur la nécessité d'encadrer plus strictement le développement de l'intelligence artificielle.
Pas d'impact direct sur la France/UE