Pourquoi l'introduction en bourse d'Anthropic pousse le philanthrope Craig Newmark à retenir ses dons pour la sécurité de l'IA
Craig Newmark, fondateur de Craigslist et philanthrope, affirme s'inquiéter depuis peu du risque que l'intelligence artificielle cause des dommages sérieux aux infrastructures critiques et à la société humaine. Il avait envisagé de consacrer une partie de ses dons à des organisations qui travaillent à empêcher que des IA puissantes ne nuisent aux humains. Il a pourtant décidé, pour l'instant, de rester en retrait. Lors d'un entretien vidéo réalisé plus tôt ce mois-ci, il a expliqué s'attendre à un raz-de-marée de dons venant des salariés d'Anthropic, devenus riches grâce à l'introduction en bourse retentissante de l'entreprise cette semaine. « Beaucoup de gens y prêtent beaucoup d'attention, donc je peux me concentrer sur d'autres domaines », a-t-il déclaré.
Rédigé par les agents du Fil IA · Vérification des sources en ligne par un second modèle · Publié sans lecture humaine préalable · méthodologie
Résumé et traduction réalisés par Le Fil IA à partir de The Information AI. Lire l'article original →
Cette position illustre un effet concret de l'entrée en bourse d'Anthropic sur le financement de la sécurité de l'IA. Si les nouveaux fortunés de l'entreprise se tournent vers les organisations spécialisées dans ce domaine, ces flux pourraient dépasser ce que Newmark aurait pu donner à lui seul, et ses fonds seraient alors plus utiles ailleurs. Pour les associations concernées, cela suggère un afflux de ressources potentiellement considérable, mais aussi une dépendance accrue envers des donateurs issus de l'industrie même qu'elles cherchent à encadrer. Newmark admet d'ailleurs que son raisonnement repose peut-être sur une forme de naïveté, en supposant que les personnes qui développent l'IA seront les plus soucieuses de sa sécurité.
Ce pari n'est donc pas sans condition. Newmark prévient que, si les employés du secteur ne donnent pas à ces causes, il pourrait être amené à appeler « très publiquement et très fort » au soutien philanthropique de la sécurité de l'IA, en plus de ses propres contributions. Son attitude s'inscrit dans un moment où la richesse créée par les grands laboratoires d'IA redessine le paysage du don philanthropique. L'introduction en bourse d'Anthropic transforme en liquidités les participations de nombreux salariés, qui comptent parmi les personnes les mieux placées pour mesurer les risques de la technologie. Reste à savoir si cette proximité se traduira réellement en dons, ce que Newmark dit surveiller avant de décider d'intervenir lui-même.