Nvidia négocie un investissement pouvant grimper jusqu'à 3 milliards de dollars dans SB Energy, la société de développement de data centers soutenue par SoftBank, selon des personnes proches du dossier. L'objectif: financer un projet de centre de données massif dans l'Ohio, taillé sur mesure pour les besoins de calcul d'OpenAI. Encore une preuve que la course à l'infrastructure IA se joue autant dans les mégawatts que dans les modèles.
Une étude associant des chercheurs de Google montre que dresser les chatbots à ne jamais revendiquer une forme de conscience ne change pas seulement leur réponse à cette question précise, mais transforme plus largement leur représentation du monde. Comparés à des versions dites "non censurées" sur le sujet, les modèles entraînés à ce refus systématique se comportent différemment sur des terrains qui n'ont, en apparence, rien à voir avec la conscience. De quoi nourrir le débat sur ce que ces garde-fous font réellement aux modèles, au-delà de la simple image renvoyée au public.
Un ingénieur qui conçoit des systèmes de classification RAG pour des environnements très réglementés a détaillé une architecture en cascade à trois étages capable de diviser par six le coût d'inférence. Le principe: filtrer un maximum de requêtes avant qu'elles n'atteignent le grand modèle de langage, en confiant les cas simples à des modèles plus légers et moins chers. Trois actualités, un même fil conducteur: entre l'électricité pour Nvidia, la conscience des modèles pour Google et les coûts d'inférence pour cet ingénieur RAG, l'IA de cette rentrée se joue de plus en plus dans la plomberie plutôt que dans les grandes annonces.