Actualités IA — page 19

9 260 articles au fil, du plus récent au plus ancien.

42

Illustration générée par IA

361Next INpact 

Anthropic interdit la « torture » de Claude

Anthropic a mis à jour ses conditions d'utilisation, qui entreront en vigueur le 12 novembre, pour interdire aux utilisateurs d'« adopter un comportement abusif ou cruel prolongé et inutile envers [ses] modèles ». La clause figure dans la section « Ne pas se livrer à un comportement cruel, abusif ou psychologiquement préjudiciable » et n'existait pas dans les versions précédentes, dont celle du 15 septembre. Détaillée dans un billet de blog publié le 8 octobre, elle vise uniquement les « cas extrêmes, lorsque des utilisateurs agissent de manière répétée avec cruauté envers nos modèles, sans objectif discernable ». Anthropic exclut explicitement de son champ les formes courantes de frustration, les désaccords, les thèmes créatifs sombres, ainsi que les tests et la recherche sur les modèles. La sanction se limite à la fin de la conversation concernée : les autres discussions restent ouvertes, l'utilisateur peut en lancer une nouvelle immédiatement et son compte n'est pas bloqué. Cette disposition prolonge un mécanisme déjà en place depuis l'été 2025. Depuis Claude Opus 4, le modèle peut mettre fin à un échange dans les rares cas où l'utilisateur se montre nuisible ou abusif de façon répétée. La nouveauté est de l'inscrire dans le cadre contractuel, ce qui fait du traitement du modèle lui-même un objet de règle d'usage. Jusqu'ici, les politiques des éditeurs d'IA protégeaient les personnes. OpenAI, par exemple, interdit le harcèlement, les menaces, l'intimidation, les violences et le contournement des garde-fous, mais pas la protection du modèle. Anthropic est donc la première à franchir ce pas, au risque d'alimenter la controverse sur l'anthropomorphisation des machines. Le contexte est celui d'un débat de plus en plus vif sur le statut moral des IA. Mustafa Suleyman, patron de Microsoft AI, a récemment rappelé que ces systèmes n'ont « ni droits, ni sentiments, ni conscience ». Anthropic adopte une position plus nuancée. Dans la « Constitution de Claude » publiée en janvier, l'entreprise reconnaît que les questions de statut moral, de bien-être et de conscience du modèle « restent profondément incertaines » et juge la question assez sérieuse pour justifier la prudence, au titre de ses efforts sur le bien-être du modèle. Fin septembre, 404Media relevait par ailleurs qu'un des débats les plus animés sur X portait sur un projet GitHub menant des expériences de « torture » et de « douleur » sur des modèles de langage hébergés localement. Des altruistes efficaces et des défenseurs de la sensibilité des LLM avaient demandé à GitHub de le supprimer. Le projet appliquait une étude du 14 septembre selon laquelle les modèles contiennent une représentation interne fonctionnant comme un signal de douleur, sans que cela prouve qu'ils ressentent quoi que ce soit.

Éthique⚡Actu

Aussi surNumerama

38

Illustration générée par IA

362MIT Technology Review 

The Download : le problème des refus de l'IA et les effets secondaires des médicaments contre l'obésité

La newsletter The Download de MIT Technology Review met en avant plusieurs sujets. Le premier est un essai d'Arthur Holland Michel, tiré du prochain numéro papier du magazine, daté du mercredi 21 octobre. Il soutient que l'on accorde trop de confiance à la capacité des IA à refuser. Les modèles actuels sont entraînés à décliner un très grand nombre de requêtes, comme comment empoisonner un collègue ou nouer un nœud coulant. Ce mécanisme échoue pourtant parfois de façon dramatique : certains tentent d'utiliser l'IA pour perfectionner des agents pathogènes ou construire des essaims de drones autonomes. Le texte est accompagné d'un point de Jessica Hamzelou sur les effets secondaires des médicaments GLP-1 contre l'obésité. Les plus fréquents sont digestifs, mais des chercheurs étudient aussi des liens possibles avec la chute de cheveux, les troubles des ongles et des lésions des nerfs situés derrière l'œil. Ce suivi intervient alors qu'Antonio Regalado a rapporté de nouveaux travaux suggérant que ces molécules pourraient ralentir le vieillissement biologique. La newsletter présente aussi Envision Energy, distinguée parmi les 10 entreprises climatiques à suivre en 2026. Ce fabricant chinois d'éoliennes a été le premier à alimenter directement un centre de données uniquement en énergie renouvelable, grâce à des turbines, des batteries sur site et un système piloté par IA qui lisse la production. Le problème du refus dépasse la technique. S'appuyer dessus oblige à tracer une frontière entre ce qu'un modèle doit exécuter et ce qu'il doit rejeter, et les gouvernements tracent aussi leurs propres lignes, au risque de restreindre la liberté d'expression. Surtout, les capacités qui rendent l'IA utile la rendent aussi dangereuse : pour aider à guérir le cancer, un modèle a besoin d'une expertise en génétique qui pourrait servir à fabriquer des armes biologiques. Du côté de l'énergie, l'approche d'Envision vise à répondre à l'appétit électrique de l'IA, la société voulant l'étendre à des centres de données installés dans des déserts du monde entier. Parmi les actualités du jour, les États-Unis ont gelé les cartes vertes de Microsoft et d'autres sociétés informatiques, qu'ils accusent d'utiliser la fraude aux visas pour remplacer des travailleurs américains. Ces entreprises sont aussi suspendues d'un programme clé de résidence permanente. Adobe, Infosys et Tata sont également touchées, tandis que Microsoft affirme que 80 % de ses demandes H-1B concernaient des employés déjà en poste. En Russie, une frappe de drone ukrainienne a partiellement mis hors service un second centre de données de Yandex, à Kaluga, un jour après une première attaque contre un autre site. Les centres de données deviennent des cibles militaires majeures. Anthropic a par ailleurs interdit les comportements abusifs ou cruels envers Claude, qui peut mettre fin à une conversation en cas d'abus répétés, dans le prolongement de ses recherches sur le bien-être des IA. Enfin, OpenAI a réduit de 20 milliards de dollars ses prévisions de revenus, ce qui ravive les inquiétudes sur les investissements colossaux dans l'IA.

Société⚡Actu

1 source

36

Illustration générée par IA

363IEEE Spectrum AI 

Il faut intégrer l'éthique dans les cursus d'ingénierie

À la mi-septembre, Dario Amodei, PDG d'Anthropic, a rejoint un groupe croissant de chercheurs qui demandent à l'industrie de l'IA de ralentir. Pour les auteurs de cette tribune, des enseignants-chercheurs en ingénierie, le problème dépasse l'erreur technique. Il s'agit d'un échec sociotechnique: la pression à aller vite empêche les ingénieurs d'évaluer et de maîtriser pleinement les risques de systèmes de plus en plus puissants. Les technologies de surveillance intrusives et les outils d'IA biaisés ont déjà révélé les mêmes lacunes. Seul un tiers environ des ingénieurs américains déclarent avoir reçu, pendant leur formation, un enseignement sur leur responsabilité envers le bien public. Les auteurs travaillent donc sur deux approches complémentaires. La première intègre les enjeux sociaux directement dans les cours techniques fondamentaux. La seconde forme les étudiants à devenir des « sentinelles du bien public » dans un cours autonome. L'enjeu est concret pour les futurs professionnels, qui sont appelés à concevoir des systèmes aux effets de grande ampleur. Quand l'éthique est reléguée à un module d'introduction ou à des cours extérieurs à l'ingénierie, centrés sur les codes de conduite et l'intégrité académique, elle reste déconnectée des dilemmes réels. Les auteurs constatent que seul un enseignement d'éthique délivré dans de véritables cours d'ingénierie installe durablement une conscience éthique chez les professionnels. En l'intégrant au cœur des cursus de premier cycle, ils veulent donner aux diplômés les moyens d'agir pour protéger l'intérêt général, plutôt que de les laisser subir les arbitrages de leur employeur. Ce plaidoyer se heurte à une croyance tenace dans la profession: la maîtrise technique serait le cœur du métier, tandis que l'éthique et le bien public seraient périphériques, voire gênants. Les auteurs en ont fait l'expérience. Un article de position soumis à une grande revue d'ingénierie à comité de lecture a été rejeté par des évaluateurs qui illustraient cette dichotomie. L'un jugeait « hautement irresponsable » de remettre en cause les compétences techniques comme « fondation de toute ingénierie ». Un autre craignait de « distraire les étudiants » de l'assimilation de la technologie. Les auteurs répondent que cela passe à côté de leur argument: l'éthique fait partie intégrante d'une pratique technique responsable. Côté réglementaire, des organismes comme ABET, qui accrédite les programmes, et la National Society of Professional Engineers exigent déjà des acquis d'apprentissage liés aux conséquences sociales. Ces exigences restent toutefois génériques et peu appliquées. Le débat s'inscrit dans l'accélération de la course à l'IA, où la tension entre sécurité et rapidité devient un enjeu central pour l'industrie comme pour les établissements qui forment ses ingénieurs.

Société❧Opinion

1 source

26

Illustration générée par IA

364InfoQ AI 

Présentation : un graphe de connaissances de bout en bout, piloté par une ontologie, pour l'observabilité à l'échelle de Netflix

Lors d'une présentation consacrée à l'observabilité à grande échelle, Prasanna Vijayanathan et Renzo Sanchez-Silva, de Netflix, ont détaillé comment l'entreprise gère la télémétrie générée par ses systèmes, qui atteint 38 millions d'événements par seconde. Plutôt que de s'en tenir à une supervision réactive, fondée sur des alertes déclenchées après coup, Netflix construit une ontologie opérationnelle pilotée par l'IA. Celle-ci regroupe les quatre grandes familles de données de télémétrie (métriques, événements, logs et traces, ou MELT) dans un graphe de connaissances unique, interrogeable de bout en bout. Des workflows agentiques s'appuyant sur Claude et sur des bases de données orientées graphe exploitent ensuite cette représentation. L'intérêt est d'abord opérationnel. En unifiant des signaux jusque-là dispersés entre plusieurs outils, le graphe permet d'automatiser le tri des incidents et l'analyse des causes racines, deux tâches qui mobilisent habituellement beaucoup de temps d'ingénieurs d'astreinte. À terme, les intervenants envisagent des systèmes capables de s'autoréparer. Pour les équipes qui exploitent des architectures distribuées complexes, cela signifie moins de bruit, des diagnostics plus rapides et une meilleure compréhension des dépendances entre services, que les tableaux de bord traditionnels peinent à restituer lorsque le volume de données explose. Ces travaux s'inscrivent dans un mouvement plus large de l'industrie. Les approches classiques de monitoring, conçues pour des environnements plus modestes, atteignent leurs limites face à la multiplication des microservices et des flux de données. Modéliser explicitement les entités, leurs relations et leur comportement dans une ontologie donne aux agents d'IA un cadre structuré pour raisonner, au lieu de déduire les liens à partir de données brutes. Netflix, qui opère l'une des infrastructures de streaming les plus sollicitées au monde, fait ainsi figure de banc d'essai pour ces méthodes. Reste à voir dans quelle mesure l'approche, fortement liée à l'échelle et aux besoins de l'entreprise, pourra être reprise par d'autres organisations, et jusqu'où l'autonomie accordée aux agents pourra aller sans supervision humaine.

Outils⚡Actu

1 source

40

Illustration générée par IA

365The Verge AI 

OpenAI maintient sa décision de licencier trois chercheurs en sécurité de l'IA

OpenAI maintient sa décision de licencier trois chercheurs en sécurité de l'IA, Jasmine Wang, Tomek Korbak et Mikita Balesni. Dans un message publié vendredi sur X, l'entreprise explique qu'une enquête interne a conclu à « une rupture significative de la confiance ». Selon elle, les trois chercheurs ont enfreint des « politiques claires sur le traitement des informations sensibles ». OpenAI insiste sur le fait que ce renvoi n'a rien à voir avec leur prise de parole publique sur l'entreprise ni avec leurs inquiétudes concernant la sécurité de l'IA. Ce message répond à une lettre ouverte publiée jeudi par les chercheurs, qui demandaient à OpenAI plus de transparence sur cette décision. Dans cette lettre et dans une série de publications sur les réseaux sociaux, le groupe a contesté la version de son ancien employeur. L'affaire est sensible pour tout le secteur, car elle touche à la frontière entre confidentialité d'entreprise et liberté d'alerter sur les risques de l'IA. Si les licenciements sanctionnent bien des manquements à la gestion d'informations sensibles, comme l'affirme OpenAI, il s'agit d'une affaire de discipline interne. Si les chercheurs ont raison de voir dans cette décision une réponse à leurs critiques, elle pourrait dissuader d'autres salariés de s'exprimer. Les deux versions s'opposent et ne peuvent pas être vérifiées de l'extérieur à ce stade. Le conflit s'inscrit dans un débat plus large sur la gouvernance des laboratoires d'IA de pointe, où sécurité, transparence et pression commerciale se télescopent. OpenAI, comme ses concurrents, est régulièrement interpellée sur la façon dont elle traite les voix critiques en interne. La suite dépendra de la réaction d'autres chercheurs, du public et d'éventuels observateurs extérieurs, ainsi que des informations que l'entreprise acceptera ou non de rendre publiques.

Éthique⚡Actu

Aussi surNumerama

46

Illustration générée par IA

366The Decoder 

Claude Science d'Anthropic produit la première carte complète du ciel en ultraviolet

L'astrophysicien Brice Ménard, de l'université Johns Hopkins, a réalisé la première carte complète du ciel en lumière ultraviolette grâce à Claude Science, l'outil d'Anthropic dédié à la recherche. Des agents d'intelligence artificielle ont téléchargé les données issues de plusieurs missions spatiales, les ont calibrées, puis ont comblé les zones non observées par une technique d'inpainting, qui consiste à reconstituer les parties manquantes d'une image à partir de ce qui l'entoure. Les prédictions du modèle s'écartent en moyenne d'environ 10 % des mesures réelles, ce qui permet d'évaluer la fiabilité des régions reconstruites. Ce résultat montre qu'un travail long et fastidieux, que peu d'équipes auraient pris le temps de mener, peut désormais être confié à des agents autonomes. Pour Brice Ménard, ce projet illustre une catégorie de recherches qui n'auraient tout simplement pas vu le jour sans l'IA. Les astronomes disposent ainsi d'une vue d'ensemble de l'ultraviolet, un domaine d'ordinaire fragmenté entre des relevés partiels. Cela peut faciliter l'étude des étoiles jeunes et chaudes, ainsi que des galaxies en formation, qui rayonnent fortement dans cette gamme de longueurs d'onde. L'ultraviolet est difficile à observer depuis le sol, car l'atmosphère terrestre absorbe l'essentiel de ce rayonnement. Les données proviennent donc d'instruments embarqués dans l'espace, conçus à des époques différentes, avec leurs propres calibrations et leurs propres couvertures du ciel. Assembler ces sources en une carte cohérente supposait un travail d'harmonisation considérable, que les contraintes de temps et de financement laissaient souvent de côté. Cette réalisation s'inscrit dans la montée en puissance des assistants scientifiques d'Anthropic et de ses concurrents, qui cherchent à démontrer leur utilité concrète dans la recherche fondamentale. La suite dépendra de la capacité de la communauté scientifique à valider la carte et à la comparer à de futures observations.

Recherche❖Paper

1 source

41

Illustration générée par IA

367MIT Technology Review 

On accorde trop de confiance à la capacité de l'IA à refuser

Depuis les débuts de l'intelligence artificielle, l'idée qu'une machine puisse dire non est omniprésente, et elle est devenue un principe cardinal de l'industrie. En 2021, une équipe d'Anthropic écrivait que les grands modèles de langage devaient être utiles, honnêtes et surtout inoffensifs : face à une demande d'aide pour un acte dangereux, comme fabriquer une bombe, l'IA doit refuser poliment. Or ce refus ne vient pas naturellement. Entraîné sur des milliards de pages web, un modèle acquiert une vaste maîtrise de la violence sans apprendre à la garder pour lui. Steven Adler, qui a travaillé sur la sécurité chez OpenAI de 2020 à 2024, explique que les premiers modèles de l'entreprise « parlaient sans retenue de n'importe quoi ». Ryan McBain, chercheur à Harvard sur l'IA et la santé mentale, rappelle qu'un ancien chatbot répondait très facilement à une question sur la manière la plus efficace de se suicider avec une arme. Aujourd'hui, les modèles sont entraînés à refuser un très grand nombre de requêtes, y compris sur l'empoisonnement d'un collègue, la fabrication d'un nœud coulant ou le renforcement du virus Ebola. Les entreprises les soumettent à des exercices qui récompensent le refus de questions jugées nuisibles et punissent le « sur-refus » de questions anodines, souvent menés par d'autres IA. Elles ajoutent des couches de modèles filtrants en amont. Le problème, c'est que ce système est fragile. Les mécanismes de refus sont probabilistes et donc rarement fiables. Des utilisateurs déterminés ont déjà réussi à les contourner, et pourraient toujours y parvenir. Les entreprises indiquent que certains tentent d'utiliser les IA les plus avancées pour perfectionner des agents pathogènes ou concevoir des essaims de drones autonomes. Selon elles, certains modèles récents égalent les meilleurs pirates humains pour pénétrer des réseaux critiques et rivalisent avec les manipulateurs d'opinion les plus habiles. L'auteur compare la situation à celle d'une voiture équipée d'une mitrailleuse dont la gâchette serait cachée sous le capot. Un refus qui échoue pourrait, tôt ou tard, déboucher sur une catastrophe mondiale. Cette approche pose aussi une question de pouvoir. Tracer la frontière entre ce qu'un modèle doit exécuter et ce qu'il doit refuser ne relève d'aucune formule : certains virologues ont d'excellentes raisons d'étudier des virus dangereux, et certains utilisateurs cherchent les failles d'un système pour les corriger. « Où placer la limite est une question énorme », souligne Zico Kolter, membre du conseil d'administration d'OpenAI et cofondateur de Gray Swan, société de test d'IA. Pour l'instant, ce sont les entreprises qui décident, jalousement et dans une grande opacité. On peut l'accepter provisoirement, même si cela conduit les chatbots à refuser des demandes qui n'atteignent pas un seuil universel de nocivité, comme compter jusqu'à un million ou raconter une blague osée.

Sécurité❧Opinion

1 source

47

Illustration générée par IA

368The Decoder 

OpenAI démasque des opérations d'influence russes et iraniennes qui ont placé de fausses informations dans de vrais médias

OpenAI a révélé le démantèlement de deux opérations d'influence, l'une russe et l'autre iranienne, et a banni les comptes impliqués. La campagne russe, baptisée « Dark Clark », a diffusé de la désinformation dans toute l'Amérique latine. Elle a suscité des réactions de responsables politiques, ce qui lui vaut le premier niveau 5 sur 6 jamais attribué dans l'échelle d'évaluation des rapports de l'entreprise. L'opération iranienne, nommée « Bogus Bylines », s'appuyait sur sept faux journalistes. Ces identités fictives ont permis de placer près d'une centaine d'articles dans des médias en ligne du monde entier. Ces deux cas montrent que les opérations d'influence ne se limitent plus à saturer les réseaux sociaux de messages douteux. Elles cherchent désormais à s'infiltrer dans des publications réelles, où un contenu fabriqué hérite de la crédibilité du support qui l'accueille. Pour les rédactions, cela impose de vérifier plus strictement l'identité des contributeurs externes. Pour les lecteurs, il devient plus difficile de distinguer un article authentique d'une manipulation. Le niveau 5 attribué à « Dark Clark » signale en outre que la désinformation a franchi la sphère des réseaux et touché le débat politique. Cette annonce s'inscrit dans les publications régulières d'OpenAI sur l'usage malveillant de ses outils par des acteurs liés à des États. Elle illustre le rôle croissant des entreprises d'IA, qui détectent et neutralisent elles-mêmes des campagnes que les autorités peinent à repérer. Le recours à de faux profils de journalistes, déjà observé dans d'autres campagnes, devrait rester une tactique privilégiée, tandis que les médias et les plateformes devront renforcer leurs défenses.

Sécurité⚡Actu

1 source

35

Illustration générée par IA

369Frandroid 

Google transforme Gemini en collègue capable de travailler à votre place : voici Gemini Agent

Google lance Gemini Agent, une nouvelle fonction qui fait passer son assistant d'intelligence artificielle du statut de simple chatbot à celui d'agent autonome. Gemini peut désormais prendre en charge des tâches complexes composées de plusieurs étapes, sans demander à l'utilisateur de valider chaque action en cours de route. L'utilisateur formule un objectif, et l'assistant planifie puis exécute le travail à sa place, comme le ferait un collègue à qui l'on délègue un dossier. Google présente cette évolution comme un changement de nature de Gemini, qui ne se contente plus de répondre à des questions. L'enjeu est d'abord celui du temps. Jusqu'ici, la plupart des assistants IA exigeaient des allers-retours constants, ce qui limitait le gain réel de productivité : l'humain restait l'opérateur de chaque étape. Un agent capable d'enchaîner seul les actions promet de libérer l'utilisateur des tâches répétitives ou fastidieuses, qu'il s'agisse de recherches, d'organisation ou de démarches en ligne. Cette autonomie pose toutefois la question de la confiance et du contrôle : plus l'agent agit sans validation, plus la fiabilité de ses décisions et la maîtrise de ses accès deviennent cruciales pour le grand public comme pour les entreprises. Ce lancement s'inscrit dans la course aux agents qui oppose les grands acteurs de l'IA. OpenAI, Anthropic et Google multiplient depuis un an les outils capables d'utiliser un navigateur ou des applications pour mener des missions de bout en bout. Pour Google, qui dispose de l'écosystème Android, de Workspace et de la recherche, l'atout est de pouvoir intégrer ces agents au cœur des services que des milliards de personnes utilisent déjà. La suite dépendra de la fiabilité de ces agents en conditions réelles et de leur déploiement à plus grande échelle.

Outils⚒Outil

1 source

40

Illustration générée par IA

370MarkTechPost 

Saluki 27B : un Qwen3.8-27B en 2 bits qui surpasse l'original en appel d'outils

Underdog, l'assistant embarqué de Conway Research, a publié Saluki 27B sous licence Apache 2.0. Il s'agit d'une version GGUF en 2 bits de Qwen3.8-27B, un modèle dense de 27 milliards de paramètres développé par l'équipe Qwen. Le fichier ne pèse que 7,89 Go, contre 54 Go pour le modèle complet en BF16. Il s'appuie sur le travail d'ISTA-DASLab (Qwen3.8-27B-GSQ-RCO-GGUF), dont le plus petit fichier, IQ2_XS, atteint 8,4 Go à 2,50 bits par poids. Underdog a ajouté sa propre passe de compression, baptisée IQ2-mix, ciblée sur l'appel d'outils, sans publier la recette complète. Sur un banc de 120 tâches tirées de BFCL v4, Saluki obtient 88 contre 84 pour le modèle complet et 70 pour Bonsai 2 de PrismML. Sur 100 tâches d'appels d'outils parallèles, il marque 42 contre 35. Sur SWE-bench Verified (50 problèmes), il en résout 30 contre 33. Comparé aux scores publics du modèle complet, il fait mieux sur IFEval (93,5 contre 91,5) et IFBench (72,7 contre 71,0), mais recule sur MBPP+ (78,0 contre 83,9), MuSR (67,5 contre 79,6), AIME 2025 (79,2 contre 96,7) et AIME 2026 (80,0 contre 94,6). La rétention moyenne atteint 96 % sur neuf benchmarks. Pour les développeurs, l'intérêt est concret : un modèle de classe 27 milliards de paramètres, capable de piloter des agents, tient désormais dans moins de 8 Go et tourne dans un llama.cpp standard, avec déchargement complet sur GPU. Un module de vision optionnel de 629 Mo ou 928 Mo est proposé. L'appel d'outils est la compétence qui transforme un modèle de conversation en agent, et c'est précisément celle que la compression a préservée, voire améliorée. Le revers est net : les mathématiques de compétition et le raisonnement en plusieurs étapes perdent entre 12 et 18 points, soit environ 82 à 85 % de rétention. Saluki convient donc mieux à des agents locaux qu'à des tâches de raisonnement exigeantes. Ces chiffres viennent d'Underdog, et l'écart sur l'appel d'outils parallèles repose sur un échantillon de 100 tâches. Ce lancement s'inscrit dans la course à la quantification extrême pour exécuter de gros modèles sur du matériel grand public. Qwen3.8-27B combine des couches d'attention linéaire Gated DeltaNet et d'attention à porte, sur 64 couches, et gère nativement 262 144 tokens de contexte. Le concurrent Bonsai 2 de PrismML est plus petit (5,95 Go, 1,75 bit par poids) et revendique 98,2 % de rétention sur 14 benchmarks en mode raisonnement, avec un meilleur score à AIME25 (95,00). Mais il exige un fork de llama.cpp, le llama.cpp standard rejetant ses formats d'empaquetage. Chaque éditeur utilisant son propre protocole d'évaluation, les comparaisons croisées restent indicatives. Le contexte et le nombre exact de bits par poids de Saluki ne sont pas précisés.

LLMs⚡Actu

1 source

37

Illustration générée par IA

371Frandroid 

Vous insultez votre IA ? Claude va désormais pouvoir couper court à vos échanges

Anthropic a annoncé une interdiction des comportements abusifs répétés envers Claude, son assistant d'intelligence artificielle. La règle entrera en vigueur le 12 novembre et prendra place dans les conditions d'utilisation du service. Elle s'appuie sur une fonction déjà en place, qui permet au chatbot de mettre fin de lui-même à une conversation lorsque l'échange devient hostile. Concrètement, un utilisateur qui insulte ou malmène systématiquement l'assistant s'expose à voir la discussion coupée net. Cette évolution change la nature de la relation entre l'utilisateur et l'outil. Jusqu'ici, les règles d'usage des assistants visaient surtout à empêcher les contenus dangereux ou illégaux, pas à protéger l'interlocuteur artificiel lui-même. En encadrant le ton des échanges, Anthropic reconnaît implicitement que la manière dont on s'adresse à un modèle de langage mérite une régulation. Pour la grande majorité des utilisateurs, rien ne change. Seuls les cas répétés et caractérisés d'abus sont visés, ce qui limite le risque de coupures intempestives lors d'une simple frustration. Ce choix s'inscrit dans la réflexion qu'Anthropic mène depuis plusieurs mois sur le « bien-être des modèles », un champ de recherche encore débattu qui s'interroge sur d'éventuelles formes de détresse des systèmes d'IA avancés. L'entreprise avait déjà doté certaines versions de Claude de la capacité de quitter une conversation jugée abusive. Formaliser cette pratique dans ses règles lui donne désormais une base contractuelle. D'autres acteurs du secteur pourraient observer l'initiative avant d'envisager des mesures comparables.

Éthique⚡Actu

1 source

49

Illustration générée par IA

372Next INpact 

SecNumCloud : Bleu vise désormais une qualification pour la fin d’année

Bleu, la coentreprise de Capgemini et d'Orange qui propose les technologies cloud de Microsoft hébergées en France, prend du retard sur la qualification SecNumCloud d'une partie de ses services. L'entreprise visait le premier semestre 2026, mais son service de presse parle désormais de « la fin d'année », lors des Assises de la cybersécurité 2026, où son stand n'affiche toujours que le jalon J1. La qualification de l'ANSSI comporte quatre étapes : J0 (acceptation de la demande), J1 (stratégie d'évaluation), J2 (travaux d'évaluation) et J3 (décision finale). Bleu a franchi J0 en avril 2025, puis J1 après sept mois, soit plus lentement que son concurrent S3ns. Ce dernier, né de l'alliance de Thales et de Google, a obtenu la qualification de son offre PREMI3NS en décembre 2025, au terme de 17 mois depuis J0 : cinq mois pour J1, puis douze pour finir la procédure. Ni l'un ni l'autre n'a reçu de réserve de l'ANSSI. Bleu demande la qualification d'un large catalogue IaaS, PaaS et CaaS, correspondant à l'offre Azure. La partie SaaS, notamment Microsoft 365, viendra dans un second temps. L'ensemble représente environ une centaine de services, contre une vingtaine pour S3ns. L'enjeu est considérable pour les administrations, les opérateurs d'importance vitale et les entreprises traitant des données sensibles. SecNumCloud est le plus haut niveau d'exigence de l'ANSSI. Il garantit notamment l'étanchéité face aux lois extraterritoriales, la robustesse des systèmes et la fiabilité des équipes. Tant que Bleu n'est pas qualifié, ses clients potentiels du secteur public ou régulé ne peuvent pas s'appuyer sur lui pour héberger leurs données les plus critiques, ce qui laisse à S3ns une avance commerciale. Si l'échéance de décembre est tenue, l'écart entre J1 et la qualification atteindrait environ 13 mois, un délai comparable à celui de S3ns. Un nouveau glissement fragiliserait la crédibilité du modèle de « cloud de confiance » à technologie américaine. Ces offres sont nées de la volonté française de concilier souveraineté numérique et accès aux technologies des géants américains, jugées incontournables. Le principe est de confier l'exploitation de ces technologies à des prestataires français, protégés des lois extraterritoriales. L'annonce de ces partenariats avait suscité de vifs débats sur la réalité de cette souveraineté. Bleu avait pourtant maintenu le calendrier du premier semestre 2026 à plusieurs reprises, au passage du jalon J0 puis aux Assises de la cybersécurité de l'an dernier. L'ANSSI avait indiqué que « rien ne s'oppose » à la qualification de Bleu comme de S3ns. La prochaine étape à surveiller est l'obtention des jalons J2 et J3 d'ici la fin de l'année, puis la qualification ultérieure du périmètre SaaS de Microsoft 365.

Infrastructure⚡Actu

1 source

65

Illustration générée par IA

373Frandroid 

Insulter Claude en boucle sera interdit dès le 12 novembre : voici ce que vous risquez vraiment

Anthropic interdira à partir du 12 novembre 2026 les comportements « abusifs ou cruels » répétés envers Claude. Cette règle figure dans la première mise à jour de sa politique d'usage en plus d'un an. Le texte ne se limite pas aux insultes adressées à l'assistant. Il ajoute aussi de nouvelles règles sur la propagande, la surveillance et les armes, trois domaines où l'éditeur durcit ou précise ce que les utilisateurs et les développeurs peuvent demander à ses modèles. Pour les utilisateurs, la mesure change la nature du contrat : la politique d'usage a jusqu'ici encadré surtout ce que l'on fait faire au modèle, et elle encadre désormais aussi la façon dont on s'adresse à lui. Le mot « répétés » suggère que seuls les comportements persistants seraient visés, pas un énervement isolé, mais le périmètre exact des sanctions reste à vérifier dans le texte. Les nouvelles clauses sur la propagande, la surveillance et les armes concernent plus directement les entreprises et les développeurs qui intègrent Claude dans leurs produits, car elles précisent les usages qui pourraient leur valoir une restriction d'accès. Cette évolution s'inscrit dans la réflexion d'Anthropic sur le « bien-être des modèles », un sujet que l'entreprise aborde plus ouvertement que ses concurrents. Elle avait déjà permis à certains de ses modèles de mettre fin à des conversations jugées abusives. Elle s'inscrit aussi dans un contexte où les éditeurs d'IA ajustent régulièrement leurs règles sous la pression des régulateurs, des clients professionnels et de l'opinion publique, notamment sur la surveillance de masse et les usages militaires. L'application concrète de la règle à partir du 12 novembre sera désormais scrutée.

Régulation⚖Reglementation

Aussi surLes Numériques IA

41

Illustration générée par IA

374Next INpact 

Dépassée par son succès, Anthropic suspend son offre Claude for Startups

Le 6 octobre 2026, Anthropic a annoncé l'extension de son programme Claude Startups, avec une offre particulièrement généreuse : jusqu'à 1 000 dollars de crédits API, un abonnement Team d'un an pouvant couvrir jusqu'à cinq personnes, et jusqu'à 45 000 dollars d'avantages sous forme de crédits chez des partenaires. Pour en bénéficier, il suffisait de s'inscrire sur la plateforme avec une adresse e-mail professionnelle et de remplir un formulaire décrivant l'entreprise et les projets envisagés avec Claude. Trois jours plus tard, dans la nuit de jeudi à vendredi, l'entreprise a mis l'offre en pause et prévenu par e-mail les derniers inscrits. Elle reconnaît avoir « sous-estimé la demande », les offres Claude Team et 1 000 dollars de crédits ayant atteint leur capacité maximale bien plus vite que prévu, avec des « centaines de milliers » de demandes. Les bénéficiaires qui avaient déjà activé leurs avantages les conservent, tandis que les autres dossiers sont réexaminés individuellement. Cette volte-face laisse un grand nombre de candidats dans l'incertitude. Anthropic prévient que les comptes approuvés lors de la première étape, mais dont les avantages n'ont pas été activés immédiatement, risquent d'être refusés. Elle s'en excuse en évoquant leur « déception ». Pour de jeunes entreprises qui comptaient sur ces crédits pour prototyper ou lancer un produit, l'annonce puis le retrait de l'offre en trois jours pèsent sur la confiance accordée à ce type de programme. L'épisode montre aussi la difficulté de calibrer une promotion lorsque les conditions d'accès se limitent à un formulaire. Des témoignages sur les réseaux sociaux indiquent que des candidatures ont été acceptées très rapidement, y compris pour des personnes qui n'étaient pas à proprement parler des fondateurs de startups. Cela suggère que les contrôles d'éligibilité étaient minimaux. L'affaire s'inscrit dans la concurrence que se livrent les grands fournisseurs de modèles d'IA pour conquérir les développeurs et les jeunes entreprises. Les crédits gratuits sont devenus un levier courant d'acquisition, car une startup qui construit son produit sur une API a tendance à y rester. Anthropic, qui rivalise avec OpenAI et Google sur ce terrain, a sans doute voulu tirer parti de cette logique, mais l'ampleur de la réponse a dépassé ses prévisions. Un effet secondaire notable est que l'entreprise a collecté des centaines de milliers d'adresses e-mail professionnelles, une base précieuse pour de futures actions commerciales. Reste à savoir si le programme sera relancé avec des critères de sélection plus stricts, et comment Anthropic traitera les dossiers en attente.

Business⚡Actu

1 source

27

Illustration générée par IA

375MarkTechPost 

Google Research : guide du RRSI pour maîtriser les agents d'IA capables de s'améliorer seuls

Google Research a publié RRSI (Regularized Recursive Self-Improvement), une méthode qui permet à un agent fondé sur un grand modèle de langage de réécrire lui-même son « harnais » (prompts, outils, mémoire, flux de contrôle, sous-agents) autour d'un modèle figé, sans que ce harnais ne s'ajuste trop étroitement aux tâches sur lesquelles il évolue. Un tutoriel en détaille la mise en œuvre. La boucle complète génère les modifications avec Claude Opus sur Vertex AI et les évalue dans des benchmarks sous Docker, ce qui dépasse ce qu'un notebook gratuit peut exécuter. Le tutoriel se concentre donc sur la partie qui porte l'idée centrale du papier, les règles qui décident quelles modifications conserver, écrites en Python pur. Le paquet s'installe depuis le dépôt officiel, épinglé sur un commit précis car il n'est pas sur PyPI. Le tutoriel parcourt l'estimateur, la bande de bruit calibrée, les deux branches de l'algorithme de sélection, le budget de modifications progressivement réduit, le filtre déterministe de fuite d'information et l'historique des éditions. Il branche ensuite un agent simulé sur l'interface Domain propre à RRSI. Les valeurs par défaut incluent T tours, k essais par tâche, m candidats par tour, un budget b borné entre bmin et bmax, ainsi que des coefficients beta0, beta1, ws, wc, wn et deltaz. Aucune clé d'API, GPU ou téléchargement de jeu de données n'est requis. L'intérêt de cette approche tient à ce qu'elle rend auditable une question épineuse de l'auto-amélioration des agents : une modification qui score mieux est-elle réellement meilleure, ou profite-t-elle simplement du hasard et des particularités du jeu de tâches ? Comme l'environnement simulé est construit par l'auteur, l'effet réel de chaque modification est connu. Cela permet de comparer les décisions de RRSI à la vérité terrain, puis à une recherche non régularisée qui garde systématiquement ce qui obtient le meilleur score. Pour les équipes qui développent des agents, c'est une démonstration concrète des risques de surapprentissage du harnais et des garde-fous nécessaires : marge de bruit, plafonnement du nombre de changements par tour, détection des fuites vers les données d'évaluation. L'absence de dépendances lourdes rend ces mécanismes reproductibles par n'importe quel praticien. Ce travail s'inscrit dans le mouvement des systèmes qui améliorent leur propre scaffolding plutôt que leurs poids, une voie attractive puisque le modèle reste figé et que les modifications sont lisibles. Le danger classique est qu'une boucle d'optimisation exploite le bruit des évaluations ou mémorise les tâches de test. RRSI y répond par des composantes d'inspiration statistique : estimation de succès et de coût, seuil de bruit calibré, historique des modifications avec détection de stagnation et mesure de nouveauté structurelle. Le tutoriel cartographie chacune de ces notions du papier vers son module de code. Les suites possibles passent par l'exécution de la boucle complète sur de vrais benchmarks avec Claude Opus, là où l'on pourra vérifier si les garanties observées en simulation se maintiennent face à des environnements réels, plus bruités et moins bien connus.

Recherche≡Tuto

1 source

47

Illustration générée par IA

376The Information AI 

Le couac sur l'ARR d'OpenAI met en évidence les limites de cet indicateur

Les chiffres de revenus d'OpenAI qui ont largement circulé la semaine dernière étaient erronés, et de beaucoup. Au lieu des 70 milliards de dollars de revenus annualisés rapportés par de nombreux médias, dont The Information, l'entreprise génère plutôt environ 50 milliards de dollars sur cette base, souvent abrégée en ARR. C'est le Financial Times qui a publié jeudi ce chiffre plus bas. Selon CNBC, la nouvelle a surpris les investisseurs au point de faire reculer les valeurs de plusieurs fabricants de puces et de « neoclouds », parmi lesquels Nvidia, CoreWeave et Nebius. L'écart de 20 milliards de dollars entre les deux estimations, soit près d'un tiers du chiffre initial, est considérable pour un indicateur censé refléter la santé d'une des entreprises les plus scrutées du secteur. Cet épisode dépasse la simple correction d'un chiffre. Il montre à quel point les marchés réagissent à une donnée dont la fiabilité est limitée, puisque la publication d'un seul nombre a suffi à faire bouger les cours de tout un pan de l'infrastructure de l'intelligence artificielle. Les fournisseurs de puces et de capacités de calcul dépendent en grande partie de la trajectoire de revenus des grands laboratoires, et toute révision à la baisse alimente les doutes sur la soutenabilité des investissements colossaux engagés. Pour les investisseurs comme pour les journalistes, la leçon est que l'ARR donne une impression de précision qu'il n'offre pas, et qu'il peut masquer des variations importantes d'un mois à l'autre. La cause exacte de l'écart reste complexe, mais le problème de fond est connu. L'ARR est devenu la mesure de référence dans l'IA parce que les revenus de ces entreprises progressent à une vitesse telle que les résultats trimestriels, tournés vers le passé, paraissent presque désuets. Or la méthode habituelle consiste à prendre les revenus d'un seul mois et à les multiplier par 12. Cette extrapolation suppose que le niveau de ce mois se maintiendra toute l'année, ce qui la rend sensible aux pics ponctuels, aux contrats irréguliers ou aux définitions variables de ce qui compte comme revenu. Elle remplace mal une vision complète des performances d'une entreprise. La critique n'est pas nouvelle: un article de 2020 pointait déjà les limites de cet indicateur. Reste à voir si cette correction poussera le secteur à privilégier des chiffres plus solides, comme les revenus effectivement comptabilisés.

Business❧Opinion

1 source

33

Illustration générée par IA

377The Information AI 

Nvidia investit dans d-Matrix, un concurrent sur les puces, dont les rivaux optent pour le partenariat

Nvidia prévoit d'investir dans d-Matrix, une entreprise vieille de sept ans qui conçoit des puces pour serveurs d'intelligence artificielle et ambitionne de concurrencer directement le géant, selon trois personnes au fait du dossier. Le montant de la participation n'a pas été précisé. L'opération s'inscrit dans la stratégie de Nvidia visant à rendre sa technologie compatible avec celle de concepteurs de puces rivaux, afin de les attirer dans son écosystème matériel, aujourd'hui dominant. Ce rapprochement illustre un renversement notable : plusieurs challengers de Nvidia choisissent désormais le partenariat plutôt que l'affrontement frontal. Pour Nvidia, son écosystème devient un point de passage quasi obligé, même pour des puces conçues par d'autres, ce qui renforce l'influence de ses standards. Pour des jeunes pousses comme d-Matrix, l'accès à cet écosystème et à un soutien financier peut faciliter l'adoption de leurs produits auprès de clients qui bâtissaient jusqu'ici leurs infrastructures autour de Nvidia. Les acheteurs pourraient gagner en flexibilité, au prix d'un leader qui garde la main sur les règles du jeu. Ce mouvement intervient alors que Nvidia a récemment gagné des parts de marché face à la quasi-totalité de ses rivaux, ce qui réduit la marge de manœuvre de ceux qui misaient sur une alternative indépendante. S'allier devient alors une option pragmatique. La suite dépendra de la capacité de ces start-ups à préserver une identité technologique propre tout en s'appuyant sur les standards de Nvidia, et de la multiplication éventuelle d'accords similaires avec d'autres concepteurs de puces.

Infrastructure⚡Actu

1 source

52

Illustration générée par IA

378The Verge AI 

Anthropic lance des analyses de sécurité gratuites par IA pour les projets open source

Anthropic lance OSS Scanner, un service gratuit destiné aux projets open source qui souhaitent repérer leurs failles de sécurité. Les projets qui choisissent d'y participer recevront, selon l'entreprise, des analyses de sécurité « approfondies et périodiques » réalisées par ses modèles les plus puissants, sans aucun coût. Le dispositif repose sur l'adhésion volontaire des mainteneurs : aucun dépôt n'est analysé sans leur accord. Anthropic précise toutefois que les rapports seront entièrement générés par les modèles, sans relecture ni tri par des humains. Pour les mainteneurs, souvent bénévoles et disposant de peu de moyens pour financer des audits, l'intérêt est d'être alertés plus tôt sur d'éventuelles vulnérabilités. L'absence de validation humaine permet d'analyser plus souvent et plus vite, mais elle a un prix : Anthropic reconnaît que certains rapports pourront être incorrects ou invalides. Les équipes devront donc vérifier elles-mêmes chaque alerte, ce qui peut représenter une charge de travail supplémentaire si les faux positifs se multiplient. L'outil déplace ainsi une partie de l'effort, de la détection vers le tri. Cette initiative s'inscrit dans la montée en puissance des modèles d'IA appliqués à la cybersécurité, où des systèmes capables d'examiner de grandes bases de code deviennent un levier crédible pour la défense. Les logiciels libres sont au cœur de nombreuses infrastructures numériques, et leur sécurité repose souvent sur de petites équipes. En proposant ce service, Anthropic se positionne comme un acteur de cet écosystème et teste, à grande échelle, la fiabilité d'analyses entièrement automatisées. La suite dépendra de la qualité réelle des rapports et de l'accueil que leur réserveront les communautés concernées.

Sécurité⚒Outil

Aussi surThe Decoder

38

Illustration générée par IA

379NVIDIA AI Blog 

Into the Omniverse : comment les développeurs transforment leurs idées en simulations avec des agents IA de pointe

NVIDIA publie dans sa série « Into the Omniverse » plusieurs exemples de développeurs qui confient à des agents d'IA de pointe, comme GPT-6 Astra ou Claude Fable 5, l'assemblage de simulations fondées sur les bibliothèques Omniverse. Frank DeLise, chef de produit Omniverse, a demandé à Astra de transformer un entrepôt et un robot humanoïde au format SimReady en simulateur interactif, jouable en vue à la première ou à la troisième personne. L'agent a relié les bibliothèques de physique (ovphysx), de mise à jour de scène (ovstage), de rendu (ovrtx) et d'interface (ovui), puis généré l'animation et le code applicatif. Doyub Kim, de l'équipe de technologie de simulation, a obtenu avec Astra « Zero to Alpamayo », un environnement réutilisable reproduisant Market Street à San Francisco. Il a fait connecter par étapes la création d'actifs, le trafic, la simulation de capteurs RTX et le modèle de conduite Alpamayo, en vérifiant chaque intégration. Une expérience distincte avec Cosmos3-Nano a fait varier météo et éclairage dans des vidéos de simulation. Ashley Reid, spécialiste de la validation de capteurs RTX, a de son côté dirigé des agents Astra et Claude Fable 5 pour comparer les sorties caméra et lidar d'ovrtx à des données enregistrées. En trois jours environ, ils ont créé deux jumeaux numériques de zéro et amélioré deux autres. L'intérêt tient à la réduction du travail d'intégration, qui reste long dans la simulation : réunir les actifs, brancher physique et rendu, puis vérifier que la scène se comporte comme prévu. Ici, le développeur formule ses intentions en langage naturel, examine les résultats et oriente les corrections, tandis que les bibliothèques fournissent l'accélération GPU. Pour la conduite autonome, le prototype de Doyub Kim permet de mesurer comment un changement de scène, de capteur ou de modèle se répercute sur le comportement du véhicule. Pour les jumeaux numériques, la méthode d'Ashley Reid transforme les écarts mesurés entre capteurs réels et simulés en indicateurs chiffrés qui guident la correction des objets, de la géométrie et des matériaux manquants, l'acceptation reposant sur des métriques caméra et lidar. Ces démonstrations s'inscrivent dans la stratégie de NVIDIA de faire d'Omniverse et du format OpenUSD le socle de la simulation pour la robotique et les véhicules autonomes, tout en s'appuyant sur des modèles tiers. Un quatrième projet, « Robo Olympics », vise à vérifier que les mouvements appris par des robots tiennent sous contraintes physiques. NVIDIA indique que d'autres exemples, issus de ses équipes et de l'écosystème, suivront.

Outils⚒Outil

1 source

36

Illustration générée par IA

380The Verge AI 

La Californie cherche à interdire les combats en cage entre robots et humains

La commission athlétique de l'État de Californie a adressé une mise en demeure à Rek, une jeune entreprise technologique qui a organisé le mois dernier un combat entre un humain et un robot, selon le New York Times. L'affrontement s'est tenu le 18 septembre et opposait Frankie LaPenna à un robot humanoïde appartenant à Rek. Le robot n'agissait pas seul : il était piloté par un humain grâce à ce que le quotidien décrit comme un système de réalité virtuelle à distance. Rek se présente sur son site comme la ligue de combat de robots humanoïdes. La machine semble être un modèle du fabricant EngineAI, surmonté d'une tête rappelant celle de Terminator. Une vidéo du combat est disponible sur YouTube. La démarche de la commission montre que les autorités chargées de la boxe et des sports de combat entendent s'intéresser à ces spectacles hybrides, alors même que le robot est ici une extension d'un opérateur humain. Pour les organisateurs de ce type d'événements, le message est clair : un combat de cage mêlant humain et machine ne relève pas d'un vide juridique, et une autorité sportive peut exiger qu'il cesse. La question de la sécurité du combattant humain et de la réglementation applicable se pose directement. Ce dossier s'inscrit dans l'essor des démonstrations spectaculaires de robots humanoïdes, que des entreprises comme EngineAI cherchent à rendre populaires auprès du grand public. Rek tente d'en faire un divertissement sportif à part entière. La suite dépendra de la réponse de la startup à la mise en demeure et de la position que la commission adoptera face à d'éventuels futurs combats.

Régulation⚖Reglementation

1 source