Bonsai-27B déployé en 1 bit avec PrismML llama.cpp et une inférence locale compatible OpenAI

Comment créer une base de connaissances IA entièrement interrogeable avec OpenKB, OpenRouter et Llama

Un tutoriel publié récemment détaille comment construire une base de connaissances locale entièrement interrogeable en combinant trois outils : OpenKB, la plateforme OpenRouter et le modèle Llama 3.3 70B de Meta, accessible gratuitement sans carte bancaire. Le guide couvre l'ensemble du pipeline, de l'installation d'OpenKB via pip jusqu'à l'interrogation structurée de documents Markdown, en passant par la génération automatique de résumés et de pages conceptuelles au format wiki. La clé API OpenRouter est récupérée de façon sécurisée via la bibliothèque Python getpass, sans jamais être inscrite en dur dans le code. Le résultat est un système de connaissance navigable, avec gestion des liens croisés entre pages, capable de répondre à des requêtes en langage naturel et d'être mis à jour de manière incrémentale. Ce type d'architecture présente un intérêt concret pour les développeurs, chercheurs et équipes qui souhaitent organiser et interroger des corpus de documents internes sans envoyer leurs données vers des services cloud payants. En s'appuyant sur un modèle de 70 milliards de paramètres disponible gratuitement via OpenRouter, l'approche élimine le coût d'inférence tout en offrant des capacités de synthèse comparables à des solutions propriétaires. La possibilité d'analyser programmatiquement les relations entre pages et les liens croisés ouvre également des usages avancés : cartographie de concepts, détection de lacunes documentaires, ou navigation thématique automatisée dans de larges volumes de texte. L'émergence de ce genre de tutoriel s'inscrit dans une tendance plus large de démocratisation des outils RAG (retrieval-augmented generation), qui permettent d'ancrer les réponses d'un LLM dans une base documentaire locale plutôt que dans ses seuls paramètres d'entraînement. OpenRouter joue ici un rôle d'intermédiaire unifié, donnant accès à des dizaines de modèles open source via une API commune, ce qui réduit la friction technique pour expérimenter. OpenKB, de son côté, se positionne comme une couche d'abstraction au-dessus de ces modèles, spécialisée dans la structuration wiki et la navigation sémantique. Alors que des acteurs comme Notion AI ou Confluence intègrent des fonctions similaires dans des produits fermés, des solutions comme celle-ci permettent de garder le contrôle total sur les données et l'infrastructure, un enjeu croissant pour les entreprises soumises à des contraintes de confidentialité ou de souveraineté.

Amazon SageMaker AI prend en charge l'API compatible OpenAI

Amazon a annoncé ce mois-ci que SageMaker AI supporte désormais une API compatible avec celle d'OpenAI pour ses endpoints d'inférence en temps réel. Concrètement, les développeurs qui utilisent le SDK OpenAI, LangChain ou le framework Strands Agents peuvent désormais router leurs appels vers des modèles hébergés sur SageMaker AI en changeant uniquement l'URL de l'endpoint. Plus besoin de client personnalisé, de wrapper SigV4, ni de réécriture de code. Les endpoints SageMaker exposent un chemin /openai/v1 qui accepte les requêtes au format Chat Completions et renvoie les réponses du conteneur telles quelles, y compris en streaming. L'authentification repose sur des tokens bearer à durée limitée (jusqu'à 12 heures), générés à partir des credentials AWS existants via le SDK Python SageMaker, sans clé API supplémentaire. Ce changement simplifie radicalement l'intégration de SageMaker dans les stacks d'IA existantes. Pour les équipes qui orchestrent des agents multi-LLM via une gateway (comme Bifrost, mentionnée par Giorgio Piatti, ingénieur ML chez Caffeine.AI), SageMaker devient un fournisseur interchangeable sans adaptation technique. Les cas d'usage sont nombreux : workflows agentiques tournant entièrement sur de l'infrastructure dédiée en compte AWS, hébergement multi-modèles sur un seul endpoint via les inference components (par exemple Llama pour les tâches générales, un Mistral fine-tuné pour un domaine métier, et un petit modèle de classification), ou encore déploiement de modèles open source fine-tunés sans toucher au code applicatif existant. Pour les entreprises soumises à des contraintes de souveraineté des données ou de conformité, c'est un gain concret : elles peuvent utiliser les mêmes frameworks standardisés OpenAI tout en gardant les modèles dans leur propre compte AWS. Cette annonce s'inscrit dans une bataille plus large pour capter les workloads d'inférence IA en entreprise. Le standard OpenAI s'est imposé de facto comme protocole universel pour les LLMs, et les grands fournisseurs cloud (AWS, Google, Azure) cherchent à réduire les frictions pour attirer des équipes déjà investies dans cet écosystème. Amazon avait déjà investi massivement dans Bedrock et SageMaker, mais l'adoption restait freinée par les incompatibilités d'API qui forçaient les migrations de code. En adoptant la compatibilité OpenAI directement au niveau de SageMaker AI, AWS ferme cet écart et concurrence frontalement des solutions comme Azure OpenAI Service ou les endpoints Vertex AI de Google. Le notebook d'exemple avec Qwen3-4B (modèle d'Alibaba disponible sur Hugging Face) illustre aussi l'ouverture vers les modèles open source, un segment en forte croissance face aux modèles propriétaires.

💬 C'est le genre de truc qui semble anodin et qui change tout en pratique. Changer juste l'URL pour basculer d'OpenAI vers SageMaker, sans toucher au code, c'est exactement ce que les équipes enterprise attendaient pour switcher sans se battre avec leur DSI. Bon, ça reste AWS, donc la facture peut vite grimper, mais pour les boîtes avec des contraintes de souveraineté data, l'argument est solide.

OpenAI lance un plugin Codex compatible avec Claude Code d'Anthropic

OpenAI a lancé un plugin permettant d'intégrer son assistant de codage Codex directement dans Claude Code, l'outil de développement en ligne de commande d'Anthropic. Cette extension permet aux développeurs utilisant Claude Code d'accéder aux capacités de Codex d'OpenAI sans quitter leur environnement de travail habituel, fusionnant ainsi deux écosystèmes concurrents au sein d'une même interface. Cette initiative est remarquable car elle efface temporairement la frontière entre deux des principaux adversaires du secteur de l'IA. Pour les développeurs, cela signifie un accès élargi aux modèles et aux forces spécifiques de chaque plateforme, Codex étant particulièrement réputé pour la génération et la compréhension de code, sans devoir jongler entre plusieurs outils. L'interopérabilité entre assistants IA devient ainsi un argument commercial concret. Ce mouvement s'inscrit dans une tendance plus large de l'industrie où les éditeurs d'IA misent sur l'ouverture et les intégrations tierces pour étendre leur portée, plutôt que de viser l'exclusivité. OpenAI, qui a récemment repositionné Codex comme produit à part entière après des années où GPT-4 dominait les usages de codage, cherche à imposer sa présence dans des environnements qu'il ne contrôle pas directement. La question des suites, si Anthropic facilitera ou au contraire limitera ce type d'intégrations concurrentes dans Claude Code, reste ouverte.

Codex en local : OpenAI et Dell pour l'entreprise

OpenAI et Dell Technologies ont annoncé le 18 mai 2026 un partenariat stratégique visant à déployer Codex, l'agent de développement logiciel d'OpenAI, directement dans les infrastructures sur site et hybrides des grandes entreprises. Concrètement, Codex sera connecté à la Dell AI Data Platform, la couche de stockage et de gouvernance de données que de nombreuses organisations utilisent pour gérer leurs actifs numériques en interne. Ce déploiement permettra aux agents IA d'accéder aux bases de code internes, à la documentation technique et aux workflows métiers sans que les données sensibles ne quittent l'infrastructure de l'entreprise. Codex compte aujourd'hui plus de 4 millions de développeurs actifs chaque semaine, ce qui en fait l'un des produits professionnels à la croissance la plus rapide du portefeuille OpenAI. Au-delà de l'assistance au développement logiciel, les entreprises l'utilisent déjà pour automatiser des revues de code, améliorer la couverture de tests, gérer des incidents techniques, générer des rapports ou encore router des feedbacks produits. Ce partenariat lève un frein majeur à l'adoption de l'IA générative dans les grandes organisations : la résistance à exposer des données sensibles vers le cloud public. Les secteurs de la finance, de la santé, de l'industrie et des infrastructures critiques maintiennent des architectures hybrides précisément pour conserver le contrôle total sur leurs actifs stratégiques. En permettant à Codex d'opérer au plus proche de ces données, OpenAI et Dell répondent directement aux contraintes de sécurité, de conformité réglementaire et de gouvernance qui bloquaient jusqu'ici les déploiements à grande échelle. Pour les équipes techniques, cela signifie concrètement pouvoir intégrer des agents IA dans des workflows critiques sans compromis sur la souveraineté des données. Ce mouvement s'inscrit dans une tendance de fond : après la phase d'expérimentation, le marché de l'IA en entreprise entre dans une phase de déploiement industriel. OpenAI, qui a longtemps été perçu comme un acteur cloud-first, cherche à ne pas perdre les grands comptes au profit de solutions souveraines ou de modèles open source déployables en local. Dell, de son côté, repositionne son infrastructure AI Factory comme une couche d'intégration incontournable entre les modèles fondateurs et les systèmes d'information d'entreprise. Le partenariat entre les deux groupes illustre une recomposition plus large du marché, où les fournisseurs de matériel et de cloud hybride deviennent des intermédiaires stratégiques pour l'adoption de l'IA dans les environnements réglementés. Les prochains mois diront si ce modèle de distribution peut convaincre les secteurs les plus prudents à franchir le pas.

💬 C'est OpenAI qui recule, pas Dell qui avance. Les grands comptes ont refusé d'envoyer leur code source en cloud public, et plutôt que de perdre ce marché au profit de Llama ou Mistral déployables en local, OpenAI a choisi de plier. Reste à voir si ça tient dans les environnements les plus contraints, genre la DSI d'une banque française sous ACPR.