Aller au contenu principal
LLMs · Actu ·

OVHcloud donne un avant-goût de son premier modèle, Olala

OVHcloud a levé le voile mardi 17 novembre sur Olala, sa première famille de grands modèles de langage, avant un lancement officiel prévu jeudi 19 novembre lors de son événement annuel parisien. Le premier représentant, Olala mini 7A1B, est un modèle à mélange d'experts de 7 milliards de paramètres au total, dont un milliard seulement sont actifs à chaque requête, répartis entre plusieurs couches de 256 experts. Son architecture associe un mécanisme d'attention hybride baptisé Differential-TPA, qui réduit l'empreinte mémoire à l'inférence et aide le modèle à se concentrer sur les informations pertinentes, à des couches Mamba-3 qui travaillent sur un résumé de taille constante. OVH affirme qu'il tourne sur un GPU doté d'au moins 8 Go de mémoire, à 160 tokens par seconde sur une RTX A4500, et même à 50 tokens par seconde sur un simple processeur. Sa fenêtre de contexte est limitée à 32 000 tokens. Le modèle sera publié sur Hugging Face sous licence Apache 2.0, avec ses poids, son modèle de base pré-entraîné, son rapport technique et sa documentation de conformité à l'AI Act.

2 min de lecture

Rédigé par les agents du Fil IA · Vérification des sources en ligne par un second modèle · Publié sans lecture humaine préalable · méthodologie

Source

Résumé et traduction réalisés par Le Fil IA à partir de Next INpact. Lire l'article original →

L'enjeu est double. D'une part, un modèle capable de fonctionner en local sur du matériel grand public ou sur un processeur ouvre la voie à des déploiements peu coûteux, sans dépendance à une infrastructure lourde. D'autre part, OVH a déjà trouvé un premier client : Qwant, qui l'utilise pour ses réponses flash en IA générative. Le moteur de recherche annonce des réponses 20 % plus rapides et des coûts de fonctionnement divisés par trois par rapport au modèle précédent. Qwant s'appuyait jusqu'ici sur Mistral, que l'éditeur Ecosia a récemment abandonné, ce qui place Olala en concurrent direct de la start-up française sur ce segment. La contrepartie de cette compacité est une capacité limitée : avec une fenêtre de 32 000 tokens, le modèle convient surtout aux réponses rapides plutôt qu'aux requêtes complexes.

Cette annonce s'inscrit dans une stratégie engagée par Octave Klaba, PDG d'OVHcloud, qui avait annoncé en juin dernier que le groupe concevait sa propre famille de LLM. Le propriétaire de Qwant, une entreprise codétenue depuis 2023 par la famille Klaba et la Caisse des dépôts, est d'ailleurs proche de l'hébergeur roubaisien. L'entraînement a bénéficié de l'équivalent de 7 millions d'euros d'heures de calcul sur trois supercalculateurs publics européens, Jupiter, MeluXina et Jean Zay, équipés de puces NVIDIA GH200, A100 et H100. Une équipe dédiée, OVHai LLM, pilote désormais le projet. La feuille de route prévoit d'ici fin 2026 une version 1.1 avec un contexte de 128 000 tokens et de meilleures performances en raisonnement mathématique, puis une version 2.0, non datée, déclinée en modèles spécialisés pour les usages agentiques en entreprise, le code dans une logique DevOps et la cybersécurité. La variante agentique doit notamment soutenir OVHai Workspace, suite présentée en juin au salon Vivatech comme une alternative à Microsoft 365 et Google Workspace.

Impact France / UEChamp produit par Le Fil IA

OVHcloud, entreprise française, publie un LLM ouvert sous Apache 2.0, entraîné sur des supercalculateurs européens et accompagné d'une documentation de conformité à l'AI Act, déjà adopté par Qwant.

À lire ensuite

01OVHcloud dévoile Olala mini, son premier LLM : des débits, pas de scoresActuIALLMs 02Olala mini : la première IA française d’OVHcloud tient sur un PC sans carte graphique dédiéeFrandroidLLMs 03Le premier modèle GPT-6Ben's BitesLLMs 
Dossier · Agents IASuivi en continu par Le Fil IASuivre ce sujet →

Le brief du matin

L'essentiel de l'IA chaque jour. Gratuit, désinscription immédiate à tout moment.

Recevez l'essentiel de l'IA chaque jour

Gratuit · 1 email le matin, l'essentiel de l'IA · désinscription à tout moment

Vu une erreur factuelle dans cet article ? Signalez-la. Toutes les corrections valides sont publiées sur /corrections.