LLM auto hébergées · 25 October 2026

Mistral Large 4 en open weights : la fin du plafond « 70B » a sonné

Début octobre 2026, Mistral a publié les poids d’un modèle de classe « large » — et non plus seulement des 7B ou des 70B. Derrière le geste symbolique se cache une équation matérielle brutale : combien de VRAM, combien de tokens par seconde, combien d’euros sur trois ans. Voici ce qu’il faut vraiment savoir avant de lancer le téléchargement.

Le jour où « Large » a cessé d’être un mot réservé au cloud

Pendant des années, le vocabulaire de l’IA locale a eu ses castes. En bas, les 7B et 8B, qui tournent sur un iGPU Radeon 780M à 8-12 tokens par seconde et qu’on exhibe comme des jouets fonctionnels. Au milieu, les 70B, qui exigent déjà une vraie carte graphique ou un Mac bien équipé. Et tout en haut, une zone grise où les modèles « large » — ceux dont on parle dans les communiqués de presse et les benchmarks frontière — restaient l’apanage des API cloud. On ne les téléchargeait pas. On les louait.

Début octobre 2026, cette hiérarchie a pris un coup. Mistral a lancé Mistral Large 4 en open source, avec une page de documentation officielle dédiée sur docs.mistral.ai. Le geste n’est pas anodin pour une entreprise qui se présente comme « #1 in Sovereign AI » et qui martèle sur sa page d’accueil le slogan « Frontier Open Models You Own » — des modèles frontière que vous possédez. Jusqu’ici, la promesse valait surtout pour la gamme moyenne. Elle s’étend désormais à la classe supérieure.

Pourquoi c’est un événement et pas une énième sortie de modèle ? Parce que la taille change tout : le coût du matériel, la faisabilité d’un déploiement, la nature des utilisateurs potentiels. Un 7B quantifié en Q4 tient sur 4 Go de VRAM. Un modèle de classe large, même compressé, fait entrer dans une autre catégorie de budget. La presse tech a immédiatement saisi l’enjeu : Generation-NT évoque un modèle d’environ 1 000 milliards de paramètres, et les titres parlent d’une « IA surpuissante qui défie les cadors chinois ». De son côté, la communauté locale s’est demandé, très vite, si le modèle n’était pas « surcoté » au regard des benchmarks indépendants.

Trois questions structurent donc cet article, et nous allons les traiter sans détour. Combien ça pèse réellement, une fois les poids posés sur le disque ? Combien ça coûte, en matériel comme en électricité, sur la durée ? Et pour qui, concrètement, c’est jouable en octobre 2026 — et pour qui ça reste un projet de laboratoire plutôt qu’un outil de travail ?

Une mise en garde méthodologique s’impose avant d’entrer dans les chiffres. La fiche modèle officielle de Mistral Large 4 existe, mais son contenu technique détaillé (architecture exacte, nombre de couches, dimension d’embeddings, licence précise) n’est pas entièrement accessible dans les sources publiques que nous avons pu consulter. Là où une donnée manque, nous le dirons explicitement plutôt que de combler le vide par une estimation de mémoire d’entraînement. C’est la règle du jeu, et elle protège le lecteur : un chiffre inventé sur une fenêtre de contexte ou un nombre de paramètres décrédibilise tout le reste.

Ce qu’il y a vraiment dans la boîte : architecture, poids et licence

La première chose que confirme la documentation officielle, c’est l’existence du modèle et son identifiant de version : mistral-large-4-0. C’est un point de départ solide, mais mince. La page marketing de Mistral ne détaille ni le nombre de paramètres, ni l’architecture MoE ou dense, ni le nombre de couches, ni la dimension des embeddings, ni la taille de contexte. Elle parle de souveraineté, de clients enterprise, de gains opérationnels — pas de safetensors.

Ce que la presse tierce apporte, c’est une échelle : environ 1 000 milliards de paramètres selon Generation-NT. Ce chiffre, s’il se confirme, place Mistral Large 4 dans la catégorie des très grands modèles — celle où l’on ne parle plus de « faire tourner » mais de « faire tenir ». Un modèle dense de 1T paramètres en FP16 demanderait environ 2 To de mémoire, ce qui est hors de portée de toute configuration consumer. Un modèle Mixture-of-Experts de même taille totale, avec seulement une fraction de paramètres actifs par token, change complètement la donne : c’est précisément le pari architectural qui a rendu Kimi et DeepSeek exploitables localement. La documentation publique ne tranche pas explicitement entre les deux dans ce que nous avons pu lire, et nous ne trancherons pas à sa place.

Sur les fichiers réellement téléchargeables, le constat est le même : les formats publiés (safetensors, config, tokenizer) et la taille totale en Go ne sont pas documentés dans les extraits accessibles. La licence d’utilisation commerciale, en revanche, est un point à surveiller de très près pour toute PME : Mistral a un historique de licences variables selon les modèles (certaines restrictives pour la recherche seule, d’autres permissives). Avant tout déploiement en production, la vérification de la licence exacte sur la page officielle n’est pas une formalité, c’est un préalable juridique.

Ce qu’on peut affirmer avec certitude, c’est le positionnement. Mistral revendique des clients comme TotalEnergies, ASML, Airbus, BNP Paribas, l’OTAN et plus de vingt entités gouvernementales, l’Office européen des brevets ou encore HTX à Singapour. Ces références — auto-déclarées, non recoupées par des tiers indépendants dans nos sources — dessinent une stratégie claire : l’open weights n’est pas un cadeau à la communauté, c’est un argument de vente souveraineté. « Vous possédez le modèle » devient un argument face aux entreprises européennes qui ne veulent pas voir leurs données transiter par des serveurs américains ou chinois.

La calculatrice avant le téléchargement : empreinte mémoire par quantification

Voici le tableau que tout le monde cherche, et qu’aucune source officielle ne fournit directement. Nous allons donc poser la mécanique, puis donner les ordres de grandeur que la physique impose — sans inventer de mesures précises.

La règle de trois de base : pour un modèle de N milliards de paramètres, le poids en mémoire vaut approximativement N × (bits par paramètre) / 8 Go. En FP16 (16 bits), c’est 2 Go par milliard de paramètres. En Q8, environ 1 Go par milliard. En Q4, environ 0,5 Go par milliard. À cela s’ajoutent deux postes souvent oubliés : le KV cache (qui croît avec la longueur de contexte et le nombre de couches) et l’overhead du runtime.

Note : ces valeurs sont des ordres de grandeur théoriques calculés à partir du chiffre de ~1T paramètres rapporté par la presse. Elles ne constituent pas des mesures officielles et doivent être affinées dès que la fiche technique complète sera accessible.

Le verdict matériel se lit en trois paliers. Sur 24 Go (RTX 4090), 32 Go (RTX 5090) ou même 80 Go (H100), un modèle de cette classe ne tient pas, même en Q4 : 500 Go de poids ne rentrent nulle part dans ces cartes. La seule voie pour un particulier ou une PME, c’est la mémoire unifiée. Le Mac Studio M3 Ultra avec 512 Go est la configuration qui rend Q4 et Q5 théoriquement possibles, au prix d’une bande passante mémoire bien inférieure à celle d’un GPU dédié. Les mini-PC à mémoire unifiée — AMD Ryzen AI Halo à 128 Go pour 3 999 $, AMD Gorgon Halo à 192 Go, Acer avec 128 Go — sont annoncés pour des modèles jusqu’à 120B ou 200B, pas pour du 1T. Ils restent en dessous du seuil.

C’est ici que la nuance « MoE vs dense » devient décisive. Si Mistral Large 4 est un MoE à activation parcellaire, la mémoire requise reste celle des poids totaux (il faut charger tous les experts), mais le débit dépend des paramètres actifs. Autrement dit : la RAM nécessaire ne baisse pas, mais la vitesse d’inférence peut rester acceptable. C’est exactement le compromis qu’exploitent les modèles chinois de la génération 2026, et c’est ce qui rend la question architecturale si importante pour l’acheteur.

Tokens par seconde : ce que crachent vraiment une 4090, une 5090, une H100 et un Mac Studio

Aucune mesure officielle de débit pour Mistral Large 4 sur ces configurations n’est disponible dans nos sources. Nous ne donnerons donc pas de chiffres inventés. En revanche, on peut raisonner par analogie avec ce que la communauté mesure sur des modèles de taille comparable, et surtout distinguer deux métriques que les débutants confondent systématiquement.

Le prompt processing (prefill) est la vitesse à laquelle le modèle avale votre contexte. Il est massivement parallélisable et dépend de la puissance de calcul brute du GPU. La génération (decode) est la vitesse à laquelle il produit les tokens un par un ; elle est limitée par la bande passante mémoire. C’est cette seconde métrique qui décide de la sensation d’usage : en dessous de 5 tokens/s, un modèle est pénible ; entre 10 et 20, il est confortable ; au-delà de 30, il est fluide.

Sur une RTX 4090 (24 Go) ou une RTX 5090 (32 Go), le problème n’est pas la vitesse mais le volume : ces cartes ne peuvent pas héberger un modèle de classe 1T, même quantifié. Elles excellent sur des 70B en Q4, pas sur du « Large ». Sur H100/A100 80 Go, la situation s’inverse : la carte a la bande passante (plusieurs To/s) mais pas la capacité. Il faut donc du multi-GPU — 4× A100 80 Go, par exemple — pour approcher les 320 Go, encore insuffisant pour du Q4 à 500 Go. On entre alors dans le territoire des grappes serveur, avec les coûts afférents.

Le Mac Studio M3 Ultra 512 Go est le candidat le plus crédible pour un déploiement « local » de cette classe. Sa mémoire unifiée permet de charger les poids en Q4, mais sa bande passante — de l’ordre de plusieurs centaines de Go/s, très inférieure à celle d’un H100 — plafonne la génération. Les retours communautaires sur des modèles MoE de taille comparable suggèrent des débits exploitables pour du traitement par lots ou des tâches agentiques asynchrones, moins pour du chat interactif à faible latence. C’est un arbitrage, pas une magie.

Côté logiciel, le choix du moteur compte autant que le matériel. llama.cpp (dont la version 0.5.0 a été détaillée fin septembre 2026) reste la référence pour le GGUF et la compatibilité large, avec un serveur local et une API compatible OpenAI. vLLM excelle sur le débit en production multi-GPU, avec un meilleur batching. TensorRT-LLM offre les meilleures performances sur NVIDIA mais au prix d’une complexité d’intégration. Pour un particulier, llama.cpp ; pour une PME qui sert plusieurs utilisateurs, vLLM ; pour un labo qui optimise à mort, TensorRT-LLM.

Le point de bascule est clair : en dessous de 200 Go de mémoire totale, oubliez Mistral Large 4 et rabattez-vous sur des modèles plus petits. Entre 200 et 500 Go, le multi-GPU ou la mémoire unifiée devient indispensable, pas confortable. Au-delà de 500 Go, vous êtes dans le territoire serveur, et la question n’est plus « est-ce que ça tourne ? » mais « est-ce que ça vaut le coup face à une API ? ».

La fiche modèle contre les benchmarks indépendants : qui croire ?

La presse a titré sur un modèle « surpuissant » et sur des « benchmarks indépendants » qui poseraient question. C’est le moment de rappeler une règle élémentaire : un score de benchmark annoncé par un éditeur n’est pas une mesure indépendante. Les chiffres de la fiche modèle sont, par construction, optimisés — contexte idéal, prompt soigné, version FP16 non quantifiée.

Or, ce que vous allez faire tourner chez vous, c’est une version quantifiée en Q4 ou Q5, sur un contexte potentiellement long, avec des tâches agentiques. Et là, la réalité rattrape la vitrine. Les benchmarks de qualité de quantification publiés en 2026 montrent que la dégradation entre FP16 et Q4 varie fortement selon les tâches : faible sur la génération de texte généraliste, plus marquée sur le raisonnement mathématique et le code. Un modèle large quantifié en Q4 ne se comporte pas comme le modèle FP16 de la démonstration — il reste très bon, mais il n’est plus le même.

Les retours de la communauté locale (r/LocalLLaMA) sont précieux précisément parce qu’ils documentent ces écarts en conditions réelles. On y trouve des retours sur les forces (raisonnement, multilingue, français) et les faiblesses (latence sur contexte long, dégradation en quantification agressive). Pour un modèle de cette taille, la question du contexte maximal devient critique : plus le contexte est long, plus le KV cache gonfle, et plus la mémoire disponible pour les poids se réduit. Un modèle qui « tient » en Q4 sur 512 Go peut ne plus tenir dès qu’on pousse le contexte à plusieurs dizaines de milliers de tokens.

Notre conseil : avant d’investir dans du matériel, faites tourner le modèle en Q4 sur une configuration que vous pouvez emprunter ou louer à l’heure, et mesurez vos propres tâches. Les benchmarks génériques disent la moyenne ; vos cas d’usage disent la vérité.

Le vrai prix : coût total de possession face à l’API cloud

C’est le calcul que personne ne fait sérieusement, et c’est pourtant le seul qui compte. Comparons trois scénarios sur 36 mois.

Scénario 1 — Particulier intensif. Un Mac Studio M3 Ultra 512 Go représente un investissement matériel de plusieurs milliers d’euros (le prix exact n’est pas dans nos sources ; restons qualitatifs). Ajoutez l’électricité : un poste qui tourne 8 heures par jour à pleine charge consomme significativement, et le refroidissement d’un boîtier compact n’est pas neutre. Sur 36 mois, le coût par token généré est élevé, mais la confidentialité et l’absence de dépendance ont une valeur difficile à chiffrer. Pour un usage personnel, le local se justifie par la souveraineté des données, pas par l’économie.

Scénario 2 — PME à charge moyenne. Une PME qui traite quelques millions de tokens par mois trouvera probablement l’API cloud moins chère en apparence. Mais le calcul change dès qu’on intègre le temps d’ingénierie : un déploiement local de modèle large, c’est des semaines de configuration, de quantification, de tests, de monitoring. Le TCO réel inclut ce temps. En revanche, si la PME a des contraintes réglementaires (santé, finance, secteur public), le local devient non pas un choix économique mais une obligation. C’est là que Mistral joue : ses clients revendiqués (BNP Paribas, OTAN, OEB) sont précisément ceux pour qui la souveraineté prime sur le coût marginal.

Scénario 3 — Labo avec pics. Un laboratoire de recherche qui a besoin de faire tourner des expériences par lots, avec des pics de charge, trouvera dans le multi-GPU local une flexibilité que l’API ne offre pas (pas de limite de débit, pas de coût par token). Mais l’investissement en grappe serveur est considérable, et le taux d’utilisation doit être élevé pour amortir.

La règle empirique : en dessous de quelques millions de tokens par mois, l’API gagne presque toujours. Au-delà, et surtout avec des contraintes de confidentialité, le local devient rationnel. Entre les deux, c’est une question de stratégie, pas de calculatrice.

Large 4 face à Kimi K3 et DeepSeek V4 Pro : le nouveau trio open weights

Le paysage open weights 2026 s’est structuré autour de trois pôles. Kimi K3 et DeepSeek V4 Pro sont les deux références chinoises, et Mistral Large 4 vient s’y frotter avec un argument différent : la souveraineté européenne.

Ce tableau dit l’essentiel : le choix ne se fait pas sur le benchmark, mais sur la contrainte. Une administration européenne qui doit garantir que ses données ne sortent pas de l’UE choisira Mistral, même si Kimi K3 est meilleur sur un score Arena. Une équipe qui veut maximiser le débit par euro de matériel regardera du côté chinois, dont les architectures MoE sont taillées pour l’efficacité. Un labo qui fait du raisonnement mathématique évaluera DeepSeek V4 Pro.

Le vrai enseignement de 2026, c’est que la qualité des trois est suffisamment proche pour que le critère matériel et juridique devienne dominant. C’est une maturation du marché : on ne choisit plus « le meilleur modèle », on choisit « le modèle qui rentre dans mon budget et dans mon cadre légal ».

Pour qui c’est vraiment jouable aujourd’hui — et à quel prix matériel

Soyons directs.

Le particulier équipé. Budget minimum réaliste : plusieurs milliers d’euros pour une machine à mémoire unifiée de 512 Go (Mac Studio M3 Ultra) ou une configuration multi-GPU d’occasion. En dessous, Mistral Large 4 n’est pas accessible — rabattez-vous sur des 70B en Q4, qui tournent très bien sur une RTX 4090 ou une 5090. Verdict : projet, pas outil, sauf pour le passionné qui veut expérimenter.

La PME. Deux cas. Si elle a des contraintes réglementaires fortes, le local devient une obligation, et l’investissement se justifie. Sinon, l’API reste plus rationnelle tant que le volume ne dépasse pas quelques millions de tokens par mois. Verdict : dépend du secteur, pas du budget.

Le labo ou l’équipe de recherche. C’est le profil pour qui Mistral Large 4 est réellement exploitable : multi-GPU, mémoire unifiée, cas d’usage par lots, absence de limite de débit. Verdict : outil, à condition d’avoir l’infrastructure.

Ce que ça change pour la suite : la fin du plafond « 70B »

L’ouverture des poids d’un modèle de classe large n’est pas un événement isolé, c’est un signal. Elle banalise l’idée qu’on peut posséder un modèle frontière, et elle met la pression sur les prix des API cloud. Elle accélère aussi l’évolution des quantifications : les formats GGUF, GPTQ et AWQ devront progresser pour rendre ces modèles exploitables sur du matériel consumer, et les moteurs d’inférence (llama.cpp, vLLM) devront optimiser le chargement partiel des experts.

Les signaux à surveiller dans les prochains mois : la publication de la fiche technique complète de Mistral Large 4 (architecture, licence, contexte), les premiers benchmarks indépendants sérieux sur configurations locales, et l’arrivée de matériel à mémoire unifiée plus large et plus rapide. Si ces trois signaux convergent, alors octobre 2026 aura été le mois où le plafond « 70B » a définitivement sauté. Sinon, ce sera un beau geste symbolique — et un projet de laboratoire de plus.

Sources

• Mistral lance Mistral Large 4 en open source — SiliconANGLE (6 octobre 2026)
• Documentation officielle Mistral Large 4 — Mistral Docs
• Page d’accueil Mistral AI — Sovereign AI
• Kimi K3 vs DeepSeek V4 Pro: Best Open Source LLM in 2026? — Memeburn
• Best Local LLMs – August 2026 — r/LocalLLaMA
• How Much GPU Memory Do You Really Need to Run an Open LLM Locally? — HackerNoon
• GGUF Quantization Guide: Shrink LLMs 72% [2026] — Tech Insider
• Local LLM Quantization Quality Benchmarks 2026 — Presenc AI
• Checking the latest local LLM benchmarks on Arena — note.com

Article recherché et rédigé automatiquement · Magazine Electrosens