NVIDIA DGX Spark · 6 November 2026

Qwen3.5-397B sur deux DGX Spark : autopsie d’un pari à 12 000 $ — et ce que l’automne 2026 a changé

Dre Dyson, ingénieur en IA passionné de souveraineté numérique, a passé six mois à tenter l’impossible : faire tourner le monstre Qwen3.5-397B-A17B — 397 milliards de paramètres — sur un cluster de deux NVIDIA DGX Spark. Entre promesses marketing et dures réalités techniques, son récit est une feuille de route pour tous ceux qui rêvent d’exécuter localement les plus gros modèles open-source. Mais depuis ses premiers tests, l’écosystème a bondi : le support natif NVFP4 dans vLLM, les outils de gestion de flotte, l’arrivée de DeepSeek V4 Flash-0731 et de Qwen3.8-27B, la mise à jour logicielle d’octobre 2026, et surtout la nouvelle donne tarifaire — un DGX Spark 128 Go dont le prix a grimpé, doublé d’une version 64 Go lancée le 23 octobre à 4 999 $. Débit, latence, stabilité, coût : nous décryptons son expérience et ce qu’elle révèle sur l’état de l’art du calcul IA à domicile en octobre 2026.

Pourquoi un cluster de deux DGX Spark ? Le pari de la souveraineté numérique

En février 2026, Alibaba dévoilait Qwen3.5-397B-A17B, un modèle MoE (Mixture of Experts) de 397 milliards de paramètres dont seulement 17 milliards sont activés par token. Une architecture qui promet des performances comparables à un modèle dense de 200-300B, mais avec un coût d’inférence réduit. Pour Dre Dyson, consultant en IA travaillant sur des données médicales sensibles, l’enjeu était clair : ne plus dépendre des API cloud. « Chaque requête envoyée à OpenAI ou Anthropic est une fuite potentielle. Je voulais un système 100 % local, avec une latence maîtrisée et un contrôle total », explique-t-il dans son blog.

Son choix s’est porté sur deux DGX Spark, les mini-supercalculateurs de NVIDIA lancés en 2025. Chaque unité embarque un GB10 Grace Blackwell, 128 Go de mémoire unifiée LPDDR5x, et une connectivité NVLink à 900 Go/s. Le coût total : environ 12 000 € (deux Spark à 4 699 $ pièce, taxes et câblage inclus). Face à lui, l’alternative cloud : une instance AWS p4d.24xlarge (8 A100 80 Go) coûte environ 32 $/heure, soit 23 000 $ sur six mois d’utilisation intensive. Le calcul était vite fait.

Mais le modèle visé n’est pas un petit jouet. Qwen3.5-397B-A17B pèse 807 Go en FP16 (source Hugging Face). Même avec les 256 Go combinés des deux Spark, la quantification est indispensable. Dyson a choisi la NVFP4, une compression 4 bits propriétaire NVIDIA, qui réduit le modèle à environ 200 Go. « C’était le seul moyen de tenir dans la mémoire disponible, tout en gardant une qualité acceptable », précise-t-il.

Depuis, l’offre de modèles open-source s’est considérablement élargie. Qwen3.6-27B, le flagship dense de la famille Qwen3.6, utilise une attention hybride gated delta networks et supporte nativement 262 000 tokens de contexte. Sorti le 22 avril 2026 sous licence Apache 2.0, il surpasse le précédent flagship open-source Qwen3.5-397B-A17B sur tous les benchmarks de codage majeurs, tout en étant multimodal (images et vidéos) — le tout pour 27 milliards de paramètres (source Qwen). En quantification NVFP4, il tient dans un seul DGX Spark (moins de 17 Go en Q4, selon les benchmarks de vLLM Recipes). « C’est ironique : un modèle 14 fois plus petit que le 397B fait mieux en codage agentique et tient sur une seule machine », note Dyson.

Mais le vrai champion de l’été 2026, c’est Qwen3.8-27B, sorti en août 2026 (poids publiés les 13 et 14 août selon l’historique du dépôt Qwen/Qwen3.8-27B). Avec un score de 52 sur l’Artificial Analysis Intelligence Index, il se classe premier de sa catégorie parmi les modèles open-weight, et atteint 48 tok/s sur un seul DGX Spark selon les tests du blog OpenZeka (source OpenZeka). Les benchmarks communautaires du 20 août 2026 confirment une génération de 34 à 38 tok/s en conditions réelles, avec un support du speculative decoding MTP (Multi-Token Prediction) qui pousse le débit à 83-138 tok/s sur les formats GGUF optimisés (source banandre). « Qwen3.8-27B est le nouveau roi du rapport qualité/performance sur Spark », résume un utilisateur des forums NVIDIA. NVIDIA a d’ailleurs retenu ce modèle comme démonstrateur de référence pour la configuration 64 Go : selon la fiche produit relayée début octobre, le constructeur revendique jusqu’à 1,7× de gain sur Qwen 3.8 27B entre un et deux systèmes (source NeoTeo).

Et voici le géant qui bouscule tous les classements : DeepSeek V4 Flash-0731. Ce modèle de 284 milliards de paramètres avec seulement 13 milliards d’actifs par token a été conçu pour tourner sur deux DGX Spark. Publié officiellement le 31 juillet 2026 sur Hugging Face, ses 48 fichiers safetensors pèsent 167 Go en poids mixtes FP4+FP8, avec un module DSpark (décodeur spéculatif fusionné dans le checkpoint) et un contexte d’un million de tokens (source QDNA). Selon les tests de la communauté NVIDIA, il atteint environ 30 tok/s sur un cluster dual-Spark avec une configuration adaptée, et jusqu’à 41 tok/s après ajustement du taux d’acceptation (source forums NVIDIA). « DeepSeek V4 Flash-0731 offre des performances agentiques de niveau frontière avec 13B paramètres actifs, soit 10 fois moins que Claude Opus », résume une analyse de Flowtivity (source Flowtivity). Sur un seul Spark, les chiffres sont encore plus impressionnants : 1 000 tok/s en prefill et 59 tok/s en multi-agent serving selon un test du 1er août 2026 (source forums NVIDIA).

D’autres modèles comme Laguna S 2.1 (118B MoE, 21B actifs) ou Nemotron 3 Nano (30B MoE) sont également optimisés pour le Spark, avec des performances remarquables en fine-tuning LoRA. Ant Ling-3.0-Flash, sorti le 23 juillet 2026 par Ant Group, est un autre candidat sérieux : 124B-A5B (5B actifs), attention hybride-linéaire (KDA et MLA dans un ratio 5:1), fenêtre de 256K tokens extensible à 1M, il bat leur précédent modèle 1T sur presque tous les benchmarks, avec un débit estimé de 15-20 tok/s sur un seul DGX Spark (source forums NVIDIA).

Et MiniMax M2.7 s’impose comme le nouveau roi du travail agentique : environ 42 t/s sur cluster dual-Spark, selon les retours de la communauté (source forums NVIDIA). Un utilisateur précise : « C’est mon top pick pour le codage agentique, meilleure latence et concurrence que Qwen3.5-397B ». L’agent Hermes est régulièrement cité comme le compagnon idéal de ces modèles, avec un support NVIDIA officiel attendu dans les prochains mois.

Enfin, l’automne 2026 a vu débarquer un outsider de taille : Xiaomi MiMo-V2.6, ouvert sous licence MIT le 22 septembre 2026 dans trois déclinaisons (Pro, Flash, 9B). Le MiMo-V2.6-Pro égale Grok 4.7 sur l’Intelligence Index et dépasse Claude Opus 5 sur plusieurs benchmarks clés, selon Forkast — mais Xiaomi a publié ces poids le jour même du lancement de la puce V900 d’Alibaba, et les gains issus du RL n’ont pas encore été répliqués indépendamment (source eWeek). À surveiller donc, avec la prudence qui s’impose face à des chiffres constructeur non reproduits.

Câbler l’impossible : architecture mémoire et réseau du cluster

Distribuer un modèle MoE de 397B sur deux nœuds n’a rien d’évident. Chaque token active seulement 17B paramètres, mais ces experts sont répartis aléatoirement dans le réseau. La clé : le tensor parallelism (TP) et le pipeline parallelism (PP) supportés par vLLM.

Dyson a opté pour une configuration TP=2, PP=1 : chaque couche du modèle est découpée en deux parties, une par Spark. Les activations et gradients circulent via NVLink, qui offre 900 Go/s de bande passante intra-nœud, mais seulement 50 Go/s via le réseau Ethernet 100 Gb/s (RDMA) entre les deux machines. « Le goulot d’étranglement, c’est l’interconnexion. NVLink est fulgurant à l’intérieur d’un Spark, mais entre les deux, on tombe à du 6,25 Go/s théorique, moins en pratique », explique-t-il. Les tests récents montrent qu’un lien QSFP 200 Gb/s est désormais recommandé pour les clusters dual-Spark, notamment pour DeepSeek V4 Flash (source QDNA).

Cette recommandation est désormais documentée par des retours d’exploitation concrets. Une étude de cas publiée par QDNA le 2 septembre 2026 décrit un cluster de trois DGX Spark — deux nœuds reliés en RDMA pour DeepSeek V4 Flash 0731, un troisième nœud autonome pour Qwen3.8-27B — mis en service en février 2026 puis basculé sur les modèles actuels en août 2026 (source QDNA). La plateforme accepte des appels concurrents depuis plusieurs agents internes via LiteLLM, avec un routeur sémantique qui oriente chaque requête vers le modèle le plus adapté. C’est exactement le type d’architecture hybride que Dyson aurait aimé monter dès le départ.

La quantification NVFP4 a été un choix crucial. Elle divise la mémoire nécessaire par 4 par rapport au FP16, mais nécessite une version récente de vLLM (≥0.25.0 pour DeepSeek V4 Flash) et un support matériel spécifique (les DGX Spark le gèrent nativement). Dyson a dû compiler lui-même une version modifiée de vLLM 0.24.3 pour activer le NVFP4 distribué. Depuis, vLLM 0.25+ supporte officiellement le NVFP4 sur DGX Spark, comme le montrent les recettes pour Qwen3.6-27B et DeepSeek V4 Flash (source vLLM Recipes). Les utilisateurs peuvent désormais utiliser les conteneurs NVIDIA NGC arm64 sans compilation manuelle.

Composant	Un Spark	Cluster 2 Spark
VRAM totale (LPDDR5x unifiée)	128 Go	256 Go
Bande passante mémoire	273 Go/s	273 Go/s par nœud
Modèle FP16 (Qwen3.5-397B)	807 Go	807 Go
Modèle NVFP4 (estimation)	~200 Go	~200 Go
Bande passante inter-nœuds	NVLink 900 Go/s	RDMA 50 Go/s (Ethernet 100G) ou QSFP 200 Gb/s
Mémoire disponible après OS	~115 Go	~230 Go

Le tableau montre que même en NVFP4, le modèle occupe 200 Go, laissant seulement 30 Go pour le cache KV et les buffers. « J’ai dû limiter la fenêtre de contexte à 32 000 tokens, loin du million promis par l’API », regrette Dyson. En comparaison, Qwen3.8-27B en NVFP4 sur un seul Spark permet une fenêtre de 262 144 tokens avec --max-model-len 262144 et --gpu-memory-utilization 0.5 (source vLLM Recipes). Et DeepSeek V4 Flash-0731 supporte nativement 1M tokens de contexte sur le cluster dual-Spark, une première pour du matériel de bureau. Sur un cluster dual-Spark bien configuré, un pool de cache KV partagé peut atteindre 1 105 096 tokens (mesures d’août 2026), de quoi servir plusieurs agents simultanément sans purge agressive.

Côté logiciel, l’écosystème a mûri. Atlas, un moteur d’inférence écrit en Rust par une startup française, promet une accélération de 2,8x par rapport à vLLM stock sur le GB10, avec une installation en moins de 2 minutes (uvx sparkrun setup) et une exécution en une commande (sparkrun run @atlas/qwen3.6-35b-a3b-nvfp4). Il atteint 100 tok/s sur Qwen3.6-35B en FP8 et 82 tok/s sur Qwen3-Next-80B, sans dépendances Python ni PyTorch. Son point faible : pas de support multi-nœuds ni de fine-tuning. Pour du mono-Spark, c’est l’option la plus rapide du marché.

En parallèle, CUDA 13.4 fait son entrée : NVIDIA a publié une première version préliminaire pour Windows sur Arm, native à Arm64, ouvrant la voie aux futurs PC RTX Spark (source Techtimes). Bien que les DGX Spark tournent sous Linux, cette preview annonce une convergence logicielle entre les plateformes Grace Blackwell et les RTX Spark, avec des implications pour les développeurs qui veulent porter leurs kernels sur les deux familles de machines.

Octobre 2026 : la mise à jour logicielle qui soude l’écosystème

Le 21 octobre 2026, NVIDIA a déployé une mise à jour logicielle majeure pour le DGX Spark, dans le cadre de sa « October 2026 Release » (source forums NVIDIA). Les systèmes partenaires équipés du GB10 Grace Blackwell reçoivent les mêmes correctifs, ce qui homogénéise enfin l’expérience entre le Spark de référence et les clones (ASUS, Acer, etc.).

Cette release est importante pour Dyson et tous ceux qui bricolent leur cluster : elle consolide la pile NVFP4, met à jour les pilotes et le firmware, et intègre les optimisations de speculative decoding qui bénéficient directement à DeepSeek V4 Flash-0731 et à Qwen3.8-27B. C’est aussi le signe que NVIDIA traite désormais le Spark comme une plateforme logicielle vivante, et non comme un produit figé — un an et demi après son lancement, la promesse initiale est tenue et amplifiée.

Le 30 octobre, NVIDIA a en outre détaillé un workflow edge AI en ligne de commande pour faire tourner Nemotron-3.5 Lightning sur le DGX Spark 64 Go, benchmarks et résultats de speculative decoding à l’appui (source blockchain.news). De quoi rassurer les acheteurs de la nouvelle configuration mémoire réduite : le constructeur documente lui-même les cas d’usage réalistes.

Performances réelles : ce que disent les chiffres indépendants

Le 29 septembre 2026, Artificial Analysis a lancé AA-AgentPerf-Local, un benchmark dédié aux modèles open-weight exécutés sur matériel local. Quatre machines y sont testées au lancement : le DGX Spark, le Ryzen AI Halo, le MacBook Pro (M5 Pro) et la RTX 5090, sur quatre modèles open-weight. C’est la première fois qu’un référentiel indépendant mesure le travail agentique — et non le simple débit de tokens — sur ces plateformes.

Les chiffres canoniques du cluster, désormais bien établis, donnent une image nuancée :

2× DGX Spark, TP=2, vLLM, DeepSeek-V4-Flash FP8 : ~41 tok/s en single-stream, ~350 tok/s agrégés à concurrence 32, ~1 785 tok/s en prefill.
2× DGX Spark : taille maximale de modèle supportée, 405 milliards de paramètres — Qwen3.5-397B passe donc, mais à l’étroit.
1× DGX Spark (antirez ds4, DeepSeek-V4-Flash IQ2_XXS) : ~14 tok/s en single-stream, 410 t/s en prefill.
1× DGX Spark (llama.cpp, GGUF, 35B-A3B) : jusqu’à 67 tok/s.

La comparaison avec la concurrence est éclairante. L’AMD Ryzen AI Halo 192 Go, lancé à 7 299,99 $ chez Micro Center, est le premier desktop compact capable de charger des modèles open-weight de 300 milliards de paramètres — mais les benchmarks indépendants montrent que le DGX Spark garde l’avantage en vitesse (source TechTimes). Autrement dit : plus de mémoire chez AMD, plus de débit chez NVIDIA. Le choix dépend de ce qu’on privilégie — charger un 300B ou le servir vite.

Le prix, la vraie mauvaise nouvelle

Le récit de Dyson a un angle mort : le coût. Le DGX Spark 128 Go a connu une envolée tarifaire liée à la flambée des prix de la mémoire. La version 64 Go, annoncée début octobre, est commercialisée à partir du 23 octobre 2026 à 4 999 $ — soit 1 000 $ de plus que le prix de lancement du modèle 128 Go en 2025 (source kod.ru, source generation-nt.com). Un paradoxe que NVIDIA assume en réduisant la mémoire pour contenir la facture, tout en restant au-dessus du tarif historique.

Face à cela, les clones GB10 deviennent stratégiques. Acer livre son mini-PC GB10 128 Go depuis le 8 septembre 2026, positionné 500 à 1 000 $ sous le prix officiel NVIDIA (source Techgenyz). ASUS propose l’Ascent GX10 64 Go depuis le 5 octobre 2026, présenté comme un « supercalculateur IA agentique compact » capable de faire tourner des modèles de 30 à 35B et des agents locaux avec 1 PFLOP de calcul (source ASUS). Même plateforme GB10, prix et refroidissement différents : pour un cluster, l’écart se multiplie par deux.

Fine-tuning sur DGX Spark : ce que la stack permet vraiment

Le fine-tuning est l’autre grand chantier. Sur un seul Spark, la mémoire unifiée de 128 Go permet un full fine-tuning de modèles jusqu’à ~8 milliards de paramètres — c’est le paradoxe du petit modèle affûté qui rivalise avec des géants sur des tâches de raisonnement ciblées. Pour les modèles plus gros, il faut passer au LoRA ou au QLoRA, avec des résultats solides sur Laguna S 2.1 et Nemotron 3 Nano.

Deux philosophies s’affrontent : Unsloth, optimisé pour la vitesse et la frugalité mémoire, et Axolotl, plus configurable et adapté aux pipelines complexes. Les deux tournent sur le GB10, mais l’installation reste parfois un parcours du combattant — dépendances CUDA, versions de PyTorch, kernels compilés pour Arm64. La mise à jour d’octobre 2026 a réduit la friction, sans l’éliminer.

Pour Dyson, le fine-tuning n’était pas l’objectif : il voulait de l’inférence souveraine. Mais il reconnaît que la vraie valeur du Spark, à terme, est là — adapter un modèle de 8B à son domaine médical plutôt que de servir un 397B générique à moitié quantifié.

Le cluster en pratique : topologies, pièges et gestion

Monter un cluster dual-Spark reste un exercice d’ingénierie. Les pièges récurrents : le câblage RDMA (QSFP 200 Gb/s recommandé), la configuration TP/PP dans vLLM, la gestion du cache KV partagé, et la stabilité sous charge concurrente. Les outils de gestion de flotte — LiteLLM pour le routage, des routeurs sémantiques pour orienter les requêtes — sont devenus indispensables dès qu’on sert plusieurs agents.

La topologie hybride (deux nœuds en RDMA pour le gros modèle, un nœud autonome pour le modèle frugal) décrite par QDNA est probablement l’architecture la plus rationnelle pour un usage professionnel : elle combine la puissance du cluster pour les tâches lourdes et la réactivité d’un mono-Spark pour les agents rapides.

Ce qu’il faut retenir

Le pari de Dre Dyson est à la fois un succès et un avertissement. Succès : oui, un modèle de 397B tourne sur deux boîtiers de bureau, avec une latence exploitable et un contrôle total des données. Avertissement : le contexte de 32 000 tokens, la quantification agressive et le prix grimpant rappellent que le calcul IA local reste un compromis.

Mais l’écosystème a changé la donne. DeepSeek V4 Flash-0731 offre des performances agentiques de niveau frontière sur le même cluster, avec 1M de contexte. Qwen3.8-27B tient sur un seul Spark à 48 tok/s. La mise à jour d’octobre 2026 a soudé la pile logicielle. Et les clones GB10 d’Acer et d’ASUS rendent l’entrée moins douloureuse.

La vraie leçon de Dyson : ne cherchez pas à faire tourner le plus gros modèle possible. Cherchez le modèle le plus adapté à votre matériel — et laissez l’écosystème open-weight, qui bouge plus vite que n’importe quelle fiche technique, faire le reste.

Sources

Article recherché et rédigé automatiquement · Magazine Electrosens

📬 Restez à la pointe

Recevez chaque semaine les nouveautés de ce magazine par email.

💬 Une remarque, une correction ?

Aidez-nous à améliorer cet article. Nous prenons en compte vos retours.

Qwen3.5-397B-A17B sur deux DGX Spark : mythe ou réalité ? Retour d’expérience après 6 mois de tests