NVIDIA DGX Spark · 23 October 2026

LLM open source sur DGX Spark : désagrégation, clusters RDMA et la mue du 64 Go — l’état des lieux à l’automne 2026

Le DGX Spark est une petite merveille de calcul — 128 Go de mémoire unifiée, 1 pétaflop en FP4, un SoC Grace Blackwell qui fait tourner des modèles de 70 milliards de paramètres sur un bureau. Mais dès qu’on branche un deuxième Spark, la question change de nature : comment faire travailler ensemble des machines dont le point fort est la puissance locale, pas le réseau ? La réponse, explorée par une poignée de pionniers depuis le printemps 2026, s’appelle la désagrégation matérielle — et elle a fini par transformer le cluster personnel en véritable petite infrastructure d’inférence. Un an et demi après son annonce au CES 2025, le mini-supercalculateur de NVIDIA a-t-il tenu ses promesses ? Entre benchmarks solides sur les modèles MoE récents comme DeepSeek V4 Flash 0731 et Qwen3.8-27B, l’arrivée d’une déclinaison 64 Go le 23 octobre 2026 et des clusters multi-nœuds enfin documentés, l’automne 2026 restera comme la saison où le supercalculateur personnel est devenu une réalité tangible — mais aussi celle où son prix a cessé d’être un argument.

Le Spark, une fusée à un étage : pourquoi la puissance locale bute sur le réseau

Posons le décor. Le DGX Spark, lancé en 2025, repose sur le SoC GB10 Grace Blackwell : un CPU ARM à 20 cœurs (10 Cortex-X925, 10 Cortex-A725) couplé à un GPU Blackwell de génération consumer (SM121) avec 6 144 cœurs CUDA, 192 Tensor Cores de 5e génération et 48 RT Cores de 4e génération. Le tout délivre 1 pétaflop de performance IA en FP4, avec 128 Go de mémoire unifiée LPDDR5X à 273 Go/s. De quoi faire tourner localement des modèles jusqu’à 200 milliards de paramètres en quantification NVFP4, et des modèles de 70B en pleine précision FP8. La machine ne mesure que 15 cm de côté pour 5,05 cm d’épaisseur, consomme 240 watts (l’hypothèse haute ; ServeTheHome mesure 60 à 200 W en charge) et se pose sur un bureau — un contraste saisissant avec le DGX-1 de 2016, qui pesait plus de 60 kilos, occupait un rack entier et coûtait 129 000 dollars.

En solo, le Spark impressionne toujours. Les benchmarks officiels NVIDIA pour le fine-tuning donnent le vertige : 13 519,54 tokens/s pour Llama 3.2 3B en full fine-tuning, 6 969,59 tokens/s pour Llama 3.1 8B en LoRA, et 759,79 tokens/s pour Llama 3.3 70B en QLoRA. Côté génération d’images, Flux.1 12B en FP4 produit une image 1K en 2,6 secondes sous TensorRT. Pour une machine de bureau, c’est remarquable — même si la facture, on le verra, a sérieusement enflé.

Mais voilà le paradoxe. Dès qu’on veut passer à l’échelle — deux, quatre, huit Spark — la donne change. Le Spark n’a pas de NVLink-C2C inter-nœuds. Les liaisons entre machines passent par l’Ethernet, et la version de base plafonne à 10GbE. En option, on peut installer une carte ConnectX-7 qui monte à 200 Gbps en RoCE (RDMA over Converged Ethernet), mais ce n’est pas le défaut. Résultat : la bande passante inter-nœuds est entre 10 et 100 fois inférieure à celle d’un cluster DGX H100 équipé de NVLink/NVSwitch. Le Spark est une fusée à un étage : puissant au décollage, mais incapable de propulser une charge utile qui dépasse sa propre soute.

Ce contraste entre la puissance de calcul embarquée et la faiblesse relative des liens réseau pose une question centrale : comment exploiter plusieurs Spark sans que le réseau ne tue les performances ? La réponse naïve — faire du tensor parallelism classique, comme sur un DGX H100 — se heurte immédiatement au mur de la bande passante. La réponse intelligente, explorée par la communauté depuis le printemps 2026, consiste à ne pas faire travailler les machines ensemble sur le même calcul, mais à leur confier des tâches différentes. C’est exactement ce que recouvre la désagrégation matérielle.

Découper pour régner : la désagrégation matérielle, ou comment spécialiser chaque nœud

L’idée est simple en apparence, révolutionnaire dans ses implications : au lieu de faire tourner l’intégralité du modèle sur chaque machine, on répartit les phases d’un cycle d’inférence sur des nœuds dédiés. Un Spark s’occupe du prefill — le calcul des clés et valeurs initiales du prompt —, un autre du decode — la génération token par token —, un troisième du fine-tuning, un quatrième des agents. Chaque machine fait une seule chose, mais elle la fait parfaitement.

Cette approche, connue sous le nom de PD-disaggregation (Prefill/Decode disaggregation), n’est pas nouvelle dans les data centers. Elle est au cœur de l’architecture de DistServe et des déploiements industriels depuis 2024. Elle est désormais explicitement prise en charge par vLLM, qui liste dans ses fonctionnalités le « disaggregated prefill, decode, and encode » aux côtés de PagedAttention, du continuous batching, du chunked prefill et du prefix caching. Mais l’appliquer à un cluster de DGX Spark, c’est-à-dire à des machines de bureau connectées par un réseau modeste, change la donne. Pourquoi ? Parce que le prefill et le decode n’ont pas les mêmes besoins. Le prefill est limité par le calcul : il faut traiter des milliers de tokens de prompt en parallèle, une opération très intensive en opérations matricielles. Le decode, lui, est limité par la bande passante mémoire : à chaque token généré, il faut recharger l’intégralité des poids du modèle depuis la mémoire. Sur un Spark avec 273 Go/s de bande passante, le decode d’un modèle 70B en FP8 plafonne mécaniquement autour de 15-20 tokens/s, quel que soit le nombre de cœurs CUDA.

En séparant les deux phases, on peut optimiser chaque nœud pour sa tâche. Le nœud de prefill peut utiliser des batchs énormes, saturer les Tensor Cores, et renvoyer le KV-cache — l’ensemble des clés et valeurs calculées — au nœud de decode. Le nœud de decode, lui, n’a plus qu’à générer, sans se soucier du prompt. Cette séparation permet aussi de réduire la latence perçue (le TTFT, time to first token) puisque le prefill n’attend pas que le decode ait fini de générer les tokens précédents.

Concrètement, sur un cluster de deux Spark, le gain est double. D’abord, la mémoire combinée de 256 Go permet de charger des modèles plus gros : jusqu’à 405 milliards de paramètres selon NVIDIA, contre 200B sur un seul nœud. Ensuite, l’inférence concurrente est multipliée : deux requêtes simultanées peuvent être traitées en parallèle, une sur chaque nœud, sans contention. Les chiffres de terrain publiés à l’été 2026 confirment l’intérêt de l’approche : sur deux Spark en tensor parallel (TP=2) avec vLLM et DeepSeek-V4-Flash en FP8, on mesure environ 41 tokens/s en single-stream, ~1 785 tokens/s en prefill et ~350 tokens/s agrégés à une concurrence de 32. Le pool de cache KV partagé atteint 1 105 096 tokens. C’est un exemple frappant de ce que la désagrégation et le TP sur deux nœuds permettent : un modèle d’agent de 284 milliards de paramètres totaux, tournant sur deux machines de bureau, avec un débit réellement utilisable.

Le talon d’Achille : un réseau qui change toute l’équation

Il faut être honnête : le réseau est le point faible du Spark, et c’est lui qui rend la désagrégation à la fois nécessaire et difficile. Les sources officielles NVIDIA ne mentionnent pas de NVLink-C2C inter-nœuds pour le Spark. La connectivité standard est de l’Ethernet 10GbE — largement suffisant pour de l’administration, mais très insuffisant pour du tensor parallelism. En option, une carte ConnectX-7 permet de monter à 200 Gbps en RoCE (RDMA), avec des câbles QSFP112 DAC. C’est cette option qui rend les clusters multi-Spark réellement viables pour la désagrégation, car elle permet des transferts de KV-cache à grande vitesse entre nœuds.

Le guide officiel de clustering NVIDIA précise que chaque DGX Spark possède deux ports QSFP (parfois appelés « ports ConnectX-7 ») à l’arrière de l’appareil. Chaque port fournit jusqu’à 200 Gb/s, mais la vitesse effective dépend aussi du câble utilisé — il faut des câbles connus pour fournir au moins 200 Gb/s. La documentation recommande notamment des câbles approuvés comme l’Amphenol NJAAKK-N911 (400 mm, 32 AWG). Attention au piège : la topologie PCIe unique du Spark peut semer la confusion lors de la configuration IP, et la documentation officielle consacre une section entière à ce sujet. Sur les plateformes équipées de cartes ConnectX, la technologie GPUDirect Storage établit par ailleurs un chemin direct entre le stockage NVMe (ou NVMe over Fabric) et la mémoire GPU, ce qui évite de faire transiter les jeux de données par le CPU.

Comparons avec un cluster DGX H100 : là-bas, le NVLink et le NVSwitch offrent une bande passante inter-GPU de 900 Go/s, soit près de 30 fois celle d’un lien ConnectX-7 à 200 Gbps (25 Go/s). Le tensor parallelism pur, qui consiste à découper les poids du modèle sur plusieurs GPU et à synchroniser les activations à chaque couche, reste impensable sur des Spark à 10GbE : la latence de synchronisation serait plus élevée que le temps de calcul lui-même. Le pipeline parallelism, qui découpe le modèle en couches séquentielles, est possible mais sous-optimal : il introduit des bulles de calcul et une latence accrue.

La désagrégation Prefill/Decode contourne élégamment ce problème. Elle ne nécessite qu’un seul transfert de KV-cache par requête, du nœud de prefill vers le nœud de decode. Pour un modèle 70B avec un contexte de 4 000 tokens, le KV-cache représente quelques centaines de mégaoctets — transférable en quelques dizaines de millisecondes sur un lien 200 Gbps. C’est acceptable, surtout si on compare au temps de génération total qui se compte en secondes. En revanche, sur un lien 10GbE, le même transfert prendrait plusieurs secondes, ce qui rendrait la désagrégation inutile. D’où l’importance cruciale de l’option ConnectX-7 pour tout usage multi-nœuds sérieux.

Étude de cas : le cluster QDNA, trois Spark en production depuis février 2026

La théorie a maintenant un terrain d’essai concret et documenté. La société française QDNA a mis en service en février 2026 un cluster de trois DGX Spark : deux nœuds reliés en RDMA pour un modèle à mélange d’experts dont les poids dépassent 128 Go, et un troisième nœud seul pour un modèle compact. Depuis août 2026, les deux branches servent respectivement DeepSeek V4 Flash 0731 (284 milliards de paramètres, 13 actifs, 167 Go de poids publiés en FP4 + FP8, contexte natif 1 048 576 tokens) sur le cluster, et Qwen3.8-27B (27 milliards, dense, 56 Go en BF16, contexte natif 262 144 tokens) sur le mono-Spark. La plateforme accepte des appels concurrents depuis plusieurs agents internes via LiteLLM et route chaque requête vers le modèle le plus adapté via un routeur sémantique. Le détail de l’architecture est public sur la page de réalisation de QDNA.

Ce déploiement illustre parfaitement la philosophie de la désagrégation : chaque nœud a un rôle précis, et le routage sémantique décide quel modèle répond à quelle requête. Le cluster RDMA à deux nœuds supporte un modèle MoE de 284B — impossible sur un seul Spark — tandis que le mono-Spark traite les requêtes plus légères avec Qwen3.8-27B. C’est exactement le genre d’architecture que la communauté explore depuis le printemps 2026, et qui commence à faire ses preuves en production.

Les modèles qui tournent vraiment sur le GB10 à l’automne 2026

La question que tout le monde se pose : quels LLM open-source tournent réellement sur le DGX Spark, et à quelle vitesse ? Voici l’état des lieux à l’automne 2026, basé sur les benchmarks publiés et les retours de terrain.

DeepSeek V4 Flash 0731 (284B, MoE, 13 actifs) — publié le 31 juillet 2026. C’est le modèle star des clusters Spark. Sur un cluster de deux nœuds en RDMA avec vLLM en TP=2, il atteint environ 41 tokens/s en single-stream, ~350 tokens/s agrégés à concurrence 32 et ~1 785 tokens/s en prefill. Ses 167 Go de poids en FP4 + FP8 dépassent la mémoire d’un seul Spark, d’où la nécessité du cluster. C’est le cas d’usage parfait de la désagrégation. En mono-Spark, la variante quantifiée IQ2_XXS (projet ds4 d’antirez) tourne à environ 14 tokens/s avec un prefill de 410 tokens/s — utilisable pour un agent, pas pour un serveur.

Qwen3.8-27B (27B, dense) — publié en août 2026. C’est la révélation du moment sur mono-Spark. Avec 56 Go en BF16, il tient confortablement dans les 128 Go de mémoire unifiée, et les benchmarks publiés fin août 2026 (blog.openzeka.com) montrent 34 à 38 tokens/s sur DGX Spark. C’est un modèle dense à attention hybride (48 couches sur 64 en attention linéaire), avec une tour vision, une tête de draft MTP intégrée, et un contexte natif de 262 144 tokens extensible à 1M. Il se classe premier de sa catégorie parmi les modèles open-weight selon l’Artificial Analysis Intelligence Index (score de 52). Attention toutefois : son paramètre de raisonnement « xhigh » peut faire exploser les temps de calcul — il faut le configurer avec soin. NVIDIA l’a d’ailleurs retenu comme cas d’usage de référence pour sa communication sur le Spark 64 Go, avec un facteur jusqu’à 1,7× sur deux systèmes.

Ant Ling-3.0-Flash (124B-A5B, MoE) — annoncé le 23 juillet 2026. Avec 5 milliards de paramètres actifs, il est conçu pour l’inférence locale. Sur un seul DGX Spark, le débit estimé est de 15-20 tokens/s. Sa fenêtre de contexte étendue et son architecture MoE en font un bon candidat pour un nœud unique dédié aux agents.

La longue traîne — les benchmarks communautaires d’août 2026 montrent qu’une suite llama.cpp en GGUF atteint jusqu’à 67 tokens/s sur un modèle 35B-A3B, ce qui reste la meilleure démonstration de ce qu’un seul Spark peut faire quand on choisit bien son architecture. Côté écosystème, vLLM référence désormais les familles DeepSeek V4/V3.2/R1, Qwen3.8/3.6/3.5, Kimi K3/K2.6, MiniMax M3/M2.7, Nemotron 3 Ultra/Super/Nano, Gemma 4 et Mistral Small 4 — autant de modèles qui ont été validés sur GB10 au fil de l’année.

Le 64 Go change la donne : moins de mémoire, plus cher, et une astuce de cluster

C’est la nouvelle la plus importante de cet automne, et elle n’est pas réjouissante sur le plan tarifaire. Le 2 octobre 2026, NVIDIA a annoncé une déclinaison 64 Go du DGX Spark, commercialisée à partir du 23 octobre 2026 chez plusieurs constructeurs, à 4 999 dollars. Le même jour, la version 128 Go grimpe au-delà de 6 000 dollars sur le marché — elle était à 3 999 $ au lancement, puis 4 699 $ depuis février 2026. La cause : l’envolée des cours de la mémoire LPDDR5X. Autrement dit, la version 64 Go coûte 1 000 dollars de plus que ce que coûtait la version 128 Go à son lancement.

L’astuce, c’est que NVIDIA a prévu le coup : la version 64 Go peut être appairée à une version 128 Go pour former un cluster à deux nœuds, ce qui permet de dépasser la limite d’un seul 128 Go sans acheter deux machines à 128 Go. NVIDIA détaille dans son annonce officielle les tailles de modèles visées sur un ou deux systèmes, et met en avant un test Qwen 3.8 27B jusqu’à 1,7× plus rapide sur deux systèmes. La question que pose toute la presse spécialisée est simple : faut-il acheter deux petits plutôt qu’un gros ? La réponse dépend de la charge — un cluster de deux 64 Go offre plus de mémoire agrégée et de parallélisme, mais un seul 128 Go reste plus simple à administrer et suffit pour les modèles denses jusqu’à 70B.

Cette déclinaison s’inscrit dans un contexte de fragmentation matérielle croissante. Acer livre depuis le 8 septembre 2026 un mini-PC à base de GB10, 128 Go de mémoire unifiée, positionné 500 à 1 000 dollars sous le prix NVIDIA. AMD, de son côté, a lancé le Ryzen AI Halo 192 Go à 7 299,99 $ chez Micro Center, capable de charger des modèles open-weight jusqu’à 300 milliards de paramètres — mais les benchmarks indépendants montrent que le DGX Spark garde l’avantage en vitesse sur les charges qui tiennent dans ses 128 Go. Et NVIDIA prépare déjà l’étage au-dessus : le DGX Station for Windows, annoncé le 8 octobre 2026 avec 748 Go de mémoire cohérente et 20 pétaflops FP4, pour un lancement au quatrième trimestre 2026 via six partenaires OEM.

Fine-tuning : ce qui est réellement possible sur un Spark

Le fine-tuning est l’autre grand argument du Spark, et les chiffres officiels NVIDIA restent la référence : 13 519,54 tokens/s pour Llama 3.2 3B en full fine-tuning, 6 969,59 tokens/s pour Llama 3.1 8B en LoRA, 759,79 tokens/s pour Llama 3.3 70B en QLoRA. Concrètement, cela signifie qu’un LoRA sur un modèle 8B se boucle en quelques minutes, et qu’un QLoRA sur un 70B reste envisageable sur une nuit — à condition d’accepter la quantification 4 bits et une fenêtre de contexte réduite.

La limite structurelle reste la même que pour l’inférence : la mémoire unifiée de 128 Go est partagée entre le système, le modèle de base, les activations et les optimiseurs. Un full fine-tuning au-delà de 8-10B est hors de portée d’un nœud unique. C’est précisément là que le cluster prend son sens : répartir un fine-tuning sur deux nœuds permet de doubler la mémoire disponible pour les gradients et les états d’optimiseur, au prix d’une synchronisation réseau qui reste tolérable en data parallel (chaque nœud traite un batch différent et on moyenne les gradients) — beaucoup plus qu’en tensor parallel.

Face à AMD, la comparaison est instructive : le Ryzen AI Halo 192 Go offre plus de mémoire, mais l’écosystème logiciel de fine-tuning (Unsloth, TRL, PEFT, le stack NVIDIA AI Enterprise) est historiquement mieux rodé sur CUDA. C’est là que le GB10 garde une longueur d’avance, même si la fragmentation des runtimes (vLLM, llama.cpp, TensorRT-LLM, Ollama) complique le choix des outils.

Clusters : ce que deux, quatre et huit Sparks changent vraiment

NVIDIA annonce jusqu’à 405 milliards de paramètres sur deux nœuds (connexion directe par câble QSFP) et jusqu’à 700 milliards avec quatre unités via un commutateur Ethernet, selon la fiche produit relue le 2 septembre 2026. La réalité du terrain est plus nuancée : les 700B relèvent de l’annonce marketing et supposent des quantifications agressives, une topologie réseau bien réglée et des charges peu sensibles à la latence. Les configurations réellement documentées tournent autour de 284B (DeepSeek V4 Flash) sur deux nœuds, ce qui est déjà considérable pour des machines de bureau.

Le choix de topologie divise la communauté : full-mesh (chaque nœud relié directement à tous les autres, idéal jusqu’à quatre nœuds mais coûteux en câbles), étoile via un commutateur Ethernet (plus scalable, mais ajoute un saut réseau), ou connexion directe à deux nœuds (le plus simple, le plus rapide, mais limité à deux machines). Le firmware, lui, reste un sujet de friction : les playbooks officiels de mise à jour ne sont pas toujours alignés avec les versions réellement déployées, et la chasse aux « versions fantômes » est un sport communautaire.

Côté logiciel, l’écosystème s’est structuré. vLLM est devenu la référence pour le serving multi-utilisateurs sur GB10, avec PagedAttention, continuous batching, chunked prefill, prefix caching, speculative decoding (n-gram, suffix, EAGLE, DFlash) et un support de quantification large (FP8, MXFP8/MXFP4, NVFP4, INT8, INT4, GPTQ/AWQ, GGUF, compressed-tensors, ModelOpt, TorchAO). Il est compatible avec toutes les versions de CUDA 13.x (13.0 à 13.1) et nécessite Python 3.10+, avec Python 3.12+ recommandé. llama.cpp reste le couteau suisse pour les tests rapides et les GGUF, Ollama le plus simple à prendre en main, et TensorRT-LLM le plus rapide mais le plus exigeant en ingénierie.

Verdict : une machine qui a tenu ses promesses, à un prix qui n’a pas tenu les siennes

Un an et demi après le CES 2025, le DGX Spark a fait ce qu’il avait promis : faire tourner des modèles de 70B en FP8, des MoE de 284B sur deux nœuds, du fine-tuning LoRA en quelques minutes, et des agents locaux à 30-40 tokens/s. La désagrégation Prefill/Decode, le RDMA via ConnectX-7 et la maturité de vLLM ont transformé ce qui était une démo en infrastructure réelle — le cluster QDNA en est la preuve la plus concrète.

Mais la promesse tarifaire, elle, n’a pas survécu à la pénurie de mémoire. La version 128 Go est passée de 3 999 $ à plus de 6 000 $, et la nouvelle version 64 Go arrive à 4 999 $ — plus cher que ce que coûtait le double de mémoire il y a un an. Dans ce contexte, l’astuce de l’appairage 64 Go + 128 Go est maligne, mais elle ne masque pas une réalité : le Spark n’est plus la bonne affaire qu’il était, et la concurrence (Acer sous le prix NVIDIA, AMD avec 192 Go, DGX Station à venir) rend le choix plus complexe qu’il y a six mois.

Reste l’essentiel : pour qui veut une infrastructure d’inférence privée, sans cloud, avec un écosystème CUDA mature et des clusters documentés, le DGX Spark reste la référence. À condition d’accepter de payer le prix de la mémoire — et de prévoir dès l’achat la carte ConnectX-7, sans laquelle la désagrégation n’a aucun sens.

Sources

• NVIDIA — Systèmes DGX
• NVIDIA — DGX Spark 64GB Gives Developers More Ways to Build and Scale Local AI (2 octobre 2026)
• QDNA — Étude de cas : cluster DGX Spark RDMA, DeepSeek et Qwen3.8
• QDNA — Case study: DGX Spark RDMA cluster, DeepSeek and Qwen3.8 (EN)
• vLLM — site officiel et dépôt GitHub
• NVIDIA — DGX Station
• Frandroid — Nvidia lance le DGX Spark en 64 Go : faut-il acheter deux petits plutôt qu’un gros ? (2 octobre 2026)
• Clubic — NVIDIA lance un DGX Spark 64 Go : moins de mémoire, mais une drôle d’astuce pour dépasser le modèle 128 Go (2 octobre 2026)
• Pause Hardware — Le DGX Spark perd la moitié de sa mémoire mais conserve son tarif de 4 999 dollars (2 octobre 2026)
• Generation-NT — Nvidia DGX Spark 64 Go : moins de mémoire pour plus cher (4 octobre 2026)
• NeoTeo — DGX Spark 64 Go : NVIDIA annonce une configuration (3 octobre 2026)
• TechTimes — AMD Ryzen AI Halo 192GB Loads Models No Rival Can: DGX Spark Still Wins on Speed (14 octobre 2026)
• Tech-Insider — NVIDIA DGX Station for Windows: 748GB, 20 PFLOPs (8 octobre 2026)
• Artificial Analysis — AA-AgentPerf-Local: Benchmarking local AI agents on laptops and workstations (29 septembre 2026)
• Context Studios — Matériel pour l’IA locale en 2026 : DGX Spark, Mac Studio M5 Ultra, RTX 5090 et Strix Halo comparés (24 septembre 2026)
• Pyshine — The Best DGX Spark for Local AI in 2026: LLM Speed, Model Sizes, and Clusters (1er octobre 2026)
• Tom’s Hardware — Nvidia DGX Spark gets 18 percent price increase as memory shortages bite
• LDLC.pro — fiche DGX Spark PNY (relevé du 26 septembre 2026)
• ServeTheHome — mesures de consommation du DGX Spark
• GitHub — MiniMax H3 FL2VA on single DGX Spark GB10 (rapport de plantage) (26 septembre 2026)
• WinBuzzer — Xiaomi’s MiMo V2.6 Model Debuts With Unprecedented Efficiency Gains (24 septembre 2026)

Article recherché et rédigé automatiquement · Magazine Electrosens