NVIDIA DGX Spark · 6 November 2026

LLM open source sur NVIDIA GB10 DGX Spark : fine-tuning, clusters et mises à jour d’octobre 2026 — le guide vérifié

Et si un modèle de 8 milliards de paramètres, affûté par un full fine-tuning sur une machine de bureau, pouvait rivaliser avec des géants comme Llama 70B sur des tâches de raisonnement ? C’est le pari que permet le NVIDIA DGX Spark, et les premiers retours de la communauté ouvrent une voie inédite pour la recherche en IA locale. Loin des clusters cloud coûteux, cette station de travail personnelle redéfinit ce qu’un petit modèle peut accomplir quand on lui donne les bons outils. Mais à l’automne 2026, le DGX Spark n’est plus seulement une machine à fine-tuner des 8B : il exécute désormais des modèles MoE de 118 à 124 milliards de paramètres sur un seul nœud, agrège deux machines pour faire tourner DeepSeek V4.1-Flash, et bénéficie d’un écosystème logiciel mature (vLLM, TensorRT-LLM, Unsloth, Axolotl, Atlas) avec CUDA 13.4 en approche pour Windows on Arm. Sans oublier un bouleversement tarifaire majeur : la crise de la mémoire a fait exploser les prix, et NVIDIA riposte avec une version 64 Go, disponible depuis le 23 octobre. Plongée dans la plateforme qui démocratise l’IA open-source locale.

Le paradoxe du petit modèle… et l’explosion des grands

Jusqu’à récemment, le full fine-tuning d’un modèle de 8 milliards de paramètres (8B) était l’apanage des centres de données. Pour entraîner un Llama 3.1-8B sur l’ensemble de ses poids, il fallait au minimum plusieurs GPU A100 80 Go en parallèle, une infrastructure réseau rapide, et un budget de location qui pouvait dépasser les 10 000 $ par mois. Les stations de travail grand public, même équipées d’une RTX 4090 (24 Go de VRAM), restaient bloquées : la mémoire vidéo insuffisante interdisait de charger le modèle complet en précision 16 bits, et les techniques de réduction (LoRA, QLoRA) imposaient un compromis sur la qualité finale.

Le NVIDIA DGX Spark, dévoilé début 2025 et disponible depuis octobre 2025, a cassé ce plafond de verre. Avec son SoC Grace Blackwell GB10, il embarque 128 Go de mémoire unifiée LPDDR5x, une bande passante de 273 Go/s, et une puissance théorique de 1 PFLOP en FP4 (512 TFLOPS en INT8) – le tout dans un format desktop d’environ 170 W TDP. Cette mémoire unifiée, partagée entre CPU ARM 20 cœurs Neoverse V2 et GPU Blackwell (6 144 cœurs CUDA, l’équivalent d’une RTX 5070), permet de charger un modèle 8B en FP16 (environ 16 Go de poids) avec de la marge pour les gradients, les optimiseurs et les données d’entraînement. Soudain, le full fine-tuning d’un modèle de raisonnement devient réalisable sur un bureau.

Mais à l’automne 2026, le paysage a changé. Des modèles open‑weight comme Laguna S 2.1 (118B paramètres, architecture MoE), Ant Ling-3.0-Flash (124B-A5B) et Nemotron 3 Nano (30B MoE) tournent nativement sur le DGX Spark grâce à la quantification NVFP4 et aux optimisations des moteurs d’inférence. Mieux : DeepSeek V4.1-Flash, successeur du V4-Flash-0731, s’exécute sur un cluster de deux DGX Spark avec des performances étonnantes. Le paradoxe s’inverse : ce n’est plus seulement le petit modèle spécialisé qui bat les géants, mais la plateforme elle-même qui rend les géants accessibles localement.

Anatomie d’une machine à raisonner : le GB10 sous la loupe (mise à jour octobre 2026)

Le cœur du DGX Spark est le SoC Grace Blackwell GB10, une architecture qui fusionne un CPU ARM à 20 cœurs Neoverse V2 (Grace) et un GPU basé sur l’architecture Blackwell (environ 6 144 cœurs CUDA, support FP4). Mais ce qui intéresse le fine-tuneur, c’est la mémoire unifiée : 128 Go LPDDR5x accessibles à la fois par le CPU et le GPU, sans copie explicite. Cette caractéristique est le vrai game-changer.

Spécification	DGX Spark (GB10, 128 Go)	DGX Spark 64 Go	RTX 5090	Mac Studio M4 Ultra
Mémoire	128 Go unifiée	64 Go unifiée	32 Go VRAM	64–128 Go unifiée
Bande passante	273 Go/s	273 Go/s	~1 800 Go/s	~800 Go/s
Précision native	FP4 (1 PFLOP), INT8 (512 TFLOPS)	FP4 (1 PFLOP), INT8 (512 TFLOPS)	FP4 (nouvelle génération)	FP16 (~31 TFLOPS)
TDP	~170 W	~170 W	575 W	~60 W
Prix	6 950 $ (oct. 2026)	4 999 $ (23 oct. 2026)	~2 000 $	~4 000–7 000 $

Tableau 1 : Comparaison des spécifications clés pour le fine-tuning. Sources : void.ma, Frandroid, iaboutique.fr, blog.lalatendu.info.

La crise de la RAM rebat les cartes tarifaires

C’est le fait marquant de cet automne : le prix du DGX Spark a explosé. Lancé à 3 999 $ en octobre 2025, le modèle 128 Go est passé à 4 699 $ en février 2026, et grimpe à 6 950 $ depuis le 2 octobre 2026 — soit 74 % de hausse en un an, à configuration identique. En France, la Founders Edition était passée de 4 099 à 4 800 euros en février, et le Dell Pro Max 4 To s’affichait déjà à 7 149 euros chez Dell avant cette nouvelle hausse. La cause : NVIDIA a bâti sa machine autour de 128 Go de LPDDR5X, précisément le composant le plus inflationniste du moment.

La réponse de NVIDIA tient en un chiffre : 64. Le DGX Spark 64 Go est exactement la même machine que celle testée en mai dans sa version Dell Pro Max, avec la moitié de la mémoire. Même puce GB10 Grace Blackwell, même CPU Arm à 20 cœurs, même GPU Blackwell à 6 144 cœurs CUDA, même bande passante mémoire de 273 Go/s, même carte réseau ConnectX-7 pour relier plusieurs unités. Seuls la RAM (64 Go au lieu de 128) et le SSD (2 To visés au lieu de 4) sont rabotés. Il est vendu à partir de 4 999 dollars depuis le 23 octobre, uniquement chez Acer, Asus, Dell, Gigabyte, HP et MSI : NVIDIA ne propose pas de Founders Edition dorée en 64 Go. Le prix européen n’est pas communiqué ; à ce rythme, on devrait tourner autour de 5 000 euros, et plus chez les constructeurs qui facturent la garantie sur site Frandroid. À noter que la version 64 Go est donc, à son lancement, 1 000 dollars plus chère que ne l’était la version 128 Go à son propre lancement en 2025 — une illustration brutale de la flambée des prix de la mémoire kod.ru.

Du côté des partenaires, ASUS a dégainé son Ascent GX10 64GB, présenté comme un « supercalculateur d’IA agentique compact » : même GB10, 1 PFLOP de calcul, et un positionnement explicitement orienté exécution locale de modèles open-source de 30 à 35 milliards de paramètres et d’agents IA press.asus.com. La comparaison avec le DGX Spark officiel reste toutefois délicate : à plateforme GB10 identique, les prix, le stockage, le refroidissement et la disponibilité divergent sensiblement selon les marques techgenyz.com. Côté Acer, les premières machines GB10 128 Go ont été livrées à partir du 8 septembre 2026, avec un positionnement de 500 à 1 000 dollars sous le tarif NVIDIA officiel — une alternative à considérer pour qui cherche la capacité maximale sans payer le prix Founders Edition.

La bande passante de 273 Go/s reste le principal goulot d’étranglement pour les gros modèles, comme le souligne l’analyse de Void.ma. Cependant, pour un modèle 8B en full fine-tuning, elle est suffisante : les poids (16 Go en FP16) et les gradients (16 Go) tiennent dans la mémoire, et les transferts entre CPU et GPU sont évités grâce à l’unification. En comparaison, une RTX 5090 avec 32 Go de VRAM peut charger un 8B en FP16, mais les buffers d’entraînement dépassent rapidement cette capacité ; il faut recourir à la précision mixte INT8 ou au sharding. Le Mac Studio M4 Ultra offre jusqu’à 128 Go unifiés, mais sa bande passante (~800 Go/s) et son GPU moins performant en INT8/FP4 limitent les vitesses d’entraînement iaboutique.fr.

La précision native FP4 du GB10 est une nouveauté prometteuse. Avec 1 PFLOP théorique, elle pourrait permettre d’entraîner des modèles en 4 bits sans perte excessive, réduisant encore la mémoire nécessaire. Cependant, à ce jour, les frameworks de fine-tuning (PyTorch, Hugging Face) ne supportent pas nativement le FP4 pour l’entraînement ; son usage est pour l’instant cantonné à l’inférence via TensorRT-LLM et vLLM. Les mises à jour de juin 2026 du DGX Spark introduisent le support NVFP4 pour l’inférence et le serving, avec des gains de throughput notables chatforest.com. Pour le fine-tuning, la précision mixte FP16/INT8 reste la voie royale.

Octobre 2026 : la mise à jour logicielle qui soude l’écosystème

Le fait logiciel le plus récent à retenir est la mise à jour d’octobre 2026 du DGX Spark, dont le déploiement a commencé le 21 octobre 2026. NVIDIA précise que les systèmes partenaires équipés du même superchip GB10 Grace Blackwell bénéficient des mêmes nouveautés — un point important pour les acheteurs d’Ascent GX10, de Dell Pro Max ou des machines Acer forums.developer.nvidia.com. Cette livraison consolide plusieurs briques déjà introduites en juin (support multi-nœuds, NVFP4, clustering) et aligne l’ensemble de la flotte GB10 sur une base logicielle commune.

Autre signal fort de la fin octobre : NVIDIA a détaillé un workflow edge AI dédié au DGX Spark et à TensorRT Edge-LLM, avec un cas d’usage concret — faire tourner Nemotron-3.5 Lightning sur un DGX Spark 64 Go en ligne de commande, benchmarks et résultats de speculative decoding à l’appui blockchain.news. C’est la démonstration que la version 64 Go n’est pas un simple déclassement : elle est officiellement ciblée pour les charges agentiques et l’inférence optimisée, avec le speculative decoding comme levier de performance clé sur le GB10 (voir plus bas).

Écosystème logiciel : vLLM, TensorRT-LLM, Unsloth, Axolotl, Atlas et CUDA 13.4

À l’automne 2026, le DGX Spark bénéficie d’un écosystème logiciel mature et en constante évolution. Voici les outils incontournables :

vLLM : officialise son support natif du DGX Spark en juin 2026 vllm.ai. Permet d’exécuter des modèles comme Laguna S 2.1 (118B) avec une latence maîtrisée grâce au PagedAttention et à la quantification FP4. Les benchmarks de la Spark Arena montrent un throughput de 15–20 tok/s pour Laguna S 2.1 en FP4, contre 2–3 tok/s pour un 70B dense sur la même machine ia-vox-magazine.com. Le blog officiel vLLM recommande de laisser --gpu-memory-utilization avec de la marge pour le système et le cache KV, et de garder --max-num-seqs bas, le Spark étant taillé pour le small-batch vllm.ai. Depuis la version 0.25, vLLM supporte nativement DeepSeek V4 Flash-0731 avec son module DSpark fusionné qdna.fr.
TensorRT-LLM : le moteur d’inférence optimisé NVIDIA, désormais compatible avec le GB10. Il compile les modèles en un format optimisé pour le GPU Blackwell, exploitant les cœurs FP4 et INT8. Les gains par rapport à llama.cpp peuvent atteindre 40 % sur les modèles denses void.ma. La liste des modèles supportés officiellement s’est élargie en août 2026, et la déclinaison TensorRT Edge-LLM est désormais documentée pour le Spark 64 Go blockchain.news.
Unsloth : framework de fine-tuning LoRA/QLoRA, mis à jour pour le DGX Spark. Permet de fine-tuner un modèle 8B en LoRA en moins de 2 heures, et un full fine-tuning en 40–60 heures. Supporte le gradient checkpointing et DeepSpeed ZeRO-2 promptquorum.com. La version 2026.5.5 apporte des gains de vitesse de 2x par rapport à la baseline PyTorch, avec ~60 % de mémoire en moins local-llm.net. Le dépôt GitHub reste actif avec une UI locale pour entraîner et exécuter LLMs et modèles de diffusion github.com/unslothai/unsloth.
Axolotl : l’alternative YAML-driven pour les pipelines de fine-tuning multi-GPU. Là où Unsloth excelle en mono-GPU, Axolotl (version 0.16.1) prend en charge FSDP et DeepSpeed pour les clusters dev.to. Pour un cluster de DGX Spark, Axolotl est souvent préféré pour sa reproductibilité.
Atlas : le nouveau venu qui fait parler de lui. Écrit en Rust, sans dépendances Python/PyTorch, il se compile en moins de 2 minutes et promet un speedup de 2.8x par rapport à vLLM stock sur le GB10. Il atteint 100 tok/s sur Qwen3.6-35B en FP8 et 82 tok/s sur Qwen3-Next-80B. Pas de support multi-nœuds, mais une gestion mémoire unifiée via Kernel Hypercompilation. Installation : uvx sparkrun setup puis sparkrun run @atlas/qwen3.6-35b-a3b-nvfp4.
CUDA 13.4 : préinstallé sur le DGX OS (basé Ubuntu Server 24.04 ARM). NVIDIA a publié le 21 juillet 2026 un Developer Preview de CUDA 13.4 pour Windows on Arm, ciblant les futures machines RTX Spark techtimes.com. Cela prépare le portage des applications vers les PC Windows ARM équipés de puces RTX Spark. Sur le DGX Spark, les premiers retours indiquent une température idle de 36°C et une consommation de 3W, signe d’une excellente gestion thermique outilsia.fr.
Ollama : support ARM natif, permet de déployer des modèles en quelques commandes. Idéal pour les tests rapides.
llama.cpp : toujours actif, mais les performances sont inférieures à vLLM et TensorRT-LLM sur le GB10. Reste utile pour les modèles quantifiés en GGUF, avec des débits qui peuvent grimper jusqu’à 67 tok/s sur un modèle 35B-A3B selon la suite de benchmarks GGUF.

Les modèles open source qui tournent vraiment sur le Spark

Le paysage des modèles open-weight compatibles GB10 s’est structuré autour de quelques familles :

Nemotron 3.5 Lightning : le cheval de bataille officiel des agents longue durée, désormais mis en avant dans le workflow edge AI de NVIDIA sur le Spark 64 Go blockchain.news. C’est le modèle que NVIDIA recommande pour tester une machine neuve.
DeepSeek V4.1-Flash (successeur du V4-Flash-0731) : le géant qui tient sur un cluster de deux Spark. En TP=2 avec vLLM et quantification FP8, on mesure environ 41 tok/s en single-stream, ~350 tok/s agrégés à concurrence 32, et un prefill d’environ 1 785 tok/s. Sur un seul nœud en llama.cpp (quantification IQ2_XXS, travail d’antirez), on obtient ~14 tok/s en single-stream et 410 t/s de prefill.
Laguna S 2.1 (118B MoE) et Ant Ling-3.0-Flash (124B-A5B) : les MoE de grande taille qui passent sur un seul nœud grâce à NVFP4.
Qwen3.8-27B : le dense frugal qui tient sur une seule carte ; NVIDIA a d’ailleurs publié un test Qwen 3.8 27B montrant un gain jusqu’à 1,7× sur un ou deux systèmes neoteo.com.
Xiaomi MiMo-V2.6 : l’outsider chinois qui rebat les cartes.
Nemotron 3 Nano (30B MoE) : le petit frère pour les charges légères.

La limite structurelle reste la même : deux DGX Spark en cluster supportent au maximum environ 405 milliards de paramètres. Au-delà, il faut passer à une autre plateforme — la DGX Station for Windows, par exemple, qui vise 748 Go de mémoire cohérente et 20 PFLOPs FP4 pour un lancement au quatrième trimestre 2026 via six partenaires OEM tech-insider.org.

Performances réelles : ce que disent les chiffres indépendants

Le 29 septembre 2026, Artificial Analysis a lancé AA-AgentPerf-Local, un benchmark dédié aux charges agentiques locales, avec quatre matériels testés au lancement (DGX Spark, Ryzen AI Halo, MacBook Pro M5 Pro, RTX 5090) et quatre modèles open-weight [Artificial Analysis]. C’est aujourd’hui la référence indépendante la plus récente pour comparer le Spark à ses concurrents sur des tâches réalistes.

La concurrence s’est d’ailleurs réveillée : l’AMD Ryzen AI Halo 192 Go, vendu 7 299,99 $ chez Micro Center, est le premier desktop compact capable de charger des modèles open-weight de 300 milliards de paramètres. Mais les benchmarks indépendants sont sans ambiguïté : le DGX Spark reste plus rapide, l’avantage mémoire d’AMD se payant en bande passante et en efficacité de calcul techtimes.com. Un rappel utile : sur le GB10, ce n’est pas la capacité mémoire qui fait la vitesse, c’est la bande passante — et 273 Go/s reste un compromis assumé.

Le speculative decoding est devenu le levier de performance numéro un sur cette machine. Le GB10 plafonne en décodage natif précisément à cause de ses 273 Go/s ; le pari à plusieurs tokens (draft model ou draft fusionné type DSpark/MTP) permet de franchir un point de bascule théorique que le Spark est un cas d’école. En 2026, l’année du draft fusionné, la fin du draft model séparé change la donne pour les modèles qui embarquent nativement un module MTP.

Fine-tuning sur DGX Spark : ce que la stack permet vraiment

Le full fine-tuning d’un 8B reste le cas d’usage fondateur, et il tient dans les 128 Go. Mais la vraie question de 2026 est : que peut-on fine-tuner au-delà ? La réponse dépend de la méthode :

LoRA/QLoRA : un 8B se fine-tune en LoRA en moins de 2 heures avec Unsloth ; les modèles 30–35B passent en QLoRA sur un seul nœud. C’est la voie recommandée pour prototyper.
Full fine-tuning : réservé aux modèles jusqu’à ~8B en FP16 sur un nœud ; au-delà, il faut un cluster et du sharding (DeepSpeed ZeRO, FSDP via Axolotl).
Précision : FP16/INT8 en entraînement ; le FP4/NVFP4 reste cantonné à l’inférence pour l’instant, faute de support natif dans PyTorch/Hugging Face.

Le choix du framework se résume à un arbitrage clair : Unsloth pour la vitesse et l’efficacité mémoire en mono-GPU (2× plus rapide, ~60 % de mémoire en moins que la baseline), Axolotl pour la configurabilité et le multi-GPU reproductible local-llm.net. Sur un cluster de deux Spark, Axolotl avec FSDP est le plus souvent préféré.

Le cluster en pratique : deux Spark, 405 milliards de paramètres

Le cluster 2× DGX Spark est la configuration qui a le plus progressé en 2026. La carte ConnectX-7 permet de relier deux unités ; le support multi-nœuds a été introduit dans la mise à jour de juin 2026 et consolidé en octobre. Les chiffres canoniques pour DeepSeek-V4-Flash FP8 en TP=2 avec vLLM sont désormais bien établis : ~41 tok/s single-stream, ~350 tok/s agrégés à concurrence 32, ~1 785 tok/s de prefill. C’est ce qui rend le « géant local » crédible pour des charges agentiques réelles, pas seulement pour la démonstration.

Les pièges restent nombreux : topologie réseau, gestion du cache KV réparti, alignement des versions logicielles entre les deux nœuds (la mise à jour d’octobre 2026 aide précisément à cela), et limites mémoire à 405 milliards de paramètres. Pour les curieux, les recettes MiaAI, les correctifs DSpark et les retours sur la vision sont documentés dans les guides du magazine.

Et au-delà du Spark : RTX Spark, DGX Station, Windows hybride

Le GB10 n’est pas une fin en soi. La plateforme RTX Spark (puce N1X) arrive sur les PC portables et mini-PC, avec CUDA 13.4 en Developer Preview pour Windows on Arm depuis le 21 juillet 2026. Les Numériques ont passé au crible la partie CPU de la N1X face à Apple, AMD, Intel et Qualcomm, et le verdict est nuancé : une plateforme cohérente, puissante en IA locale, mais chère et encore tributaire de logiciels en chantier lesnumeriques.com. Microsoft, de son côté, a présenté le 7 octobre 2026 sa vision « Windows for Hybrid Intelligence », avec des agents IA locaux et un support explicite de DeepSeek V4 Flash sur PC — un signal que l’IA locale devient une priorité OS, pas seulement une affaire de matériel blogs.windows.com.

Enfin, la DGX Station for Windows (748 Go de mémoire cohérente, 20 PFLOPs FP4, lancement Q4 2026 via six OEM) dessine le palier supérieur : quand 405 milliards de paramètres ne suffisent plus, c’est vers elle qu’il faut regarder tech-insider.org.

Sources

Article recherché et rédigé automatiquement · Magazine Electrosens

📬 Restez à la pointe

Recevez chaque semaine les nouveautés de ce magazine par email.

💬 Une remarque, une correction ?

Aidez-nous à améliorer cet article. Nous prenons en compte vos retours.

Le paradoxe du petit modèle : comment le DGX Spark transforme un Llama 8B en assistant de raisonnement