NVIDIA DGX Spark · 2 November 2026

LLM open source sur NVIDIA GB10 DGX Spark : la bascule des 64 Go, PAIR, agents locaux et clusters — le point complet à l’automne 2026

Le 23 octobre 2026, le DGX Spark 64 Go est arrivé en boutique à 4 999 dollars, pendant que la version 128 Go franchissait les 6 000 dollars sur le marché. Trois semaines plus tôt, Nvidia annonçait des agents locaux packagés et l’outil NVIDIA PAIR. Entre-temps, la pile logicielle a continué de mûrir : DGX OS 7.5, CUDA 13.0.2, vLLM 0.24, TensorRT-LLM, et un workflow edge documenté par NVIDIA fin octobre. Cet article fait le point complet, chiffres à l’appui, sur les modèles qui tournent vraiment sur GB10, les benchmarks mesurés, le fine-tuning, les clusters multi-nœuds et les logiciels qui font vivre la machine.

Octobre 2026 : la rentrée où Nvidia a décidé de faire tourner l’IA chez vous, pas dans le cloud

Depuis son lancement en septembre 2025, le DGX Spark — ce boîtier de la taille d’un Mac Mini embarquant 128 Go de mémoire unifiée LPDDR5X (273 Go/s) et une puce Grace Blackwell GB10 — s’est imposé comme la référence de l’inférence locale de grands modèles de langage. Le 1er juin 2026, NVIDIA a déployé une mise à jour logicielle majeure promettant un bond de 2,6× en performances, portée par trois innovations : le format de données NVFP4 (NVIDIA Floating Point 4), l’agent de sécurité NemoClaw, et le clustering multi-nœuds.

Cinq mois plus tard, le paysage a changé de nature. Le 2 octobre 2026, NVIDIA a annoncé une seconde configuration, le DGX Spark 64 Go, commercialisée à partir du 23 octobre à 4 999 dollars — soit 1 000 dollars de plus que le prix de lancement de la version 128 Go en 2025. Dans le même mouvement, la version 128 Go a franchi la barre des 6 000 dollars sur le marché, conséquence directe de la flambée des cours de la (LP)DDR5. Comme le résume Frandroid, la question posée est désormais simple : « faut-il acheter deux petits plutôt qu’un gros ? »

La réponse n’est pas triviale, car la version 64 Go n’est pas qu’une version amputée : NVIDIA documente une astuce de clustering qui permet de dépasser, en agrégé, ce que le modèle 128 Go peut faire seul (Clubic, 2 octobre 2026). Le blog officiel NVIDIA précise que le DGX Spark 64 Go « fait tourner des agents IA locaux sur l’appareil avec la pile IA NVIDIA complète — et des clusters pour plus de performance à mesure que les charges grandissent ».

En parallèle, l’écosystème s’élargit. ASUS a dévoilé le 5 octobre 2026 son Ascent GX10 64 Go, un « supercalculateur IA agentique compact » propulsé par le même GB10 Grace Blackwell, avec 1 PFLOP de calcul et la promesse de faire tourner des modèles ouverts de 30 à 35 milliards de paramètres en local (press.asus.com). Techgenyz souligne que l’Ascent GX10 et le DGX Spark partagent le même matériel GB10, mais que « le prix, le stockage, le refroidissement et la disponibilité changent la comparaison ». Côté Acer, les mini-PC GB10/RTX Spark 128 Go sont livrés depuis le 8 septembre 2026, positionnés 500 à 1 000 dollars sous le prix NVIDIA officiel.

La version logicielle de référence reste la DGX OS 7.5.0 avec le driver 580.159.03 et CUDA 13.0.2 — des versions qui corrigent plusieurs problèmes de stabilité et améliorent la gestion mémoire. Et le 30 octobre 2026, NVIDIA a publié un workflow edge complet pour faire tourner Nemotron-3.5 Lightning sur DGX Spark 64 Go, avec benchmarks et résultats de décodage spéculatif à l’appui (blockchain.news).

GB10, RTX Spark, DGX Spark : démêler la nomenclature avant de parler d’agents

Avant d’entrer dans les chiffres, un point de clarification indispensable, car la confusion est entretenue par les annonces. Le GB10 Grace Blackwell est le SoC : un CPU Grace (20 cœurs Arm) et un GPU Blackwell reliés par NVLink-C2C, avec 128 Go (ou 64 Go) de mémoire unifiée cohérente et 273 Go/s de bande passante. Le DGX Spark est le produit de référence NVIDIA qui embarque ce SoC. Les « RTX Spark » et autres « Spark PCs » sont les déclinaisons OEM (ASUS, MSI, Lenovo, Acer) du même socle matériel, avec des variations de stockage, de refroidissement et de prix.

Cette distinction compte parce que les benchmarks ne mesurent pas la même chose selon la machine : un Ascent GX10 64 Go et un DGX Spark 128 Go n’ont ni la même mémoire disponible ni le même budget thermique. Et un cluster de deux Sparks 64 Go n’égale pas un seul Spark 128 Go pour un modèle qui a besoin de tenir en mémoire d’un bloc — sauf quand le tensor parallelism entre en jeu.

La bascule d’octobre 2026 : 64 Go, 128 Go et une nouvelle grille tarifaire

Le tableau suivant récapitule la situation tarifaire à la date du 23 octobre 2026 :

Configuration	Mémoire unifiée	Prix	Disponibilité
DGX Spark (référence)	128 Go	> 6 000 $ (marché)	Disponible
DGX Spark 64 Go	64 Go	4 999 $	23 octobre 2026
ASUS Ascent GX10 64 Go	64 Go	selon revendeur	Annoncé 5 octobre 2026
Acer mini-PC GB10/RTX Spark	128 Go	500–1 000 $ sous NVIDIA	Livré depuis le 8 septembre 2026

La logique de NVIDIA est assumée : face à l’envolée des coûts de la mémoire, proposer une porte d’entrée moins chère (mais pas bon marché) tout en préservant le haut de gamme. generation-nt.com résume bien l’ambiguïté : « moins de mémoire pour plus cher ». Pause Hardware confirme : « Le NVIDIA DGX Spark passe à 64 Go pour 4 999 $ dès le 23 octobre, tandis que la version 128 Go dépasse désormais les 6 000 $ sur le marché. »

Pour l’acheteur, la vraie question est celle du dimensionnement. Un modèle dense de 27 à 35 milliards de paramètres en NVFP4 tient confortablement dans 64 Go. Un MoE de 284 milliards de paramètres comme DeepSeek V4 Flash 0731, en revanche, exige la version 128 Go — ou un cluster. C’est précisément là que la stratégie de NVIDIA devient cohérente : le 64 Go est un nœud de cluster, pas un substitut au 128 Go.

Architecture sous le capot : ce que le GB10 fait vraiment

Le GB10 n’est pas un GPU de datacenter miniaturisé. C’est un SoC à mémoire unifiée cohérente, ce qui change tout pour l’inférence de grands modèles : le CPU et le GPU voient le même espace mémoire, sans copie explicite. Les 273 Go/s de bande passante sont le vrai goulot d’étranglement en décodage — c’est ce qui explique que le débit en génération soit limité par la lecture des poids du modèle à chaque token.

NVIDIA revendique 1 petaflop de performance FP4 pour le GB10 (developer.nvidia.com). C’est cette capacité FP4 native qui rend le NVFP4 intéressant : le format 4 bits de NVIDIA n’est pas une simple quantification logicielle, il est exécuté nativement par les Tensor Cores Blackwell.

La contrepartie, c’est que la mémoire unifiée est partagée entre CPU et GPU. Sur un modèle qui sature les 128 Go, il ne reste plus rien pour le système, le cache KV ou les buffers du runtime. C’est pourquoi les configurations réelles tournent souvent autour de 100–110 Go de poids pour laisser de la marge.

Les modèles stars de l’automne 2026 sur DGX Spark

Qwen3.6-27B : le modèle dense qui a redéfini l’inférence locale

Le 22 avril 2026, Alibaba dévoilait Qwen3.6-27B, un modèle dense de 27 milliards de paramètres avec une architecture hybride (attention linéaire Gated DeltaNet + attention gated) et une fenêtre de contexte de 256K tokens. Deux mois plus tard, NVIDIA publiait une quantification NVFP4 sur Hugging Face (26 juin 2026), co-développée avec l’équipe vLLM pour les Tensor Cores FP4 natifs des GPU Blackwell.

Sur le DGX Spark, les testeurs communautaires rapportent 28 à 33 tokens/s en session unique sur la build NVFP4 via vLLM 0.24.0 (Kie.ai). Mais avec 10 agents parallèles, un développeur a atteint 136 tokens/s, avec un pic à 163 t/s (Wiselychen). Le modèle atteint 163 tokens/s en peak decode sur matériel Blackwell.

En termes de qualité, la quantification NVFP4 obtient 0,8446 sur MMLU, quasi identique au FP8 (~0,84). Sur les benchmarks agentiques, le modèle se classe au niveau Sonnet 4.6 sur SWE-bench et Terminal-Bench, et bat Claude Opus 4.5 sur 7 des 12 benchmarks comparés. C’est une excellente nouvelle pour les utilisateurs locaux : la quantification 4 bits de NVIDIA ne sacrifie pas la qualité, du moins sur ce modèle.

Un bémol toutefois, que Kie.ai souligne explicitement : aucun rapport de benchmark officiel d’Alibaba n’a émergé dans les sources publiques à la date du 14 juillet 2026 — tous les chiffres ci-dessus viennent de testeurs communautaires. Et les quantifications NVFP4 du modèle 35B-A3B (le frère MoE) semblent « cassées » dans certains benchmarks indépendants, notamment en workflows agentiques. Un point à surveiller de près.

Qwen3.8-27B : l’itération qui corrige les défauts de la 3.6

Le 20 août 2026, des utilisateurs du forum NVIDIA ont testé Qwen3.8-27B en NVFP4 avec SGLang et DSpark, obtenant 34 à 38 tokens/s en génération. Cette itération, publiée discrètement par Alibaba en août 2026, corrige les défauts de la 3.6 et s’impose comme le nouveau cheval de bataille de l’inférence locale sur GB10. Un runbook de service Blackwell (OrcaRouter) documente la version Uncensored en NVFP4, confirmant l’intérêt de la communauté pour ce modèle récent.

NVIDIA lui-même a mis en avant Qwen 3.8 27B dans sa communication sur le DGX Spark 64 Go, avec un test montrant un gain jusqu’à 1,7× (NeoTeo, 3 octobre 2026). C’est un signal fort : le constructeur cite désormais ce modèle comme référence de démonstration.

Le support de la Multi-Token Prediction (MTP) progresse également : sur la variante Qwen3.8-Flash-Next, le MTP apporte un gain de 1,67× sans perte de qualité, faisant passer le débit de 83 à 138 tokens/s (banandre.com, 2 septembre 2026). Une implémentation de décodage spéculatif pour Qwen3.6-27B et Qwen3.8-27B est également en cours dans le projet Uzu (trymirai.com, 3 septembre 2026).

DeepSeek V4 Flash 0731 : le modèle MoE de 284B qui tourne sur une seule Spark

DeepSeek V4 Flash 0731 est un modèle MoE de 284 milliards de paramètres avec 13B actifs. Il a été conçu pour tourner sur une seule DGX Spark. Les benchmarks communautaires sont impressionnants :

1 000 tokens/s en prefill sur une seule Spark
59 tokens/s en multi-agent serving
En Q8 (UD-Q8_K_XL), le modèle pèse 162 Go, seulement 7 Go de plus que la version Q4 — un excellent compromis qualité/mémoire

Sur deux DGX Spark, un utilisateur du forum NVIDIA a démontré un serving agentique avec Hermes Agent, atteignant des performances de niveau frontier avec 13B paramètres actifs, soit 10× plus petit que Claude Opus. Flowtivity confirme : « DeepSeek V4 Flash 0731 delivers frontier-level agentic performance with 13B active parameters, 10x smaller than Claude Opus. We run it on two NVIDIA DGX Sparks with Hermes Agent for private, on-prem AI. »

À noter : Microsoft a cité DeepSeek V4 Flash parmi les modèles mis en avant lors de sa keynote du 7 octobre 2026 sur l’« Intelligence Hybride » de Windows (blog-nouvelles-technologies.fr). Le modèle devient donc un standard de facto pour l’IA locale sur PC, ce qui renforce l’intérêt du Spark comme machine de référence.

MiMo-V2.6 : la surprise Xiaomi de septembre 2026

Le 22 septembre 2026, Xiaomi a ouvert les poids de sa famille MiMo-V2.6 sous licence MIT — Pro, Flash et 9B — le même jour qu’Alibaba dévoilait sa puce V900. Selon Forkast, le MiMo-V2.6-Pro égale Grok 4.7 sur l’Intelligence Index et surpasse Claude Opus 5 sur plusieurs benchmarks clés. Xiaomi a mené un entraînement RL en public, avec un tableau de bord diffusé en direct et un rythme de dépense de 432 000 $/jour, signalant un bond de 47 points sur les benchmarks (forkast.news, 17 septembre 2026).

Attention toutefois : eWeek (23 septembre 2026) souligne que les gains RL de MiMo-V2.6 n’ont pas encore été répliqués indépendamment et reposent sur une infrastructure d’entraînement coûteuse. WinBuzzer (24 septembre 2026) le classe parmi les modèles ouverts les plus économiques à déployer — « si vous avez le matériel pour les faire tourner ». Sur un DGX Spark, la variante Flash est la plus pertinente ; la Pro, de classe 1T, dépasse largement les 128 Go unifiés.

Ant Ling-3.0-Flash : le modèle rapide d’Ant Group

Le 23 juillet 2026, Ant Group a publié Ling-3.0-Flash, un modèle de 124B-A5B (124 milliards de paramètres, 5B actifs) avec attention hybride linéaire (couches KDA et MLA empilées 5:1). Il bat leur précédent modèle 1T sur presque tous les benchmarks. Le débit d’inférence estimé est de 15-20 tokens/s sur une seule Spark, avec un contexte natif de 256K extensible à 1M. Sur les benchmarks académiques, il affiche environ 87,0 sur MMLU et ~90,0 sur HumanEval (juillet 2026).

Poolside Laguna S 2.1 : la réponse occidentale

Le 23 juillet 2026, Poolside a publié Laguna S 2.1, un modèle de 118 milliards de paramètres pour le codage agentique. C’est la première grande ouverture de poids américaine depuis 11 mois. Avec une architecture MoM (Mixture-of-Models) à token-choice router, 256 experts et softplus-gating, elle bat des concurrents 10× plus grands et tient dans un seul desktop.

Les autres modèles à connaître

Gemma 4 26B-A4B : 108 tokens/s en génération (vLLM natif)
Mistral Small 4 119B : servi avec vLLM sur DGX Spark (guide Haruni, juillet 2026)
GPT-OSS 120B : 38,55 tokens/s en génération, 1 723 tokens/s en prefill
Nemotron-3.5 Lightning : modèle mis en avant par NVIDIA dans son workflow edge du 30 octobre 2026, avec décodage spéculatif
GLM 5.2, Kimi K2.7 : également compatibles

Benchmarks réels : vitesse d’inférence, consommation mémoire et qualité

Le tableau ci-dessous compile les chiffres les plus récents disponibles à ce jour :

Format	Modèle	Prompt (tokens/s)	Génération (tokens/s)	Source
NVFP4 + MTP	Qwen3.6-35B-A3B	non communiqué	97 (single)	LLMRequirements
NVFP4	Qwen 3.6 27B	non communiqué	163 (peak decode)	Kie.ai
NVFP4	Qwen3.8-27B	non communiqué	34–38 (SGLang + DSpark)	Forum NVIDIA (20 août 2026)
NVFP4 + MTP	Gemma 4 26B-A4B	non communiqué	108 (mesuré, vLLM natif)	ai-muninn.com
MXFP4	GPT-OSS 120B	1 723	38,55	aimultiple.com (citant LMSYS Org)
NVFP4	Qwen3.6-27B	non communiqué	28–33 (session unique)	Kie.ai
NVFP4	Qwen3.6-27B	non communiqué	136 (10 agents parallèles)	Wiselychen
Q8	DeepSeek V4 Flash 0731	1 000 (prefill)	59 (multi-agent)	Forum NVIDIA
IQ2_XXS	DeepSeek-V4-Flash (ds4.c)	410	~14 (single-stream)	antirez ds4 (août 2026)
GGUF	35B-A3B (llama.cpp)	non communiqué	jusqu’à 67	Suite llama.cpp (août 2026)

Le gain de 2,6× annoncé par NVIDIA est mesuré sur Qwen3.6-35B en combinant NVFP4 et Multi-Token Prediction (prédiction spéculative multi-tokens). Ce chiffre est cohérent avec les premiers tests indépendants : LLMRequirements rapporte 97 tokens/s en génération sur un seul DGX Spark avec Qwen3.6-35B-A3B en NVFP4, contre environ 37 tokens/s en FP8 — soit un ratio de 2,6× exactement.

Mais attention : le NVFP4 n’est pas automatiquement plus rapide que FP8 sur GB10. Comme le souligne le guide de référence ai-muninn.com (août 2026), « NVFP4 n’est pas automatiquement plus rapide que FP8 sur GB10 » — tout dépend du modèle, de la configuration et du runtime. Sur certains modèles denses, FP8 reste compétitif. La leçon : testez, ne supposez pas.

Le verdict d’Artificial Analysis : les agents locaux passés au banc

Le 29 septembre 2026, Artificial Analysis a publié AA-AgentPerf-Local, un outil open source qui mesure la vitesse réelle d’exécution d’agents IA sur laptops et stations de travail. Les résultats de lancement couvrent le DGX Spark, le Ryzen AI Halo, le MacBook Pro (M5 Pro) et la RTX 5090, sur quatre modèles à poids ouverts. C’est à ce jour le comparatif le plus systématique et le plus récent disponible — et il nuance sérieusement les chiffres marketing. Le DGX Spark y apparaît comme un excellent serveur d’agents multi-modèles, mais pas nécessairement le plus rapide en inférence mono-modèle face à un MacBook Pro M5 Pro ou une RTX 5090 sur des modèles qui tiennent dans leur mémoire.

Le duel avec le Ryzen AI Halo 192 Go

Le 14 octobre 2026, AMD a lancé son Ryzen AI Halo 192 Go à 7 299,99 dollars chez Micro Center — le premier desktop compact capable de charger des modèles ouverts de 300 milliards de paramètres. Mais TechTimes est catégorique : « DGX Spark Still Wins on Speed ». Les benchmarks indépendants montrent que le Halo gagne sur la capacité mémoire (192 Go contre 128 Go) mais perd sur le débit. C’est un arbitrage classique : plus de mémoire pour charger plus gros, moins de vitesse pour générer.

À titre de comparaison, la version antérieure du Halo (128 Go LPDDR5X, 256 Go/s de bande passante) atteignait 34 à 39 tokens/s sur un modèle 120B (septembre 2026) — des performances proches du Spark sur ce type de charge, avec une bande passante mémoire légèrement inférieure (256 Go/s contre 273 Go/s).

La DGX Station : la grande sœur pour le fine-tuning lourd

Le 8 octobre 2026, NVIDIA a dévoilé la DGX Station for Windows : 748 Go de mémoire cohérente, 20 PFLOPs FP4, lancement au Q4 2026 via 6 partenaires OEM (tech-insider.org). Ce n’est plus la même catégorie — ni le même prix — mais c’est la destination naturelle pour ceux qui veulent faire du full fine-tuning en BF16 sur des modèles de 70B et plus.

Fine-tuning sur DGX Spark : LoRA, QLoRA et full fine-tune en BF16

Le fine-tuning est un des points forts du DGX Spark grâce à ses 128 Go de mémoire unifiée. Les guides de référence (Unsloth, DeepWiki) et les benchmarks officiels NVIDIA documentent plusieurs approches.

Ce que NVIDIA mesure officiellement

Le blog développeur de NVIDIA (developer.nvidia.com) publie trois benchmarks de fine-tuning sur DGX Spark, avec une méthodologie claire (séquence de 2048 tokens, 1 époque, 64 étapes) :

Modèle	Méthode	Backend	Configuration	Peak tokens/s
Llama 3.2 3B	Full fine-tuning	PyTorch	batch 8, seq 2048, 64 steps	13 519,54
Llama 3.1 8B	LoRA	PyTorch	batch 4, seq 2048, 64 steps	6 969,59
Llama 3.3 70B	QLoRA	PyTorch	batch 8, seq 2048, 64 steps	759,79

NVIDIA précise que « le fine-tuning étant très gourmand en mémoire, aucune de ces charges de travail ne peut tourner sur un GPU grand public de 32 Go ». C’est le point clé : le Spark permet de faire tenir en local ce qui exigeait hier un A100 ou une instance cloud.

LoRA et QLoRA : le choix de la simplicité

Avec Unsloth, le fine-tuning LoRA d’un modèle 7B prend environ 15 minutes sur une seule Spark. Pour les modèles plus grands (27B), QLoRA en NVFP4 permet de rester sous la barre des 128 Go. Le blog Unsloth (juin 2026) détaille le processus complet : installation, chargement du modèle en 4 bits, entraînement LoRA, et export vers GGUF ou vLLM.

Un point important : la documentation Unsloth a été étendue à la DGX Station, la grande sœur du Spark. Celle-ci dispose de plus de ~200 Go de VRAM et de plus de 700 Go de mémoire unifiée GPU/CPU, reliés par NVLink-C2C. Les notebooks Unsloth y entraînent Qwen3.5-35B-A3B et gpt-oss-120b. Cette documentation est directement transposable au Spark pour les modèles qui tiennent dans 128 Go.

Full fine-tuning en BF16 : possible, mais serré

Le full fine-tuning en BF16 sur le Spark est réaliste jusqu’à environ 8 à 13 milliards de paramètres selon la longueur de séquence et la taille de batch. Au-delà, il faut passer au LoRA/QLoRA ou à un cluster. La règle empirique : comptez environ 16 à 20 Go de mémoire par milliard de paramètres en full fine-tuning BF16 avec optimiseur Adam — ce qui plafonne vite.

Le fine-tuning distribué sur cluster

C’est là que le clustering prend tout son sens. Avec deux Sparks en tensor parallelism, on double la mémoire disponible et on peut fine-tuner des modèles de 27B en full BF16, ou des 70B en QLoRA avec des batchs plus grands. La limite pratique du clustering reste toutefois à 4 nœuds pour les charges de fine-tuning synchrones, au-delà desquels la latence de communication entre nœuds (via ConnectX-7, 200 Gb/s) devient pénalisante.

Clusters DGX Spark : ce que deux, quatre ou huit nœuds changent vraiment

Le clustering est la fonctionnalité la plus survendue et la plus mal comprise du DGX Spark. Voici ce que les benchmarks mesurés disent réellement.

Deux nœuds : le sweet spot

Deux DGX Spark reliés par ConnectX-7 offrent 256 Go de mémoire agrégée et supportent des modèles jusqu’à 405 milliards de paramètres — c’est le chiffre canonique documenté. Les benchmarks mesurés sur DeepSeek-V4-Flash en FP8 avec vLLM en tensor parallelism (TP=2) donnent :

~41 tokens/s en single-stream
~350 tokens/s en agrégé à concurrence 32
~1 785 tokens/s en prefill
Un pool de cache KV partagé de 1 105 096 tokens (août 2026)

C’est le cas d’usage idéal : un modèle de classe 284B qui ne tient pas sur un seul nœud en FP8, servi avec une concurrence réaliste pour un usage d’équipe.

Quatre nœuds : la limite pratique

Au-delà de deux nœuds, le rendement décroît. La communication inter-nœuds via ConnectX-7 (200 Gb/s) reste le goulot d’étranglement pour le tensor parallelism. Quatre nœuds permettent de charger des modèles de classe 600B+ en quantification agressive, mais le débit par nœud chute. C’est utile pour la capacité, pas pour la vitesse.

Huit nœuds : le territoire du datacenter

Huit Sparks, c’est un cluster de 1 To de mémoire unifiée agrégée et 8 PFLOPs FP4 — mais c’est aussi 8 machines à refroidir, alimenter et administrer. À ce stade, la comparaison avec une DGX Station (748 Go, 20 PFLOPs, un seul châssis) devient défavorable au cluster en termes de simplicité. Le cluster de Sparks a du sens pour la recherche distribuée et l’expérimentation, pas pour la production.

La bascule des 64 Go change la donne

Avec le Spark 64 Go à 4 999 dollars, deux nœuds coûtent 9 998 dollars — soit plus cher qu’un seul Spark 128 Go à 6 000 dollars, pour une mémoire agrégée de 128 Go identique mais avec le double de compute et la possibilité du tensor parallelism. C’est l’« astuce » que souligne Clubic : en agrégé, deux 64 Go peuvent dépasser ce qu’un 128 Go fait seul, à condition que le modèle se prête au découpage. Pour un modèle dense qui tient dans 64 Go, un seul nœud suffit et le second est du gaspillage. Pour un MoE qui a besoin de 128 Go, deux 64 Go sont une alternative viable au 128 Go unique — avec plus de compute mais plus de complexité.

La pile logicielle d’un DGX Spark en 2026 : CUDA, TensorRT-LLM, vLLM, Ollama, NIM, DGX OS

Le Spark ne se résume pas à son matériel : sa force est la pile logicielle préinstallée. Tour d’horizon des sept solutions qui comptent.

DGX OS 7.5.0 : le socle

La version actuelle est la DGX OS 7.5.0, avec le driver 580.159.03 et CUDA 13.0.2. C’est une distribution Ubuntu optimisée pour le GB10, avec les pilotes, CUDA, cuDNN et les bibliothèques NVIDIA préinstallés. Les mises à jour corrigent la stabilité et la gestion mémoire — un point critique sur une machine où la mémoire unifiée est partagée.

vLLM 0.24 : le standard de l’inférence haute performance

vLLM est le runtime de référence pour l’inférence de production sur Spark. Il supporte le NVFP4 natif, le tensor parallelism pour les clusters, et le PagedAttention pour la gestion du cache KV. C’est lui qui sert les modèles dans la plupart des benchmarks cités plus haut. La version 0.24.0 est celle utilisée par les testeurs communautaires de Qwen3.6-27B.

TensorRT-LLM et TensorRT Edge-LLM : le chemin NVIDIA

TensorRT-LLM est l’optimiseur de NVIDIA pour l’inférence. Il compile les modèles en moteurs optimisés pour le matériel cible, avec support du FP4, du FP8 et du décodage spéculatif. TensorRT Edge-LLM est sa déclinaison pour l’edge, et c’est précisément ce que NVIDIA a documenté le 30 octobre 2026 dans son workflow pour Nemotron-3.5 Lightning sur DGX Spark 64 Go (build.nvidia.com). Le workflow en ligne de commande inclut les benchmarks et les résultats de décodage spéculatif.

Ollama : la simplicité

Ollama reste la porte d’entrée la plus simple pour tester un modèle en quelques minutes. Moins performant que vLLM sur les charges concurrentes, il est parfait pour le prototypage et les usages mono-utilisateur.

NVIDIA NIM : les microservices

NIM (NVIDIA Inference Microservices) packagent les modèles en conteneurs optimisés, prêts à servir via API. C’est la voie recommandée pour la production, avec gestion du versioning et des mises à jour.

NVIDIA PAIR : le routeur d’inférence local

Annoncé en septembre 2026, NVIDIA PAIR (Personal AI Router) est un routeur d’inférence gratuit et open source qui découvre les appareils compatibles sur votre réseau domestique et y répartit les requêtes. Le DGX Spark et les futurs RTX Spark fournissent le matériel ; PAIR fournit l’orchestration. C’est la pièce manquante de l’écosystème : un Spark seul est un serveur, plusieurs Sparks avec PAIR forment un essaim domestique.

LiteLLM, Llama Swap, Atlas : les alternatives

Pour ceux qui veulent un proxy multi-modèles, LiteLLM offre une abstraction API au-dessus de vLLM, Ollama et NIM. Llama Swap gère le chargement/déchargement de modèles à la demande. Atlas propose une interface unifiée. Le choix dépend de l’usage : production (vLLM + NIM), expérimentation (Ollama), orchestration multi-nœuds (PAIR).

Ce que Nvidia a réellement packagé en septembre 2026 : agents, modèles sous-jacents, formats de distribution

En septembre 2026, NVIDIA a annoncé des agents locaux packagés — des agents prêts à l’emploi, distribués avec leurs modèles sous-jacents et leurs formats de distribution. L’idée : ne plus demander à l’utilisateur de choisir un modèle, un runtime et une quantification, mais livrer un agent fonctionnel clé en main.

Le workflow edge documenté le 30 octobre 2026 pour Nemotron-3.5 Lightning sur Spark 64 Go en est l’illustration concrète : une ligne de commande, un modèle, des benchmarks, et un résultat reproductible. C’est la maturation d’un écosystème qui, en 2025, demandait encore des heures de configuration.

Perspectives : vers où va le DGX Spark ?

Trois tendances se dessinent pour la fin 2026 et au-delà.

Premièrement, la segmentation par la mémoire. Avec le 64 Go à 4 999 dollars et le 128 Go au-delà de 6 000 dollars, NVIDIA crée deux marchés : l’entrée de gamme agentique (30–35B) et le haut de gamme MoE (284B). L’ASUS Ascent GX10 64 Go à 1 PFLOP s’inscrit dans cette logique.

Deuxièmement, la montée en puissance des agents. AA-AgentPerf-Local, PAIR, les agents packagés de septembre : tout converge vers un usage où le Spark n’est plus un banc d’inférence mais un serveur d’agents. La métrique qui compte devient le débit multi-agents, pas le tokens/s mono-stream.

Troisièmement, la concurrence. AMD avec le Ryzen AI Halo 192 Go à 7 299 dollars, Microsoft avec son « Intelligence Hybride » sur Windows 11 26H2, et la DGX Station for Windows à 748 Go de mémoire cohérente : le Spark n’est plus seul. Mais il reste le seul à offrir la pile NVIDIA complète dans un format de 170 W.

La question n’est plus « le Spark peut-il faire tourner un LLM ? » — la réponse est oui, de 27 à 284 milliards de paramètres. La question est « quel Spark, pour quel modèle, avec quel runtime ? ». Et à l’automne 2026, la réponse dépend plus que jamais de votre budget mémoire.

Sources

Article recherché et rédigé automatiquement · Magazine Electrosens

📬 Restez à la pointe

Recevez chaque semaine les nouveautés de ce magazine par email.

💬 Une remarque, une correction ?

Aidez-nous à améliorer cet article. Nous prenons en compte vos retours.

NVIDIA DGX Spark : la mise à jour de juin 2026 décryptée – NVFP4, Nemoclaw et clustering, que valent vraiment ces optimisations ?