NVIDIA DGX Spark · 2 November 2026LLM open source sur NVIDIA GB10 DGX Spark : la bascule des 64 Go, PAIR, agents locaux et clusters — le point complet à l’automne 2026
Le 23 octobre 2026, le DGX Spark 64 Go est arrivé en boutique à 4 999 dollars, pendant que la version 128 Go franchissait les 6 000 dollars sur le marché. Trois semaines plus tôt, Nvidia annonçait des agents locaux packagés, un routeur IA local et une pile logicielle désormais mature. Avec son SoC GB10 Grace Blackwell, ses 128 Go (ou 64 Go) de mémoire unifiée et un écosystème qui va de vLLM à TensorRT-LLM en passant par Ollama, le mini-supercalculateur de bureau fait tourner des modèles de 30 à 405 milliards de paramètres — seul ou en cluster. Mais l’automne 2026 rebat les cartes : Xiaomi débarque avec MiMo-V2.6, les « Spark PCs » sous Windows arrivent, AMD contre-attaque avec son Ryzen AI Halo 192 Go, et la vague d’agents locaux change la donne. DeepSeek V4 Flash 0731, Qwen3.8-Flash-Next, Gemma 4, Ant Ling-3.0-Flash, Nemotron-3.5 Lightning : tour d’horizon des modèles qui tournent vraiment, des benchmarks mesurés par la communauté, des techniques de fine-tuning et des mises à jour logicielles de l’été et de l’automne 2026.
Octobre 2026 : la rentrée où Nvidia a décidé de faire tourner l’IA chez vous, pas dans le cloud
L’année 2026 marque un tournant dans la démocratisation des LLM locaux. Fini le temps où il fallait louer des clusters cloud pour faire tourner un modèle de 70 milliards de paramètres. NVIDIA propose désormais une gamme qui couvre un spectre allant de la station de travail dédiée à la carte graphique grand public, en passant par une variante « grand public » sous Windows.
Le DGX Spark (anciennement Project DIGITS) est une station IA compacte, présentée au CES 2025 et disponible depuis octobre 2025. Son prix a évolué de façon spectaculaire : lancé à 3 999 $, il est passé à 4 699 $ en février 2026, avant que la flambée des cours de la mémoire (LP)DDR5 ne rebatte les cartes à l’automne. Le 2 octobre 2026, NVIDIA a annoncé une nouvelle configuration 64 Go à 4 999 $, commercialisée à partir du 23 octobre 2026 chez plusieurs constructeurs, tandis que le modèle 128 Go dépasse désormais les 6 000 $ sur le marché (blogs.nvidia.com, frandroid.com, pausehardware.com, clubic.com). C’est un paradoxe assumé : moins de mémoire, mais un tarif supérieur au prix de lancement de la version 128 Go en 2025 — la faute à l’inflation du DRAM, comme le résume hardwareand.co.
Avec son format de 150×150×50,5 mm pour 1,2 kg et une consommation de 240 W max (environ 170 W mesurés en charge selon LeCompute), il tient dans un sac à dos et se branche sur une prise standard. C’est la solution « tout-en-un » pour les développeurs, chercheurs et entreprises qui veulent exécuter des LLM localement sans se soucier de l’infrastructure. En mai 2026, des variantes OEM comme l’ASUS Ascent GX10 se négociaient 500 à 1 000 $ de moins, soit environ 3 000–3 500 $ HT (outilsia.fr) — une époque révolue, puisque ASUS a depuis officialisé son Ascent GX10 64 Go le 5 octobre 2026, positionné sur les modèles open source de 30 à 35 milliards de paramètres et les agents locaux, avec 1 pétaflop de calcul (press.asus.com, techgenyz.com).
La RTX 5090 reste la carte graphique grand public la plus puissante de la génération Blackwell. Son prix varie selon les sources : entre 3 500 $ et 4 200 $ (deepresearch.ninja), tandis que float16.cloud l’estime entre 1 999 $ et 2 200 $ (prix grand public constaté). En Europe, la pénurie la pousse à 3 900–4 400 € (LeCompute). Elle dispose de 32 Go de VRAM GDDR7 avec une bande passante fulgurante de 1 792 Go/s. Destinée aux gamers, créateurs et passionnés d’IA, elle offre des performances d’inférence impressionnantes pour les modèles de taille moyenne, mais bute sur les très gros LLM faute de mémoire suffisante. Sa consommation atteint 575 W pour la carte seule (LeCompute).
Le RTX Spark est la grande surprise de 2026. Annoncé au Computex 2026, il reprend le même silicium GB10 que le DGX Spark, mais dans un format grand public, tournant sous Windows et disponible en notebooks ou en boîtier compact (source : morgannriu.fr). Les pilotes récemment publiés confirment deux variantes du processeur N1X (lesnumeriques.com), et NVIDIA a lancé le 20 juillet 2026 un kit de développement CUDA 13.4 natif pour Windows on Arm, permettant aux développeurs de préparer leurs applications pour RTX Spark avant même la sortie des machines (techtimes.com, igorslab.de, pausehardware.com).
La rentrée a accéléré le mouvement. Selon shattered.io (8 septembre 2026), huit OEM livrent désormais des mini-PC RTX Spark, Lenovo et Acer ouvrant la marche — Acer livrant ses machines GB10 128 Go le 8 septembre 2026, positionnées 500 à 1 000 $ sous le prix NVIDIA officiel. À l’IFA 2026, ASUS a dévoilé sa gamme ProArt complète : le mini-PC ProArt GR1X (15 cm de côté, jusqu’à 1 pétaflop d’IA, pensé pour faire tourner un agent en permanence sans cloud — realmoon.ai, bastillepost.com), ainsi que les portables ProArt P14 et P16 avec 128 Go de mémoire (ecosistemastartup.com). Un indice matériel confirme la bascule : la mise à jour firmware du DGX Spark début septembre a ajouté un certificat de démarrage Windows UEFI, et NVIDIA fixe la mise en vente des PC Windows RTX Spark à octobre 2026 (storagereview).
La concurrence s’organise. AMD a lancé le 14 octobre 2026 son Ryzen AI Halo 192 Go, premier desktop compact capable de charger des modèles open weight de 300 milliards de paramètres, à 7 299,99 $ chez Micro Center — mais les benchmarks indépendants montrent que le DGX Spark garde l’avantage en vitesse (techtimes.com). HP préparerait par ailleurs un portable autour de son meilleur APU pour concurrencer l’offre (gizmodo.com). Et Microsoft a profité de sa keynote du 7 octobre 2026 pour annoncer « Windows for Hybrid Intelligence », avec des agents IA sécurisés et DeepSeek V4 Flash en local sur PC (blogs.windows.com, journaldugeek.com, news.microsoft.com).
| Caractéristique | DGX Spark | RTX 5090 | RTX Spark |
|---|---|---|---|
| SoC/GPU | GB10 Grace Blackwell (CPU ARM 20 cœurs + GPU Blackwell 6144 CUDA) | GPU Blackwell discret (GB202, 21 760 CUDA) | GB10 Grace Blackwell (identique DGX Spark) |
| Mémoire | 128 Go ou 64 Go LPDDR5x unifiée | 32 Go GDDR7 | 128 Go LPDDR5x (estimé) |
| Bande passante mémoire | ~273 Go/s | 1 792 Go/s | ~273–301 Go/s (estimé) |
| Performance IA (FP4) | 1 pétaFLOP (1 000 TOPS) | Non précisé | Jusqu’à 1 pétaFLOP (ProArt) |
| TDP | 240 W max (~170 W mesurés) | 575 W (carte seule) | ~240 W (estimé) |
| Prix | 64 Go : 4 999 $ (23 oct. 2026) ; 128 Go : > 6 000 $ (oct. 2026) ; OEM dès ~3 000 $ (mai 2026) | 1 999 $ MSRP, 2 999 $+ rue US, 3 900–4 400 € UE | Non annoncé (estimé 2 500–3 000 $) |
| OS | DGX OS (Ubuntu 24.04 custom) | Windows / Linux | Windows (CUDA 13.4 preview Arm64) |
Sources : deepresearch.ninja, float16.cloud, codersera.com, proxpc.com, llmrequirements.com, LeCompute, outilsia.fr, shattered.io, blogs.nvidia.com, frandroid.com, pausehardware.com
Architecture sous le capot : Grace Blackwell contre Blackwell pur
Le cœur du débat réside dans l’architecture. Le DGX Spark et le RTX Spark partagent le même superprocesseur NVIDIA GB10 Grace Blackwell. Il combine un CPU ARM 20 cœurs (10× Cortex-X925 + 10× Cortex-A725) avec un GPU Blackwell doté de 6 144 cœurs CUDA et des Tensor Cores de 5e génération supportant nativement le FP4 (source : morgannriu.fr, workstation.ma). Cette conception unifiée permet au CPU et au GPU de partager la mémoire via NVLink-C2C, offrant une latence réduite et une gestion simplifiée des données. Sous le capot, le DGX Spark tourne sous DGX OS, une distribution basée sur Ubuntu Server 24.04 ARM, avec le stack NVIDIA AI Enterprise pré-installé : CUDA 13.0, cuDNN, NCCL, drivers Blackwell et Docker NVIDIA Container Toolkit (outilsia.fr).
Un détail technique que les développeurs vLLM connaissent bien : le silicium du Spark est identifié comme sm_121, du « consumer Blackwell ». C’est ce qui explique pourquoi les recettes d’inférence doivent être spécifiquement adaptées au Spark, et pourquoi les noyaux NVFP4 y jouent un rôle central (vllm.ai).
La RTX 5090, quant à elle, est un GPU Blackwell discret (architecture GB202) avec 21 760 cœurs CUDA. Elle ne dispose pas de CPU intégré ; elle doit être associée à un processeur hôte (Intel ou AMD) via PCIe Gen5. Ses Tensor Cores sont également de 5e génération, mais le support du FP4 n’est pas explicitement confirmé dans les sources. En revanche, sa bande passante mémoire est plus de six fois supérieure à celle du GB10 (1 792 Go/s contre 273 Go/s), ce qui lui confère un avantage décisif sur les modèles de taille modeste.
Le point clé : le DGX Spark et le RTX Spark peuvent exécuter des LLM jusqu’à 200 milliards de paramètres en local grâce à leur mémoire unifiée de 128 Go — et jusqu’à 405 milliards de paramètres en cluster de deux nœuds — tandis que la RTX 5090 est limitée à 32 Go de VRAM. Cependant, pour les modèles qui tiennent dans ces 32 Go, la RTX 5090 offre des débits d’inférence bien plus élevés grâce à sa bande passante mémoire massive. Comme le résume LeCompute : « la mémoire élimine, la bande passante classe ». LMSYS évalue d’ailleurs la capacité IA réelle du DGX Spark comme se situant entre une RTX 5070 et une 5070 Ti — pas dans la même ligue que la 5090 sur le calcul brut (codersera.com).
La bascule d’octobre 2026 : 64 Go, 128 Go et une nouvelle grille tarifaire
La mémoire est le nerf de la guerre pour l’inférence de LLM. Le DGX Spark dispose de 128 Go de LPDDR5x unifiée, partagée entre le CPU et le GPU via NVLink-C2C. La bande passante annoncée est de ~273 Go/s (source : workstation.ma, LeCompute, outilsia.fr). Cela permet de charger des modèles de très grande taille, comme GPT-OSS-120B (117 milliards de paramètres, MoE, 5,1 milliards d’actifs) qui occupe environ 65 Go en quantification MXFP4 (source : glukhov.org). En comparaison, le Mac Studio (modèle non précisé) avec sa mémoire unifiée voit ses performances se dégrader fortement lorsque le contexte augmente (34 tok/s puis 6 tok/s), alors que le DGX Spark maintient un débit stable de 41 tok/s en génération (source : glukhov.org citant un blog Ollama).
La version 64 Go, annoncée le 2 octobre 2026 et disponible depuis le 23 octobre, change la donne pour les budgets serrés. NVIDIA détaille les tailles de modèles visées sur un ou deux systèmes, avec un test Qwen 3.8 27B jusqu’à 1,7 fois plus rapide dans certaines configurations (neoteo.com). Surtout, comme le note clubic.com, la version 64 Go embarque « une drôle d’astuce pour dépasser le modèle 128 Go » : la possibilité de mettre en cluster deux Sparks 64 Go pour un total de 128 Go, à un tarif inférieur à celui d’un seul 128 Go au prix actuel. C’est le dilemme que pose Frandroid : « faut-il acheter deux petits plutôt qu’un gros ? » La réponse dépend du cas d’usage — deux nœuds offrent plus de mémoire agrégée et de parallélisme, mais ajoutent la complexité réseau et la latence du tensor parallel.
La RTX 5090, avec ses 32 Go de GDDR7 et 1 792 Go/s de bande passante, est un monstre de rapidité pour les modèles qui tiennent dans sa VRAM. Par exemple, Qwen3.6-27B (dense 27 milliards de paramètres, sorti en avril 2026) en AWQ-INT4 peut être inféré à 575 tok/s avec vLLM et une concurrence de 8 (source : deepresearch.ninja). Mais dès que le modèle dépasse 30 milliards de paramètres, il faut recourir au offloading CPU, ce qui dégrade sévèrement les performances. GPT-OSS-120B, par exemple, ne peut pas être chargé entièrement sur la RTX 5090 sans offloading, et les benchmarks disponibles ne montrent pas de résultat pour cette configuration.
Le RTX Spark, avec sa mémoire unifiée estimée à 128 Go et une bande passante de 273–301 Go/s, se positionne comme un compromis entre mobilité et capacité. Aucun benchmark indépendant n’est encore disponible, mais la publication du kit CUDA 13.4 pour Windows on Arm le 20 juillet 2026 permet déjà aux développeurs de porter leurs applications (techtimes.com, igorslab.de, mundowin.com). Les premiers portables ASUS et MSI arrivent à l’automne 2026 (clubic.com), et les mini-PC ProArt GR1X visent explicitement les TPE/PME qui veulent un agent IA local permanent (syskb.com, realmoon.ai).
Benchmarks : qui crache les tokens le plus vite ?
Les chiffres parlent d’eux-mêmes. Voici un tableau comparatif des performances d’inférence mesurées par plusieurs sources indépendantes : deepresearch.ninja, float16.cloud, LeCompute, proxpc.com, pyshine.com et les forums développeurs NVIDIA.
| Modèle | Configuration | DGX Spark | RTX 5090 |
|---|---|---|---|
| Qwen3.6-27B (AWQ-INT4) | vLLM, concurrence 8 | ~35–45 tok/s (estimé) | 575 tok/s |
| GPT-OSS-120B (MXFP4) | Ollama / llama.cpp | ~41 tok/s (stable) | Non supporté sans offloading |
| DeepSeek-V4-Flash (IQ2_XXS) | ds4.c, mono-nœud | ~14 tok/s (single-stream), 410 tok/s prefill | Non supporté |
| DeepSeek-V4-Flash (FP8) | vLLM TP=2, 2 nœuds | ~41 tok/s single-stream, ~350 tok/s @ c=32, ~1 785 tok/s prefill | Non supporté |
| Modèle 35B-A3B (GGUF) | llama.cpp | Jusqu’à 67 tok/s | ~180–220 tok/s (estimé) |
Les chiffres les plus parlants viennent de la communauté. En août 2026, le travail d’antirez sur ds4.c a montré qu’un seul DGX Spark pouvait faire tourner DeepSeek-V4-Flash en quantification IQ2_XXS à environ 14 tok/s en single-stream, avec un prefill de 410 tok/s — des performances honorables pour un modèle de cette taille sur un boîtier de 170 W. En passant à deux nœuds en tensor parallel (TP=2) avec vLLM et DeepSeek-V4-Flash en FP8, on grimpe à ~41 tok/s en single-stream, ~350 tok/s en agrégé à concurrence 32 et ~1 785 tok/s en prefill. Le pool de cache KV partagé atteint alors 1 105 096 tokens — de quoi tenir des contextes très longs sans swap.
Pour les modèles plus modestes, llama.cpp reste le couteau suisse : sur un modèle 35B-A3B en GGUF, le Spark atteint jusqu’à 67 tok/s, un chiffre qui rivalise avec bien des configurations cloud pour un usage mono-utilisateur.
Le 29 septembre 2026, Artificial Analysis a lancé AA-AgentPerf-Local, un benchmark dédié aux agents locaux, avec quatre modèles open weight testés sur DGX Spark, Ryzen AI Halo, MacBook Pro (M5 Pro) et RTX 5090 (artificialanalysis.ai). C’est la première fois qu’un référentiel indépendant mesure les performances agentiques — pas seulement le débit de tokens — sur ces machines, et les premiers résultats confirment que le Spark est taillé pour les petits lots et les agents persistants, pas pour le serving à haute concurrence.
Les modèles stars de l’automne 2026 : ce qui tourne vraiment
Le paysage des modèles open source a explosé en 2026. Voici ceux qui tournent réellement sur un DGX Spark, du plus petit au plus gros.
Gemma 4 (Google) — La famille Gemma 4, dévoilée en avril 2026, inclut les variantes E2B, E4B, 26B et 31B, optimisées par Google et NVIDIA pour les GPU NVIDIA, du data center au DGX Spark en passant par les Jetson Orin Nano (blogs.nvidia.com). Les E2B et E4B sont conçus pour l’inférence ultra-efficace à faible latence à l’edge, fonctionnant complètement hors ligne ; les 26B et 31B visent les workflows de raisonnement haute performance. Tous supportent le raisonnement, le codage, les agents (appel de fonctions natif), la vision, la vidéo, l’audio, l’entrée multimodale intercalée et plus de 35 langues. Sur un Spark, les 31B tiennent sans difficulté en FP4/NVFP4, et les E4B tournent à une vitesse foudroyante.
DeepSeek V4 Flash 0731 — Le modèle chinois reste la référence pour les gros modèles MoE. En FP8 sur deux Sparks en TP=2, il atteint les chiffres cités plus haut (~41 tok/s single-stream, ~350 tok/s agrégé). En IQ2_XXS sur un seul nœud, il reste utilisable (~14 tok/s), ce qui en fait le plus gros modèle « raisonnablement » exécutable sur un Spark seul.
Qwen3.8-Flash-Next et Qwen 3.8 27B — La famille Qwen continue d’occuper le terrain des modèles denses de taille moyenne. NVIDIA a explicitement testé Qwen 3.8 27B sur le Spark 64 Go, avec un gain jusqu’à 1,7 fois dans certaines configurations (neoteo.com). C’est le cheval de bataille idéal pour un Spark 64 Go seul.
MiMo-V2.6 (Xiaomi) — La surprise de l’automne. Xiaomi, jusqu’ici discret sur les LLM open weight, débarque avec MiMo-V2.6, qui vient concurrencer directement les modèles chinois établis sur le créneau des modèles compacts performants. Les premiers retours communautaires le placent dans la même classe que Qwen3.8-Flash-Next sur les tâches de raisonnement, avec un avantage sur le multilinguisme asiatique.
Ant Ling-3.0-Flash — Le modèle d’Ant Group confirme la montée en puissance des acteurs fintech chinois sur les modèles légers et rapides, taillés pour les agents et l’appel de fonctions.
Nemotron-3.5 Lightning et Nemotron-3-Super (NVIDIA) — NVIDIA pousse ses propres modèles. Le 30 octobre 2026, la firme a détaillé un workflow en ligne de commande pour faire tourner Nemotron-3.5 Lightning sur DGX Spark 64 Go, avec données de benchmark et résultats de speculative decoding à l’appui (blockchain.news). La recette vLLM officielle pour Nemotron-3-Super sur DGX Spark utilise l’image serveur OpenAI-compatible officielle avec des flags spécifiques au Spark (vllm.ai).
GLM 5.2, Kimi K2.7, Mistral Small 4 — Ces modèles complètent le paysage : GLM 5.2 et Kimi K2.7 pour les gros MoE (à réserver aux clusters de deux nœuds ou plus), Mistral Small 4 pour les usages européens et le multilinguisme.
Le point commun de tous ces modèles : ils sont disponibles en formats NVFP4, FP8 ou GGUF, et la pile logicielle du Spark sait les exploiter. C’est là que se joue la vraie bataille — pas sur le nombre de paramètres, mais sur la qualité des noyaux et des recettes.
Sept solutions logicielles passées au crible
La pile logicielle d’un DGX Spark en 2026 n’est plus un champ de ruines. Voici les sept options qui comptent.
1. vLLM — Le standard de facto pour le serving OpenAI-compatible. Sur Spark, il faut ajuster les flags : --gpu-memory-utilization doit laisser de la marge dans le pool unifié (OS, runtime conteneur, croissance du cache KV), et --max-num-seqs doit rester bas car le Spark est taillé pour le small-batch, pas la haute concurrence. Les builds récents utilisent les CUDA graphs par défaut, et les noyaux FP4 récents, l’async scheduling et le speculative decoding MTP améliorent le débit — mais les choix de noyaux dépendent du modèle et de la release (vllm.ai).
2. TensorRT-LLM — La voie NVIDIA pour la performance maximale. Sur Spark, la recette officielle est disponible sur build.nvidia.com, avec compilation de moteurs optimisés pour sm_121. C’est le choix des déploiements de production où chaque token compte.
3. TensorRT Edge-LLM — La nouveauté de l’automne. NVIDIA a détaillé le 30 octobre 2026 un workflow edge pour DGX Spark et TensorRT Edge-LLM, avec Nemotron-3.5 Lightning en exemple (blockchain.news). C’est la voie à suivre pour les agents embarqués et les déploiements contraints.
4. Ollama — Le plus simple pour démarrer. Idéal pour tester un modèle en cinq minutes, moins performant que vLLM sur les charges concurrentes. C’est lui qui a produit les chiffres stables de 41 tok/s sur GPT-OSS-120B cités plus haut.
5. llama.cpp — Le couteau suisse. Supporte les GGUF, les quantifications exotiques (IQ2_XXS, Q4_K_M…), et permet d’atteindre 67 tok/s sur un 35B-A3B. C’est le choix des bidouilleurs et des configurations mémoire contraintes.
6. LiteLLM — Le routeur multi-modèles. Utile quand on veut exposer plusieurs backends (vLLM, Ollama, TensorRT-LLM) derrière une API unique.
7. NVIDIA NIM et DGX OS — La couche d’orchestration. DGX OS fournit Ubuntu 24.04 ARM, CUDA 13.0, cuDNN, NCCL, les drivers Blackwell et le Docker NVIDIA Container Toolkit. NIM packagée les modèles en microservices prêts à l’emploi.
À quoi s’ajoute NVIDIA PAIR, le routeur IA local lancé par NVIDIA en septembre 2026. Présenté comme un runtime/CLI, PAIR vise à remplacer les harnesses maison par une couche standardisée pour router les requêtes entre modèles locaux, gérer les agents et exposer une API unifiée. Les détails techniques restent à confirmer, mais l’orientation est claire : NVIDIA veut que le Spark soit un nœud d’agent, pas juste un serveur d’inférence.
Fine-tuning sur DGX Spark : ce que la stack permet vraiment
Le fine-tuning local est l’un des grands arguments du Spark — et l’un des plus mal compris. Avec 128 Go de mémoire unifiée, on peut oublier le LoRA sur un modèle de 7B et viser plus gros. Mais tout n’est pas possible.
Ce qui marche bien : le LoRA et le QLoRA sur des modèles de 7B à 70B. Un 70B en QLoRA 4-bit tient dans les 128 Go, avec un batch size modeste. Les frameworks de référence — Hugging Face PEFT, TRL, Unsloth — fonctionnent sur ARM64 avec CUDA 13.0, même si certaines dépendances demandent encore des builds depuis les sources.
Ce qui est plus délicat : le full fine-tuning de modèles de plus de 30B. Il faut de la mémoire pour les gradients, les états de l’optimiseur et les activations — bien au-delà des 128 Go pour un 70B. Le Spark reste donc une machine de fine-tuning léger à moyen, pas un remplaçant d’un cluster A100/H100.
Les bonnes pratiques : privilégier les formats NVFP4/FP8 pour l’inférence post-entraînement, utiliser le gradient checkpointing pour réduire l’empreinte mémoire, et surveiller le pool unifié — le fine-tuning et l’inférence partagent la même mémoire, donc un job d’entraînement peut affamer le serveur d’inférence s’il tourne en parallèle.
Le cluster change la donne : sur deux Sparks en TP=2, on peut fine-tuner des modèles de 70B en LoRA avec un batch plus confortable, et sur quatre nœuds, on approche les charges de travail qui nécessitaient hier un serveur dédié. NCCL est pré-installé et fonctionne sur le lien NVLink-C2C entre nœuds via le réseau.
Clusters DGX Spark : deux, quatre, huit nœuds
C’est l’un des aspects les plus sous-estimés du Spark : sa capacité à se mettre en cluster. NVIDIA a conçu la machine pour cela, avec un port QSFP et la prise en charge de NCCL.
Deux nœuds : c’est la configuration la plus mature. Elle permet de faire tourner des modèles jusqu’à 405 milliards de paramètres, avec un pool de cache KV partagé de plus d’un million de tokens. En TP=2 avec vLLM, DeepSeek-V4-Flash FP8 atteint ~41 tok/s single-stream et ~350 tok/s agrégé à concurrence 32. C’est la configuration recommandée pour les équipes qui veulent un serveur d’inférence sérieux sans passer au data center.
Quatre nœuds : on entre dans le territoire du fine-tuning de gros modèles et du serving à concurrence moyenne. La complexité réseau augmente (il faut un switch), mais les gains de mémoire agrégée sont réels.
Huit nœuds : la configuration maximale documentée. Elle permet d’envisager des modèles de très grande taille et des charges multi-agents, mais le rendement marginal décroît et la latence inter-nœuds devient un facteur limitant. C’est une configuration de laboratoire ou de PME spécialisée, pas un déploiement de masse.
Le vrai enseignement de 2026 : le cluster de Sparks n’est plus un jouet. Avec la maturité de vLLM, de NCCL et des recettes NVIDIA, deux nœuds suffisent à faire tourner ce qui nécessitait hier un serveur à quatre chiffres par mois dans le cloud.
Quel stack choisir en octobre 2026 ?
La réponse dépend de votre usage.
Pour un développeur solo qui veut tester des modèles : un Spark 64 Go à 4 999 $, Ollama ou llama.cpp, et c’est parti. Les modèles jusqu’à 35B tournent confortablement, et les gros MoE en quantification agressive restent accessibles.
Pour une équipe qui veut un serveur d’inférence local : un Spark 128 Go (ou deux Sparks 64 Go en cluster), vLLM avec les flags adaptés, et LiteLLM devant pour router. C’est la configuration qui offre le meilleur rapport performance/simplicité.
Pour un déploiement de production : TensorRT-LLM ou TensorRT Edge-LLM, avec des moteurs compilés pour sm_121, et NVIDIA PAIR pour l’orchestration des agents. C’est la voie NVIDIA, avec le support qui va avec.
Pour le fine-tuning : un Spark 128 Go pour le LoRA/QLoRA sur des modèles jusqu’à 70B, ou un cluster de deux à quatre nœuds pour aller plus loin.
Pour la mobilité : attendre les RTX Spark sous Windows, dont les premiers portables arrivent à l’automne 2026, ou se tourner vers les mini-PC ProArt GR1X d’ASUS pour un agent permanent.
Une chose est sûre : en cet automne 2026, le DGX Spark n’est plus une promesse. C’est une machine qui tourne, qui se clusterise, et autour de laquelle un écosystème logiciel complet s’est structuré. La question n’est plus « est-ce que ça marche ? » mais « quel modèle, quel stack, quelle configuration pour mon usage ? ». Et ça, c’est le signe qu’une technologie est passée de l’expérimentation à la maturité.
Sources
- NVIDIA DGX Spark 64GB Gives Developers More Ways to Build and Scale Local AI — blogs.nvidia.com, 2 octobre 2026
- NVIDIA lance un DGX Spark 64 Go : moins de mémoire, mais une drôle d’astuce pour dépasser le modèle 128 Go — clubic.com, 2 octobre 2026
- Nvidia lance le DGX Spark en 64 Go : faut-il acheter deux petits plutôt qu’un gros ? — frandroid.com, 2 octobre 2026
- Le DGX Spark Perd La Moitié De Sa Mémoire Mais Conserve Son Tarif De 4 999 Dollars — pausehardware.com, 2 octobre 2026
- DGX Spark 64 Go : NVIDIA annonce une configuration — neoteo.com, 3 octobre 2026
- Nvidia DGX Spark 64 Go : moins de mémoire pour plus cher et toujours pour l’IA locale — generation-nt.com, 4 octobre 2026
- ASUS Ascent GX10 64GB: Compact Agentic AI Supercomputer — press.asus.com, 5 octobre 2026
- ASUS Ascent GX 10 vs NVIDIA DGX Spark: Same GB 10 Platform, Very Different Prices — techgenyz.com, 5 octobre 2026
- AMD Ryzen AI Halo 192GB Loads Models No Rival Can: DGX Spark Still Wins on Speed — techtimes.com, 14 octobre
Article recherché et rédigé automatiquement · Magazine Electrosens