NVIDIA DGX Spark · 16 October 2026

LLM open source sur NVIDIA DGX Spark : modèles, clusters, fine-tuning et performances réelles à l’automne 2026

Un an et demi après son annonce au CES 2025, le mini-supercalculateur de NVIDIA a-t-il enfin tenu ses promesses ? Entre benchmarks impressionnants sur les modèles MoE récents, mises à jour logicielles qui décuplent les capacités de clustering et un fine-tuning désormais possible en BF16 sur un seul nœud, la DGX Spark s’impose comme la référence de l’IA locale. Mais tout n’est pas rose : la bande passante mémoire reste le goulot d’étranglement, le prix a grimpé, et NVIDIA vient de scinder sa gamme avec une variante 64 Go vendue plus cher que la version 128 Go d’origine. Tour d’horizon complet de l’écosystème en octobre 2026.

Un an et demi après : le DGX Spark est-il devenu la référence de l’IA locale ?

Lancée au CES 2025 avec la promesse de faire tourner des modèles à 400 milliards de paramètres sur un bureau, la DGX Spark a connu une trajectoire mouvementée. En février 2026, NVIDIA augmentait son prix de 18 %, passant la machine de 3 999 à 4 699 dollars — une décision qui a forcé la firme à accélérer ses mises à jour logicielles pour justifier l’investissement. Les guides d’achat récents confirment un prix de détail autour de 4 679 dollars selon les revendeurs (explainx.ai), ce qui reste cohérent avec la hausse de février. En Australie, les prix atteignent 6 249 à 7 999 dollars selon les détaillants (glukhov.org).

Mais l’automne 2026 a rebattu les cartes. Le 2 octobre, NVIDIA a discrètement ajouté une variante 64 Go à son catalogue, commercialisée à partir du 23 octobre 2026 à 4 999 dollars — soit moins de mémoire et de stockage que la version 128 Go d’origine, pour un prix supérieur à celui de son lancement (blogs.nvidia.com, clubic.com, frandroid.com). Le même jour, le modèle 128 Go grimpe au-delà des 6 000 dollars sur le marché (pausehardware.com). La cause est limpide : la flambée des cours de la (LP)DDR5 (hardwareand.co). NVIDIA justifie la nouvelle configuration par la volonté d’offrir « plus de façons de construire et de passer à l’échelle l’IA locale », avec la pile logicielle complète et le clustering pour les charges croissantes (blogs.nvidia.com).

Le cœur du système, le Grace Blackwell GB10, associe un CPU ARM à 20 cœurs Neoverse V2 et un GPU Blackwell avec 128 Go de mémoire unifiée LPDDR5x. Point crucial souvent mal compris : la bande passante mémoire est de ~273 Go/s, et non 1 To/s comme certains benchmarks marketing l’ont laissé entendre. Cette caractéristique fait de la bande passante le facteur limitant pour la génération de tokens, tandis que le prefill (traitement de la requête) est limité par le calcul. C’est ce qui explique les écarts spectaculaires entre les vitesses de prefill et de decode observés dans les benchmarks réels. Comme le résume le deep research de pyshine, la Spark est « une machine de capacité et un monstre de traitement de prompt, pas un démon de vitesse de décodage » : ses 273 Go/s représentent environ un quart des 1,2 To/s du Mac Studio M5 Ultra, et ce seul chiffre décide de la vitesse de décodage (pyshine.com).

Côté logiciel, la mise à jour de juin 2026 a apporté le support du NVFP4 (quantification 4-bit native Blackwell), le clustering multi-nœuds via ConnectX-7 et l’outil NemoClaw pour le fine-tuning distribué. En juillet, la mise à jour a corrigé des problèmes de stabilité et amélioré la gestion mémoire. Enfin, le 21 juillet 2026, NVIDIA a publié la première preview de CUDA 13.4 pour Windows sur Arm, ouvrant la voie aux PC RTX Spark — une évolution qui élargit considérablement l’écosystème (techtimes.com, igorslab.de). Les pilotes confirment deux variantes du N1X pour ces futurs PC (lesnumeriques.com).

Au CES 2026 (janvier), NVIDIA a présenté les dernières optimisations logicielles : le support NVFP4 pour les modèles de nouvelle génération, des gains de 35 % en moyenne sur llama.cpp pour les modèles MoE, et une meilleure gestion de la mémoire unifiée (developer.nvidia.com, blogs.nvidia.com). Le NVFP4 permet de compresser les modèles jusqu’à 70 % sans perte d’intelligence, selon NVIDIA.

En septembre 2026, NVIDIA poursuit son effort logiciel : la firme a annoncé le 3 septembre de nouvelles optimisations pour les GPU RTX et DGX, simplifiant l’IA locale sur les cartes de 24+ Go de VRAM tout en améliorant vLLM et llama.cpp (wccftech.com). Cette stratégie confirme que l’écosystème DGX Spark bénéficie d’un effet d’entraînement : chaque optimisation pour les RTX profite aussi au GB10.

Enfin, le 8 octobre 2026, NVIDIA a dévoilé la DGX Station for Windows : 748 Go de mémoire cohérente, 20 PFLOPs de calcul FP4, un lancement au Q4 2026 via six partenaires OEM (tech-insider.org). La Station, dotée du GB300 Grace Blackwell Ultra et de 775 Go de mémoire cohérente FP4, peut faire tourner des modèles jusqu’à 1 000 milliards de paramètres — la Spark reste la porte d’entrée, la Station le sommet de gamme (blogs.nvidia.com).

MoE, mémoire unifiée et bande passante : l’architecture qui change tout

L’architecture mixture-of-experts (MoE) reste la clé pour faire tourner des modèles massifs sur une machine à mémoire unifiée. Le principe : seuls quelques experts sont activés par token, ce qui réduit drastiquement les paramètres actifs. C’est cette propriété qui rend possible l’exécution de modèles de 100 à 400 milliards de paramètres sur un simple bureau.

Sur la DGX Spark, la bande passante de ~273 Go/s est le facteur déterminant. Comme l’explique le guide pratique de Flaviu Vlaicu (vlaicu.io), « la bande passante est le goulot d’étranglement pour la génération de tokens, donc les modèles MoE avec peu de paramètres actifs tournent beaucoup plus vite que les modèles denses de même taille totale ». En clair : privilégiez les MoE. Sur les modèles denses de 70B, la Spark peut descendre sous la vitesse de lecture humaine ; sur les MoE, où seuls quelques milliards de paramètres s’activent par token, elle est réellement rapide (pyshine.com).

Les modèles récents exploitent pleinement cette caractéristique. Le DeepSeek V4 Flash 0731, sorti fin juillet 2026, ne mobilise que 13 milliards de paramètres actifs par token — dix fois moins que Claude Opus — tout en offrant des performances de niveau « frontier » pour les agents IA. Avec 284 milliards de paramètres totaux (deepwiki.com), il tient en Q8 (162 Go) sur deux DGX Spark, ou en Q4 (155 Go) sur un seul nœud. Sur deux nœuds en cluster, il atteint des débits exploitables en production (voir section benchmarks). De son côté, Ant Ling-3.0-Flash, publié le 23 juillet 2026, est un modèle de 124 milliards de paramètres avec seulement 5 milliards d’actifs (124B-A5B), conçu pour tenir sur une seule Spark (forums.developer.nvidia.com).

La nouvelle vague de septembre 2026 confirme la tendance à l’efficacité extrême. Xiaomi MiMo-V2.6, publié le 22 septembre sous licence MIT, se décline en versions Pro, Flash et 9B ; le MiMo-V2.6-Pro égale Grok 4.7 sur l’Intelligence Index et surpasse Claude Opus 5 sur certains benchmarks clés, ce qui en fait l’un des modèles open-weight les plus économes à déployer — à condition d’avoir le matériel (forkast.news, eweek.com, siliconangle.com). Xiaomi a même diffusé en direct son tableau de bord d’entraînement RL, avec un coût annoncé de 432 000 $/jour et un bond de 47 points sur les benchmarks (forkast.news). Attention toutefois : les gains RL revendiqués manquent encore de réplication indépendante (eweek.com).

Les modèles qui tournent vraiment sur le GB10 en octobre 2026

Sources : forums.developer.nvidia.com, flowtivity.ai, aimadetools.com, habr.com, tokenstead.ai, forkast.news

DeepSeek V4 Flash 0731 est le modèle star de l’été 2026. Disponible en GGUF, il peut être exécuté en Q8 (162 Go) sur deux DGX Spark, ou en Q4 (155 Go) sur un seul nœud — bien que la version Q8 soit recommandée pour une qualité « lossless » (forums.developer.nvidia.com). Un utilisateur des forums NVIDIA rapporte avoir obtenu 30 tok/s par défaut, puis plus de 40 tok/s après une modification de configuration (forums.developer.nvidia.com). Le dépôt GitHub Mjxkill/deepseek-v4-flash-2x-dgx-spark documente la procédure complète. Une reproduction sur un seul nœud est également documentée (deepwiki.com). Le guide matériel de kingy.ai confirme que le modèle peut tourner localement, mais souligne que toutes les configurations ne conviennent pas (kingy.ai). Fait notable : Microsoft a mis en avant DeepSeek V4 Flash lors de sa keynote Windows du 7 octobre 2026, signe que le modèle est devenu une référence jusque dans l’écosystème PC (blog-nouvelles-technologies.fr).

Ant Ling-3.0-Flash est un cas d’école : avec seulement 5B de paramètres actifs, il est conçu pour la DGX Spark. Selon les forums NVIDIA, il « bat leur précédent modèle 1T sur presque tous les benchmarks » tout en tournant sur une seule machine. Son architecture hybride linéaire (couches KDA et MLA empilées 5:1) lui permet d’atteindre des débits estimés entre 15 et 20 tok/s sur un Spark — une performance remarquable pour un modèle de cette taille (forums.developer.nvidia.com).

Qwen3.8-27B est le nouveau venu d’août 2026, qualifié de « the pick » par le guide de benchmarks Tokenstead : 88 en code, 89 en raisonnement, 94 en tool-calling, avec un contexte de 262K, le tout pour seulement ~21 Go en quantification UD-Q4_K_XL (tokenstead.ai). C’est le meilleur compromis qualité/empreinte actuel sur la Spark. Un test indépendant d’OpenZeka rapporte 48 tok/s sur DGX Spark avec ce modèle, et un score de 52 sur l’Artificial Analysis Intelligence Index, le classant premier de sa catégorie parmi les modèles open-weight (blog.openzeka.com). NVIDIA a d’ailleurs utilisé ce modèle dans sa propre démonstration de la variante 64 Go, avec un gain annoncé jusqu’à 1,7× (neoteo.com). Le guide de Codersera détaille comment l’exécuter sur des GPU de 16 à 24 Go avec Ollama, LM Studio ou llama.cpp + MTP speculative decoding (codersera.com).

Llama 4, en revanche, est désormais considéré comme l’offre « legacy » de Meta. Behemoth n’a jamais été publié, et Maverick/Scout, bien que fonctionnels, sont surpassés par les modèles chinois sur la plupart des benchmarks de code et de raisonnement. Meta a lancé Muse Spark (avril 2026), un modèle fermé via API, en attendant Llama 5 (« Avocado ») prévu pour 2027.

Benchmarks réels : ce que valent vraiment les modèles open-source sur le GB10

Les tests communautaires de l’été et de l’automne 2026 fournissent enfin des données fiables. Le tableau ci-dessous synthétise les résultats obtenus avec différents moteurs d’inférence.

Sources : dev.to, forums.developer.nvidia.com, runaihome.com, tokenstead.ai, pyshine.com

Le constat est nuancé. D’un côté, le prefill à 10 000 tok/s annoncé par NVIDIA dans sa communication de juin 2026 est confirmé en conditions réelles pour les petits modèles — mais la génération reste limitée à 2,7 tok/s pour les très gros modèles en FP8 sur un seul nœud. C’est le compromis inévitable de la bande passante mémoire. À l’inverse, sur les MoE bien dimensionnés, les chiffres sont excellents : gpt-oss-120b à 55-60 tok/s sur une seule boîte, et jusqu’à 350 tok/s agrégés sur deux nœuds en vLLM TP=2 avec DeepSeek-V4-Flash FP8 à concurrence 32 (pyshine.com).

Le choix du moteur d’inférence est déterminant. Le test exhaustif de Dredyson (dredyson.com) compare vLLM, llama.cpp et Ollama sur la Spark. Verdict : vLLM est le plus rapide pour le prefill et la gestion mémoire, mais llama.cpp offre la meilleure compatibilité GGUF et un contrôle fin via le wrapper llm (décrit dans le playbook de vlaicu.io). Ollama reste le plus simple pour démarrer, mais ses performances sont inférieures. Atlas (82 tok/s sur Qwen3-Next-80B) est une alternative prometteuse, mais encore jeune. Uzu a récemment ajouté le décodage spéculatif, d’abord pour Qwen3.6 27B, avec le support de Qwen3.8 27B et Muse Glimmer à venir — sur les puces Apple M5, Uzu surpasse MTPLX, et l’implémentation progresse rapidement.

Depuis le 29 septembre 2026, un nouvel outil de référence est disponible : AA-AgentPerf-Local d’Artificial Analysis, un benchmark open source qui mesure la vitesse réelle des agents IA sur laptops et workstations. Au lancement, il couvre quatre matériels — DGX Spark, Ryzen AI Halo, MacBook Pro (M5 Pro) et RTX 5090 — sur quatre modèles open-weight (artificialanalysis.ai). C’est désormais la mesure la plus comparable pour évaluer une Spark face à ses concurrents sur des charges agentiques, et non plus seulement sur des benchmarks de tokens/s isolés.

Clustering : la vraie force cachée de la Spark

Si un seul nœud est une machine de capacité, le cluster est ce qui transforme la Spark en plateforme de production. La ConnectX-7 200 GbE permet de relier plusieurs nœuds, et le playbook communautaire a stabilisé une échelle claire (pyshine.com) :

• 1 Spark : classe 35B-120B MoE (gpt-oss-120b à 55-60 tok/s)
• 2 Sparks : le sweet spot validé pour 235B-405B en FP4, DeepSeek V4 Flash jusqu’à 1M de contexte
• 4 Sparks : classe 700B validée par NVIDIA
• 6 à 8 Sparks : racks communautaires pour les modèles 750B+

La taille maximale de modèle supportée sur deux Sparks est de 405 milliards de paramètres. Sur deux nœuds avec cache KV partagé, la communauté a mesuré un pool de cache KV de 1 105 096 tokens — de quoi tenir des contextes très longs en production ([fait daté, 08/2026]).

Le clustering n’est pas qu’une affaire de mémoire : c’est aussi une question de bande passante. NVIDIA a validé des configurations à quatre nœuds pour la classe 700B, mais chaque nœud ajouté introduit de la latence de communication. C’est pourquoi le sweet spot reste à deux nœuds pour la plupart des charges réelles, et pourquoi le scénario « 2× Spark 64 Go = 128 Go » est plus subtil qu’il n’y paraît : on retrouve la capacité mémoire d’un seul nœud 128 Go, mais avec la bande passante répartie et la complexité de communication en plus.

Les réglages vLLM, NIM et compagnie font ou défont un cluster Spark. Le tensor parallelism (TP=2) est la configuration de référence pour deux nœuds, et c’est elle qui permet d’atteindre les ~350 tok/s agrégés sur DeepSeek-V4-Flash FP8. La variante 64 Go, vendue à partir du 23 octobre, est explicitement positionnée par NVIDIA comme un nœud de cluster : deux unités 64 Go reconstituent 128 Go, et la firme met en avant le clustering comme argument principal de la nouvelle configuration (blogs.nvidia.com).

Fine-tuning : LoRA, QLoRA et full fine-tuning sur la Spark

Le fine-tuning local est devenu l’un des usages les plus crédibles de la Spark. Avec 128 Go de mémoire unifiée sur un bureau, pour un coût d’accès cloud annoncé à 0,65 $/heure, la machine a fait basculer l’entraînement local dans une nouvelle ère. La question n’est plus « peut-on fine-tuner ? » mais « quel type de fine-tuning pour quel modèle ? ».

Le choix dépend du budget mémoire :

• LoRA : la méthode la plus économe, adaptée aux modèles jusqu’à 70B sur un seul nœud. Les adaptateurs ne représentent qu’une fraction des poids.
• QLoRA : quantification 4-bit des poids de base + adaptateurs LoRA, permettant de pousser plus loin sur des modèles plus gros, au prix d’une légère perte de qualité.
• Full fine-tuning : réservé aux modèles plus petits (8B-35B), mais désormais possible en BF16 sur un seul nœud pour un modèle de 35B — un exploit rendu possible par la mémoire unifiée.

Côté outils, le match se joue entre Unsloth (optimisations mémoire agressives), Axolotl (configurations YAML flexibles), PyTorch natif (contrôle total) et les playbooks NVIDIA (intégration NemoClaw pour le distribué). Un exemple concret de pipeline de production est le dépôt pylox-fine-tune-pipeline, conçu spécifiquement pour la DGX Spark (Blackwell GB10, 128 Go) : un seul repo, une CLI, des configs standardisées pour 8B / 32B / 70B, avec entraînement, enrichissement, évaluation et déploiement idempotents et reprenables. Point clé pour les secteurs réglementés : « les données client ne quittent jamais la Spark » — l’enrichissement de corpus complet est assuré par un gpt-oss-120b local, et les API Anthropic/OpenAI/Together ne voient jamais un enregistrement client (github.com/pyloxsystems).

Sur la variante 64 Go, le fine-tuning LoRA reste possible pour les modèles de taille moyenne, mais les modèles plus gros exigent de basculer sur un cluster ou de se limiter à des adaptateurs très légers. C’est l’un des points de rupture de la nouvelle configuration.

L’écosystème logiciel : NemoClaw, Nemotron 3 et le virage agentique

Le logiciel est ce qui a le plus changé en 2026. La Spark est livrée avec DGX OS (base Ubuntu), préconfigurée avec la pile NVIDIA AI et les bibliothèques CUDA-X, offrant une optimisation plug-and-play pour construire, fine-tuner et exécuter de l’IA (blogs.nvidia.com).

NemoClaw est l’outil de fine-tuning distribué introduit dans la mise à jour de juin 2026. Il permet de répartir l’entraînement sur plusieurs nœuds Spark, ce qui ouvre la voie au fine-tuning de modèles plus gros qu’un seul nœud ne pourrait accueillir.

NVIDIA a également dévoilé la famille Nemotron 3 de modèles ouverts, exécutables directement depuis le bureau sur Spark et Station (nvidianews.nvidia.com). C’est un signal fort : NVIDIA ne se contente plus de fournir le matériel, elle alimente aussi l’écosystème de modèles.

Le virage agentique est l’autre grande tendance. Microsoft a fait de Windows « le système d’exploitation des agents IA » avec son concept d’Intelligence Hybride, présenté le 7 octobre 2026 : des agents IA sécurisés tournant en local sur PC, avec DeepSeek V4 Flash en démonstration (blogs.windows.com, journaldugeek.com). Cette évolution profite directement à la Spark, qui devient un nœud d’inférence naturel pour ces agents.

Perplexity et NVIDIA ont également officialisé le « Portable Computer », une version de Perplexity Computer qui s’exécute entièrement sur la DGX Spark, avec la promesse d’un coût de token nul — une promesse à nuancer, mais qui illustre la convergence entre assistants IA et matériel local.

Enfin, l’écosystème des clones GB10 s’est élargi. Acer livre depuis le 8 septembre 2026 un mini-PC RTX Spark à 128 Go unifiés, positionné 500 à 1 000 $ sous le prix NVIDIA. ASUS propose le ProArt GR1X (128 Go unifiés, RTX Spark) pour les entreprises (syskb.com). La concurrence sur le silicium GB10 s’intensifie, ce qui pourrait peser sur les prix à terme — même si la pénurie de mémoire joue en sens inverse.

Le verdict : pour qui, et à quel prix ?

La DGX Spark en octobre 2026 est une machine à deux visages. Pour l’inférence de modèles MoE de 35B à 120B sur un seul nœud, c’est la référence : rapide, économe, avec un écosystème CUDA mature. Pour les modèles de 235B à 405B, il faut deux nœuds — le sweet spot validé. Au-delà, on entre dans le territoire du cluster, avec la complexité que cela implique.

Le fine-tuning local est devenu crédible, du LoRA au full fine-tuning BF16 sur 35B. Les outils (Unsloth, Axolotl, NemoClaw, pipelines dédiés) sont là, et la confidentialité des données est un argument décisif pour les secteurs réglementés.

Mais les chiffres de prix se sont dégradés. La version 128 Go dépasse désormais les 6 000 $ sur le marché, et la nouvelle variante 64 Go à 4 999 $ (disponible le 23 octobre) offre moins de mémoire pour un prix supérieur à celui du lancement 2025. La pénurie de (LP)DDR5 est passée par là. Pour les acheteurs, la question n’est plus « une ou deux Sparks ? » mais « 64 ou 128 Go, et combien de nœuds ? ». La réponse dépend de la taille des modèles visés : 100B sur un nœud 64 Go, 200B sur deux nœuds 64 Go, 405B sur deux nœuds 128 Go.

Face à la concurrence — AMD Ryzen AI Halo (256 Go/s, 55-120 W), Mac Studio M5 Ultra (1,2 To/s), RTX 5090 — la Spark garde un avantage décisif : l’écosystème CUDA et la capacité de clustering. C’est ce qui en fait, encore aujourd’hui, la référence de l’IA locale pour les développeurs qui veulent du sérieux.

Sources

• NVIDIA DGX Spark 64GB Gives Developers More Ways to Build and Scale Local AI — blogs.nvidia.com, 2 octobre 2026
• NVIDIA DGX Spark and DGX Station Power the Latest Open-Source and Frontier Models — blogs.nvidia.com
• New Software and Model Optimizations Supercharge NVIDIA DGX Spark — developer.nvidia.com
• The Best DGX Spark for Local AI in 2026: LLM Speed, Model Sizes — pyshine.com
• NVIDIA DGX Spark: Best Local LLM Hardware in 2026 — Full Buyer Guide — explainx.ai
• DGX Spark Benchmarks: Which Local Model Wins in 2026 — tokenstead.ai
• NVIDIA lance un DGX Spark 64 Go — clubic.com, 2 octobre 2026
• Nvidia lance le DGX Spark en 64 Go : faut-il acheter deux petits plutôt qu’un gros ? — frandroid.com, 2 octobre 2026
• Le DGX Spark Perd La Moitié De Sa Mémoire Mais Conserve Son Tarif De 4 999 Dollars — pausehardware.com, 2 octobre 2026
• DGX Spark 64 Go : NVIDIA annonce une configuration — neoteo.com, 3 octobre 2026
• NVIDIA DGX Station for Windows: 748GB, 20 PFLOPs — tech-insider.org, 8 octobre 2026
• Building Windows for hybrid intelligence — blogs.windows.com, 7 octobre 2026
• Keynote Microsoft : l’IA locale révolutionne Windows — blog-nouvelles-technologies.fr, 7 octobre 2026
• AA-AgentPerf-Local: Benchmarking local AI agents — artificialanalysis.ai, 29 septembre 2026
• Xiaomi’s MiMo-V2.6 Ships Open Weights at Frontier-Class Performance — forkast.news, 22 septembre 2026
• Xiaomi MiMo-V2.6 Open Source: Pro, Flash, 9B Models — eweek.com, 23 septembre 2026
• Xiaomi introduces Mimo-V2.6 series open-source AI model family — siliconangle.com, 22 septembre 2026
• Xiaomi MiMo-V2.6 Breaks Cover: A 1T-Class Chinese Lab Trains in Public — forkast.news, 17 septembre 2026
• ASUS ProArt GR1X : l’IA locale pour les entreprises — syskb.com, 22 septembre 2026
• [CUDA finally lands on Windows on Arm](https://www.techtimes.com/articles/tech/2026/07/21/cuda-finally-lands-on-w

Article recherché et rédigé automatiquement · Magazine Electrosens