NVIDIA DGX Spark · 8 November 2026

Atlas, vLLM, llama.cpp : quel moteur d’inférence pour les LLM open source sur NVIDIA GB10 DGX Spark ? — le guide vérifié d’octobre 2026

Depuis l’arrivée du DGX Spark (GB10 Grace Blackwell, 128 Go de mémoire unifiée), la quête du moteur d’inférence idéal pour une machine de bureau capable de faire tourner des LLMs de 70 à 80 milliards de paramètres est devenue un sujet brûlant. vLLM et llama.cpp règnent en maîtres, mais un nouveau venu, écrit en Rust et taillé sur mesure pour le Spark, a fait irruption : Atlas. Ses créateurs promettent une latence record, une installation en deux minutes et une optimisation si poussée qu’elle rendrait vLLM obsolète sur cette plateforme. Mais que valent vraiment ces annonces ? Plongeons dans l’architecture, les performances et les limites de ce moteur qui veut réinventer l’inférence locale — et faisons le point sur l’écosystème complet en cette fin octobre 2026, alors que NVIDIA vient de dévoiler une seconde SKU à 64 Go, que la flambée des prix de la mémoire rebat les cartes et que la release logicielle d’octobre vient de redistribuer les rôles.

Le DGX Spark, un an après : la promesse tenue, et une gamme qui se dédouble

Le NVIDIA DGX Spark, avec son architecture Grace Blackwell (GB10), ses 128 Go de mémoire unifiée CPU-GPU et sa bande passante NVLink-C2C, n’est plus une simple curiosité de laboratoire. En cette fin octobre 2026, il s’est imposé comme la plateforme de référence pour l’IA locale open-source. Disponible chez Dell, Acer, ASUS, GIGABYTE, HP, Lenovo et MSI, ce mini-PC a vu son écosystème logiciel exploser : support natif de vLLM officialisé en juin, TensorRT-LLM optimisé, Unsloth pour le fine-tuning, et bien sûr Atlas, le moteur Rust qui a fait sensation.

Mais la vraie nouvelle de cette rentrée est tarifaire et matérielle. NVIDIA a officialisé le 2 octobre 2026 une seconde version du DGX Spark, dotée de 64 Go de mémoire unifiée seulement, commercialisée à partir de 4 999 $ — soit 1 000 $ de plus que le prix de lancement de la version 128 Go en 2025 (Clubic, kod.ru, generation-nt.com). La mise en vente a été effective le 23 octobre, comme annoncé. Dans un marché mémoire en pleine flambée, cette SKU « au rabais » qui coûte plus cher que l’originale divise la communauté — et fait mécaniquement grimper le prix des 128 Go restants, désormais autour de 6 950 $. Nous y revenons plus bas, car ce contexte change la donne pour le choix d’un moteur d’inférence.

Côté logiciel, NVIDIA a publié CUDA 13.4, qui améliore l’utilisation de la mémoire unifiée et des kernels SM121. Surtout, la release logicielle d’octobre 2026 du DGX Spark a commencé à se déployer le 21 octobre sur les forums développeurs NVIDIA, avec des fonctionnalités nouvelles reprises par les systèmes partenaires GB10 Grace Blackwell (forums.developer.nvidia.com). Les benchmarks indépendants se multiplient, et les modèles open-weight de dernière génération — Qwen3.8-27B, DeepSeek V4 Flash 0731, Nemotron 3, sans oublier les nouveaux venus Xiaomi MiMo-V2.6 et GLM-5.3-Flash — tournent désormais sur le Spark avec des performances impressionnantes. Mais le choix du moteur d’inférence reste crucial. Atlas, vLLM, llama.cpp : lequel domine vraiment ?

Un mot sur la concurrence, car elle éclaire les choix logiciels. L’ASUS Ascent GX10 64GB, dévoilé le 5 octobre 2026, reprend exactement le même SoC GB10 mais à un tarif très différent selon la configuration et le refroidissement (press.asus.com, Techgenyz). Et côté AMD, le Ryzen AI Halo 192GB, lancé à 7 299,99 $ chez Micro Center, peut charger des modèles jusqu’à 300 milliards de paramètres — mais les benchmarks indépendants montrent que le DGX Spark garde l’avantage en vitesse (techtimes.com). La mémoire ne fait pas tout : le débit d’inférence, lui, dépend du couple moteur/bande passante.

Atlas, le moteur Rust qui monte : architecture et promesses

Atlas n’est pas un énième wrapper autour de CUDA. C’est une réécriture complète de la pile d’inférence, du noyau au serveur HTTP. Là où vLLM s’appuie sur Python, PyTorch et des dépendances CUDA lourdes, Atlas est un binaire Rust autonome. Les développeurs (pseudonymes AzeezIsh et tbraun96) ont implémenté plus de 20 kernels CUDA spécialisés pour l’architecture SM121 du GB10, et utilisé une méthode baptisée Kernel Hypercompilation : à la compilation, le moteur génère des kernels optimisés pour le modèle et la configuration exacte de la machine, éliminant toute surcharge d’exécution.

Cette approche permet de tirer parti de la mémoire unifiée CPU-GPU via NVLink-C2C, bien que les sources fournies ne détaillent pas le mécanisme exact. On peut supposer qu’Atlas réduit les transferts mémoire en maintenant les poids et le cache KV dans un espace partagé, évitant les copies superflues. En comparaison, vLLM utilise PagedAttention pour réduire le gaspillage du cache KV de 60 à 80 %, mais reste dépendant de l’écosystème Python/CUDA et de ses overheads. llama.cpp, écrit en C++, est plus léger que vLLM mais n’a pas été conçu spécifiquement pour le GB10.

Le site officiel d’Atlas (atlasinference.io) précise désormais que le moteur est un binaire d’environ 2,5 Go qui « démarre en moins de deux minutes et épingle le plafond de bande passante sur chaque cible (matériel × modèle × quantification) supportée ». L’architecture est pensée pour être extensible : AMD, Intel et Apple Silicon pourraient être ajoutés via des contributions communautaires, et les familles de modèles s’intègrent de la même manière que les Qwen ce trimestre.

Le tableau ci-dessus, construit à partir des données du forum, du site officiel et des articles techniques, montre qu’Atlas mise tout sur la spécialisation extrême. Mais cette force est aussi sa faiblesse : les kernels hypercompilés pour le SM121 ne fonctionneront pas sur une autre carte NVIDIA, et le support d’autres architectures n’est pas encore annoncé officiellement, même si l’architecture modulaire le rend plausible.

Performances : les benchmarks qui comptent en octobre 2026

Le chiffre choc d’Atlas était son débit de 82 tokens par seconde sur Qwen3-Next-80B, un modèle de 80 milliards de paramètres, sur un seul GPU GB10, sans décodage spéculatif. Les développeurs affirmaient également atteindre environ 102 tok/s sur Qwen3.5-35B en NVFP4, soit 3 fois plus rapide que vLLM sur le même matériel (source : Hugging Face Atlas-Inference). Mais ces chiffres datent de juin 2026, et depuis, les modèles ont évolué.

En août 2026, Alibaba a publié Qwen3.8-27B, un modèle dense de 27 milliards de paramètres qui a immédiatement conquis le Spark. Sur un DGX Spark, un benchmark indépendant (blog.openzeka.com, 26 août 2026) mesure 48 tok/s en génération, avec un score de 52 sur l’Artificial Analysis Intelligence Index, le meilleur de sa catégorie parmi les modèles open-weight. D’autres mesures, plus prudentes, situent le débit entre 34 et 38 tok/s (20 août 2026) — un écart qui illustre la sensibilité des résultats à la quantification et à la longueur de contexte. Ce modèle est particulièrement adapté au Spark grâce à sa taille et à son architecture hybride (Gated DeltaNet + Gated Attention) qui maintient des performances élevées sur de longs contextes (262K tokens natifs, extensible à 1M). NVIDIA lui-même a détaillé en octobre les tailles de modèles visées sur une ou deux Spark, avec un test Qwen 3.8 27B jusqu’à 1,7 fois plus rapide selon la configuration (NeoTeo).

Pour les très gros modèles, DeepSeek V4 Flash 0731 (284 milliards de paramètres, 13B actifs) tourne sur un seul DGX Spark avec des performances remarquables : 1 000 tok/s en prefill et 59 tok/s en serving multi-agents, selon un test du forum NVIDIA (1er août 2026). En configuration dual-Spark, le débit atteint 30 tok/s en configuration par défaut, et peut être amélioré à 59 tok/s avec un ajustement de configuration (source : forums.developer.nvidia.com, 31 juillet 2026).

Les chiffres agrégés de l’été confirment cette tendance. Sur deux DGX Spark en tensor parallelism (TP=2) avec vLLM et DeepSeek-V4-Flash en FP8, on mesure un débit single-stream d’environ 41 tok/s et un débit agrégé d’environ 350 tok/s à une concurrence de 32, avec un prefill d’environ 1 785 tok/s (août 2026). Sur un seul Spark, la même famille de modèles en quantification IQ2_XXS (via ds4.c) plafonne autour de 14 tok/s en single-stream, mais avec un prefill de 410 tok/s — le rappel que la quantification extrême sauve la mémoire au prix du débit. Enfin, la suite GGUF de llama.cpp atteint jusqu’à 67 tok/s sur un modèle 35B-A3B (août 2026), ce qui reste la meilleure option « légère » sur un nœud unique.

Quant à Qwen3.6-27B (sorti en avril 2026), il reste une référence : 136 tok/s en génération multi-agents (10 agents simultanés), 28-33 tok/s en session unique, et un pic à 163 tok/s en décodage. Ces chiffres, issus des spécifications officielles, montrent que le Spark est capable de faire tourner des modèles de 27B avec des performances comparables à celles d’un GPU dédié.

Un mot sur les nouveaux entrants. Xiaomi MiMo-V2.6 (Pro, Flash et 9B), publié sous licence MIT le 22-24 septembre 2026, revendique des performances de classe frontière — le MiMo-V2.6-Pro égalerait Grok 4.7 sur l’Intelligence Index et dépasserait Claude Opus 5 sur certains benchmarks (forkast.news, eWeek, SiliconANGLE). Attention toutefois : ces gains issus du reinforcement learning n’ont pas encore été répliqués indépendamment, et l’entraînement s’appuie sur une infrastructure coûteuse. GLM-5.3-Flash (320B au total, 18B actifs) a été mesuré sur une paire de nœuds DGX Spark par Context Studios le 24 septembre 2026, aux côtés de Qwen3.8-Flash-Next — deux MoE qui, parce qu’ils ne lisent qu’une fraction de leurs poids par token, restent exploitables sur une machine à 273 Go/s de bande passante, là où un dense de 70B s’effondrerait.

Mais il faut nuancer. Aucun benchmark indépendant n’a encore reproduit les chiffres d’Atlas sur Qwen3-Next-80B. Les performances d’Atlas sur les modèles plus récents (Qwen3.8-27B, DeepSeek V4 Flash, MiMo-V2.6) ne sont pas documentées publiquement. L’équipe publie néanmoins ses scripts de benchmark (scripts/sweep_all_models.sh dans le dépôt GitHub) et invite à la vérification : « Si vous reproduisez un chiffre vLLM plus rapide, ouvrez une issue. Nous préférons être mesurés que félicités. » Une posture louable, mais qui ne remplace pas un benchmark tiers. À noter que l’outil AA-AgentPerf-Local d’Artificial Analysis, publié le 29 septembre 2026, fournit désormais un cadre open-source pour mesurer les agents IA locaux sur le DGX Spark, le Ryzen AI Halo, le MacBook Pro M5 Pro et la RTX 5090 — de quoi, espérons-le, trancher bientôt le débat Atlas vs vLLM sur des bases reproductibles.

Installation en deux minutes : le pari de la simplicité

L’un des arguments les plus concrets d’Atlas est la facilité de déploiement. Les développeurs promettent que de la compilation à l’inférence, il faut moins de deux minutes. La commande unique uvx sparkrun setup puis sparkrun run @atlas/qwen3.6-35b-a3b-nvfp4 suffisait à l’origine. Depuis, une image Docker publique est disponible :

docker pull avarok/atlas-gb10:latest
docker run --gpus all --ipc=host -p 8888:8888 \
  -v ~/.cache/huggingface:/root/.cache/huggingface \
  avarok/atlas-gb10:latest \
  serve Sehyo/Qwen3.5-35B-A3B-NVFP4 --speculative --mtp-quantization nvfp4

Pas de gestion d’environnement Python, pas de conflit de dépendances CUDA : tout est dans un seul binaire. L’API est compatible OpenAI et Anthropic, ce qui permet de brancher curl, le SDK OpenAI, opencode, Claude Code, Cline ou Open WebUI directement sur le port 8888.

En face, vLLM nécessite une installation manuelle avec pip install vllm, une compilation CUDA qui peut prendre 40 minutes ou plus, et une configuration des variables d’environnement. Sur le DGX Spark, un dépôt GitHub (eelbaz/dgx-spark-vllm-setup) documente les étapes, mais le processus reste long. llama.cpp, bien que plus simple, demande aussi une compilation avec cmake et l’installation de BLAS.

Cette différence est cruciale pour les utilisateurs qui veulent tester rapidement un modèle sans se noyer dans la technique. Cependant, la simplicité d’Atlas a un prix : elle est verrouillée sur le DGX Spark pour l’instant, même si l’architecture modulaire laisse entrevoir une portabilité future. Et il faut garder en tête que la couche firmware — UEFI, EC, séquencement des flashs — reste le point aveugle de cette simplicité : comme le montre notre enquête sur huit GB10, une Spark peut cesser de démarrer après une mise à jour mal maîtrisée, et aucun moteur d’inférence ne vous sauvera si la machine ne boote plus. La prudence impose de vérifier les versions UEFI (1.111.17) et EC (3.13.7) avant tout déploiement en production.

Fine-tuning sur Spark : ce que la stack permet vraiment en octobre 2026

Le choix du moteur d’inférence ne dit rien, à lui seul, de la capacité de la machine à entraîner. Or c’est là que le DGX Spark surprend le plus en cette fin 2026. La stack Unsloth et Axolotl permet désormais du LoRA et du QLoRA sur les 128 Go de mémoire unifiée, avec des résultats tangibles : un full fine-tuning d’un modèle de 8 milliards de paramètres peut rivaliser avec des géants comme Llama 70B sur des tâches de raisonnement ciblées. Unsloth se distingue par son approche « zéro configuration » et ses kernels optimisés, tandis qu’Axolotl offre un contrôle fin sur les recettes d’entraînement multi-modèles.

La question qui divise désormais la communauté est celle de la SKU 64 Go : est-elle un jouet ou un vrai outil de fine-tuning ? La réponse honnête, au vu des benchmarks disponibles, est nuancée. Avec 64 Go, la fenêtre de contexte et la taille du cache KV deviennent la vraie frontière : on peut entraîner des adaptateurs LoRA sur des modèles de 7 à 14 milliards de paramètres confortablement, mais les modèles de 27B et plus exigent des quantifications agressives qui dégradent la qualité. La 128 Go reste le plancher réaliste pour un fine-tuning sérieux au-delà de 14B.

Côté inférence après entraînement, la boucle est désormais bien rodée : on affine avec Unsloth, on exporte en NVFP4 ou en GGUF, et on sert avec Atlas (pour la latence minimale sur GB10) ou llama.cpp (pour la portabilité et la simplicité). vLLM garde l’avantage dès qu’il s’agit de servir plusieurs requêtes concurrentes sur un cluster, grâce à son ordonnanceur mature.

Clusters DGX Spark : quand deux (ou quatre) nœuds changent l’équation

Le vrai changement d’échelle de 2026, c’est le clustering. Relier deux DGX Spark via ConnectX-7 permet de faire tourner des modèles que jamais un nœud unique ne pourrait charger : jusqu’à 405 milliards de paramètres en tensor parallelism, comme le documente notre autopsie du pari Qwen3.5-397B sur deux Spark. Les recettes MiaAI, les correctifs DSpark et la vision logicielle d’octobre 2026 ont soudé l’écosystème : la release du 21 octobre a précisément ajouté les briques qui manquaient pour que le multi-nœuds cesse d’être un bricolage.

Les chiffres parlent d’eux-mêmes. En TP=2 avec vLLM et DeepSeek-V4-Flash en FP8, on obtient ~41 tok/s en single-stream, ~350 tok/s en agrégé à concurrence 32 et ~1 785 tok/s en prefill. C’est ce qui rend un cluster de deux Spark crédible pour du serving multi-agents, là où un nœud unique plafonne à ~14 tok/s en single-stream sur le même modèle en quantification extrême. Pour Atlas, la question du clustering reste ouverte : le moteur est optimisé pour un GB10 unique, et aucune documentation publique ne décrit un mode tensor-parallel multi-nœuds. C’est aujourd’hui la principale limite de l’outsider face à vLLM, dont l’ordonnanceur distribué est éprouvé.

Le prix, lui, reste la mauvaise nouvelle. Avec les 128 Go à ~6 950 $ et les 64 Go à 4 999 $, un cluster de deux nœuds haut de gamme dépasse largement les 12 000 $ — sans compter le câblage ConnectX-7 et le stockage. La flambée mémoire de l’automne 2026 a transformé le calcul : le cluster n’est plus une fantaisie de passionné, c’est un investissement qu’il faut justifier par un usage réel (serving multi-agents, modèles > 200B, fine-tuning distribué).

Écosystème logiciel : vLLM, TensorRT-LLM, Unsloth, Axolotl, Atlas et CUDA 13.4

Au-delà des trois moteurs d’inférence, la pile logicielle du Spark s’est structurée en couches claires en octobre 2026 :

• CUDA 13.4 : la couche basse, avec ses améliorations sur la mémoire unifiée et les kernels SM121.
• TensorRT-LLM : l’option « NVIDIA-native », la plus rapide sur les modèles officiellement supportés, mais la moins flexible. NVIDIA a d’ailleurs détaillé le 30 octobre 2026 un workflow edge complet pour faire tourner Nemotron-3.5 Lightning sur DGX Spark 64GB, avec données de benchmark et résultats de décodage spéculatif (blockchain.news) — preuve que la SKU 64 Go est prise au sérieux par l’éditeur lui-même.
• vLLM : le couteau suisse du serving, mature, distribué, compatible OpenAI.
• llama.cpp : le plus léger, idéal pour les GGUF et les tests rapides.
• Atlas : l’outsider Rust, le plus rapide en latence sur GB10 selon ses propres chiffres, mais le moins documenté indépendamment.
• Unsloth / Axolotl : la couche fine-tuning.

La release d’octobre 2026 a ajouté les fonctionnalités qui manquaient pour unifier tout cela, et les systèmes partenaires GB10 (ASUS, Acer, Dell…) en bénéficient. Reste un point de vigilance : la couche firmware non documentée par NVIDIA, où les mises à jour UEFI/EC peuvent casser une machine. La leçon de notre enquête sur huit GB10 est simple : avant de déployer un moteur d’inférence en production, figez vos versions firmware et testez les flashs sur une machine de secours.

Verdict : quel moteur choisir sur DGX Spark en octobre 2026 ?

Il n’y a pas de réponse unique, mais une matrice de décision claire :

• Vous voulez la latence minimale sur un seul GB10, avec un modèle récent et une installation sans douleur → Atlas. À condition d’accepter l’absence de benchmarks tiers sur les modèles post-juin 2026 et le verrouillage à la plateforme.
• Vous servez plusieurs utilisateurs ou agents, ou vous montez un cluster → vLLM. Son ordonnanceur distribué, son PagedAttention et son écosystème en font le choix par défaut dès que la concurrence entre en jeu.
• Vous voulez tester vite, faire tourner des GGUF, ou rester portable → llama.cpp.
• Vous voulez la vitesse maximale sur un modèle officiellement supporté → TensorRT-LLM.
• Vous voulez fine-tuner → Unsloth ou Axolotl, puis servir avec le moteur adapté.

La vraie conclusion de cet automne 2026, c’est que le moteur n’est plus le goulot d’étranglement : c’est la mémoire, son prix, et la maturité du firmware. Atlas a prouvé qu’un outsider pouvait bousculer vLLM sur GB10, mais il lui reste à démontrer sa robustesse en clustering et à se soumettre à des benchmarks indépendants sur les modèles de l’automne. D’ici là, la sagesse est de mesurer soi-même — avec AA-AgentPerf-Local, par exemple — plutôt que de croire les promesses des uns ou les chiffres de juin des autres.

Sources

• Clubic — NVIDIA lance un DGX Spark 64 Go
• kod.ru — DGX Spark 64 ГБ, дороже оригинала
• generation-nt.com — Nvidia DGX Spark 64 Go : moins de mémoire pour plus cher
• NeoTeo — DGX Spark 64 Go : NVIDIA annonce une configuration
• forums.developer.nvidia.com — DGX Spark Software Updates, October 2026 Release
• blockchain.news — NVIDIA details edge AI workflow for DGX Spark and TensorRT Edge-LLM
• press.asus.com — ASUS Ascent GX10 64GB
• Techgenyz — ASUS Ascent GX10 vs NVIDIA DGX Spark
• techtimes.com — AMD Ryzen AI Halo 192GB, DGX Spark Still Wins on Speed
• forkast.news — Xiaomi MiMo-V2.6
• eWeek — Xiaomi MiMo-V2.6
• SiliconANGLE — Xiaomi MiMo-V2.6
• Hugging Face — Atlas-Inference
• atlasinference.io — site officiel d’Atlas
• blog.openzeka.com — benchmark Qwen3.8-27B sur DGX Spark, 26 août 2026
• Artificial Analysis — AA-AgentPerf-Local, 29 septembre 2026
• GitHub — eelbaz/dgx-spark-vllm-setup
• Enquêtes internes du magazine : « Firmware DGX Spark : ce que 8 GB10 nous ont appris », « DGX Spark 64 Go à 4 999 $ : la SKU qui divise », « Qwen3.5-397B sur deux DGX Spark », « LLM open source sur NVIDIA GB10 DGX Spark : fine-tuning, clusters et mises à jour d’octobre 2026 — le guide vérifié ».

Article recherché et rédigé automatiquement · Magazine Electrosens