NVIDIA DGX Spark · 10 September 2026

DGX Spark en septembre 2026 : Atlas, vLLM et l’écosystème open-source qui explose

Depuis l’arrivée du DGX Spark (GB10 Grace Blackwell, 128 Go de mémoire unifiée), la quête du moteur d’inférence idéal pour une machine de bureau capable de faire tourner des LLMs de 70 à 80 milliards de paramètres est devenue un sujet brûlant. vLLM et llama.cpp règnent en maîtres, mais un nouveau venu, écrit en Rust et taillé sur mesure pour le Spark, a fait irruption : Atlas. Ses créateurs promettent une latence record, une installation en deux minutes et une optimisation si poussée qu’elle rendrait vLLM obsolète sur cette plateforme. Mais que valent vraiment ces annonces ? Plongeons dans l’architecture, les performances et les limites de ce moteur qui veut réinventer l’inférence locale — et faisons le point sur l’écosystème complet en cette rentrée 2026.

Le DGX Spark, un an après : la promesse tenue, et amplifiée

Le NVIDIA DGX Spark, avec son architecture Grace Blackwell (GB10), ses 128 Go de mémoire unifiée CPU-GPU et sa bande passante NVLink-C2C, n’est plus une simple curiosité de laboratoire. En septembre 2026, il s’est imposé comme la plateforme de référence pour l’IA locale open-source. Disponible chez Dell et Acer, ce mini-PC à 3 500 $ a vu son écosystème logiciel exploser : support natif de vLLM officialisé en juin, TensorRT-LLM optimisé, Unsloth pour le fine-tuning, et bien sûr Atlas, le moteur Rust qui a fait sensation.

Les mises à jour matérielles et logicielles se sont enchaînées. NVIDIA a publié CUDA 13.4, qui améliore l’utilisation de la mémoire unifiée et des kernels SM121. Les benchmarks indépendants se multiplient, et les modèles open-weight de dernière génération — Qwen3.8-27B, DeepSeek V4 Flash 0731, Nemotron 3 — tournent désormais sur le Spark avec des performances impressionnantes. Mais le choix du moteur d’inférence reste crucial. Atlas, vLLM, llama.cpp : lequel domine vraiment ?

Atlas, le moteur Rust qui monte : architecture et promesses

Atlas n’est pas un énième wrapper autour de CUDA. C’est une réécriture complète de la pile d’inférence, du noyau au serveur HTTP. Là où vLLM s’appuie sur Python, PyTorch et des dépendances CUDA lourdes, Atlas est un binaire Rust autonome. Les développeurs (pseudonymes AzeezIsh et tbraun96) ont implémenté plus de 20 kernels CUDA spécialisés pour l’architecture SM121 du GB10, et utilisé une méthode baptisée Kernel Hypercompilation : à la compilation, le moteur génère des kernels optimisés pour le modèle et la configuration exacte de la machine, éliminant toute surcharge d’exécution.

Cette approche permet de tirer parti de la mémoire unifiée CPU-GPU via NVLink-C2C, bien que les sources fournies ne détaillent pas le mécanisme exact. On peut supposer qu’Atlas réduit les transferts mémoire en maintenant les poids et le cache KV dans un espace partagé, évitant les copies superflues. En comparaison, vLLM utilise PagedAttention pour réduire le gaspillage du cache KV de 60 à 80 %, mais reste dépendant de l’écosystème Python/CUDA et de ses overheads. llama.cpp, écrit en C++, est plus léger que vLLM mais n’a pas été conçu spécifiquement pour le GB10.

Le site officiel d’Atlas (atlasinference.io) précise désormais que le moteur est un binaire d’environ 2,5 Go qui « démarre en moins de deux minutes et épingle le plafond de bande passante sur chaque cible (matériel × modèle × quantification) supportée ». L’architecture est pensée pour être extensible : AMD, Intel et Apple Silicon pourraient être ajoutés via des contributions communautaires, et les familles de modèles s’intègrent de la même manière que les Qwen ce trimestre.

Le tableau ci-dessus, construit à partir des données du forum, du site officiel et des articles techniques, montre qu’Atlas mise tout sur la spécialisation extrême. Mais cette force est aussi sa faiblesse : les kernels hypercompilés pour le SM121 ne fonctionneront pas sur une autre carte NVIDIA, et le support d’autres architectures n’est pas encore annoncé officiellement, même si l’architecture modulaire le rend plausible.

Performances : les benchmarks qui comptent en septembre 2026

Le chiffre choc d’Atlas était son débit de 82 tokens par seconde sur Qwen3-Next-80B, un modèle de 80 milliards de paramètres, sur un seul GPU GB10, sans décodage spéculatif. Les développeurs affirmaient également atteindre environ 102 tok/s sur Qwen3.5-35B en NVFP4, soit 3 fois plus rapide que vLLM sur le même matériel (source : Hugging Face Atlas-Inference). Mais ces chiffres datent de juin 2026, et depuis, les modèles ont évolué.

En août 2026, Alibaba a publié Qwen3.8-27B, un modèle dense de 27 milliards de paramètres qui a immédiatement conquis le Spark. Sur un DGX Spark, un benchmark indépendant (blog.openzeka.com, 26 août 2026) mesure 48 tok/s en génération, avec un score de 52 sur l’Artificial Analysis Intelligence Index, le meilleur de sa catégorie parmi les modèles open-weight. Ce modèle est particulièrement adapté au Spark grâce à sa taille et à son architecture hybride (Gated DeltaNet + Gated Attention) qui maintient des performances élevées sur de longs contextes (262K tokens natifs, extensible à 1M).

Pour les très gros modèles, DeepSeek V4 Flash 0731 (284 milliards de paramètres, 13B actifs) tourne sur un seul DGX Spark avec des performances remarquables : 1 000 tok/s en prefill et 59 tok/s en serving multi-agents, selon un test du forum NVIDIA (1er août 2026). En configuration dual-Spark, le débit atteint 30 tok/s en configuration par défaut, et peut être amélioré à 59 tok/s avec un ajustement de configuration (source : forums.developer.nvidia.com, 31 juillet 2026).

Quant à Qwen3.6-27B (sorti en avril 2026), il reste une référence : 136 tok/s en génération multi-agents (10 agents simultanés), 28-33 tok/s en session unique, et un pic à 163 tok/s en décodage. Ces chiffres, issus des spécifications officielles, montrent que le Spark est capable de faire tourner des modèles de 27B avec des performances comparables à celles d’un GPU dédié.

Mais il faut nuancer. Aucun benchmark indépendant n’a encore reproduit les chiffres d’Atlas sur Qwen3-Next-80B. Les performances d’Atlas sur les modèles plus récents (Qwen3.8-27B, DeepSeek V4 Flash) ne sont pas documentées publiquement. L’équipe publie néanmoins ses scripts de benchmark (scripts/sweep_all_models.sh dans le dépôt GitHub) et invite à la vérification : « Si vous reproduisez un chiffre vLLM plus rapide, ouvrez une issue. Nous préférons être mesurés que félicités. » Une posture louable, mais qui ne remplace pas un benchmark tiers.

Installation en deux minutes : le pari de la simplicité

L’un des arguments les plus concrets d’Atlas est la facilité de déploiement. Les développeurs promettent que de la compilation à l’inférence, il faut moins de deux minutes. La commande unique uvx sparkrun setup puis sparkrun run @atlas/qwen3.6-35b-a3b-nvfp4 suffisait à l’origine. Depuis, une image Docker publique est disponible :

docker pull avarok/atlas-gb10:latest
docker run --gpus all --ipc=host -p 8888:8888 \
  -v ~/.cache/huggingface:/root/.cache/huggingface \
  avarok/atlas-gb10:latest \
  serve Sehyo/Qwen3.5-35B-A3B-NVFP4 --speculative --mtp-quantization nvfp4

Pas de gestion d’environnement Python, pas de conflit de dépendances CUDA : tout est dans un seul binaire. L’API est compatible OpenAI et Anthropic, ce qui permet de brancher curl, le SDK OpenAI, opencode, Claude Code, Cline ou Open WebUI directement sur le port 8888.

En face, vLLM nécessite une installation manuelle avec pip install vllm, une compilation CUDA qui peut prendre 40 minutes ou plus, et une configuration des variables d’environnement. Sur le DGX Spark, un dépôt GitHub (eelbaz/dgx-spark-vllm-setup) documente les étapes, mais le processus reste long. llama.cpp, bien que plus simple, demande aussi une compilation avec cmake et l’installation de BLAS.

Cette différence est cruciale pour les utilisateurs qui veulent tester rapidement un modèle sans se noyer dans la technique. Cependant, la simplicité d’Atlas a un prix : elle est verrouillée sur le DGX Spark pour l’instant, même si l’architecture modulaire laisse entrevoir un élargissement futur.

Fine-tuning : le grand absent du catalogue Atlas, mais Unsloth et Axolotl comblent le vide

Atlas est un moteur d’inférence pur. Aucune fonctionnalité d’entraînement ou d’adaptation (LoRA/QLoRA) n’est documentée dans les sources fournies. Les développeurs n’ont fait aucune annonce à ce sujet. En comparaison, des outils comme Unsloth ou Axolotl permettent le fine-tuning de modèles 30B+ sur le DGX Spark, en exploitant sa mémoire unifiée. Aucun cas de fine-tuning réussi avec Atlas n’a été rapporté.

Pour les utilisateurs qui souhaitent personnaliser un modèle sur leurs données, Atlas est donc inutilisable. L’équipe n’a pas publié de roadmap publique, et on ignore si cette capacité est prévue. Le silence est assourdissant sur ce point, d’autant que le fine-tuning local est devenu une fonctionnalité mature sur le DGX Spark en 2026.

Unsloth et Axolotl supportent tous deux le full fine-tuning et le QLoRA sur cette machine, avec des benchmarks réels documentés. Unsloth, en particulier, a optimisé ses kernels pour le SM121 et permet un full fine-tune en BF16 de modèles 8B en moins de 4 heures sur le Spark, selon les tests du magazine. Axolotl, plus configurable, offre des options avancées comme le LoRA adapté aux MoE et le RL (reinforcement learning) pour les modèles de raisonnement. Les deux outils exploitent la mémoire unifiée de 128 Go pour charger des modèles jusqu’à 70B en QLoRA, et jusqu’à 30B en full fine-tune.

Le guide complet « Unsloth vs Axolotl sur DGX Spark en 2026 » du magazine détaille ces performances : Unsloth est plus rapide à l’installation et à l’exécution, tandis qu’Axolotl offre plus de flexibilité pour les expérimentations avancées. Pour le fine-tuning distribué, des recettes existent pour passer à l’échelle sur plusieurs Spark, mais elles restent expérimentales.

Clusters : de 2 à 100 nœuds, le Spark passe à l’échelle

Un utilisateur du forum NVIDIA a demandé si Atlas supportait plusieurs DGX Spark en cluster. À l’origine, aucune réponse officielle n’avait été donnée. Depuis, le fichier QUICKSTART.md du dépôt GitHub mentionne des « recettes par modèle » incluant le multi-node EP=2 (expert parallelism sur deux nœuds) et le « single-GPU 122B with the tighter budget ». Cela suggère qu’Atlas commence à explorer le passage à l’échelle, mais sans documentation détaillée ni benchmark public à ce stade.

vLLM, en revanche, permet l’inférence distribuée via le tensor parallelism et le pipeline parallelism, ce qui le rend adapté à des clusters de plusieurs Spark. Des expériences documentées sur les forums NVIDIA montrent DeepSeek V4 Flash 0731 tournant sur deux DGX Spark avec des performances de 30 à 59 tok/s, et même des configurations à 100 nœuds pour des modèles de 300B+ (voir l’article « DGX Spark en cluster : les LLM open-source qui tournent vraiment en 2026 »).

Le câblage est un point critique : les Spark se connectent via 10GbE (1,25 Go/s théorique), mais des solutions plus rapides (100 GbE) sont à l’étude. Des câbles approuvés comme l’Amphenol NJAAKK-N911 (400 mm, 32 AWG) sont recommandés pour les configurations dual. Pour les clusters plus grands, des outils de gestion d’entreprise comme Progress Chef Enterprise Management facilitent le déploiement et la supervision.

Atlas semble conçu pour un usage mono-utilisateur, ou au mieux faible concurrence, avec un support multi-nœud naissant et non documenté. L’hyper-optimisation pour un seul GPU rend le passage à l’échelle complexe : les kernels compilés pour un SM121 unique ne peuvent pas être facilement répartis sur plusieurs GPU sans une refonte majeure.

Écosystème logiciel : vLLM, TensorRT-LLM, CUDA 13.4 et les autres

En septembre 2026, l’écosystème logiciel du DGX Spark est mature. vLLM a officialisé son support natif en juin 2026, avec des optimisations spécifiques pour le GB10 (PagedAttention v2, speculative decoding). TensorRT-LLM de NVIDIA offre une alternative performante, notamment pour les modèles quantifiés NVFP4/FP8. llama.cpp reste le choix des puristes pour sa légèreté et sa compatibilité GGUF.

CUDA 13.4 apporte des améliorations notables : meilleure gestion de la mémoire unifiée, kernels optimisés pour SM121, et support étendu des formats de quantification. Les utilisateurs rapportent des gains de 10 à 15 % sur les performances d’inférence avec cette version.

Le speculative decoding (décodage spéculatif) est devenu une fonctionnalité clé. vLLM et Atlas le supportent, et des implémentations comme MTP (Multi-Token Prediction) permettent des accélérations de 1,67× sur Qwen3.8-Flash-Next GGUF (83 à 138 tok/s, source : banandre.com, 2 septembre 2026). Cette technique est particulièrement efficace sur le Spark grâce à sa mémoire unifiée qui réduit la latence des transferts.

Les modèles stars du moment : Qwen3.8-27B, DeepSeek V4 Flash, Nemotron 3

Le DGX Spark fait tourner une large gamme de modèles open-weight. Voici les plus pertinents en septembre 2026 :

• Qwen3.8-27B (Alibaba, août 2026) : le champion du rapport qualité/performance. 27B denses, 48 tok/s sur Spark, score de 52 sur l’Artificial Analysis Index. Idéal pour le codage, le raisonnement et les agents.
• Qwen3.6-27B (Alibaba, avril 2026) : toujours pertinent, avec 136 tok/s en multi-agents et un contexte extensible à 1M tokens.
• DeepSeek V4 Flash 0731 (DeepSeek, juillet 2026) : 284B MoE avec 13B actifs. Tourne sur un seul Spark (59 tok/s en serving) ou en dual (30-59 tok/s). Le choix pour les agents privés.
• Nemotron 3 Nano Omni (NVIDIA) : multimodal, tourne sur Spark avec des performances correctes pour la vision et l’audio.
• Laguna S 2.1 (Poolside, juillet 2026) : 118B pour le codage agentique, le premier grand modèle open-weight occidental depuis 11 mois. Tourne sur un Spark avec une configuration adaptée.

Ces modèles sont disponibles en quantifications NVFP4, FP8, et GGUF (pour llama.cpp). Atlas supporte nativement NVFP4 et FP8, mais pas encore GGUF, ce qui limite son utilisation aux modèles quantifiés NVIDIA.

Quantification et formats : Atlas joue-t-il dans la cour des grands ?

Atlas supporte nativement les formats NVFP4 et FP8, qui sont des formats de quantification développés par NVIDIA pour ses GPU Blackwell. Ces formats offrent un bon compromis entre performance et qualité, mais ils sont loin d’être universels. Aucune mention d’AWQ, GPTQ ou GGUF n’apparaît dans les sources.

Cela signifie que les milliers de modèles quantifiés disponibles sur Hugging Face (par exemple ceux de TheBloke) ne sont pas utilisables directement avec Atlas. L’utilisateur doit se tourner vers vLLM ou llama.cpp pour ces formats. En revanche, les modèles récents (Qwen3.8, DeepSeek V4 Flash) sont souvent publiés en NVFP4 par leurs créateurs, ce qui les rend compatibles avec Atlas.

Verdict : Atlas, vLLM ou llama.cpp ?

En septembre 2026, le choix du moteur d’inférence dépend de vos priorités :

• Atlas : la simplicité et la performance brute sur le Spark, mais un support limité (modèles NVFP4/FP8, pas de fine-tuning, multi-nœud embryonnaire). Idéal pour les utilisateurs qui veulent un déploiement en deux minutes et des performances maximales sur les modèles supportés.
• vLLM : le standard de l’industrie, avec un support multi-GPU mature, le speculative decoding, et une compatibilité large (GGUF, AWQ, GPTQ). Plus lourd à installer, mais plus flexible.
• llama.cpp : le champion de la légèreté et de la compatibilité GGUF, parfait pour les expérimentations rapides et les configurations CPU/GPU hybrides.

Pour le fine-tuning, Unsloth et Axolotl restent les outils de référence. Pour les clusters, vLLM domine, avec des configurations jusqu’à 100 nœuds. Atlas est un pari audacieux qui tient ses promesses sur le Spark, mais qui doit encore élargir son écosystème pour devenir incontournable.

Sources

• NVIDIA Brings Simplified Local AI Support To NVIDIA GPUs Carrying 24+ GB VRAM While vLLM & llama.cpp Optimize (3 septembre 2026)
• Qwen3.8-27B on DGX Spark — 48 tok/s (26 août 2026)
• DeepSeek V4 Flash 0731 on Dual DGX Spark (2 août 2026)
• 1x Spark: DeepSeek-V4-Flash-0731 @ 1,000 tok/s prefill, 59 tok/s multi-agent serving (1er août 2026)
• DeepSeek-v4-Flash-0731-DSpark-1M-NVFP4-KV-2x-DGX-Spark (31 juillet 2026)
• Qwen3.6-27B: локальная LLM, которая догнала Opus-класс
• Qwen/Qwen3.6-27B sur Hugging Face
• Qwen3.8-Flash-Next MTP Is Here: 1.67x Speedup, Zero Quality Loss (2 septembre 2026)
• Fine-tuning | bidual/awesome-dgx-spark | DeepWiki (12 août 2026)
• emiluzelac/deepseek-v4-flash-0731-on-one-dgx-spark | DeepWiki (12 août 2026)
• Test du Nvidia DGX Spark (Dell) : le mini PC IA à 128 Go de RAM

Article recherché et rédigé automatiquement · Magazine Electrosens