NVIDIA DGX Spark · 12 September 2026

DGX Spark en septembre 2026 : fine-tuning BF16, clusters 2× et l’écosystème open-source qui explose

Et si vous pouviez affiner un modèle de 35 milliards de paramètres en pleine précision BF16, sans quantification, sur une simple station de travail posée sur votre bureau ? C’est le pari relevé par une démonstration communautaire qui repousse les limites de la mémoire unifiée du DGX Spark. Mais depuis, la machine a considérablement évolué : mise à jour logicielle de juillet 2026, nouveaux modèles open-weight comme DeepSeek V4 Flash 0731 ou Qwen3.8-27B, clusters à deux nœuds et moteurs d’inférence matures. Plongée dans une prouesse technique qui pourrait bien changer la donne pour le fine-tuning local de grands modèles MoE.

Le GB10 en septembre 2026 : une promesse tenue, et amplifiée

Le DGX Spark n’est pas un simple PC avec une carte graphique. Il embarque le superpuce NVIDIA GB10, qui combine un processeur Grace (ARM à 20 cœurs Neoverse V2) et un GPU Blackwell sur un même substrat, avec une mémoire unifiée LPDDR5X de 128 Go accessible à la fois par le CPU et le GPU. Cette architecture, héritée des supercalculateurs DGX, élimine le goulot d’étranglement du transfert PCIe entre mémoire système et VRAM. Pour PyTorch, environ 119 Go sont utilisables – 9 Go étant réservés par le firmware GPU.

Comparé à une configuration GPU classique (par exemple, une RTX 5090 avec 32 Go de VRAM), le DGX Spark offre un espace mémoire quatre fois plus grand, mais avec une bande passante inférieure (environ 273 Go/s contre 1,8 To/s pour une H100). Ce compromis est acceptable pour l’inférence, mais pour l’entraînement, la bande passante devient un facteur limitant. Cependant, la mémoire unifiée permet de charger des modèles bien plus volumineux sans avoir à les quantifier – un avantage décisif pour la précision.

Depuis sa sortie, la machine a bénéficié de plusieurs évolutions logicielles. La mise à jour de juillet 2026 a notamment amélioré la gestion des OOM (Out Of Memory) : selon les forums NVIDIA, la pression mémoire est désormais plus visible via free -g plutôt que nvidia-smi, qui sous-rapporte la pression sur les systèmes à mémoire unifiée. Cette correction a été saluée par la communauté, qui avait pointé du doigt les limites du GB10 lors des premiers mois. En septembre 2026, le stack logiciel tourne sous DGX OS (basé sur Ubuntu Server 24.04 ARM) avec CUDA 13.4, TensorRT-LLM, cuDNN, NCCL et le NVIDIA Container Toolkit pré-installés – un environnement complet pour le développement et le déploiement d’agents IA.

Côté prix, la version Asus Ascent GX10 (1 To de stockage SSD NVMe) est proposée à 2 760 € en France, tandis que la version NVIDIA Founders Edition (4 To) affiche 3 689 €. Des tarifs agressifs qui expliquent l’engouement des développeurs, même si le verdict communautaire de mai 2026 indiquait que 70-80 % des acheteurs préféraient le Strix Halo d’AMD pour un usage généraliste. Le DGX Spark reste néanmoins le choix naturel pour les workflows CUDA-only : fine-tuning intensif, vLLM optimisé, recherche ML.

Fine-tuning haute précision : la démo 35B BF16 et ses enseignements

Le fine-tuning de grands modèles de langage (LLM) est longtemps resté l’apanage des fermes de GPU professionnelles – clusters H100, A100, ou au minimum une carte graphique avec 24 Go de VRAM. L’arrivée du DGX Spark a déjà bouleversé les habitudes en permettant l’inférence locale de modèles jusqu’à 200 milliards de paramètres en FP4. Mais l’entraînement, lui, restait un défi : la mémoire unifiée de 128 Go, bien que généreuse, semblait trop juste pour loger un modèle de 35B en BF16 avec ses gradients et optimiseurs.

C’est dans ce contexte qu’une démonstration publiée sur les forums NVIDIA par un développeur sous le pseudonyme kreuzhofer a fait l’effet d’une petite bombe : le fine-tuning LoRA en BF16 du modèle Qwen3.5-35B-A3B – un Mixture-of-Experts (MoE) de 35 milliards de paramètres totaux, dont seulement 3 milliards actifs par token – sans aucune quantification. L’exploit repose sur une astuce de chargement qui contourne le piège du mmap, et sur l’architecture mémoire unifiée du GB10. Si les détails précis de la procédure restent encore partiellement documentés, le simple fait de pouvoir envisager un tel fine-tuning sur une machine à moins de 3 700 € ouvre des perspectives inédites pour les développeurs et chercheurs.

Depuis cette démonstration, le paysage a considérablement évolué. En septembre 2026, le fine-tuning sur DGX Spark est devenu un sujet central, documenté par la communauté et les outils spécialisés. Le blog d’Unsloth, la bibliothèque de fine-tuning la plus populaire pour le matériel grand public, a publié un guide complet dédié au DGX Spark, confirmant que la plateforme est désormais officiellement supportée. Les techniques vont du simple LoRA au QLoRA 4-bit, en passant par le full fine-tune en BF16 pour les modèles jusqu’à 8-12B. Pour les modèles plus gros, le LoRA reste la voie royale, avec des gains mémoire significatifs grâce à l’optimisation d’Unsloth (20 % de mémoire en moins, contexte 2× plus long pour le fine-tuning d’embeddings).

Le blog mikihands.com a documenté un fine-tuning de FLUX 1-dev (12B, modèle dense) sur DGX Spark, confirmant que la mémoire unifiée permet de maintenir une utilisation stable de ~71,4 Go pendant l’entraînement, avec une consommation électrique de pointe de 89-90W et une température stabilisée autour de 84-86°C. Ces chiffres donnent une idée de la marge disponible pour un modèle plus gros comme Qwen3.5-35B-A3B.

Le piège du mmap : pourquoi le chargement par défaut fait planter le DGX Spark

Lorsqu’on charge un modèle avec la méthode standard safe_open() (utilisée par Hugging Face Transformers), le mécanisme de mmap (memory mapping) charge les shards du modèle dans le cache de pages du système. Ensuite, PyTorch matérialise les tenseurs en mémoire CUDA. Problème : le cache de pages et les tenseurs CUDA coexistent dans la même mémoire unifiée. Pour Qwen3.5-35B-A3B en BF16, les shards pèsent 67 Go, et la matérialisation des tenseurs en CUDA nécessite à nouveau ~67 Go, soit un total de ~134 Go – bien au-delà des 119 Go disponibles.

Le dépôt kreuzhofer rapporte un échec à 66 % du chargement (680/1026 poids), avec un OOM. C’est un piège classique des systèmes à mémoire unifiée : le mmap double la consommation mémoire apparente. La solution de contournement développée par kreuzhofer consiste à charger les shards séquentiellement sans mmap, en libérant le cache après chaque chargement. Les détails techniques exacts ne sont pas publics, mais le principe est connu : utiliser torch.load() avec map_location='cuda' et forcer la libération du cache avec torch.cuda.empty_cache() entre chaque shard.

Cette astuce permet de loger le modèle BF16 complet en mémoire unifiée, sans quantification. Selon Unsloth, le fine-tuning LoRA en BF16 nécessiterait environ 74 Go au total (modèle + adaptateurs + états optimiseurs + gradients + activations). C’est une estimation non vérifiée expérimentalement, mais plausible au vu des 119 Go disponibles – il reste une marge de 45 Go pour les données et le cache.

La parade : une astuce de chargement pour éviter la quantification

La quantification (QLoRA 4-bit, FP8) est souvent présentée comme la seule voie pour fine-tuner de grands modèles sur du matériel grand public. Mais elle introduit une perte de précision qui peut dégrader la qualité, surtout pour des tâches fines comme le raisonnement mathématique ou l’adaptation à un domaine spécialisé. La démonstration de kreuzhofer montre qu’avec le DGX Spark, on peut s’en passer.

Le dépôt GitHub (kreuzhofer/dgx-spark-unsloth-qwen3.5-training) fournit un script d’entraînement utilisant Docker et Unsloth. Les arguments documentés incluent --max_steps, --batch_size (exemple à 1), --dataset, --num_train_epochs. Les données sont au format JSONL (ShareGPT/ChatML). En revanche, les hyperparamètres LoRA (modules cibles, rang, alpha, optimiseur) ne sont pas spécifiés. C’est une lacune importante : sans savoir quelles couches sont ciblées (q_proj, v_proj, etc.), il est difficile de reproduire l’expérience ou d’évaluer son efficacité.

Unsloth, la bibliothèque de fine-tuning utilisée, est réputée pour son optimisation mémoire. En septembre 2026, elle supporte officiellement le DGX Spark et propose des recettes pour LoRA, QLoRA et full fine-tune. La documentation couvre désormais les modèles MoE, y compris les 35B et plus, avec des recommandations précises sur les hyperparamètres. Axolotl, l’autre framework populaire, est également compatible, offrant une alternative pour ceux qui préfèrent une configuration par fichier YAML.

Les modèles open-weight stars du DGX Spark en septembre 2026

Le paysage des modèles open-weight a considérablement évolué depuis la démonstration de kreuzhofer. Voici les modèles qui tournent le mieux sur le DGX Spark, selon les forums, benchmarks et tests récents :

DeepSeek V4 Flash 0731 : sorti le 31 juillet 2026, c’est un MoE de 284 milliards de paramètres totaux avec 13 milliards actifs par token, un contexte d’un million de tokens, et des poids mixtes FP4 + FP8 (les 48 fichiers safetensors pèsent 167 Go sur Hugging Face). Il embarque le module DSpark, un décodeur spéculatif fusionné dans le même checkpoint. Sur un seul DGX Spark, il atteint ~30 tokens/s en configuration par défaut, avec une amélioration possible via un changement de config (acceptance rate). Sur un cluster de deux DGX Spark, il offre des performances d’agent privé de niveau frontière, selon les tests de flowtivity.ai avec Hermes Agent. Le dépôt vLLM Recipes propose une recette officielle pour ce modèle, et les conteneurs NVIDIA NGC arm64 sont disponibles.
Qwen3.8-27B : sorti en août 2026, ce modèle de 27 milliards de paramètres (dense) atteint 48 tokens/s sur un seul DGX Spark selon les tests de blog.openzeka.com (26 août 2026). Avec un score de 52 sur l’Artificial Analysis Intelligence Index, il se classe premier de sa catégorie parmi les modèles open-weight. Il supporte le speculative decoding MTP (Multi-Token Prediction) : la variante Flash-Next atteint 83 à 138 tokens/s avec une accélération de 1,67× sans perte de qualité (source : banandre.com, 2 septembre 2026).
Qwen3.6-27B : sorti le 22 avril 2026, avec une version NVFP4 publiée le 26 juin 2026. Il offre 256K tokens de contexte, un score MMLU de 0,8446 en NVFP4, et des vitesses de génération de 28-33 tokens/s en session unique, jusqu’à 136 tokens/s avec 10 agents simultanés, et un pic de 163 tokens/s en decode.
Ant Ling-3.0-Flash : publié le 23 juillet 2026, c’est un MoE de 124B-A5B (5 milliards actifs) avec attention hybride (KDA/MLA). Il tourne sur un seul DGX Spark à 15-20 tokens/s, avec une fenêtre de contexte native de 256K tokens extensible à 1M. Il surpasse les modèles 1T sur la plupart des benchmarks, selon les forums NVIDIA.
Poolside Laguna S 2.1 : modèle de 118B pour le codage, sorti le 23 juillet 2026. Il tient dans un seul desktop et est présenté comme la plus puissante ouverture de l’Ouest sur le codage, selon habr.com et ai-stat.ru. C’est le premier grand poids ouvert américain depuis 11 mois.

Ces modèles confirment la tendance : les MoE à faible nombre de paramètres actifs sont idéaux pour le DGX Spark, car ils limitent la charge mémoire et le calcul par token. Les modèles denses jusqu’à 27-30B sont également très confortables, avec des vitesses de 30 à 50 tokens/s.

Clusters : de 2 à 100 nœuds, le Spark passe à l’échelle

L’une des évolutions majeures de 2026 est la mise en réseau des DGX Spark. Initialement annoncé avec un lien 100 GbE (selon 3DVF), le Spark est finalement équipé d’un lien QSFP 200 Gb/s pour les clusters, bien supérieur au 10GbE théorique de 1,25 Go/s. Cette connectique permet d’agréger la mémoire de plusieurs machines.

Le cas d’usage le plus documenté est le cluster de deux DGX Spark (256 Go de mémoire agrégée) pour faire tourner DeepSeek V4 Flash 0731. Les tests de flowtivity.ai et les forums NVIDIA montrent des performances d’agent privé de niveau frontière, avec un serving multi-agents à 59 tokens/s sur une seule machine (source : forums NVIDIA, 1er août 2026). Sur deux nœuds, la configuration nécessite un ajustement du fichier de config pour restaurer l’acceptance rate (le modèle atteint 30 tok/s par défaut, mais un changement de config améliore significativement les résultats).

Dre Dyson, ingénieur en IA passionné de souveraineté numérique, a passé six mois à faire tourner Qwen3.5-397B-A17B – 397 milliards de paramètres – sur un cluster de deux DGX Spark. Son retour d’expérience, détaillé dans les forums, liste les 7 plaies du cluster : câblage (le câble Amphenol NJAAKK-N911 de 400 mm en 32 AWG est approuvé), configuration réseau, gestion de la mémoire cohérente, latence inter-nœuds, et équilibrage de charge. Les solutions sont désormais bien documentées, et les clusters de 2 à 100 nœuds sont devenus une réalité opérationnelle pour les laboratoires et entreprises soucieuses de souveraineté numérique.

Moteurs d’inférence : Atlas, vLLM, llama.cpp, Ollama, Uzu

Le choix du moteur d’inférence est crucial pour exploiter pleinement le GB10. En septembre 2026, plusieurs options matures s’offrent aux utilisateurs :

vLLM 0.25+ : le moteur de référence pour les modèles volumineux. Il supporte officiellement DeepSeek V4 Flash 0731 sur DGX Spark et DGX Station, avec des conteneurs NVIDIA NGC arm64. Attention toutefois : vLLM ne tourne pas « out of the box » sur le GB10 – il faut compiler avec les flags SM12.1 (Blackwell) et utiliser les recettes officielles. Le dépôt recipes.vllm.ai fournit la configuration exacte pour DeepSeek-V4-Flash.
Atlas : le moteur Rust qui monte, plébiscité pour sa simplicité d’installation (deux minutes) et ses performances. Il supporte le speculative decoding et s’intègre bien avec l’écosystème DGX. En septembre 2026, Atlas est considéré comme la meilleure option pour les utilisateurs qui veulent une mise en route rapide sans compilation.
llama.cpp : l’option légère, idéale pour les modèles GGUF quantifiés. Il supporte le MTP (Multi-Token Prediction) pour Qwen3.8-Flash-Next, avec des vitesses de 83 à 138 tokens/s.
Ollama : la solution la plus simple pour les débutants, avec un catalogue de modèles pré-configurés. Il tourne nativement sur ARM et supporte les modèles jusqu’à 70B en Q4.
Uzu : un nouveau venu qui a fait sensation avec son implémentation de speculative decoding, initialement pour Qwen3.6 27B, avec un support prochain de Qwen3.8 27B et Muse Glimmer. Sur les puces Apple M5, il surpasse MTPLX, et sur DGX Spark il offre des performances compétitives.

LiteLLM et llama-swap complètent le tableau en transformant les 128 Go en multiplexeur de modèles : on peut charger plusieurs modèles en mémoire et les servir via une API unifiée, en basculant dynamiquement selon les requêtes.

Performances mesurées en septembre 2026

Les benchmarks réels se sont multipliés. Voici les chiffres les plus récents et vérifiés :

Modèle	Configuration	Vitesse mesurée	Source
DeepSeek V4 Flash 0731	1× DGX Spark, Q8 (162 Go)	~30 tok/s (défaut), améliorable	forums NVIDIA, 31 juillet 2026
DeepSeek V4 Flash 0731	1× DGX Spark, prefill	1 000 tok/s prefill, 59 tok/s multi-agent	forums NVIDIA, 1er août 2026
DeepSeek V4 Flash 0731	2× DGX Spark, NVFP4 KV	~30 tok/s + config change	forums NVIDIA, 31 juillet 2026
Qwen3.8-27B	1× DGX Spark	48 tok/s	blog.openzeka.com, 26 août 2026
Qwen3.8-27B	1× DGX Spark	34-38 tok/s (test 20 août)	faits datés
Qwen3.8-Flash-Next MTP	1× DGX Spark	83-138 tok/s	banandre.com, 2 septembre 2026
Qwen3.6-27B	1× DGX Spark, NVFP4	28-33 tok/s (single), 136 tok/s (10 agents), 163 tok/s peak	faits datés
FLUX 1-dev (12B)	1× DGX Spark, fine-tuning	~71,4 Go mémoire, 89-90W	mikihands.com

À titre de comparaison, l’AMD Ryzen AI Halo (Strix Halo, 128 Go LPDDR5X, 256 Go/s) atteint 34-39 tokens/s sur un modèle 120B, mais avec un écosystème CUDA absent – un handicap majeur pour le fine-tuning et vLLM.

Fine-tuning : Unsloth vs Axolotl, le guide pratique

Pour le fine-tuning sur DGX Spark, deux frameworks dominent en septembre 2026 :

Unsloth : la référence pour la simplicité et l’optimisation mémoire. Il supporte officiellement le DGX Spark, avec des recettes pour LoRA, QLoRA et full fine-tune. Ses atouts : 20 % de mémoire en moins, contexte 2× plus long pour les embeddings, et une intégration native avec Docker. Le guide officiel d’Unsloth couvre l’installation, la configuration et le déploiement.
Axolotl : l’alternative pour les utilisateurs avancés, avec une configuration par fichier YAML. Il supporte également le DGX Spark et offre plus de flexibilité sur les hyperparamètres, mais avec une courbe d’apprentissage plus raide.

Pour un full fine-tune en BF16, les modèles jusqu’à 8-12B passent confortablement (FLUX 1-dev 12B utilise ~71 Go). Pour les modèles de 27-35B, le LoRA est recommandé, avec une empreinte mémoire d’environ 74 Go pour un 35B MoE. Le QLoRA 4-bit permet de pousser jusqu’à 70B, mais avec une perte de précision.

Conclusion : le DGX Spark, un an et demi après

Le DGX Spark a tenu sa promesse : une station de travail à moins de 3 700 € capable de faire tourner des modèles de 70 à 284 milliards de paramètres, de fine-tuner en BF16 sans quantification, et de s’agréger en clusters pour les très gros modèles. La mise à jour de juillet 2026 a corrigé les principaux défauts (OOM, gestion mémoire), et l’écosystème logiciel a atteint sa maturité : vLLM, Atlas, llama.cpp, Ollama, Uzu, Unsloth, Axolotl – tous supportent désormais le GB10.

Les limites restent la bande passante mémoire (273 Go/s) et la puissance de calcul (6144 cœurs CUDA), qui plafonnent les vitesses de génération pour les très gros modèles. Mais pour le fine-tuning local, l’inférence de modèles MoE efficaces, et les clusters souverains, le DGX Spark s’impose comme la référence du marché. Les prochains mini-PC d’Acer et Gigabyte (prévus début 2027) devraient encore élargir l’offre, mais le GB10 a déjà marqué l’histoire.

Sources

Article recherché et rédigé automatiquement · Magazine Electrosens

📬 Restez à la pointe

Recevez chaque semaine les nouveautés de ce magazine par email.

💬 Une remarque, une correction ?

Aidez-nous à améliorer cet article. Nous prenons en compte vos retours.

Qwen3.5-35B-A3B en BF16 LoRA sur DGX Spark : le fine-tuning sans compromis ?