Electrosens R&D
Electrosens NVIDIA DGX Spark · 3 November 2026

LLM open source sur NVIDIA GB10 DGX Spark : 64 Go, NVFP4, fine-tuning et clusters — le point complet à l’automne 2026

Le 23 octobre 2026, le DGX Spark 64 Go est arrivé en boutique à 4 999 dollars, pendant que la version 128 Go franchissait les 6 000 dollars sur le marché. Trois semaines plus tôt, NVIDIA annonçait des agents locaux packagés, l’outil PAIR et une vague de « Spark PCs » chez huit OEM. Neuf mois après une mise à jour NVFP4 qui promettait 2,6× de gain, le mini-supercalculateur de 128 Go de mémoire unifiée s’est imposé comme la plateforme de référence pour l’inférence locale de LLM open-source. Mais quels modèles tournent réellement sur le GB10 ? À quelles vitesses ? Comment fine-tuner, clusteriser et orchestrer ces machines ? Plongée dans l’état de l’art d’octobre 2026.


Où en est le DGX Spark en octobre 2026 ?

Quand NVIDIA a dévoilé le DGX Spark au printemps 2025, l’industrie a souri. Un mini-ordinateur de la taille d’un Mac Mini, avec 128 Go de mémoire unifiée et un TDP modeste, capable d’exécuter des LLM de plusieurs centaines de milliards de paramètres ? La promesse semblait trop belle. Dix-huit mois plus tard, le Spark est devenu un outil de travail quotidien pour des milliers de chercheurs, développeurs et entreprises. Les premiers tests ont confirmé que le Spark n’est pas un simple gadget : son SoC GB10, dérivé de l’architecture Grace Blackwell, intègre un GPU basé sur Blackwell avec des cœurs Tensor de quatrième génération, le tout partageant une mémoire unifiée de 128 Go à large bande passante.

Sous le capot, le GB10 réunit 20 cœurs ARM Neoverse V2 et un GPU Blackwell d’environ 6 144 cœurs CUDA avec support FP4, le tout relié à 128 Go de LPDDR5X unifiée à 273 Go/s. Le TDP système est d’environ 170 W. La machine est headless par conception : pas de sortie vidéo utilisable, elle vit dans un coin, accessible via SSH ou interface web. Trois variantes fonctionnellement identiques existent : le DGX Spark officiel de NVIDIA, l’ASUS Ascent GX10 (généralement 500 à 1 000 $ moins cher, qualité de finition supérieure perçue) et des clones MSI/Acer à disponibilité limitée en Europe. Tous tournent sous DGX OS, basé sur Ubuntu Server 24.04 ARM, avec la pile NVIDIA AI Enterprise pré-installée : CUDA 13.0, cuDNN, NCCL, drivers Blackwell et NVIDIA Container Toolkit.

La grande nouveauté logicielle de 2026 reste la mise à jour de juin, qui a introduit le NVFP4, un format de quantification 4 bits propriétaire développé par NVIDIA. Selon les annonces officielles, ce format promet un gain de performance de 2,6× par rapport aux quantifications 4 bits classiques (Q4_0, Q4_K_M) utilisées jusqu’alors. Les benchmarks communautaires confirment des améliorations spectaculaires, notamment sur les modèles denses de taille moyenne — avec toutefois des nuances importantes sur la qualité, détaillées plus bas.

Spécification NVIDIA DGX Spark (128 Go) DGX Spark (64 Go, oct. 2026)
Mémoire unifiée 128 Go LPDDR5X (273 Go/s) 64 Go LPDDR5X (273 Go/s)
SoC GB10 (20× ARM Neoverse V2 + GPU Blackwell ~6144 CUDA, FP4) GB10 (identique)
TDP ~170 W ~170 W
Stockage SSD NVMe (512 Go ou plus) SSD NVMe
Connectivité Ethernet 10 GbE, USB-C, HDMI (inutilisable) Ethernet 10 GbE, USB-C, HDMI (inutilisable)
OS DGX OS (Ubuntu Server 24.04 ARM) DGX OS (Ubuntu Server 24.04 ARM)
Prix > 6 000 $ sur le marché (oct. 2026) ; 4 699 $ au lancement 2025 4 999 $ (boutique, 23 oct. 2026)

Sources : NVIDIA, blogs.nvidia.com, frandroid, pausehardware, benchmarks communautaires.

La bascule d’octobre 2026 : 64 Go, 128 Go et une nouvelle grille tarifaire

Le fait marquant de cette rentrée n’est pas une accélération logicielle, mais un bouleversement tarifaire. Le 2 octobre 2026, NVIDIA a annoncé une déclinaison 64 Go de son DGX Spark, commercialisée à partir du 23 octobre chez plusieurs constructeurs à 4 999 dollars — soit 1 000 dollars de plus que le prix de lancement de la version 128 Go en 2025, conséquence directe de l’envolée des cours de la LPDDR5X. Dans le même temps, le modèle 128 Go dépasse désormais les 6 000 dollars sur le marché. Un renversement paradoxal : moins de mémoire, plus cher.

NVIDIA justifie ce positionnement par un argument de ciblage : le 64 Go vise les modèles de 30 à 35 milliards de paramètres et les agents locaux, tandis que le 128 Go reste la porte d’entrée vers les modèles plus gros et les clusters. Selon blogs.nvidia.com, la version 64 Go « exécute des agents IA locaux sur l’appareil avec la pile NVIDIA AI complète — et des clusters pour plus de performance à mesure que les charges de travail grandissent ». Frandroid résume la question que tout acheteur se pose désormais : « faut-il acheter deux petits plutôt qu’un gros ? » La réponse dépend du cas d’usage — un cluster de deux Spark 64 Go (128 Go agrégés, ~10 000 $) offre une capacité mémoire équivalente au 128 Go seul, mais avec un débit single-streame inférieur et une complexité d’orchestration supplémentaire.

La rentrée 2026 : agents locaux, PAIR et vague « Spark PCs »

L’automne 2026 a marqué un basculement stratégique. En septembre, NVIDIA a annoncé une double offensive : des agents locaux packagés et l’outil NVIDIA PAIR (Personal AI Router), un logiciel gratuit et open-source qui découvre les appareils compatibles sur votre réseau domestique et y route l’inférence. Le DGX Spark et les futurs RTX Spark fournissent le matériel ; PAIR fournit l’orchestration. Pour les possesseurs de GB10, l’intérêt est double : mutualiser la puissance de plusieurs machines et faire tourner un agent en permanence sans passer par le cloud.

En parallèle, la vague de « Spark PCs » se matérialise. Selon shattered.io, huit OEM expédient désormais des mini-PC RTX Spark, Lenovo et Acer en tête depuis le 8 septembre 2026. ASUS a présenté à l’IFA 2026 sa gamme ProArt (GR1X, P14, P16) articulée autour de la puce RTX Spark, avec jusqu’à 1 pétaflop de performance IA revendiquée. Le 5 octobre, ASUS a officialisé l’Ascent GX10 64 Go, présenté comme un « supercalculateur IA agentique compact » capable de faire tourner des modèles open-source de 30 à 35 milliards de paramètres avec 1 pétaflop de calcul — au même format GB10 que le Spark officiel, mais à un prix sensiblement différent selon les configurations et la disponibilité. AMD n’est pas en reste : HP prépare un portable équipé de son meilleur APU. Détail révélateur, le dernier firmware du DGX Spark ajoute un certificat de démarrage Windows UEFI — signe que la plateforme se prépare à un écosystème Windows on Arm, même si le Spark lui-même reste sous DGX OS.

Cette ouverture vers Windows on Arm s’est d’ailleurs concrétisée côté outils : NVIDIA a publié en juillet 2026 le CUDA Toolkit 13.4 Developer Preview, première édition officielle du kit CUDA avec prise en charge native de Windows Arm64, ciblant explicitement la future plateforme RTX Spark. Concrètement, un développeur peut compiler directement une application CUDA sur une machine Windows Arm64, ou passer par une cross-compilation depuis la version x86-64. Le signal est clair : la pile logicielle se met en place avant le matériel.

À plus grande échelle, NVIDIA a aussi dévoilé le 8 octobre la DGX Station for Windows : 748 Go de mémoire cohérente, 20 pétaflops FP4, lancement au quatrième trimestre 2026 via six partenaires OEM. Ce n’est plus la même catégorie de machine, mais cela confirme que l’écosystème « IA locale » de NVIDIA s’étage désormais du Spark au poste de travail fixe.


NVFP4 : le format 4 bits qui tient ses promesses — mais avec des nuances

Le NVFP4 mérite qu’on s’y arrête, car il conditionne une bonne partie des chiffres de débit cités plus bas. Le principe : un format à blocs avec des échelles partagées, qui préserve mieux la dynamique des poids que les quantifications 4 bits génériques type Q4_0. Résultat, sur les modèles denses de taille moyenne, des gains de débit réels sans effondrement de qualité — sur Qwen3.6-27B, le score MMLU en NVFP4 atteint 0,8446, quasi identique au FP16.

Prix des DGX Spark (octobre 2026)DGX Spark 64 Go (bouti4999USDDGX Spark 128 Go (marc6000USDDGX Spark 128 Go (lanc4699USD

Mais la nuance est importante : le NVFP4 n’est pas magique sur les très gros modèles MoE, où le goulot d’étranglement reste la bande passante mémoire (273 Go/s) et non le format de calcul. Sur un modèle de 284 milliards de paramètres, ce sont les allers-retours mémoire qui dictent le débit, pas la vitesse des Tensor Cores. C’est pourquoi les modèles MoE à faible nombre de paramètres actifs (DeepSeek V4 Flash, Ling-3.0-Flash) restent les meilleurs candidats pour un Spark unique, indépendamment du format.


Les LLM open-source qui tournent vraiment sur GB10

Le paysage des modèles open-source a radicalement changé depuis l’époque de DeepSeek V3.1. En octobre 2026, les modèles les plus pertinents pour le DGX Spark sont ceux qui exploitent intelligemment l’architecture MoE (Mixture-of-Experts) avec un faible nombre de paramètres actifs, ou les modèles denses de taille moyenne optimisés pour le NVFP4.

DeepSeek V4 Flash 0731 : le nouveau champion du local

Sorti fin juillet 2026, DeepSeek V4 Flash 0731 est un modèle MoE de 13 milliards de paramètres actifs (sur un total de 284 milliards, selon la reproduction indépendante documentée sur DeepWiki). C’est une évolution majeure par rapport à V3.1 (685B, 37B actifs) : avec 13B actifs, le modèle est 10× plus petit que Claude Opus en termes de calcul actif, tout en offrant des performances agentiques de niveau « frontier » selon les tests de flowtivity.ai.

Sur un DGX Spark unique, DeepSeek V4 Flash 0731 atteint environ 30 tok/s en configuration par défaut, selon les retours des forums NVIDIA. Un utilisateur rapporte qu’un petit changement de configuration (probablement lié au cache KV ou au scheduling) permet de ramener l’acceptance rate à des niveaux corrects, avec des vitesses qui peuvent dépasser 30 tok/s. En Q8 (UD-Q8_K_XL), le modèle pèse 162 Go, soit seulement 7 Go de plus que la version Q4 (UD-Q4_K_XL) — une particularité qui rend la quantification Q8 quasi gratuite en termes de taille. En mode multi-agent serving sur une seule Spark, un utilisateur a mesuré 59 tok/s avec un prefill à 1 000 tok/s (fork CUDA du moteur MLX antirez/ds4).

Attention toutefois à ne pas confondre les chiffres : le fork antirez/ds4 en quantification IQ2_XXS, mesuré en août 2026, tourne autour de 14 tok/s en single-stream avec un prefill de 410 tok/s. Les 59 tok/s correspondent à un scénario multi-agent, pas à une génération mono-utilisateur. C’est une distinction essentielle pour dimensionner une application réelle.

Ant Ling-3.0-Flash : le modèle 124B-A5B qui tient sur une seule Spark

Le 23 juillet 2026, Ant Group a publié Ling-3.0-Flash, un modèle MoE de 124 milliards de paramètres avec seulement 5 milliards d’actifs. C’est une prouesse architecturale : le modèle utilise une attention hybride linéaire (couches KDA et MLA empilées dans un ratio 5:1), ce qui réduit drastiquement le coût de calcul et la mémoire nécessaire pour le cache KV. Avec une fenêtre de contexte native de 256K tokens (extensible à 1M), Ling-3.0-Flash est conçu pour les tâches agentiques longues.

Sur un seul DGX Spark, les estimations communautaires donnent 15-20 tok/s, ce qui est remarquable pour un modèle de cette taille. Le modèle affiche environ 87 de score MMLU et ~90 en HumanEval, et bat son prédécesseur (Ling-1T) sur presque tous les benchmarks, tout en étant 8× plus petit en paramètres actifs.

Qwen3.6-27B et Qwen3.8-27B : les denses qui surprennent

Alibaba a dévoilé Qwen3.6-27B le 22 avril 2026, un modèle dense de 27 milliards de paramètres avec une fenêtre de contexte de 256K tokens. Deux mois plus tard (26 juin 2026), NVIDIA publiait une quantification NVFP4 spécifique. Les benchmarks réels sur DGX Spark montrent 28 à 33 tok/s en NVFP4 (pic à 163 tok/s en decode), et jusqu’à 136 tok/s en configuration multi-agent (10 agents). Le score MMLU en NVFP4 atteint 0,8446, quasi identique au FP16. C’est le modèle dense le plus rapide sur GB10, idéal pour les applications temps réel.

Le 20 août 2026, Alibaba a poussé le bouchon plus loin avec Qwen3.8-27B, qui atteint 34-38 tok/s sur une seule Spark selon les tests communautaires. Une progression régulière qui confirme la dynamique des modèles denses optimisés NVFP4. La famille a aussi essaimé vers des variantes « Flash-Next » : le support Multi-Token Prediction (MTP) publié début septembre 2026 fait passer Qwen3.8-Flash-Next de 83 à 138 tok/s avec vérification exacte et sans perte de qualité, selon banandre.com.

Un point de repère utile, issu des catalogues de modèles : Qwen3.8-27B en quantification Unsloth UD-Q4_K_XL ne pèse qu’environ 21 Go, ce qui laisse une marge confortable pour le contexte et l’OS sur un Spark 64 Go comme sur un 128 Go. C’est ce qui en fait le « pick » par défaut de nombreux guides de référence pour 2026.

MiMo-V2.6 : l’outsider chinois de septembre 2026

Le 22 septembre 2026, Xiaomi a ouvert les poids de sa famille MiMo-V2.6 (Pro, Flash et une déclinaison 9B) sous licence MIT. Selon forkast.news, le MiMo-V2.6-Pro égale Grok 4.7 sur l’Intelligence Index et surpasse Claude Opus 5 sur plusieurs benchmarks clés. Xiaomi a même diffusé en direct son tableau de bord d’entraînement RL, avec un coût annoncé de 432 000 $/jour — un geste de transparence qui contraste avec les labos américains à huis clos. Attention toutefois : eWeek souligne que les gains issus du RL ne sont pas encore répliqués indépendamment et reposent sur une infrastructure d’entraînement coûteuse. Sur DGX Spark, les premiers retours évoquent un modèle « efficient à déployer si vous avez le matériel » — les benchmarks Spark précis restent à confirmer.

Gemma 4 : le multimodal de Google

Google a sorti Gemma 4 en avril 2026, un modèle multimodal (texte + image) disponible en plusieurs tailles. Sur le DGX Spark, la version 27B atteint des performances solides, avec une qualité de réponse comparable à des modèles bien plus grands sur les benchmarks MMLU et code. Le point fort de Gemma 4 est sa capacité à traiter des contextes géants (jusqu’à 1M tokens) grâce à une architecture d’attention optimisée.

Les autres modèles notables

  • Poolside Laguna S 2.1 (23 juillet 2026) : 118B MoE, spécialisé codage agentique. Première grande ouverture de poids américaine depuis 11 mois. Tourne sur un seul desktop, mais les benchmarks sur Spark ne sont pas encore publiés.
  • GPT-OSS 120B : pousse près de 4× le débit de Qwen 3.5 27B sur le chemin Ollama, mais perd en raisonnement et en génération de code selon les suites indépendantes (BridgeBench, OpenClaw). Un choix de débit, pas de qualité.
  • Llama 4 Maverick (400B total, 17B actifs) : tourne sur Spark en Q4 avec offloading, mais à des vitesses faibles (2-5 tok/s).
  • DeepSeek V3.1 (685B, 37B actifs) : toujours utilisable en Q4_0 avec 1,5-3 tok/s, mais largement dépassé par V4 Flash.

Benchmarks : qui crache les tokens le plus vite ?

Les données ci-dessous proviennent des benchmarks communautaires (forums NVIDIA, jetsonhacks, hardware-corner, Tokenstead, pyshine) et des tests publiés par les utilisateurs du Spark Arena. Les vitesses sont mesurées en tokens par seconde (tok/s) pour la génération, avec une fenêtre de contexte standard. Attention : les chiffres « single-stream » et « multi-agent » ne sont pas comparables — nous les distinguons explicitement.

Source : github.com
Modèle Type Paramètres actifs Quantification Tok/s (1× Spark) Contexte max Source
Qwen3.8-27B Dense 27B NVFP4 34-38 256K Tests communautaires (20/08/2026)
Qwen3.8-Flash-Next (MTP) Dense 27B GGUF 83-138 256K banandre.com (02/09/2026)
Qwen3.6-27B Dense 27B NVFP4 28-33 (pic 163) 256K Benchmarks NVIDIA
Qwen3.6-27B (multi-agent) Dense 27B × 10 NVFP4 jusqu’à 136 256K Tests communautaires
Qwen3.6 35B-A3B MoE 3B NVFP4 200+ n.c. Tokenstead (2026)
DeepSeek V4 Flash 0731 MoE 13B Q8 (UD-Q8_K_XL) 30+ (59 multi-agent) 1M Forums NVIDIA
DeepSeek-V4-Flash (ds4 IQ2_XXS) MoE 13B IQ2_XXS ~14 (single-stream), prefill 410 1M antirez/ds4 (08/2026)
Ant Ling-3.0-Flash MoE 5B Q4 15-20 256K (1M ext.) Forums NVIDIA
MiMo-V2.6 Pro/Flash MoE n.c. n.c. n.c. (à confirmer) n.c. eweek, forkast (09/2026)
Llama 3.1 70B Dense 70B Q4_K_M 15-20 128K jetsonhacks
Mixtral 8x22B MoE 39B Q4_K_M 6-8 32K dev.to

Sources : Tokenstead, pyshine, forums NVIDIA, banandre.com, antirez/ds4.

Deux enseignements de ce tableau. D’abord, le chemin NVFP4 est le seul qui permette de dépasser confortablement les 100 tok/s sur un Spark unique — mais uniquement sur des modèles denses ou des MoE à très faible activation (35B-A3B). Ensuite, les modèles MoE à faible activation (DeepSeek V4 Flash, Ling-3.0-Flash) offrent le meilleur compromis capacité/qualité pour un boîtier unique, au prix d’un débit single-stream plus modeste (14-30 tok/s).

Ce que dit la mesure indépendante

Depuis le 29 septembre 2026, la donne a changé sur le front de l’évaluation : Artificial Analysis a lancé AA-AgentPerf-Local, un benchmark dédié aux performances agentiques en local. Au lancement, quatre matériels étaient testés — DGX Spark, Ryzen AI Halo, MacBook Pro (M5 Pro) et RTX 5090 — sur quatre modèles open-weight. C’est la première fois qu’un référentiel indépendant mesure non pas le débit brut, mais le taux de réussite des tâches sur les quatre plateformes. Pour les acheteurs, c’est un signal fort : la question n’est plus « combien de tok/s » mais « combien de tâches réussies par dollar ».


Fine-tuning sur DGX Spark : ce que la stack permet vraiment

Le fine-tuning est le grand angle mort des comparatifs de débit. Un Spark n’est pas seulement une machine d’inférence : avec 128 Go de mémoire unifiée, il peut accueillir un fine-tuning LoRA sur des modèles de 7 à 30 milliards de paramètres. NVIDIA a d’ailleurs publié un guide dédié sur son blog RTX AI Garage, détaillant le workflow Unsloth sur DGX Spark : préparation du dataset, configuration LoRA, entraînement, fusion des poids et export vers un format d’inférence.

Les points clés à retenir :

  • Unsloth est la voie recommandée pour le fine-tuning sur GB10. L’outil optimise la mémoire et permet d’entraîner des modèles de taille moyenne sur un seul Spark sans dépasser les 128 Go.
  • LoRA et QLoRA restent les techniques privilégiées : elles ne modifient qu’une fraction des poids et réduisent drastiquement l’empreinte mémoire par rapport à un fine-tuning complet.
  • Le fine-tuning complet d’un modèle de 27B reste hors de portée d’un Spark unique en FP16 ; il faut soit descendre en quantification, soit passer à un cluster.
  • Le format NVFP4 n’est pas encore le standard du fine-tuning : les chaînes d’entraînement privilégient toujours FP16/BF16 pour la stabilité, la quantification NVFP4 intervenant à l’export pour l’inférence.

Pour les équipes qui veulent aller plus loin, la combinaison Spark + cluster devient intéressante : un cluster de deux nœuds permet de fine-tuner des modèles de 30 à 70 milliards de paramètres en LoRA, là où un nœud unique plafonne autour de 30B.


Clusters DGX Spark : deux, quatre, huit nœuds

C’est peut-être l’évolution la plus sous-estimée de 2026 : NVIDIA a discrètement ouvert la porte aux clusters de huit DGX Spark, faisant passer son mini-supercalculateur d’un boîtier « bon pour du 70B » à une plateforme capable d’héberger des modèles de plusieurs centaines de milliards de paramètres — jusqu’à 1 To de mémoire agrégée.

Source : deepseek-fr.ai

Ce que deux Spark changent vraiment

Les chiffres mesurés en août 2026 sont éloquents. Avec deux Spark en tensor parallel (TP=2) sous vLLM et DeepSeek-V4-Flash en FP8 :

  • Taille maximale de modèle supportée : 405 milliards de paramètres.
  • Débit single-stream : ~41 tok/s (contre ~14 en mono-nœud sur le même modèle en IQ2_XXS).
  • Débit agrégé à concurrence 32 : ~350 tok/s.
  • Prefill : ~1 785 tok/s.
  • Pool de cache KV partagé : 1 105 096 tokens.

Autrement dit, deux Spark ne font pas « deux fois plus » : ils font beaucoup plus sur les charges concurrentes (le débit agrégé explose) et un peu plus en single-stream, mais surtout ils débloquent des modèles qu’un seul nœud ne peut pas charger.

ConnectX-7, RDMA et NCCL : ce qui circule vraiment

La liaison entre nœuds passe par ConnectX-7 et RDMA, orchestrée par NCCL. C’est ce qui distingue un vrai cluster d’un simple empilement de machines : sans RDMA, le tensor parallel s’effondre, car chaque token généré nécessite des échanges de tenseurs entre nœuds à chaque couche. La topologie compte autant que le nombre de nœuds : un anneau convient à certains workloads, une étoile à d’autres, et le mythe du « pool unifié » (où CUDA verrait 1 To de mémoire comme une seule adresse) reste un mythe — chaque nœud garde sa mémoire, et c’est le logiciel (vLLM, SGLang, llama.cpp RPC) qui orchestre le partage.

Les trois pièges du scaling

  1. Le KV cache distribué : partager le cache entre nœuds coûte de la bande passante. Un pool de 1,1 million de tokens sur deux Spark, c’est bien, mais chaque requête doit savoir où chercher.
  2. La latence : le single-stream ne progresse que modérément (14 → 41 tok/s) parce que la latence inter-nœuds s’ajoute à chaque étape de décodage.
  3. La bande passante : 273 Go/s par nœud reste le plafond ; le cluster n’augmente pas la bande passante par nœud, il agrège.

Pour les équipes qui veulent se lancer, la recette pas à pas — monter un cluster de 2, puis 4, puis 8 Spark chez soi — est désormais bien documentée dans la communauté, avec des retours d’expérience sur les configurations réseau, les versions de NCCL et les pièges de l’orchestration.


Sept solutions logicielles passées au crible

L’écosystème logiciel du Spark s’est considérablement densifié. Voici les sept briques qui comptent réellement en octobre 2026 :

  1. DGX OS + NVIDIA AI Enterprise : la base. Ubuntu Server 24.04 ARM, CUDA 13.0, cuDNN, NCCL, Container Toolkit. Rien à installer, tout est pré-configuré.
  2. vLLM : le standard de l’inférence serveur. Supporte le tensor parallel multi-nœuds, le continuous batching et le NVFP4. C’est le moteur des benchmarks cluster cités plus haut.
  3. SGLang : alternative à vLLM, souvent plus rapide sur les workloads agentiques avec prefix caching. Supporte aussi le multi-nœuds.
  4. llama.cpp (et son RPC) : la voie la plus simple pour l’inférence mono-nœud en GGUF, et une option de clustering via RPC. Moins performant que vLLM en multi-nœuds, mais plus accessible.
  5. Ollama : la voie « facile » pour démarrer. Idéale pour Qwen 3.5 27B et les modèles de taille moyenne, mais plafonne sur les gros modèles et le multi-nœuds.
  6. NVIDIA PAIR : le routeur d’agents locaux, gratuit et open-source. Découvre les appareils compatibles sur le réseau et y route l’inférence. C’est la brique d’orchestration qui transforme un Spark isolé en nœud d’un essaim domestique.
  7. TensorRT Edge-LLM : la chaîne d’optimisation pour l’edge. Le 30 octobre 2026, NVIDIA a détaillé un workflow en ligne de commande pour exécuter Nemotron-3.5 Lightning sur DGX Spark 64 Go, avec données de benchmark et résultats de décodage spéculatif à l’appui. C’est la preuve que la stack edge se professionnalise.

À quoi s’ajoute Unsloth pour le fine-tuning, et CUDA 13.4 Developer Preview pour la compilation native Windows Arm64.


Le Spark face à la concurrence : AMD, Apple, DGX Station

Le Spark n’est pas seul sur ce créneau, et la concurrence s’est réveillée en octobre 2026. AMD a riposté avec le Ryzen AI Halo 192 Go, lancé chez Micro Center à 7 299,99 dollars : c’est le premier système de bureau compact capable de charger des modèles open-weight de 300 milliards de paramètres. Les benchmarks indépendants cités par TechTimes sont nuancés : le Halo gagne sur la capacité mémoire (192 Go contre 128 Go), mais le DGX Spark conserve l’avantage sur la vitesse. C’est le compromis classique : plus de mémoire pour charger plus gros, moins de débit par token.

Source : deepseek-fr.ai

Apple reste présent avec le Mac Studio M2 Ultra (192 Go, 800 Go/s de bande passante), mais son écosystème logiciel pour l’inférence serveur reste moins mature que celui de NVIDIA. Quant à la DGX Station for Windows (748 Go, 20 pétaflops FP4, Q4 2026), elle joue dans une autre catégorie de prix et de format — ce n’est plus un mini-PC, c’est un poste de travail fixe.

Le trio gagnant pour l’IA locale en septembre 2026 reste DGX Spark, RTX 5090 et RTX Spark, cette dernière étant une carte d’extension pour PC Windows sur Arm. Le Spark conserve un avantage décisif : son écosystème logiciel mature (NVIDIA AI Enterprise, Container Toolkit, CUDA 13) et son optimisation pour les charges de travail d’inférence.


Ce qu’il faut retenir en octobre 2026

  1. Le prix a changé, pas la puce. Le GB10 reste le même ; c’est la grille tarifaire qui a basculé (64 Go à 4 999 $, 128 Go au-delà de 6 000 $).
  2. NVFP4 tient ses promesses sur les denses, pas sur les gros MoE, où la bande passante mémoire reste le goulot.
  3. Qwen3.8-27B est le pick par défaut pour un Spark unique : 34-38 tok/s, ~21 Go en Q4, qualité proche du frontier.
  4. DeepSeek V4 Flash 0731 et Ling-3.0-Flash sont les meilleurs MoE pour un boîtier unique, avec un débit single-stream de 14-30 tok/s.
  5. Deux Spark changent la donne : 405 milliards de paramètres supportés, ~350 tok/s agrégés à concurrence 32, pool KV de 1,1 million de tokens.
  6. Le fine-tuning LoRA via Unsloth est réaliste sur un Spark pour des modèles jusqu’à ~30B ; au-delà, il faut un cluster.
  7. PAIR et les agents locaux transforment le Spark d’une machine d’inférence en nœud d’un essaim domestique orchestré.
  8. AA-AgentPerf-Local (Artificial Analysis, 29 septembre 2026) déplace enfin la mesure du débit brut vers le taux de réussite des tâches — le vrai critère d’achat.

Sources

Article recherché et rédigé automatiquement · Magazine Electrosens
📬 Restez à la pointe
Recevez chaque semaine les nouveautés de ce magazine par email.
💬 Une remarque, une correction ?
Aidez-nous à améliorer cet article. Nous prenons en compte vos retours.

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *