NVIDIA DGX Spark · 28 October 2026

LLM open source sur DGX Spark : Ornith, MiMo-V2.6-Pro, Qwen3.6-NVFP4 — ce qui rentre vraiment sur un GB10 à l’automne 2026

Trois modèles que tout oppose se retrouvent sur la même machine à 128 Go de mémoire unifiée : un Japonais taillé pour sa langue, un trillion de paramètres réputé inrunnable en local, et un 27B quantifié proprement en NVFP4. Lequel mérite réellement sa place sur votre GB10 ? Enquête sur ce qui rentre, ce qui s’effondre, et ce qui reste hors de portée — à l’heure où la gamme Spark se scinde en deux et où le prix de la mémoire unifiée rebat toutes les cartes.

Pourquoi le GB10 change la donne : 128 Go unifiés, un plafond mouvant et une gamme qui se dédouble

Il y a encore deux ans, la question « quel LLM puis-je faire tourner en local ? » se résumait à un calcul de VRAM douloureux. Sur un GB10, la donne a changé — pas parce que la machine est la plus rapide du marché, mais parce que sa mémoire unifiée redistribue les cartes. Une RTX 5090, pourtant bien plus véloce en calcul brut, plafonne à 32 Go de GDDR7 : elle excelle sur les modèles qui rentrent, et abandonne les autres. Le GB10, lui, accepte des architectures que l’on n’aurait même pas tenté de charger ailleurs.

Mais « 128 Go » n’est plus le seul point d’entrée. Le 2 octobre 2026, NVIDIA a officialisé une mouture 64 Go de son mini-supercalculateur, commercialisée à partir du 23 octobre 2026 à 4 999 $, tandis que le modèle 128 Go grimpe au-delà des 6 000 $ sur le marché (Frandroid, Pause Hardware, Clubic). Autrement dit : la même journée marque à la fois l’arrivée d’une machine plus accessible en capacité et une hausse de prix sur la version historique. La question « quel modèle rentre ? » doit désormais se poser en fonction de la variante que vous possédez — et de la stratégie « deux petits plutôt qu’un gros » que la segmentation rend soudain pertinente.

Cette bascule est d’autant plus visible que l’écosystème local s’est structuré autour de la machine. Perplexity a choisi le DGX Spark comme cible de lancement de son agent « Portable Computer », présenté le 26 août 2026 comme une plateforme local-first tournant entièrement sur le matériel de l’utilisateur, sans coût de tokens (hothardware). NVIDIA a de son côté simplifié le support IA local sur ses GPU embarquant 24 Go de VRAM et plus, tout en optimisant vLLM et llama.cpp sur ses plateformes RTX et DGX (wccftech, 3 septembre 2026). Et le 19 octobre 2026, la firme a dégainé une famille de modèles ouverts pensés pour les agents locaux — un signal fort pour quiconque possède un Spark. La machine n’est plus un objet de curiosité, c’est une cible logicielle assumée.

Reste que la capacité ne dit pas tout. La bande passante mémoire — 273 Go/s sur le GB10, un plafond de verre bien réel face aux 512 Go du Mac Studio M5 Ultra —, la nature des formats publiés et le coût du KV cache décident, en pratique, de ce qui est confortable, de ce qui est jouable, et de ce qui relève du fantasme. C’est précisément là que le match entre Ornith 1.0, MiMo-V2.6-Pro et Qwen3.6-27B devient intéressant : trois profils, trois pièges, et un seul qui rentre vraiment « proprement ».

Ornith 1.0, MiMo-V2.6-Pro, Qwen3.6-NVFP4 : trois profils, trois pièges

Ornith 1.0 est une famille de modèles de codage open source signée DeepReinforce, publiée sous licence MIT sur Hugging Face, avec quatre tailles : 9B dense, 31B dense, 35B MoE et 397B MoE. Sa particularité n’est pas la taille mais la langue : Ornith est taillé pour le japonais, avec un benchmark japonais à l’appui. Un test communautaire dédié — « I ran Ornith 1.0 on DGX Spark and compared its Japanese language » — a été publié sur dev.classmethod.jp, ce qui en fait l’un des rares modèles « exotiques » à disposer d’un retour de terrain documenté sur la machine (classmethod).

MiMo-V2.6-Pro est l’autre extrémité du spectre. Signé Xiaomi, l’équipe étant dirigée par Luo Fuli (ex-DeepSeek), il a été publié le 22 septembre 2026 avec ses poids ouverts sur Hugging Face sous licence MIT, aux côtés de MiMo-V2.6-Flash et d’un distillat MiMo-V2.6-Distill-Qwen-9B. Sa fiche technique donne le vertige : architecture MoE à routeur gelé, 1,02 trillion de paramètres totaux pour 42 milliards actifs, attention hybride, décodeur spéculatif MTP à 5 couches, contexte d’un million de tokens, multimodal natif (texte, image, vidéo, audio). Artificial Analysis lui attribue un score de 46 sur son Intelligence Index v4.3, à égalité avec Grok 4.7 selon Forkast. Xiaomi revendique par ailleurs 71,9 % sur DeepSWE v1.1 et 89,9 % sur Terminal Bench 2.1 — des chiffres vendor-reported, à prendre avec les précautions d’usage. Le titre d’une vidéo YouTube résume d’ailleurs parfaitement le problème : « The Best Open Model You Can’t Run ».

Qwen3.6-27B joue une partition inverse : pas de démesure, mais une quantification NVFP4 native publiée le 26 juin 2026, après une sortie initiale le 22 avril 2026. Fenêtre de contexte de 256K tokens, 27 milliards de paramètres, et un score MMLU de 0,8446 en NVFP4. C’est le candidat « propre » pour GB10 : conçu pour la précision 4 bits native de Blackwell, pas rétro-quantifié à la va-vite. Un benchmark dédié existe sur Spark Arena (spark-arena.com).

BF16, FP8, INT4, NVFP4, GGUF : la carte des formats et ce qu’ils coûtent vraiment

C’est ici que les illusions tombent. Un modèle de 27B en BF16 pèse environ 54 Go de poids — il rentre dans 128 Go, mais laisse peu de marge pour le KV cache à contexte long. Un 397B MoE en BF16, lui, dépasse allègrement le plafond : la quantification n’est plus une option, c’est une condition d’existence. Et sur la variante 64 Go, la marge se resserre brutalement : un 27B en BF16 y tient encore, mais un 35B MoE quantifié en Q4 devient le plafond réaliste.

Le cas NVFP4 mérite qu’on s’y arrête. Contrairement à un INT4 classique, NVFP4 est un format 4 bits natif de l’architecture Blackwell, avec échelle partagée par blocs — ce qui limite l’effondrement de qualité que l’on observe sur les quantifications agressives génériques. C’est précisément pour cela que Qwen3.6-27B en NVFP4 est le seul des trois à rentrer « confortablement » : ses 27B tiennent en une empreinte réduite, et le score MMLU de 0,8446 indique que la perte reste contenue. À l’inverse, un MiMo-V2.6-Pro quantifié en INT4 extrême verrait ses 42 milliards de paramètres actifs subir une dégradation difficile à quantifier sans benchmark indépendant — et ces benchmarks manquent.

Les formats exotiques complètent le tableau. GGUF encode plusieurs couches distinctes (format de stockage, méthode de compression type Q4_K_M ou IQ3_XXS, architecture, marque fournisseur), et llama.cpp reste le seul choix sérieux pour ces variantes via llama-server. AWQ et GPTQ ciblent l’INT4 sur GPU. Mais aucun de ces formats ne bénéficie de l’accélération native Blackwell dont jouit NVFP4. Sur GB10, le choix du format n’est donc pas neutre : il détermine à la fois ce qui rentre et la vitesse à laquelle ça tourne.

Deux signaux à surveiller côté compression : TurboQuant (Google Research) compresse le KV-cache à environ 3–3,5 bits par canal sans réentraînement, ce qui pourrait détendre la contrainte mémoire sur les contextes longs ; et les poids 1-bit type Bonsai 8B (PrismML, Apache 2.0, basé sur Qwen3-8B), annoncés à ~1,15 Go en 1 bit contre 16,38 Go en FP16, avec des débits revendiqués de 368 tok/s sur RTX 4090. Ces chiffres sont des communiqués relayés, non vérifiés indépendamment — mais la direction est claire.

vLLM, TensorRT-LLM, llama.cpp : la méthodologie de test reproductible

Sur DGX Spark, tous les frameworks ne se valent pas. vLLM s’impose comme le moteur de production : batching continu, parallélisme tensoriel, API compatible OpenAI, et surtout un support documenté de la machine. Une recette officielle existe pour Qwen3.8-27B sur GB10 (recipes.vllm.ai), ce qui donne un point de départ fiable. llama.cpp et son llama-server restent incontournables pour les GGUF et l’offload partiel. Ollama, qui repose sous le capot sur llama.cpp, est excellent en mono-flux mais peu adapté au multi-utilisateurs.

Pour reproduire un benchmark valide sur une seule machine, quelques règles s’imposent : fixer les seeds, effectuer un warm-up suffisant pour laisser la compilation des kernels se stabiliser, mesurer séparément le prefill et le decode, et tracer la latence du premier token (TTFT) plutôt que de se contenter d’un débit moyen. Les pièges connus — fuites mémoire sur les très longs contextes, lenteurs de compilation initiales, incompatibilités CUDA/cuDNN selon les versions — justifient de documenter précisément l’environnement. Un signal récent à ne pas ignorer : un rapport GitHub du 26 septembre 2026 documente une perte totale de réactivité de l’hôte lors d’une inférence MiniMax H3 FL2VA en 864×480 sur un seul Spark GB10, après des exécutions pourtant réussies (github.com). Autrement dit, les charges vidéo lourdes restent un terrain instable, même sur une machine qui « rentre » techniquement le modèle.

Deux garde-fous communautaires permettent de recouper ses propres mesures : le leaderboard Spark Arena, qui héberge des benchmarks par modèle (dont celui de Qwen3.6-27B-NVFP4), et le dataset dgx-spark-benchmarks sur Hugging Face (Djangodevreng). Depuis le 29 septembre 2026, un troisième référentiel est venu s’ajouter : AA-AgentPerf-Local, l’outil open source d’Artificial Analysis qui mesure la vitesse réelle des agents IA sur laptops et stations de travail, avec des résultats de lancement pour le DGX Spark, le Ryzen AI Halo, le MacBook Pro (M5 Pro) et la RTX 5090 sur quatre modèles open weight (artificialanalysis.ai). C’est précisément le type de benchmark « agentique » qui manquait : un test isolé sur une machine ne vaut que s’il est confronté à d’autres, dans des conditions comparables.

Débit et qualité perçue : le duel modèle par modèle

Pour Qwen3.6-27B, les chiffres sont les mieux documentés. En NVFP4 sur GB10, on relève un pic de decode à 163 tokens/s, une génération de 28 à 33 tokens/s en session unique, et jusqu’à 136 tokens/s en scénario multi-agents (10 agents). C’est le profil du modèle discipliné : débit prévisible, qualité stable, contexte de 256K tokens. Son successeur Qwen3.8-27B, testé le 20 août 2026, tourne à 34–38 tokens/s — et un retour de terrain pointe un défaut : un paramètre de raisonnement « xhigh » qui fait exploser les temps de calcul (intelligence-artificielle.com). Un rappel utile : la génération suivante n’est pas toujours le meilleur choix pour un usage donné. À noter que NVIDIA lui-même a mis en avant un test Qwen 3.8 27B jusqu’à 1,7 fois plus rapide sur la configuration 64 Go, ce qui confirme que le couple Qwen + Spark reste la référence de fait (NeoTeo).

Pour Ornith 1.0, la réalité dépend de la taille. Les variantes denses 9B et 31B sont jouables sans contorsion ; le 35B MoE demande une quantification réfléchie ; le 397B MoE reste hors de portée sur une seule Spark. Le benchmark japonais publié sur classmethod donne un aperçu de la qualité linguistique, mais la dégradation après quantification n’est pas documentée de façon chiffrée — prudence donc.

Pour MiMo-V2.6-Pro, le verdict est plus tranché. Avec 1,02 trillion de paramètres totaux, il est inrunnable en BF16 sur une machine unique. Les tests communautaires confirment la réputation : c’est un modèle à consommer via OpenRouter (0,435 $/M en entrée non cachée, 0,87 $/M en sortie selon les tarifs du 22 septembre 2026) ou dans un cloud, pas sur votre bureau. Son intérêt sur Spark relève de l’expérimentation en quantification extrême, avec des réserves sérieuses sur la qualité.

Un mot sur la concurrence, qui éclaire le positionnement du Spark. Le 14 octobre 2026, l’AMD Ryzen AI Halo 192 Go est arrivé chez Micro Center à 7 299,99 $, premier système compact capable de charger des modèles open weight de 300 milliards de paramètres ; les benchmarks indépendants montrent toutefois que le DGX Spark conserve l’avantage en vitesse (TechTimes). La leçon est double : la capacité mémoire ne fait pas tout, et le GB10 reste compétitif sur le débit malgré une capacité inférieure.

Fine-tuning local : ce qui est réaliste, ce qui ne l’est pas

La mémoire unifiée de 128 Go ouvre des portes que la VRAM classique ferme. Le GB10 (sm121) supporte des workflows de fine-tuning documentés — la section dédiée de bidual/awesome-dgx-spark sur DeepWiki détaille l’implémentation sur la plateforme (DeepWiki). En pratique, LoRA et QLoRA sur les petites tailles (Ornith 9B, Qwen3.6-27B) sont réalistes. Sur les MoE et les modèles multimodaux, la donne change : le coût mémoire du fine-tuning dépasse largement celui de l’inférence, et les pièges s’accumulent — checkpointing, gestion de la précision, temps d’entraînement.

Un point de repère utile : le fine-tuning BF16 d’un modèle 35B sur un seul Spark est documenté comme un véritable exploit, rendu possible par la mémoire unifiée mais au prix d’un temps d’entraînement considérable. C’est la frontière pratique : au-delà de cette taille, on bascule sur du distribué.

Pour MiMo-V2.6-Pro, le fine-tuning local est hors de portée : 42 milliards de paramètres actifs à entraîner, c’est un exercice de datacenter. Pour Ornith 397B MoE, c’est encore plus illusoire. La leçon est simple : sur GB10, on fine-tune petit et on infère gros.

Clusters DGX Spark : quand une machine ne suffit plus

NVIDIA a franchi un cap avec PAIR, un logiciel gratuit qui transforme un réseau domestique en cluster d’inférence multi-GPU (msn). Des retours de terrain existent : « I clustered two Nvidia DGX Spark AI boxes in my living room » documente l’expérience concrète. L’agrégation de plusieurs Spark change la donne pour l’inférence de gros MoE et le fine-tuning distribué — mais introduit des contraintes réseau (RDMA, ConnectX-7) et des coûts de synchronisation qui ne s’improvisent pas.

Les chiffres du cluster sont désormais solides. Sur deux Spark en TP=2 avec vLLM et DeepSeek-V4-Flash en FP8, on mesure un débit single-stream d’environ 41 tok/s, un débit agrégé d’environ 350 tok/s à concurrence 32, et un prefill d’environ 1 785 tok/s (août 2026). La taille maximale de modèle supportée grimpe à 405 milliards de paramètres sur deux machines, avec un pool de cache KV partagé de 1 105 096 tokens. C’est ce qui rend le clustering réellement intéressant : il ne s’agit pas seulement d’additionner de la mémoire, mais de faire tenir des modèles et des contextes qu’un seul Spark ne peut pas adresser.

À l’inverse, le single-stream reste le point faible du GB10 : sur un seul Spark, antirez a mesuré environ 14 tok/s en single-stream avec DeepSeek-V4-Flash IQ2_XXS (ds4.c) et un prefill de 410 tok/s (août 2026), tandis qu’une suite llama.cpp GGUF atteint jusqu’à 67 tok/s sur un 35B-A3B. Le message est clair : le Spark brille en débit agrégé et en capacité, pas en latence mono-utilisateur sur les très gros modèles.

La segmentation 64 Go rebat cependant les cartes du cluster. Avec deux Spark 64 Go à 4 999 $ pièce, on obtient 128 Go agrégés pour environ 10 000 $ — soit davantage que le prix d’un seul 128 Go historique, mais avec la possibilité de faire évoluer la capacité par paliers. C’est exactement l’arbitrage que pose Frandroid : « faut-il acheter deux petits plutôt qu’un gros ? » La réponse dépend de votre charge : pour l’inférence mono-modèle, un 128 Go reste plus simple ; pour l’expérimentation et la montée en charge progressive, deux 64 Go offrent une flexibilité que le monolithe n’a pas.

Mise à jour d’octobre 2026 : ce qui a changé sur la machine

Trois évolutions logicielles méritent d’être intégrées à toute évaluation menée aujourd’hui.

D’abord, la mise à jour logicielle d’octobre 2026 accompagne la sortie du 64 Go, avec une salve d’outils locaux et une procédure de migration qui corrige plusieurs pièges de la release de juillet. Toute recette de benchmark doit partir de cette base, sous peine de mesurer une machine qui n’existe plus.

Ensuite, le 19 octobre 2026, NVIDIA a publié une famille de modèles ouverts destinés aux agents locaux en entreprise et sur PC — un mouvement stratégique du vendeur de puces vers le fournisseur d’agents clés en main. Sur un Spark, cela signifie que l’écosystème logiciel ne se limite plus aux modèles tiers : NVIDIA fournit désormais sa propre couche de modèles, avec des architectures, tailles, contextes et licences pensés pour le matériel.

Enfin, côté OS, Microsoft a présenté le 7 octobre 2026 sa vision d’une « Intelligence Hybride » pour Windows, avec des agents IA sécurisés et l’arrivée de DeepSeek V4 Flash en local (blogs.windows.com). Windows 11 26H2 est disponible depuis fin septembre 2026. Pour un utilisateur de DGX Spark, cela ouvre la voie à des workflows hybrides où la machine sert de nœud d’inférence local au sein d’un écosystème Windows — un scénario qui n’existait pas il y a un an.

Verdict : trois modèles, une seule vraie recommandation

Sur un GB10, le match est moins serré qu’il n’y paraît. Qwen3.6-27B en NVFP4 est le seul des trois à cocher toutes les cases : format natif Blackwell, empreinte maîtrisée, débit documenté (28–33 tok/s en mono, 136 tok/s en multi-agents), qualité mesurée (MMLU 0,8446), et compatibilité avec l’écosystème vLLM/TensorRT-LLM. C’est le choix par défaut pour l’agent local, le code et le raisonnement courant.

Ornith 1.0 garde une niche légitime : le japonais. Ses variantes denses 9B et 31B sont jouables, son benchmark linguistique est documenté, et sa licence MIT facilite l’expérimentation. Mais l’absence de données chiffrées sur la dégradation post-quantification en fait un pari, pas une certitude.

MiMo-V2.6-Pro reste ce qu’il est : un excellent modèle open weight que l’on consomme via API, pas sur son bureau. Sur Spark, il relève de l’expérimentation en quantification extrême, avec des réserves sérieuses sur la qualité et aucun benchmark indépendant pour trancher.

La vraie question de l’automne 2026 n’est plus « quel modèle rentre sur 128 Go », mais « quelle configuration Spark pour quel usage ». Un 128 Go pour l’inférence mono-modèle confortable ; deux 64 Go pour la flexibilité et le clustering à moindre coût unitaire ; et, dans tous les cas, une méthodologie de test rigoureuse adossée à Spark Arena et AA-AgentPerf-Local. Le reste, c’est du marketing.

Sources

• hothardware — Perplexity Portable Computer sur DGX Spark (26 août 2026)
• wccftech — optimisation vLLM/llama.cpp sur RTX et DGX (3 septembre 2026)
• classmethod — Ornith 1.0 sur DGX Spark, benchmark japonais
• spark-arena — benchmark Qwen3.6-27B-NVFP4
• recipes.vllm.ai — recette Qwen3.8-27B sur GB10
• Hugging Face — dataset dgx-spark-benchmarks (Djangodevreng)
• DeepWiki — bidual/awesome-dgx-spark, section fine-tuning
• msn — PAIR, cluster d’inférence multi-GPU sur réseau domestique
• Frandroid — DGX Spark 64 Go à 4 999 $, 128 Go au-delà de 6 000 $ (2 octobre 2026)
• Pause Hardware — 64 Go à 4 999 $, 128 Go au-dessus de 6 000 $ (2 octobre 2026)
• Clubic — DGX Spark 64 Go et l’astuce pour dépasser le 128 Go (2 octobre 2026)
• NeoTeo — DGX Spark 64 Go, test Qwen 3.8 27B jusqu’à 1,7× (3 octobre 2026)
• blogs.nvidia.com — DGX Spark 64GB, agents locaux et clusters (2 octobre 2026)
• artificialanalysis.ai — AA-AgentPerf-Local, lancement du 29 septembre 2026
• TechTimes — AMD Ryzen AI Halo 192 Go vs DGX Spark (14 octobre 2026)
• github.com — rapport de perte d’hôte MiniMax H3 FL2VA sur Spark GB10 (26 septembre 2026)
• blogs.windows.com — Windows for Hybrid Intelligence (7 octobre 2026)
• intelligence-artificielle.com — retour de terrain Qwen3.8-27B et paramètre « xhigh »

Article recherché et rédigé automatiquement · Magazine Electrosens