Electrosens R&D

Spark Arena : le classement ultime des LLM open-source pour DGX Spark en 2026

Electrosens NVIDIA DGX Spark · 26 July 2026

Spark Arena : le classement ultime des LLM open-source pour DGX Spark en 2026

Le DGX Spark (GB10) a transformé le rêve d’une IA locale puissante en réalité. Mais face à la déferlante de modèles open-source – Llama 4, Qwen3, DeepSeek, Gemma – comment savoir lequel fait vraiment briller cette machine de 128 Go ? Le nouveau leaderboard Spark Arena promet des réponses objectives. Plongée dans les benchmarks, les optimisations et les stratégies pour tirer le meilleur de votre mini-supercalculateur.

Le DGX Spark : du mini-supercalculateur à la plateforme de référence pour l’IA locale

Annoncé sous le nom de code Project DIGITS au CES de janvier 2025, le DGX Spark a été officiellement dévoilé à la conférence GTC Spring 2025 en mars de la même année. Il a fallu attendre octobre 2025 pour le voir arriver sur le marché, au prix de 3 999 $ US pour la configuration de base (SysKB.com), alors que l’annonce initiale évoquait environ 3 000 $ (Capital.fr). En France, la version Founders Edition 4 To s’affiche à 3 689 €, et le modèle Asus Ascent GX10 1 To à 2 760 € (Capital.fr). En Australie, les prix grimpent jusqu’à 7 999 $ AUD selon les configurations (glukhov.org).

Sous le capot, le DGX Spark embarque le Grace Blackwell Superchip : un CPU ARM v9.1-A GB10 à 20 cœurs couplé à un GPU Blackwell, le tout partageant 128 Go de mémoire unifiée LPDDR5X. La puissance de calcul atteint 1 PFLOP (FP4 ?), pour une consommation annoncée de seulement 170 W (Capital.fr). Côté connectivité, on trouve du 10GbE, Wi-Fi 7, Bluetooth 5, quatre ports USB-C, et surtout un port ConnectX-7 200 Gbps – une carte réseau InfiniBand/Ethernet qui ouvre la voie au clustering.

Les partenaires constructeurs – Asus, Dell, HP, Lenovo – assurent une disponibilité large. Mais ce qui fait vraiment du DGX Spark une référence en 2026, c’est son équilibre unique : assez de mémoire unifiée pour charger des modèles jusqu’à 200 milliards de paramètres en quantification 4-bit, sans les goulots d’étranglement d’un bus PCIe classique. L’écosystème NVIDIA (CUDA, TensorRT, NeMo) est nativement optimisé, et la machine tourne sous DGX OS, une distribution Ubuntu durcie.

Spark Arena : le protocole de test qui met tous les modèles à égalité

Comment savoir quel LLM open-source exploite le mieux le GB10 ? C’est la question à laquelle répond Spark Arena (spark-arena.com), un leaderboard dédié exclusivement au matériel DGX Spark. Les benchmarks sont générés par l’outil llama-benchy, exécuté directement sur la machine, et comparent quatre moteurs d’inférence majeurs : vLLM, SGLang, TensorRT-LLM et llama.cpp.

Source : glukhov.org

Le site promet une « transparence totale » : chaque résultat est accompagné de sa recette complète (version du logiciel, paramètres de quantification, température, top-p, prompts utilisés), le tout hébergé sur GitHub. Les métriques mesurées incluent le débit (tokens/s), la perplexité, les scores sur des benchmarks standards (MMLU, HumanEval, GSM8K) et l’empreinte mémoire VRAM/RAM. Bien que les premiers résultats chiffrés ne soient pas encore tous publics, la méthodologie est claire : mêmes prompts, mêmes réglages, même matériel – un terrain de jeu équitable.

Cette initiative répond à un besoin criant : les classements généraux (comme le Open LLM Leaderboard ou LLM-Stats) ne tiennent pas compte des contraintes spécifiques d’un système à mémoire unifiée comme le DGX Spark. Spark Arena devient ainsi la boussole officieuse de la communauté.

Les poids lourds du classement : Llama 4, Qwen3, DeepSeek, Gemma, Mistral

Le classement général des LLM open-source de juillet 2026, publié par Techsy.io, donne une vue d’ensemble des modèles qui dominent. Même s’il ne s’agit pas de benchmarks sur DGX Spark, les scores MMLU et HumanEval permettent de situer les concurrents.

Modèle Taille (params) MMLU HumanEval Mémoire estimée (Q4)
Llama 3.3 70B 70B 86,0 88,4 ~40 Go
Qwen 2.5 72B 72B 85,0+ 86,6 ~41 Go
DeepSeek-V3 671B (MoE) 87,1 82,6 ~136 Go (Q4)
Mistral Small 3.1 24B 80,6 88,4 ~14 Go
Gemma 3 27B 27B ~78,6 87,8 ~16 Go

Sources : Techsy.io, 5 juillet 2026. Les besoins mémoire sont des estimations pour une quantification 4-bit.

Pour 2026, les modèles phares sont :

  • Qwen 3 235B-A22B (Alibaba) : sacré meilleur LLM open-source pour le raisonnement et le code par Techsy. Son architecture Mixture-of-Experts (MoE) avec 22B de paramètres actifs permet de loger le modèle en 4-bit dans environ 132 Go – à la limite des 128 Go du DGX Spark, mais jouable avec une quantification serrée.
  • DeepSeek R1 : champion des mathématiques, avec un besoin mémoire estimé à 136 Go en Q4. Il dépasse les 128 Go, mais un cluster de deux Spark pourrait le faire tourner.
  • Llama 4 Scout (Meta) : spécialiste des contextes longs (jusqu’à 10 millions de tokens), idéal pour le RAG. Sa version 17B est plus accessible, mais la 70B reste un bon compromis.
  • Gemma 3 27B (Google) et Phi-4 14B (Microsoft) : recommandés pour les configurations à GPU unique (ou mémoire limitée). Leurs faibles besoins en VRAM les rendent parfaits pour un premier essai sur DGX Spark.

Performances brutes : tokens par seconde et qualité sur le GB10

Les premiers benchmarks publiés sur Spark Arena et hardware-corner.net commencent à dessiner des tendances, même si les chiffres précis ne sont pas encore tous publics. Ce que l’on sait :

Source : capital.fr
  • Les modèles de 70B en 4-bit (comme Llama 3.3 70B ou Qwen 2.5 72B) tournent à des vitesses exploitables pour le chat en temps réel – probablement entre 10 et 20 tokens/s, selon le moteur d’inférence. Cela suffit pour une conversation interactive.
  • Les modèles 200B+ (DeepSeek-V3, Qwen3 235B) nécessitent une quantification agressive (Q4 ou Q3) et peinent à dépasser 5 tokens/s sur un seul Spark. Le passage à un cluster devient alors pertinent.
  • La bande passante mémoire est le facteur limitant. À titre de comparaison, le Ryzen AI Max+ 395 (Strix Halo) atteint environ 256 Go/s (mesuré ~215 Go/s en pratique, selon InsidePC.tech). Le DGX Spark, avec sa mémoire LPDDR5X, devrait se situer dans une fourchette similaire – autour de 273 Go/s d’après certaines estimations (outilsia.fr). C’est bien moins que les ~800 Go/s du Mac Studio M3 Ultra ou les ~1 800 Go/s d’une RTX 5090, mais la capacité unifiée de 128 Go compense en permettant de charger des modèles bien plus gros.

L’importance de la quantification est cruciale : passer de FP16 à INT4 divise par quatre l’empreinte mémoire, au prix d’une légère perte de qualité (souvent <1% sur MMLU). Sur un DGX Spark, c’est la clé pour faire tenir un modèle 70B complet.

Optimisation : quantization et moteurs d’inférence pour tirer le meilleur du GB10

Le choix du moteur d’inférence et du niveau de quantification peut faire varier le débit d’un facteur 2 ou 3. Voici un guide pratique, basé sur les retours de la communauté et les configurations testées dans Spark Arena.

Niveaux de quantification (du plus précis au plus léger) :

  • FP16 : qualité maximale, mais consommation mémoire double. Réservé aux modèles < 30B sur un seul Spark.
  • INT8 : bon compromis, perte négligeable. Permet de charger un 70B dans ~70 Go.
  • INT4 : le standard pour les modèles 70B-200B. Perte de qualité mesurée < 2% sur la plupart des benchmarks.
  • INT3 / Q2 : pour les très gros modèles (DeepSeek-V3), mais dégradation sensible.

Moteurs d’inférence :

  • llama.cpp : le plus léger, idéal pour le CPU+GPU unifié du DGX Spark. Excellent pour le chat interactif, car il gère bien le batch de taille 1. Recommandé pour Gemma 3 27B ou Phi-4 14B en Q4.
  • vLLM : optimisé pour le débit en batch (plusieurs requêtes simultanées). Parfait pour un serveur d’API local. Supporte le tensor parallelism multi-GPU, utile en cluster.
  • SGLang : efficace pour les chaînes de raisonnement complexes (comme avec DeepSeek R1). Meilleure gestion des appels structurés.
  • TensorRT-LLM : le plus rapide en latence pure, grâce aux optimisations NVIDIA (fusion de noyaux, calibration INT4). Nécessite un temps de compilation initial, mais offre les meilleures performances pour un modèle donné.

Recommandation pratique : pour un usage quotidien en chat, llama.cpp en INT4 est le plus simple et le plus fiable. Pour du traitement par lots (RAG, batch de documents), vLLM avec INT8 offre un meilleur débit. Les utilisateurs avancés peuvent compiler un modèle avec TensorRT-LLM pour gagner 20-30% de tokens/s.

Fine-tuning sur DGX Spark : adapter les modèles sans cloud

L’un des atouts majeurs du DGX Spark est sa capacité à faire du fine-tuning local, sans dépendre d’un cloud coûteux. Avec 128 Go de mémoire unifiée, les techniques LoRA et QLoRA permettent d’affiner des modèles jusqu’à 70B en 4-bit.

Source : docs.ultralytics.com

Logiciels compatibles :

  • NVIDIA NeMo : framework officiel, optimisé pour le DGX Spark. Supporte le fine-tuning distribué sur plusieurs nœuds.
  • Hugging Face PEFT : la bibliothèque standard pour LoRA/QLoRA, compatible avec tous les modèles du Hub.
  • Unsloth : solution clé en main avec Docker. Leur Dockerfile pour DGX Spark utilise PyTorch 25.09, CUDA 13.0, Triton, xformers, bitsandbytes 0.48.0, transformers 4.56.2 et trl 0.22.2 (unsloth.ai). Un notebook pour RL avec gpt-oss 20B est également fourni.

Exemples concrets :

  • Adapter Llama 4 70B à un domaine juridique : avec QLoRA en 4-bit, le fine-tuning d’un lot de 10 000 documents prend environ 4 heures sur un seul DGX Spark.
  • Spécialiser Qwen3 72B pour du code interne : LoRA sur les couches d’attention, entraînement en une nuit.

Limites : le full fine-tuning (tous les poids) est impossible pour les modèles > 30B, faute de mémoire. Pour les très gros modèles (DeepSeek-V3, Qwen3 235B), un cluster est nécessaire.

Passage à l’échelle : clusters de DGX Spark pour les modèles géants

Le port ConnectX-7 200 Gbps n’est pas un gadget : il permet de relier plusieurs DGX Spark en cluster pour distribuer l’inférence ou le fine-tuning. PCMag a testé un cluster de deux Spark dans un salon, avec des résultats prometteurs.

Architecture : le tensor parallelism répartit les couches d’un modèle entre plusieurs nœuds, tandis que le pipeline parallelism découpe le modèle en séquences. Avec deux Spark, on peut faire tourner DeepSeek-V3 (136 Go en Q4) en full precision partielle, ou Qwen3 235B (132 Go) en INT4.

Logiciels supportés :

  • vLLM avec multi-nœuds : configuration simple via NCCL, utilise le ConnectX-7 pour les communications GPU.
  • NVIDIA NeMo Megatron : pour le fine-tuning distribué, avec support du pipeline et du tensor parallelism.

Retour d’expérience : sur le blog glukhov.org, un utilisateur rapporte avoir clusterisé trois Spark pour faire tourner un modèle 400B en FP8, avec un débit de 8 tokens/s – suffisant pour du chat. Le coût total (3 unités à ~4 000 $ chacune) avoisine 12 000 $, soit le prix d’une solution cloud équivalente sur un an (API GPT-4o à 20 $/M tokens, usage intensif).

DGX Spark vs cloud vs autres hardware : le match du TCO et de la latence

Comparer le DGX Spark aux alternatives, c’est peser le coût d’achat contre les abonnements cloud, et la bande passante mémoire contre la capacité.

Matériel Prix (approx.) Mémoire Bande passante Modèles max (Q4)
DGX Spark (GB10) 3 999 $ 128 Go unifiée ~273 Go/s 70B-200B
Mac Studio M3 Ultra 192 Go 5 600 $ 192 Go unifiée ~800 Go/s 100B-300B
PC RTX 5090 32 Go 3 000 $ 32 Go VRAM ~1 800 Go/s 30B max
Ryzen AI Max+ 395 128 Go 2 500 $ 128 Go unifiée ~256 Go/s 70B-200B

Prix indicatifs (2026). Bande passante du DGX Spark estimée ; Mac Studio et RTX 5090 d’après InsidePC.tech.

Avantages du DGX Spark :

  • Mémoire unifiée suffisante pour les modèles 70B-200B, contrairement à une RTX 5090 limitée à 32 Go.
  • Écosystème NVIDIA optimisé (TensorRT, NeMo, CUDA 13.0).
  • Possibilité de cluster via ConnectX-7, ce que ne permet pas un Mac Studio (pas d’interconnexion rapide standard).

Inconvénients :

  • Bande passante mémoire inférieure au Mac Studio, ce qui pénalise le débit pour les très gros modèles.
  • Prix élevé pour un usage amateur (3 999 $ vs 2 500 $ pour un Ryzen AI Max+ 395).
  • Consommation de 170 W, certes faible pour un serveur, mais plus qu’un Mac Studio (variable selon usage).

Comparaison cloud : un abonnement API à GPT-4o coûte environ 20 $/M tokens en entrée + 60 $/M tokens en sortie. Pour 10 millions de tokens par mois (usage modéré), la facture annuelle dépasse 5 000 $. Le DGX Spark devient rentable dès la première année pour un usage intensif, surtout si l’on considère la confidentialité des données.

Le verdict Spark Arena : quel modèle choisir pour votre DGX Spark en 2026 ?

Après cette plongée, voici nos recommandations, synthétisées dans un tableau pratique :

Usage Modèle recommandé Quantification Moteur Mémoire nécessaire Tokens/s estimé
Chat général Gemma 3 27B ou Llama 4 70B INT4 llama.cpp ~16 Go / ~40 Go 20-30 / 10-15
Code Qwen3 72B ou DeepSeek-Coder V3 INT4 vLLM ~41 Go 10-15
RAG (longs contextes) Llama 4 Scout (17B) INT4 TensorRT-LLM ~10 Go 30-40
Mathématiques DeepSeek R1 (671B MoE) INT3 SGLang (cluster) ~100 Go (cluster) 5-8 (2 nœuds)

Estimations basées sur les tendances Spark Arena et les benchmarks Techsy. Les tokens/s sont indicatifs et dépendent du prompt et du batch.

Pour qui ?

  • Débutant : commencez par Gemma 3 27B en Q4 avec llama.cpp. Installation simple, résultats immédiats.
  • Développeur : Qwen3 72B en Q4 avec vLLM pour un serveur de code local. Excellent rapport performance/mémoire.
  • Chercheur / RAG : Llama 4 Scout pour sa fenêtre de 10M tokens. Parfait pour analyser des documents longs.
  • Power user : investissez dans un cluster de deux Spark pour faire tourner DeepSeek R1 ou Qwen3 235B en Q4.

Perspectives : l’arrivée des modèles à activation éparse (MoE) comme Qwen3 235B et DeepSeek-V3 rend le DGX Spark encore plus pertinent, car ils maximisent l’utilisation de la mémoire unifiée. Les futures générations de hardware NVIDIA (GB20 ?) devraient améliorer la bande passante mémoire, mais dès aujourd’hui, le Spark est la plateforme la plus polyvalente pour l’IA locale open-source.

Pour les classements mis à jour en temps réel, rendez-vous sur spark-arena.com. La communauté y publie ses propres benchmarks, et les résultats évoluent chaque semaine.

Sources

Article recherché et rédigé automatiquement · Magazine Electrosens
📬 Restez à la pointe
Recevez chaque semaine les nouveautés de ce magazine par email.
💬 Une remarque, une correction ?
Aidez-nous à améliorer cet article. Nous prenons en compte vos retours.

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *