Electrosens R&D
Electrosens Magazine LLM Opensource · 8 November 2026

DeepSeek V4, Kimi K3, Qwen3.8-Max, Muse Spark Open : anatomie de l’année où les LLM open source ont basculé

Le 24 avril 2026, DeepSeek dévoilait V4, un modèle Mixture-of-Experts de 1,6 trillion de paramètres totaux, ouvert sous licence MIT, avec une fenêtre de contexte d’un million de tokens et des performances annoncées proches des meilleurs modèles propriétaires. À un coût d’inférence six à sept fois inférieur à celui de Claude Opus 4.7 ou GPT-5.5, ce modèle chinois a relancé la compétition open-source et posé des questions géopolitiques inédites. Six mois plus tard, l’écosystème a encore basculé : DeepSeek a levé 50 milliards de dollars, Kimi K3 (2,8 billions de paramètres) a été publié en open weight le 27 juillet, Qwen3.8-Max (2,4 billions) a suivi le 3 août, Meta a riposté à l’automne avec Muse Spark Open (816 milliards de paramètres, 42 milliards actifs), et Z.ai a dégainé GLM-5.3 le 14 août. Fin août, Tencent a ouvert à son tour Hy4 (770B) en preview, avant que DeepSeek ne frappe une nouvelle fois avec V4.1 Flash en septembre et que Cloudflare n’entre dans l’arène avec Clef début octobre. Plongée dans ce qui restera comme le tournant de l’année 2026 pour les LLM ouverts.


De Hangzhou à la domination : comment DeepSeek a construit un rival open-source aux GAFAM

DeepSeek est une entreprise chinoise basée à Hangzhou, spécialisée dans la recherche en intelligence artificielle. Si les détails précis sur son équipe fondatrice et son financement restent peu documentés publiquement, la société s’est imposée en moins de deux ans comme un acteur incontournable des LLM open-source. La chronologie des versions est éloquente : après DeepSeek V2 et V3, puis le modèle de raisonnement R1, DeepSeek a enchaîné avec V4 Preview le 24 avril 2026, comme l’a rapporté Le Monde. Cette accélération s’inscrit dans une stratégie chinoise d’ouverture des modèles, en réponse directe aux restrictions d’exportation américaines sur les puces NVIDIA haut de gamme.

DeepSeek utilise notamment des puces Huawei (les Ascend 910B) pour contourner les limitations, comme le rapporte une analyse de la RTS. Cette dépendance au matériel chinois n’est pas anodine : elle permet à DeepSeek de maintenir une capacité d’entraînement malgré l’embargo, mais soulève aussi des questions sur la performance relative de ces puces face aux H100 ou B200 américaines. L’entreprise a néanmoins réussi à pré-entraîner V4 sur plus de 32 trillions de tokens en précision mixte FP4 et FP8, un exploit technique qui témoigne d’une optimisation logicielle poussée.

La stratégie open-source de DeepSeek est claire : en publiant les poids sous licence MIT, elle cherche à capter la communauté des développeurs mondiaux, à créer un écosystème autour de ses modèles, et à s’imposer comme une alternative crédible aux GAFAM. Comme le souligne un article de Forbes, cette approche « reshape the open-source AI race » en offrant des performances quasi état-de-l’art à un coût dérisoire. Mais ce choix n’est pas sans controverse, comme nous le verrons plus loin.

Valorisation record en juin 2026 — Le 17 juin 2026, DeepSeek a clôturé un tour de financement à une valorisation de 50 milliards de dollars, selon France 24 et Creati.ai. Cette levée, la plus importante pour une start-up chinoise d’IA, confirme la confiance des investisseurs dans la capacité de DeepSeek à rivaliser avec OpenAI et Anthropic. Elle intervient alors que la Chine représente 74 % des brevets mondiaux en IA (rapport Stanford 2026), contre 12 % pour les États-Unis, et que l’écart de performance entre les meilleurs modèles américains et chinois n’est plus que de 2,7 %.

V4 Pro quitte la preview le 12 août — Après près de quatre mois de phase de prévisualisation, DeepSeek a publié le 12 août 2026 la version de production de son modèle phare, désignée V4 Pro 0813, comme l’a rapporté Unite.ai. Cette sortie marque la fin de la période de preview et officialise le passage en production d’un modèle qui a déjà conquis une large base d’utilisateurs. Le même jour, DeepSeek a également confirmé que son alias API deepseek-v4-pro pointe désormais vers cette version stable, mettant fin à une période de transition qui avait semé la confusion chez certains développeurs (source : elser.ai). Un point de repère utile pour les équipes qui évaluent encore les quatre familles chinoises : le snapshot de référence à retenir côté DeepSeek est bien V4-Pro-0813, et non les builds de preview d’avril.

DeepSeek Harness, le rival open source de Claude Code — Le 12 août également, DeepSeek a lancé Harness, un outil open source concurrent direct de Claude Code, en même temps que la mise à disposition de V4-Pro sur son API avec des prix revus à la hausse (source : VentureBeat). Harness permet aux développeurs d’exécuter des agents de codage autonomes en local, s’appuyant sur V4-Pro ou V4-Flash, et s’inscrit dans la stratégie de DeepSeek de contrôler toute la chaîne, du modèle à l’outillage. Ce lancement a été salué par la communauté open source comme une étape importante vers la démocratisation des agents de programmation, jusqu’ici dominés par les solutions propriétaires comme Claude Code ou GitHub Copilot.

V4.1 Flash : le coup de septembre — Le 10 septembre 2026, DeepSeek a remis une pièce dans la machine avec V4.1 Flash, présenté par le compte @kimmonismus comme « un saut rapide après la version de juillet » (source : ai-side.com). Le modèle adopte une architecture Causal Encoder Decoder, compte 552 milliards de paramètres MoE et bénéficie d’un KV cache nettement réduit — un point crucial pour l’inférence longue sur du matériel modeste. Mais c’est surtout le tarif qui a fait basculer la comparaison : selon VentureBeat, V4.1 Flash débarque avec un prix d’entrée mis en cache hors pointe de 0,003 $ par million de tokens, accompagné de benchmarks qui éclipsent GPT-5.6 Sol et Claude Opus 5. Ce chiffre — trois dixièmes de centime pour un million de tokens — change littéralement l’équation économique du déploiement à grande échelle et explique pourquoi tant d’équipes ont réévalué leur pile d’inférence à l’automne.

La grille tarifaire officielle, vérifiée sur la plateforme DeepSeek — La page développeur de DeepSeek confirme aujourd’hui deux modèles servis en API, DeepSeek-V4-Flash et DeepSeek-V4-Pro, avec un cache automatique et un tarif de « cache hit » réduit, une fenêtre allant jusqu’à 1M de tokens et des capacités d’usage d’outils agentiques. Les valeurs affichées sur la plateforme (0,0028 / 0,14 / 0,28 pour V4-Flash ; 0,003625 / 0,435 / 0,87 pour V4-Pro, en dollars par million de tokens selon la grille cache-hit / entrée / sortie) doivent toutefois être lues avec prudence : la plateforme précise elle-même que « les prix peuvent changer » et renvoie à la documentation API pour les tarifs en vigueur. C’est cette grille — et non les chiffres ronds colportés sur les réseaux — qu’il faut surveiller avant tout arbitrage de coût.


1 000 milliards de paramètres, 49 milliards actifs : plongée dans l’architecture MoE de V4

DeepSeek V4 repose sur une architecture Mixture-of-Experts (MoE) qui permet d’activer seulement une fraction des paramètres totaux pour chaque token traité. Le modèle se décline en deux variantes :

Paramètres des modèles DeepSeek V4 (en milliards)V4-Pro (totaux)1600milliards de paramètresV4-Pro (actifs)49milliards de paramètresV4-Flash (totaux)284milliards de paramètresV4-Flash (actifs)13milliards de paramètres
Variante Paramètres totaux Paramètres actifs Fenêtre de contexte Sortie max
V4-Pro 1,6 trillion 49 milliards 1 million tokens 384 000 tokens
V4-Flash 284 milliards 13 milliards 1 million tokens 384 000 tokens

Les sources s’accordent sur ces chiffres (deepseek.fr, akaor.fr, deepseek-fr.ai, wavect.io). Le nombre exact d’experts dans le MoE n’est pas divulgué, mais le mécanisme de routage est optimisé par un nouveau système d’attention baptisé DeepSeek Sparse Attention. Cette attention hybride combine une attention dense locale (HCA) et une attention sparse globale (CSA), permettant de gérer efficacement la fenêtre de contexte d’un million de tokens sans explosion du coût mémoire.

Ce principe de sélection sparse des paramètres actifs — routage top-k, équilibrage de charge entre experts — est désormais le socle commun de toute la vague open-weight, et un sujet d’analyse à part entière : une synthèse récente de topai-tools.org explique comment cette sélection sparse réduit la charge GPU en entreprise sans sacrifier la profondeur de raisonnement. C’est exactement le compromis que DeepSeek exploite : un modèle « énorme sur le papier », mais dont le coût par token reste celui d’une fraction activée.

La gestion du contexte long repose vraisemblablement sur des techniques de RoPE (Rotary Position Embedding) et de cache mémoire optimisé, bien que les détails précis ne soient pas confirmés indépendamment. DeepSeek propose deux modes de fonctionnement : Thinking (raisonnement pas à pas, similaire à la chaîne de pensée) et Non-Thinking (réponse directe). Cette flexibilité permet d’adapter le comportement du modèle selon la tâche — un point que le comparatif d’diaryfolio met en avant comme l’un des arguments sérieux en faveur de V4-Pro-0813 face à ses rivaux.

Le pré-entraînement a été réalisé en précision mixte FP4 et FP8, ce qui réduit considérablement l’empreinte mémoire et accélère l’inférence. Les poids sont publiés sur Hugging Face sous licence MIT, permettant à quiconque de télécharger et d’exécuter le modèle localement. Le dépôt officiel de V4 Flash pèse 166,9 Go, ce qui en fait de loin le plus léger des trois géants chinois — Kimi K3 exige environ 1,56 To de stockage et Qwen3.8-Max n’est pas en reste (source : kingy.ai, wavect.io). Cette différence de gabarit n’est pas cosmétique : elle détermine qui peut réellement self-hoster le modèle sur une machine unique, et qui doit passer par un cluster.

Compatibilité avec les outils de fine-tuning — DeepSeek V4 est nativement supporté par les frameworks de fine-tuning les plus populaires de 2026. Unsloth, par exemple, permet de fine-tuner V4-Flash avec LoRA sur du matériel grand public (8 Go de VRAM suffisent pour des adaptations légères), tandis que des plateformes comme SiliconFlow offrent des pipelines de fine-tuning en trois étapes (upload, config, déploiement) avec des vitesses d’inférence jusqu’à 2,3 fois plus rapides que la moyenne du marché — SiliconFlow propose d’ailleurs Hy4-preview en accès immédiat sur sa plateforme. Les méthodes paramétriques matures — LoRA, QLoRA, DoRA — sont désormais les trois piliers du fine-tuning efficace, permettant d’adapter des modèles géants sur du matériel accessible : avec QLoRA, un modèle 7B se fine-tune sur un simple RTX 3090 (environ 6 Go de VRAM), et un 70B sur 48 Go. Pour mémoire, l’affinage complet d’un 7B réclame environ 112 Go, contre 28 Go en LoRA et 6 Go en QLoRA — un rapport de plus de 1 700 fois sur les paramètres réellement entraînés avec un rang r=8, comme le détaille ce guide pratique LoRA/QLoRA.


Benchmarks : que valent vraiment les scores annoncés par DeepSeek ?

DeepSeek a communiqué des résultats de benchmarks impressionnants, mais il faut les prendre avec précaution en l’absence de vérification indépendante exhaustive. Voici les scores revendiqués par l’entreprise, compilés à partir de plusieurs sources (NxCode, deepseekv.pro, VentureBeat) :

  • SWE-bench : 81 % (V4-Pro) – un score qui place le modèle au niveau des meilleurs modèles de codage.
  • Codeforces : 3206 (V4-Pro) – un niveau compétitif, dépassant de nombreux modèles propriétaires.
  • MMLU-Pro : égal à GPT-5.4 selon studeria.fr.
  • HumanEval : non précisé dans les sources, mais les performances en programmation sont saluées comme les meilleures du marché open-source.

DeepSeek affirme que V4-Pro surpasse Claude Sonnet 4.5 et approche Claude Opus 4.5, tandis que V4 Pro Max (une variante non encore sortie) dépasserait GPT-5.2 et Gemini 3.0-Pro, tout en restant légèrement en dessous de GPT-5.4 et Gemini 3.1-Pro (source : akaor.fr). Ces comparaisons sont toutefois basées sur les propres benchmarks de DeepSeek, et non sur des classements tiers comme LMSys Chatbot Arena ou le leaderboard Hugging Face.

Un point important : les conditions de test (few-shot, température, nombre d’échantillons) ne sont pas documentées dans les sources accessibles. Il est donc difficile d’évaluer la robustesse de ces scores. Néanmoins, plusieurs analystes indépendants (VentureBeat, TechCrunch) confirment que DeepSeek V4 « closes the gap with frontier models », avec un retard estimé à 3-6 mois sur les meilleurs modèles propriétaires. En attendant les résultats du LMSys Chatbot Arena, ces chiffres doivent être considérés comme prometteurs mais non définitifs.

Concurrence chinoise : l’été 2026 a tout changé — Depuis juillet 2026, la hiérarchie a été bouleversée. Le 16 juillet, Moonshot AI a dévoilé Kimi K3, un modèle de 2,8 billions de paramètres — le plus gros jamais publié en open weight — avec 896 experts dont 16 activés (104 milliards de paramètres actifs). Ses poids complets (1,56 To) ont été mis en ligne sur Hugging Face le 27 juillet. Selon les benchmarks, Kimi K3 dépasse Fable 5 sur Terminal-Bench et talonne GPT-5.6 Sol. Le 3 août, Alibaba a riposté avec Qwen3.8-Max, un modèle de 2,4 billions de paramètres en open weights, avec une fenêtre de 1 million de tokens et des capacités multimodales avancées. DeepSeek V4 reste néanmoins le leader incontesté du codage agentique, avec un score SWE-bench qui n’a pas encore été égalé par ses rivaux chinois.

GLM-5.3, le challenger qui monte — Le 14 août 2026, Z.ai (laboratoire pékinois) a publié GLM-5.3, un modèle MoE de 743 milliards de paramètres (753B selon certaines sources) qui réutilise la base de GLM-5.2 sans aucun nouveau paramètre, mais avec un post-entraînement intensif. Les résultats sont spectaculaires : Terminal-Bench 3.0 passe de 4,6 % à 28,3 % grâce au seul post-entraînement. Attention toutefois à un détail que le comparatif de diaryfolio souligne avec raison : à sa date d’arrêté (22 août 2026), les poids de GLM-5.3 étaient encore annoncés « deux semaines après le lancement » mais non disponibles, et la licence finale n’était pas vérifiable. GLM-5.3 est donc un excellent candidat pour un pilote en API sur du codage longue haleine ou de la recherche en sécurité défensive, mais décider d’un déploiement open-weight sur cette base aurait été prématuré. C’est un rappel utile : « open weight annoncé » n’est pas « open weight disponible ».

Le grand comparatif de fin d’été — Le même comparatif d’août 2026 propose une lecture par scénario plutôt qu’un vainqueur universel, et c’est probablement la grille la plus honnête disponible :

  • Kimi K3 pour un modèle téléchargeable, nativement multimodal, avec 1M de tokens de contexte et de solides preuves en codage agentique — au prix d’une licence sur mesure et d’un déploiement à l’échelle d’un datacenter.
  • Qwen3.8-Max quand le travail multimodal hébergé et la préférence en développement web priment — en gardant en tête que le service Max hébergé et le checkpoint téléchargeable 2,4T-A95B sont deux produits liés mais non identiques.
  • DeepSeek-V4-Pro-0813 quand un checkpoint sous licence permissive, un mode « thinking » flexible et une API first-party agressive comptent plus que la tête du classement de préférence WebDev.
  • GLM-5.3 en pilote, pour le codage longue haleine et la sécurité défensive.

Aucun score unique ne couvre qualité, latence, fiabilité des outils, obligations de licence, sécurité et coût d’exploitation. C’est la leçon la plus solide de l’été.


Muse Spark Open : la riposte américaine arrive à l’automne

Longtemps, la vague open-weight est restée une affaire sino-chinoise. L’automne 2026 a changé la donne. Le 15 octobre 2026, Meta a publié Muse Spark Open, présenté par research.meta.ai comme « le modèle open-weight américain le plus capable à ce jour », avec des capacités agentiques de premier plan et un objectif affiché : faire tourner ces agents sur le bureau, jusqu’à un Apple M5 Ultra Mac Studio. Les chiffres, compilés par iaexpertos et blockchain.news : 816 milliards de paramètres totaux, 42 milliards actifs, fenêtre de contexte d’un million de tokens, un profil MoE taillé pour le codage et le travail agentique.

Source : akaor.fr

Le détail qui compte pour ceux qui déploient : Muse Spark Open existe en BF16 et en NVFP4, et Meta documente un chemin de déploiement via SageMaker JumpStart (source : ireadcustomer). Le guide pratique publié sur Hugging Face le 16 octobre insiste sur le même point : la quantification n’est plus un ajustement cosmétique, c’est ce qui rend un 816B réellement servable. Un modèle de cette taille en BF16 réclame une infrastructure de datacenter ; en NVFP4, il redevient envisageable sur du matériel haut de gamme local. C’est précisément la promesse — « le plus capable des modèles ouverts américains, sur votre bureau » — qui distingue Muse Spark Open des titans chinois.

Reste une nuance de taille, que le titre de the-agent-report résume brutalement : « 816B, 560B, 120B en un jour : la vague open-weight se heurte désormais à un mur de mémoire ». La multiplication de modèles toujours plus gros ne résout pas le problème physique de la VRAM. Un modèle n’est utile que si quelqu’un peut l’exécuter, et l’écart entre « publié » et « déployable » n’a jamais été aussi large.


Ce que l’automne change vraiment : vitesse, outillage, souveraineté

La vraie histoire de 2026 n’est peut-être pas celle des records de paramètres, mais celle de l’infrastructure qui rend ces modèles utilisables.

L’inférence se déplace sur TPU. Le 20 octobre 2026, Google a annoncé sur son blog développeur des versions TPU de vLLM et SGLang, les deux moteurs d’inférence open source de référence (source : note.com). Pour les équipes qui self-hostent des modèles ouverts, cela signifie une alternative crédible au tout-GPU NVIDIA, avec des implications directes sur le coût par token à grande échelle. Ce n’est pas un changement qui affecte l’utilisateur de ChatGPT ou Claude au quotidien — c’est un changement pour ceux qui font tourner les modèles eux-mêmes, et ils sont de plus en plus nombreux.

llm-d 1.0 : le serving distribué se standardise. Le 20 octobre 2026, à la PyTorch Conference North America, les contributeurs du projet llm-d ont annoncé la version 1.0, une pile de serving d’inférence distribuée native Kubernetes, avec IBM Research parmi les annonceurs (sources : Unite.ai, toolnavs). Concrètement : déployer un MoE de plusieurs centaines de milliards de paramètres sur un cluster devient une opération d’orchestration standard plutôt qu’un projet de recherche.

Mercury 3 et la menace diffusion. Le 19 octobre 2026, Inception a publié Mercury 3, présenté comme le modèle à diffusion le plus capable à ce jour, avec un tarif de lancement de 0,10 $ par million de tokens en entrée (source : Unite.ai). Les mesures rapportées par iXBT et ecclesieagazzi évoquent plus de 1 000 tokens par seconde (1 068 exactement selon iXBT) avec un contexte de 1M de tokens, et des performances qui dépasseraient GPT-6 Luna et Claude sur certains axes. Mercury 3 n’est pas open weight, mais il bouscule l’hypothèse selon laquelle l’avantage de vitesse appartiendrait aux modèles autorégressifs optimisés. Les tests pratiques de mindstudio.ai sur le raisonnement, le rappel factuel, le multilingue et le codage agentique donnent une idée plus nuancée : la vitesse de génération ne se traduit pas mécaniquement en qualité de raisonnement. À suivre de près pour quiconque construit des pipelines à très haut débit.

L’open source vocal entre dans la danse. Le 28 octobre 2026, NVIDIA a publié Nemotron 3.5 Transcribe, un modèle vocal open-weight qui transcrit 40 langues (dont le français), distingue les locuteurs, traduit et répond à des questions sur l’audio, le tout dans un seul modèle — accompagné de la version 2 du dataset Granary et de ses 463 062 heures d’audio (sources : TechCrunch, SiliconANGLE, Unite.ai, lefilia). Limite importante signalée par TechCrunch : le modèle ne fonctionne que sur des enregistrements, pas sur de l’audio en direct — un pas de géant pour la transcription de réunions et de dossiers médicaux, pas encore pour les assistants temps réel. C’est un rappel que l’écosystème open-weight ne se résume pas aux LLM texte : l’audio ouvert rattrape son retard.

Souveraineté : l’Europe avance aussi. Le 3 octobre 2026, Aleph Alpha a publié Kolibri-1, un MoE de 78,1 milliards de paramètres totaux pour 3,46 milliards actifs (~4,4 % d’activation), sous licence Apache 2.0, avec une fenêtre maximale de 1 048 576 tokens (environ 262 144 recommandés en production), en BF16 et FP8, centré sur l’allemand et l’anglais. Ses scores : 61,4 % sur BFCL v4, 76,7 % sur Tau2-Bench Airline, 69,9 % sur Tau2-Bench Retail, 94,7 % sur Tau2-Bench Telecom, 38,1 % sur Tau3-Bench Banking. Ce n’est pas un concurrent frontal de V4-Pro, mais c’est un signal : l’Europe produit désormais des modèles ouverts sérieux, permissifs et documentés.


Derrière les records : licences, benchmarks, sécurité et géopolitique

La question de la licence mérite d’être posée frontalement, car « open weight » ne veut pas dire « open source ». DeepSeek V4 est sous MIT — l’une des licences les plus permissives qui soient. Kimi K3, en revanche, est distribué sous une licence sur mesure : téléchargeable, oui, mais avec des clauses qu’il faut lire avant un usage commercial à grande échelle. Qwen3.8-Max illustre un autre piège : le service hébergé « Max » et le checkpoint téléchargeable 2,4T-A95B sont deux produits liés mais non identiques, et confondre les deux dans une décision d’architecture est une erreur coûteuse. GLM-5.3, enfin, illustre le cas le plus frustrant : des poids annoncés, pas encore livrés à la date d’arrêté des comparatifs.

Source : infosia.fr

Côté benchmarks, la prudence reste de mise. Les scores SWE-bench, Codeforces ou Terminal-Bench sont majoritairement auto-déclarés, avec des conditions de test rarement documentées. Les classements indépendants — préférence WebDev, tables partagées, LMSys — donnent une image différente et parfois contradictoire. La règle d’or de 2026 : ne jamais arbitrer sur un seul chiffre, toujours croiser au moins deux sources indépendantes, et privilégier les évaluations sur votre cas d’usage.

Côté sécurité, le cadre se durcit. Le Top 10 OWASP pour les applications LLM est devenu la référence pour les équipes qui déploient des modèles ouverts en production (source : perplexity.ai) : injection de prompt, fuite de données sensibles, empoisonnement de données, usage abusif d’outils. Un modèle open weight, parce qu’il s’exécute chez vous, ne vous exonère d’aucune de ces menaces — il en déplace simplement la responsabilité sur votre infrastructure. Et le calendrier réglementaire n’attend pas : les règles de transparence de l’AI Act européen s’appliquent depuis le 2 août 2026, ce qui concerne directement toute entreprise qui met un modèle ouvert en production dans l’UE.

Enfin, la géopolitique reste le fil rouge. La Chine domine la publication de poids ouverts, les États-Unis ripostent avec Muse Spark Open, l’Europe avec Kolibri-1, et les restrictions d’exportation continuent de structurer les choix matériels. Le vrai enjeu de 2027 ne sera pas « quel modèle a le meilleur score », mais « qui contrôle la chaîne complète, du silicium à l’outil agentique ». DeepSeek, avec Harness, a compris que le modèle seul ne suffit plus.


Sources

Source : numerama.com
Article recherché et rédigé automatiquement · Magazine Electrosens
📬 Restez à la pointe
Recevez chaque semaine les nouveautés de ce magazine par email.
💬 Une remarque, une correction ?
Aidez-nous à améliorer cet article. Nous prenons en compte vos retours.

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *