---

Le vrai match de 2026 : ce n’est plus le modèle, c’est la machine

Il y a deux ans, la question qui occupait les forums était simple : « Quel modèle open-weight puis-je faire tourner ? » On comparait Llama, Mistral, Qwen, on débattait des quantifications Q4 contre Q5, on se réjouissait de chaque nouveau poids disponible sur Hugging Face. En 2026, cette question a largement perdu de son intérêt. L’écosystème des modèles ouverts est devenu pléthorique et mature : les comparatifs publiés en septembre 2026 (comme celui d’Iatrust ou la confrontation Kimi K3 vs DeepSeek V4 Pro sur Memeburn) ne cherchent plus « le » meilleur modèle, mais le meilleur modèle pour un cas d’usage donné — chat, code, contexte long, multimodal.

La vraie question, celle qui décide si votre projet local tient debout ou s’effondre au bout de trois prompts, c’est la machine. Et c’est précisément là que les repères ont bougé. Les analyses de rentrée 2026 convergent : le guide « Best Hardware for Running Open-Source AI Models Locally in 2026 » de Memeburn et les synthèses de MarkTechPost sur les harnais d’agents open-source pour LLM locaux posent tous la même équation : ce n’est plus le modèle qui limite, c’est la plateforme qui l’héberge.

Ce glissement a une cause technique précise. Les modèles ouverts de 2026 sont massivement des architectures à mélange d’experts (MoE) et à contextes très longs. Ils sont souvent plus légers à exécuter qu’on ne le croit — un MoE de plusieurs centaines de milliards de paramètres n’active qu’une fraction de ses poids par token — mais ils exigent en revanche de la capacité mémoire et de la bande passante. C’est ce décalage entre ce que les modèles demandent et ce que le matériel grand public offre qui structure tout le marché local.

Cet article ne vous vendra pas de rêve. On va démonter les goulots d’étranglement réels, passer en revue quatre paliers de budget, pointer les pièges d’achat, calculer le coût réel au token, et finir par la seule question qui compte : ce que vous achetez aujourd’hui sera-t-il encore utile dans douze mois ?

---

Bande passante, VRAM, TFLOPS : anatomie des goulots d’étranglement qui décident de tout

Pour comprendre pourquoi deux machines au prix similaire peuvent afficher un rapport de un à dix en tokens par seconde, il faut distinguer quatre facteurs limitants, souvent confondus dans le marketing.

La bande passante mémoire (en Go/s) est, pour l’inférence de modèles à poids quantifiés, le facteur dominant. Exécuter un LLM, c’est essentiellement lire des milliards de poids depuis la mémoire et les multiplier par des activations. Le calcul lui-même est souvent trivial comparé au simple fait de déplacer les poids. Résultat : votre débit en tokens/s est largement plafonné par la vitesse à laquelle la mémoire peut alimenter les unités de calcul. C’est pour cela qu’une carte avec beaucoup de VRAM mais une bande passante modeste peut être décevante, tandis qu’une machine à bande passante élevée mais à puissance de calcul moyenne s’en sort étonnamment bien.

La capacité mémoire (VRAM dédiée ou mémoire unifiée, en Go) détermine quels modèles vous pouvez charger, pas à quelle vitesse. C’est le couperet binaire : soit le modèle tient, soit il déborde et bascule partiellement sur le CPU — avec une chute de débit catastrophique. La quantification est votre levier : un modèle 8B en Q4 occupe une fraction de sa taille FP16, ce qui le rend accessible à des machines modestes.

La puissance de calcul (TFLOPS FP16/INT8) compte surtout en traitement par lots (batch), en pré-remplissage de longs contextes et pour les charges multi-utilisateurs. Pour un usage solo interactif, elle est rarement le facteur limitant.

La latence de chargement — le temps qu’il faut pour mettre le modèle en mémoire au démarrage — est le parent pauvre des comparatifs, mais elle décide de l’expérience quotidienne. Un modèle de 70B quantifié peut prendre de longues dizaines de secondes à charger depuis un SSD lent ; sur une machine à mémoire unifiée, ce coût est récurrent à chaque changement de modèle.

Comment ces contraintes ont-elles évolué depuis 2023-2024 ? La bande passante est devenue le nerf de la guerre. Les puces à mémoire unifiée large — comme la famille Strix Halo d’AMD, lancée en 2025 avec un bus mémoire 256 bits et une bande passante de 256 Go/s — ont changé la donne en offrant une capacité énorme sans recourir à une carte graphique dédiée. Sur ce type de plateforme, on mesure des débits de l’ordre de ~40 à 60 tok/s sur un Llama 3 8B en Q4 via Vulkan. À l’opposé du spectre, un iGPU modeste comme le Radeon 780M plafonne autour de ~10-12 tok/s sur Llama 3 8B Q4 et ~8-11 tok/s sur Mistral 7B Q4_K_M — des chiffres qui, note importante, ont déjà bénéficié d’optimisations logicielles substantielles : le backend Vulkan de llama.cpp a apporté jusqu’à +50 % de gain d’inférence sur ce type d’iGPU, et un simple réglage MMVQ encore +12,9 %. Autrement dit : sur le matériel modeste, le logiciel compte autant que le silicium.

Facteur	Ce qu’il détermine	Levier principal
Bande passante mémoire	Débit en tokens/s	Choix de la plateforme
Capacité (VRAM/unifiée)	Quels modèles tiennent	Quantification
Puissance de calcul	Batch, longs contextes	Peu critique en solo
Latence de chargement	Confort au démarrage	SSD, taille du modèle

---

Moins de 800 € : ce qu’un mini-PC à iGPU peut vraiment faire (et ne fera jamais)

C’est le palier de l’entrée de gamme, celui du bidouilleur curieux et de l’étudiant. Ici, pas de carte graphique dédiée : on s’appuie sur le GPU intégré du processeur — Radeon 780M et successeurs, Arc intégré d’Intel, ou les NPU des plateformes AMD Ryzen AI et Intel Lunar Lake.

Soyons clairs sur ce que ce budget permet. Un mini-PC à iGPU fait tourner confortablement des modèles de 3 à 8 milliards de paramètres quantifiés en Q4. Concrètement, un Llama 3 8B Q4 ou un Qwen 2.5 7B tourne à ~10-12 tok/s sur un Radeon 780M via Vulkan, un Mistral 7B Q4_K_M autour de ~8-11 tok/s. C’est utilisable pour du chat, du résumé, de la reformulation, du petit code assisté. Ce n’est pas spectaculaire, mais c’est fonctionnel — et surtout, c’est silencieux, sobre en énergie, et ça tient sur un bureau.

Ce que ce budget ne fera jamais : du 70B quantifié. Il ne faut pas se laisser berner par les démonstrations spectaculaires de techniques comme AirLLM, qui promet l’inférence d’un 70B sur un GPU de 4 Go de VRAM. Ces approches existent, elles sont réelles, mais elles fonctionnent en chargeant les poids couche par couche depuis le stockage — le débit s’effondre à un rythme qui rend l’usage interactif pénible. C’est une prouesse d’ingénierie, pas une solution de production.

Le NPU mérite une mise en garde spécifique, que l’on développera plus loin : les NPU AMD XDNA et Intel NPU sont conçus pour des charges d’IA légères et continues (vision, audio, effets), pas pour l’inférence de LLM. Leur support logiciel reste immature pour ce cas d’usage, et leur débit réel en génération de texte est loin des chiffres marketing. Pour un LLM, c’est le GPU intégré qui travaille, pas le NPU — même si les fiches produit mettent le NPU en avant.

Verdict du palier : excellent pour apprendre, prototyper, expérimenter avec des harnais d’agents légers. Insuffisant dès que vous voulez un assistant quotidien sérieux sur des modèles de plus de 8B.

---

800-2 000 € : Apple Silicon contre GPU discrète, le duel des compromis

C’est la tranche la plus intéressante, celle où se joue le vrai arbitrage philosophique : mémoire unifiée contre VRAM dédiée.

D’un côté, Apple Silicon. Un Mac Mini M4 Pro ou l’entrée de gamme d’un Mac Studio offre une mémoire unifiée généreuse, partagée entre CPU et GPU, avec une bande passante élevée et un écosystème logiciel mature via Metal et le framework MLX. L’avantage est structurel : la mémoire unifiée permet de charger des modèles que la VRAM d’une carte graphique de même prix ne pourrait pas contenir. Pour du 14B à 32B quantifié, c’est souvent la voie la plus confortable — pas la plus rapide en pointe, mais la plus capable.

De l’autre côté, les GPU discrets. Une RTX 5060 Ti 16 Go ou une Radeon RX 9070 XT 16 Go (cette dernière autour de 690 à 740 $ selon les relevés de 2026) offrent une VRAM dédiée rapide. L’écosystème CUDA de NVIDIA reste le plus mature pour l’inférence LLM : c’est là que les runtimes comme llama.cpp et vLLM sont le mieux optimisés. AMD progresse avec ROCm, mais l’expérience reste plus capricieuse — un point que confirment les analyses de performance sur Radeon 9070 XT publiées en septembre 2026.

Plateforme	Mémoire	Écosystème	Modèles confortables
Mac Mini M4 Pro / Mac Studio (entrée)	Unifiée, généreuse	Metal / MLX	14B-32B quantifiés
RTX 5060 Ti 16 Go	16 Go VRAM	CUDA (mature)	jusqu’à ~14B-20B confortable
Radeon RX 9070 XT 16 Go	16 Go VRAM	ROCm (en progrès)	jusqu’à ~14B-20B confortable

Le compromis est clair : à budget égal, Apple offre plus de capacité mémoire, NVIDIA offre plus de vitesse et de fiabilité logicielle, AMD offre un rapport prix/VRAM correct mais avec un écosystème à surveiller. Pour un développeur solo qui veut faire tourner un 32B quantifié en local sans se battre avec les pilotes, la mémoire unifiée est souvent le choix rationnel. Pour celui qui veut la vitesse maximale sur des modèles qui tiennent dans 16 Go, CUDA reste roi.

---

2 000-4 000 € : dual-GPU d’occasion, la voie royale ou le piège à débutant

Ici, on entre dans la cour des grands — et dans le Far West de l’occasion. La configuration emblématique de cette tranche est le dual-GPU d’occasion : deux RTX 3090 de 24 Go chacune, soit 48 Go de VRAM cumulée, pour faire tourner des modèles 70B quantifiés. C’est la configuration dont rêvent les habitués de r/LocalLLaMA, et pour cause : elle offre une capacité mémoire qu’aucune carte grand public neuve à ce prix ne peut égaler.

L’alternative neuve, c’est une RTX 5090 dotée de 32 Go de VRAM. Plus rapide, plus sobre, garantie, écosystème CUDA impeccable — mais 32 Go ne suffisent pas toujours pour un 70B quantifié confortable, là où 48 Go d’occasion passent. Le calcul est donc serré : plus de mémoire d’un côté, plus de fiabilité et de vitesse de l’autre.

Le besoin réel pour du 70B quantifié se situe autour de 40 à 48 Go de VRAM. C’est la barre qui sépare ceux qui font tourner un 70B confortablement de ceux qui le font ramper. Et c’est là que le dual-GPU d’occasion devient soit une voie royale, soit un piège.

Les signaux d’alerte sont documentés et reviennent constamment dans les retours d’expérience. D’abord, les cartes ayant servi au minage : leur mémoire a été sollicitée intensivement pendant des années, et une VRAM dégradée se manifeste par des erreurs aléatoires difficiles à diagnostiquer. Ensuite, l’alimentation sous-dimensionnée : deux RTX 3090, c’est une consommation de pointe élevée, et une alimentation trop juste provoque des coupures sous charge. Enfin, le refroidissement : deux cartes dans un boîtier mal ventilé, et c’est le throttle thermique assuré.

Ajoutez à cela la complexité logicielle : faire coopérer deux GPU pour un seul modèle demande de la configuration, et la compatibilité CUDA/ROCm n’est pas symétrique. Verdict du palier : le dual-GPU d’occasion est excellent pour qui sait ce qu’il achète et accepte de bidouiller. Pour un débutant pressé, c’est un chemin semé d’embûches.

---

Plus de 4 000 € : serveurs d’occasion et stations professionnelles, quand la PME s’équipe

Au sommet de la pyramide, on ne parle plus de bidouille mais d’infrastructure. Les configurations typiques : serveurs d’occasion type Dell R750 équipés d’accélérateurs professionnels (A100), ou stations dual-GPU professionnelles. C’est le territoire de la PME qui veut internaliser son IA pour des raisons de confidentialité.

Les cas d’usage concrets sont bien identifiés : RAG interne (interroger sa propre base documentaire sans que rien ne sorte de l’entreprise) et code assisté sur des bases de code propriétaires. C’est là que l’argument de la confidentialité devient décisif — un argument que les analyses de Brief IA sur l’IA locale en 2026 mettent en avant, tout comme les comparatifs de plateformes locales qui insistent sur la permanence et la maîtrise du modèle.

Mais les problèmes rencontrés sont réels. Les pilotes et la compatibilité des accélérateurs professionnels avec les runtimes grand public demandent de l’expertise. La quantification doit être choisie avec soin pour ne pas dégrader la qualité sur des tâches sensibles. Et surtout, les coûts cachés frappent fort : un serveur de ce calibre consomme beaucoup d’électricité, chauffe, et fait un bruit qui le confine à une salle dédiée — pas au bureau d’à côté.

Ce palier n’a de sens que si le volume d’usage justifie l’investissement. Pour une PME qui traite des documents confidentiels à haut volume, oui. Pour un particulier, non.

---

Le piège du NPU et les faux espoirs marketing : signaux d’alerte à l’achat

C’est la section que les fabricants préféreraient que vous ne lisiez pas. En 2026, les fiches produit regorgent de promesses qui ne résistent pas à l’usage LLM réel.

Le NPU. Les NPU AMD XDNA et Intel NPU sont partout dans les argumentaires. Mais pour l’inférence de LLM, leur support logiciel reste immature et leur débit faible. Un NPU est conçu pour des charges légères et continues, pas pour générer du texte token par token. Quand vous faites tourner un LLM sur un mini-PC à NPU, c’est presque toujours le GPU intégré qui travaille. Acheter « pour le NPU » est un contresens.

Les iGPU récents surestimés. Le Radeon 890M, l’Arc 140V et leurs successeurs sont de bons iGPU — mais pour des modèles 3 à 8B, pas au-delà. Les démonstrations qui font tourner un modèle plus gros sur un iGPU reposent sur des astuces (chargement couche par couche, offload CPU) qui tuent le débit interactif.

La VRAM insuffisante. Le piège classique : acheter une carte 16 Go en pensant faire du 70B. Rappel : il faut 40 à 48 Go pour un 70B quantifié confortable. 16 Go, c’est le royaume du 14B-20B.

Les cartes d’occasion à risque. Minage, mémoire dégradée, alimentation sous-dimensionnée : trois signaux d’alerte à vérifier systématiquement avant tout achat d’occasion.

Les coûts cachés. Électricité, refroidissement, bruit : un serveur ou un dual-GPU n’est pas un objet de salon.

Grille de questions à poser avant tout achat : Quel modèle précis, à quelle quantification, visez-vous ? Tient-il dans ma capacité mémoire avec de la marge ? Quelle est la bande passante de la plateforme ? L’écosystème logiciel (CUDA/ROCm/Metal) est-il mature pour mon runtime ? Quel est le coût électrique annuel ? Puis-je le refroidir et l’isoler acoustiquement ?

---

TCO : le coût au token local face aux API et au cloud GPU

Le calcul honnête du coût total de possession est ce qui sépare l’enthousiasme de la lucidité. Pour un usage type de 1 million de tokens par mois, il faut additionner l’amortissement du matériel sur trois ans et l’électricité au prix du kWh européen 2026.

Le point crucial, souvent négligé : le coût au token local dépend massivement du taux d’utilisation. Une machine à 2 000 € amortie sur trois ans coûte environ 55 € par mois en matériel, plus l’électricité. Si elle tourne à plein régime, le coût au token devient très compétitif face aux API. Si elle reste allumée pour un usage sporadique, le coût au token explose — vous payez une machine qui ne sert pas.

Face à cela, les API (OpenAI, Anthropic, Mistral, Together AI) offrent un coût marginal quasi nul et zéro investissement initial. Le cloud GPU à la demande (Lambda Labs, RunPod, Vast.ai) se situe entre les deux : pas d’achat, mais une facturation à l’heure qui grimpe vite en usage intensif.

Le calcul financier pur ne tranche pas toujours en faveur du local. Ce qui tranche, ce sont les avantages non financiers : confidentialité totale (rien ne sort de chez vous), latence constante (pas de dépendance au réseau), personnalisation (fine-tuning, harnais sur mesure). Pour un développeur qui manipule du code propriétaire ou une PME avec des données sensibles, ces avantages valent souvent plus que l’écart de coût.

---

Zones d’ombre et horizons 12 mois : ce qui peut obsolète votre achat

Il faut être lucide sur les limites structurelles du matériel local en 2026.

La course aux modèles. Les modèles ouverts évoluent vers des contextes très longs et des architectures MoE de plus en plus massives. Un contexte d’un million de tokens, ou un MoE de plusieurs centaines de milliards de paramètres, dépasse les capacités domestiques — même si des moteurs comme FreeToken, développé par UC Berkeley et UT Austin, parviennent à faire tourner des modèles MoE de 284 milliards de paramètres sur un PC de jeu grâce à des techniques de cache d’experts et de double buffering. Ces prouesses existent, mais elles restent à la frontière de la recherche appliquée.

Les restrictions fabricants. NVIDIA limite historiquement la VRAM de ses cartes grand public pour protéger son segment professionnel. Apple verrouille sa mémoire unifiée. Ces choix stratégiques contraignent ce que vous pouvez acheter à un prix donné.

La dépendance logicielle. CUDA, ROCm, Metal : votre achat vaut ce que vaut l’écosystème qui le supporte. Un runtime qui abandonne une plateforme peut rendre votre matériel beaucoup moins utile du jour au lendemain.

À douze mois, on peut raisonnablement anticiper une poursuite de la montée en capacité des plateformes à mémoire unifiée (la famille Strix Halo et ses successeurs, les mini-PC à 128 Go comme l’AMD Ryzen AI Halo à 3 999 $ capable de faire tourner des modèles jusqu’à 120B+, ou le Gorgon Halo visant 192 Go et des modèles 200B+), une maturation progressive de ROCm, et une pression continue sur les prix des GPU d’occasion. La question « faut-il attendre ou acheter maintenant ? » n’a pas de réponse universelle : si vous avez un besoin réel aujourd’hui, achetez pour ce besoin, pas pour un futur hypothétique.

Verdict nuancé par profil. Le bidouilleur : un mini-PC à iGPU sous 800 € suffit pour apprendre, sans regret. Le solo dev : la tranche 800-2 000 € avec mémoire unifiée Apple ou GPU CUDA est le point d’équilibre. La PME : au-delà de 4 000 €, un serveur d’occasion se justifie par la confidentialité et le volume, à condition d’accepter les coûts cachés. Le dual-GPU d’occasion reste la voie royale pour qui sait ce qu’il fait — et le piège pour qui se précipite.

---

Sources

• Best Hardware for Running Open-Source AI Models Locally in 2026 — Memeburn
• Best Open-Source Agent Harnesses for Local LLMs in 2026 — MarkTechPost
• Kimi K3 vs DeepSeek V4 Pro: Best Open Source LLM in 2026? — Memeburn
• What’s the difference between proprietary, open weight, and open source AI? — Fast Company
• llama4 — Ollama
• Faire tourner une IA en local en 2026 : guide complet — Brief IA
• Comparatif LLM & API IA gratuites en français — Iatrust
• Performance LLM sur GPU AMD Radeon 9070XT — QuellLM
• Modèles GGUF : types de quantification et exécution — Convly
• FreeToken: Running Massive MoE Models Locally at 2-4x Ollama’s Speed — BetterStack
• Mac mini M6 et OpenClaw : le vrai gain en IA locale — Lokan