---

La facture cachée derrière chaque token : pourquoi l’IA locale sort enfin du silence énergétique

Il y a encore deux ans, le forum r/LocalLLaMA vibrait au rythme des captures d’écran de nvidia-smi et des courbes de tokens par seconde. On comparait fièrement les débits d’un Qwen 2.5 7B en Q4_K_M sur un iGPU Radeon 780M (environ 10 à 12 tok/s), on célébrait un gain de +50 % obtenu en activant Vulkan, on débattait du mérite d’un réglage MMVQ (+12,9 %). Mais personne — ou presque — ne branchait de wattmètre. La performance était reine ; la consommation, une abstraction de datacenter dont on supposait qu’elle ne concernait pas le passionné avec sa tour sous le bureau.

Ce silence s’est fissuré sous trois pressions simultanées.

La première est matérielle. La génération de GPU consumer qui accompagne cette période a poussé les enveloppes thermiques vers le haut, et les cartes capables de faire tourner confortablement un modèle sérieux en local restent des machines de plusieurs centaines de watts sous charge. Parallèlement, une nouvelle classe d’objets a débarqué : les mini-PC à mémoire unifiée. L’AMD Ryzen AI Halo, avec ses 128 Go de mémoire unifiée et ses 3 999 $, promet de faire tourner des modèles jusqu’à 120B+ ; son grand frère annoncé, le Gorgon Halo, vise 192 Go et des modèles de 200B+. Acer décline la même recette avec un mini-PC IA à 128 Go capable, sur le papier, d’accueillir des modèles jusqu’à 200 milliards de paramètres. Ces machines changent la donne énergétique : elles ne visent pas la puissance brute d’un GPU dédié, mais un rapport performance/watt radicalement différent.

La deuxième est logicielle. Les moteurs d’inférence ont mûri. llama.cpp est passé en v0.5.0 en 2026, avec un backend serveur consolidé ; Windows ML a ajouté un support expérimental de llama.cpp pour les modèles GGUF et une API locale compatible OpenAI ; des comparatifs recensent désormais 48 outils pour exécuter des modèles en local. Autrement dit : le même matériel, mieux exploité, consomme moins pour le même service rendu. Un gain de +50 % en débit sur un iGPU, c’est aussi un temps de calcul divisé — donc des joules économisés par token.

La troisième est économique. L’électricité européenne est devenue un poste de dépense qu’on ne peut plus ignorer, et le cloud n’est pas une échappatoire gratuite : les API au token ont un coût, et la question de la souveraineté des données pousse beaucoup d’utilisateurs à rapatrier leurs inférences à domicile. Le paradoxe est là : on quitte le cloud pour échapper à la facture au token, et on découvre une facture au kilowattheure.

Ce dossier prend le problème dans l’ordre : mesurer (anatomie énergétique des trois familles de machines), modéliser (ce que disent les benchmarks et les scénarios d’usage), puis optimiser (les leviers qui font vraiment baisser la facture). Avec des ordres de grandeur, pas des impressions.

---

Watts au repos, watts en fièvre : anatomie énergétique des trois familles de machines

Avant de parler d’euros, il faut parler de physique. Trois chiffres comptent vraiment : la consommation au repos (idle), la consommation en inférence (charge réelle, souvent bien inférieure au TDP), et le rendement de l’alimentation qui transforme le courant mural en courant utile.

Le TDP n’est pas la consommation. C’est une enveloppe thermique de conception. Une carte graphique peut afficher un TDP élevé et ne consommer qu’une fraction de celui-ci lors d’une inférence de LLM, qui sollicite intensément la mémoire et les unités de calcul mais rarement tous les blocs simultanément comme un rendu 3D. À l’inverse, l’idle power est le tueur silencieux : un GPU dédié laissé allumé 24/7 pour un agent autonome consomme en permanence, même quand il ne génère rien.

Le rendement de l’alimentation est le multiplicateur caché. Une alimentation certifiée 80+ Bronze, Gold ou Platinum ne convertit pas le courant mural avec la même efficacité : à charge partielle, les écarts se creusent, et une alimentation surdimensionnée tournant à 15 % de charge peut afficher un rendement médiocre. Sur une machine qui tourne des milliers d’heures par an, ce détail de fiche technique devient un poste de dépense.

Trois architectures, trois profils

Le GPU consumer dédié (type RTX 4090/5090). C’est la bête de somme historique de l’IA locale. Puissance d’inférence élevée, mais idle power non négligeable et consommation sous charge parmi les plus hautes des trois familles. Son point fort : il finit vite. Un modèle qui tourne en quelques secondes consomme moins au total qu’un modèle lent qui mouline pendant une minute — l’efficacité par token (joules par token généré) peut être excellente malgré des watts bruts élevés.

Le mini-PC à mémoire unifiée (Mac Studio M3/M4 Ultra, AMD Strix Halo / Ryzen AI Halo, Gorgon Halo). Ici, CPU, GPU et mémoire partagent le même silicium et la même enveloppe. Le résultat : une consommation globale bien plus basse, un idle power souvent très contenu, et un silence de fonctionnement qui change l’expérience. Le revers : des débits d’inférence inférieurs à un gros GPU dédié, ce qui allonge le temps de calcul par token. L’efficacité par token est donc un arbitrage subtil entre watts plus faibles et durée plus longue.

Le vieux serveur recyclé (Xeon/EPYC d’occasion). L’argument d’entrée est imbattable : beaucoup de VRAM (une A100 d’occasion offre 80 Go) pour un prix d’achat dérisoire face au neuf. Mais ces machines sont conçues pour des datacenters, pas pour un bureau : idle power élevé, alimentations redondantes parfois peu efficaces à faible charge, refroidissement bruyant. Le coût d’achat bas masque une facture électrique qui, sur trois ans, peut dépasser l’économie initiale.

Architecture	Idle	Charge inférence	Efficacité par token	Points d’attention
GPU consumer dédié	Modéré à élevé	Élevée	Souvent bonne (calcul rapide)	Idle 24/7 coûteux, bruit, chaleur
Mini-PC mémoire unifiée	Faible	Faible à modérée	Bonne si débit suffisant	Débit inférieur, modèles limités par la mémoire
Serveur recyclé	Élevé	Élevée	Variable	Idle et rendement d’alim pénalisants, bruit

À cela s’ajoute le « PUE domestique » : toute l’électricité consommée finit en chaleur. En hiver, cette chaleur n’est pas perdue — elle chauffe la pièce et peut réduire la facture de chauffage. En été, elle devient un surcoût de climatisation. Un setup qui tourne en charge continue n’a donc pas le même bilan énergétique net selon la saison et le climat.

---

Du prompt au kilowattheure : ce que disent les mesures indépendantes (et ce qu’elles ne disent pas)

La mesure est un art difficile. Les benchmarks publiés en 2026 — tests de Tom’s Hardware, de ServeTheHome, trackers communautaires de consommation LLM, études académiques sur l’empreinte de l’inférence — convergent sur quelques ordres de grandeur, mais avec des marges d’incertitude qu’il faut assumer.

Méthodologie. Les mesures sérieuses reposent sur un wattmètre ou une prise connectée (smart plug) au mur, croisées avec nvidia-smi côté GPU pour distinguer la consommation de la carte de celle du système. La difficulté : la consommation transitoire. Un GPU ne consomme pas un plateau stable ; il y a des pics à l’instant où un prompt est traité (prefill) puis un régime plus bas pendant la génération token par token (decode). Un wattmètre qui moyenne sur une minute lisse ces variations et peut sous-estimer les pics ; une mesure instantanée les surestime. La précision des appareils grand public, enfin, n’est pas celle d’un laboratoire.

Ce que les chiffres permettent d’affirmer. D’abord, que l’écart entre idle et charge est considérable sur un GPU dédié, et beaucoup plus resserré sur un mini-PC à mémoire unifiée. Ensuite, que le coût en kWh par million de tokens générés dépend autant du débit que des watts : un GPU rapide peut afficher une meilleure efficacité par token qu’une machine plus sobre mais lente. Enfin, que le rendement de l’alimentation et l’idle power pèsent lourd dans un usage continu, bien plus que dans un usage intermittent.

Les zones d’ombre. Aucune norme de mesure ne s’est imposée pour l’IA locale. Les chiffres de consommation par million de tokens varient selon la quantification du modèle, la longueur des prompts, la taille du contexte, le batching. Un même matériel peut afficher des résultats très différents selon le moteur (llama.cpp, Ollama, vLLM, LM Studio) et ses réglages. Il faut donc lire les benchmarks comme des ordres de grandeur, pas comme des vérités absolues.

Un point mérite d’être souligné : les études sur l’empreinte de l’inférence portent massivement sur le cloud et les datacenters, pas sur le setup domestique. Le rapport de la FMI de mai 2025 sur l’approvisionnement énergétique de l’IA, ou les analyses de The Conversation sur le coût écologique d’un prompt, traitent d’échelles industrielles. Les transposer telles quelles à votre bureau serait une erreur d’échelle — mais elles rappellent que le local n’est pas « gratuit » par nature, il déplace simplement la consommation vers votre compteur.

---

Chat intermittents, agents insomniaques et serveurs familiaux : quatre profils, quatre factures

C’est ici que tout se joue : la même machine peut coûter quelques euros ou plusieurs centaines d’euros par an selon l’usage. Traduisons en scénarios.

Profil 1 — Le chat intermittent. Quelques heures par jour, un modèle 7B à 14B en quantification Q4, sur un mini-PC ou un GPU qui s’éteint entre deux sessions. La consommation se concentre sur les périodes d’inférence. C’est le profil le plus sobre : la machine dort la plupart du temps, l’idle power ne pèse presque pas. La facture mensuelle reste modeste, et le levier principal n’est pas le matériel mais la discipline d’éteindre.

Profil 2 — L’agent autonome 24/7. C’est le piège. Un agent qui tourne en permanence — pour surveiller des flux, exécuter des tâches, répondre à des requêtes — maintient la machine éveillée. Ici, l’idle power devient le poste dominant : même quand l’agent ne génère rien, le matériel consomme. Un GPU dédié laissé allumé en continu coûte bien plus cher qu’un mini-PC à mémoire unifiée dans la même situation. C’est le scénario où le choix d’architecture change tout.

Profil 3 — Le serveur familial multi-utilisateurs. Plusieurs personnes, plusieurs modèles, un service qui doit rester disponible. La consommation est plus régulière, avec des pics quand plusieurs requêtes arrivent en parallèle. Le batching (traiter plusieurs requêtes ensemble) améliore l’efficacité par token en mutualisant le coût du prefill — un levier logiciel réel.

Profil 4 — Le fine-tuning occasionnel. Des épisodes intenses et rares, où la machine tourne à pleine charge pendant des heures. La consommation par épisode est élevée, mais annualisée elle reste ponctuelle. Le bon réflexe : planifier ces sessions en heures creuses si le tarif le permet, et ne pas laisser la machine en idle le reste du temps.

Le prix du kWh. Pour un foyer français, le tarif réglementé d’EDF est la référence, avec des variations selon les options heures pleines/heures creuses. En Europe, les écarts entre pays sont importants. Sans citer de chiffres précis non sourcés, retenez la logique : plus le prix du kWh est élevé, plus l’idle power et le rendement de l’alimentation pèsent lourd, et plus la bascule vers une machine sobre devient rentable.

La chaleur dissipée. En hiver, un setup qui tourne en charge réchauffe la pièce et peut réduire la facture de chauffage — un « PUE domestique » favorable. En été, c’est l’inverse : climatiser pour évacuer cette chaleur ajoute un surcoût. Le bilan net annuel dépend donc du climat et de la saisonnalité de l’usage.

---

GPU 24/7 vs mini-PC : les idées reçues passées au wattmètre

Deux mythes structurent les discussions communautaires. Le premier : « un GPU qui tourne en permanence ruine ». Le second : « un mini-PC ne consomme rien ». Les deux sont à moitié faux.

Mythe 1 — le GPU 24/7 ruine. Pas nécessairement. Un GPU dédié qui tourne en continu coûte cher en idle, mais s’il délivre un service intense et rapide, son efficacité par token peut compenser. Le vrai problème n’est pas le GPU en soi, c’est le GPU qui ne fait rien. Un GPU qui génère en continu à haute efficacité peut être plus économe qu’une machine lente qui mouline. La règle : ce qui ruine, c’est l’inactivité facturée.

Mythe 2 — le mini-PC ne consomme rien. Il consomme peu, ce qui n’est pas rien. Sur un usage intermittent, l’écart avec un GPU dédié est net. Mais sur un usage intensif, son débit inférieur allonge le temps de calcul, et l’efficacité par token se dégrade. Le mini-PC n’est pas magique : il est sobre, pas gratuit.

Ce que rapportent les communautés. Les retours de r/LocalLLaMA, des forums HomeLab et des Discord de llama.cpp, Ollama ou vLLM convergent sur quelques surprises. La première : l’idle power est systématiquement sous-estimé. La deuxième : le rendement de l’alimentation est un angle mort — peu d’utilisateurs savent si leur bloc est Bronze ou Platinum. La troisième : les stratégies logicielles ont un effet mesurable, parfois supérieur au changement de matériel.

Les leviers qui marchent vraiment, par ordre d’impact :

1. La quantification (GGUF Q4/Q8, AWQ). Un modèle en Q4 occupe moins de mémoire et se calcule plus vite qu’en FP16 — moins de joules par token. C’est le levier le plus rentable, souvent gratuit en qualité perçue pour un usage courant.
2. Les power caps et l’undervolting. Brider la consommation maximale d’un GPU réduit les watts sous charge avec une perte de débit souvent modérée. Le rapport performance/watt s’améliore.
3. La veille programmée. Éteindre ou mettre en veille quand personne n’utilise la machine. Le levier le plus simple, le plus sous-utilisé.
4. Le batching. Mutualiser le prefill de plusieurs requêtes améliore l’efficacité par token sur un serveur familial.
5. L’offloading CPU/GPU. Répartir un modèle entre CPU et GPU permet de faire tourner plus gros, mais au prix d’un débit moindre — à manier avec discernement côté énergie.
6. Le choix de l’alimentation et du refroidissement. Une alimentation bien dimensionnée et efficace, un refroidissement adapté : des gains réels sur la durée.

Là où l’on se raconte des histoires : croire qu’un réglage logiciel compense un matériel mal choisi pour son usage. Un agent 24/7 sur un serveur recyclé bruyant et gourmand restera coûteux, quelles que soient les optimisations.

---

Local, cloud ou PC gaming déjà payé : le match économique sur trois ans

La vraie question n’est pas « combien consomme mon LLM », mais « quelle option est la plus économique pour mon usage ». Cinq candidats.

Option	Coût d’achat	Coût énergétique	Durée de vie	Point fort	Point faible
GPU consumer dédié	Élevé	Élevé si 24/7	Moyenne à longue	Puissance, débit	Idle, bruit, chaleur
Mini-PC mémoire unifiée	Élevé (ex. 3 999 $ pour le Ryzen AI Halo 128 Go)	Faible à modéré	Longue	Sobriété, silence, 120B+	Débit inférieur
Serveur recyclé	Faible	Élevé	Variable	VRAM abondante (ex. A100 80 Go)	Idle, bruit, rendement
API cloud au token	Nul	Nul (déplacé)	—	Zéro maintenance	Coût récurrent, données hors du domicile
PC gaming déjà possédé	Déjà payé	Mutualisé	Déjà amorti	Coût marginal nul	Limité par la VRAM, disponibilité

La logique de bascule. Sur trois ans, l’option la plus économique dépend de trois variables : le prix du kWh, l’intensité d’usage et la dépréciation du matériel.

• Usage faible et intermittent : le cloud au token ou le PC gaming déjà possédé sont souvent imbattables. Pas d’achat, pas d’idle à payer.
• Usage moyen et régulier : un mini-PC à mémoire unifiée devient rentable face au cloud, grâce à sa sobriété et à sa durée de vie.
• Usage intense et continu : un GPU dédié ou un serveur recyclé bien optimisé peut se justifier, à condition de maîtriser l’idle et le rendement.
• Usage souverain (données sensibles, hors ligne) : le local s’impose, et la question devient « quelle machine locale », pas « local ou cloud ».

Sensibilité au prix de l’électricité. Plus le kWh est cher, plus les options sobres gagnent. Dans un pays à électricité bon marché, le serveur recyclé redevient compétitif. Dans un pays à kWh élevé, le mini-PC à mémoire unifiée et le cloud se disputent la première place.

Sensibilité à l’intensité d’usage. C’est le facteur le plus sous-estimé. Un agent 24/7 transforme une machine sobre en poste de dépense permanent ; un chat intermittent rend même un GPU gourmand acceptable.

La dépréciation. Le matériel perd de la valeur, mais un mini-PC ou un GPU récent se revend mieux qu’un serveur d’occasion. Sur trois ans, la valeur résiduelle compte dans le calcul total.

---

Le point d’équilibre : puissance, silence et sobriété sans sacrifier les performances

La synthèse est simple : le meilleur setup énergétique n’est pas le plus puissant ni le plus sobre, c’est le mieux adapté à l’usage.

La hiérarchie des leviers, du plus au moins impactant :

1. Le choix de l’architecture selon l’usage (intermittent vs continu). C’est 80 % du résultat.
2. La quantification du modèle (Q4/Q8, AWQ). Gratuit, efficace, immédiat.
3. La veille programmée. Le geste le plus simple, le plus négligé.
4. Les power caps et l’undervolting. Réduire les watts sous charge sans casser le débit.
5. L’alimentation et le refroidissement. Un investissement qui se rembourse sur la durée.
6. L’emplacement. Une machine dans une pièce fraîche dissipe mieux, chauffe moins, dure plus longtemps.

Recommandations par profil :

• Chat intermittent : mini-PC à mémoire unifiée ou PC gaming existant, modèles 7B-14B en Q4, extinction entre sessions.
• Agent 24/7 : mini-PC à mémoire unifiée obligatoire, power cap serré, veille intelligente quand l’agent est inactif.
• Serveur familial : GPU dédié ou mini-PC haut de gamme, batching activé, alimentation Platinum, refroidissement soigné.
• Fine-tuning occasionnel : serveur recyclé ou GPU dédié, sessions planifiées, machine éteinte le reste du temps.

Le compromis idéal en 2026. Pour la majorité des foyers, un mini-PC à mémoire unifiée (128 Go, type Ryzen AI Halo à 3 999 $ ou équivalent Acer) offre le meilleur équilibre : assez de mémoire pour des modèles jusqu’à 120B+, une sobriété qui rend l’usage continu supportable, un silence qui change le quotidien. Pour les usages intensifs, un GPU dédié bien refroidi et bridé reste la référence de débit. Le serveur recyclé est un choix de passionné ou de budget serré, à condition d’accepter la facture d’idle.

La marge de progression. Elle est réelle : les puces récentes améliorent le rapport performance/watt, les moteurs d’inférence optimisent le calcul, et les prochaines générations (Gorgon Halo et ses 192 Go visés, modèles open-weight toujours plus efficaces comme les annonces de Mistral Large 4 à 1 000 milliards de paramètres) pourraient déplacer encore l’équilibre. La sobriété n’est pas une contrainte, c’est une trajectoire.

---

Ce que la sobriété énergétique change à l’IA locale (et ce qu’elle ne réglera pas)

L’optimisation énergétique redessine la frontière entre local et cloud. Un setup domestique sobre, mesuré et documenté devient une alternative crédible au cloud pour des usages réguliers — non pas parce qu’il est plus puissant, mais parce que son coût total, énergie comprise, devient prévisible et maîtrisé. C’est un changement de récit : le local n’est plus seulement un choix de souveraineté ou de confidentialité, c’est un choix économique assumé.

Ce qu’elle change : l’accessibilité (un mini-PC sobre démocratise l’IA locale), la souveraineté des données (elles restent chez vous), et la prise de conscience que l’empreinte carbone réelle dépend du mix électrique — un kWh en France n’a pas la même empreinte qu’ailleurs.

Ce qu’elle ne règle pas : l’empreinte de fabrication du matériel, qui reste le grand angle mort ; le vieillissement des composants, qui dégrade le rendement avec le temps ; la précision des mesures, toujours imparfaite ; l’impact du refroidissement et de la température ambiante ; et surtout l’absence de norme de mesure comparable. Tant qu’il n’existe pas de standard pour mesurer la consommation d’un LLM local, les chiffres resteront des ordres de grandeur.

L’ouverture. La prochaine étape, c’est une communauté qui mesure, documente et compare ses setups avec rigueur — wattmètre au mur, protocole clair, résultats partagés. Les prochaines générations de puces, avec leur mémoire unifiée toujours plus large et leur efficacité accrue, pourraient rendre la question de l’énergie aussi centrale que celle de la VRAM l’a été. Le débat ne fait que commencer, et cette fois, la prise de courant est branchée.

---

Sources

• Best Hardware for Running Open-Source AI Models Locally in 2026
• Kimi K3 vs DeepSeek V4 Pro: Best Open Source LLM in 2026?
• llama.cpp v0.5.0 in 2026: What Changed, How to Install, Run GGUF & Use the Local API
• Windows ML: 2026 Updates for GGUF Models and Local AI
• AI Development on Windows: from PyTorch and llama.cpp to Windows ML
• Moteurs d’inférence et runtimes locaux : comparatif 2026
• Faire tourner une IA en local en 2026 : guide complet
• Performance LLM sur GPU AMD Radeon 9070XT
• Décodage spéculatif : quand un petit modèle accélère votre LLM
• Mistral Large 4 est officiel : la France rattrape enfin la Chine
• Avec Mistral Large 4, l’IA française ose défier GPT-6 Astra
• FMI — analyse sur l’approvisionnement énergétique de l’IA (mai 2025)
• The Conversation — le coût écologique d’un prompt d’IA générative