LLM auto hébergées · 15 October 2026

Faire tourner des LLM open source chez soi sans se ruiner : vieux laptop ou Raspberry Pi 5, le vrai match en 2026

Vous rêvez d’un ChatGPT privé, sans abonnement ni fuite de données, mais l’idée d’investir dans un GPU à 1 000 € vous refroidit ? Bonne nouvelle : le matériel de récupération qui dort dans votre placard pourrait bien suffire. Entre le vieux ThinkPad poussiéreux et le Raspberry Pi 5 tout neuf, le match est serré — mais les résultats de terrain penchent clairement d’un côté. Voici comment trancher selon votre profil, à l’automne 2026, en tenant compte d’un marché de la mémoire devenu fou et de runtimes qui ont enfin mûri.

Le rêve du LLM à la maison : mythe ou réalité en 2026 ?

En octobre 2026, faire tourner un modèle de langage localement n’est plus réservé aux ingénieurs de NVIDIA. Les frameworks comme Ollama, LM Studio ou llama.cpp ont démocratisé l’inférence sur du matériel grand public — au point que llama.cpp en soit à sa version 0.5.0, avec un backend, des modèles et un serveur (llama-server) nettement remaniés. Mais la promesse séduisante — « exécutez un ChatGPT open source chez vous » — se heurte à une réalité physique : les LLM sont voraces en mémoire et en bande passante. Un modèle 7B quantifié en Q4_K_M exige environ 4 à 5 Go de VRAM, et un 13B en Q4_K_M grimpe à ~10 Go. Pour un 70B, il faut compter 44 à 50 Go. Autant dire que le choix du matériel est crucial.

Cette contrainte prend un relief particulier à l’automne 2026 : le marché traverse une pénurie de mémoire qui a fait flamber les prix des barrettes DDR5 et de la VRAM. Résultat : la stratégie « je récupère ce que j’ai » n’est plus seulement écologique, elle est devenue économiquement rationnelle. Le guide matériel 2026 du magazine le martèle : « la stratégie prime sur la puissance ».

Face à ce constat, deux candidats émergent pour le petit budget : le vieux laptop x86 récupéré (souvent gratuit) et le Raspberry Pi 5 (80 à 120 € nu). Le premier a l’avantage d’exister déjà ; le second séduit par sa compacité et sa consommation réduite. Mais derrière les idées reçues, les différences architecturales sont profondes. Ce guide compare les deux plateformes sur le terrain : performances, consommation, coûts cachés et facilité d’installation. Verdict à la clé.

Deux champions du petit budget : le vieux laptop et le Raspberry Pi 5

Prenons deux représentants typiques. D’un côté, un ThinkPad T480 ou un Dell XPS 15 de 2018-2020, équipé d’un Intel Core i5 ou i7, de 16 Go de RAM (souvent extensible), parfois d’un GPU discret (NVIDIA MX150, GTX 1050). De l’autre, le Raspberry Pi 5, disponible en versions 4, 8 et 16 Go de RAM, avec son processeur Broadcom BCM2712 (Cortex-A76 à 2,4 GHz) et son NPU optionnel via l’AI HAT+ (Hailo-10H).

Le laptop a pour lui d’être déjà là : pas d’achat, un écran, un clavier, une batterie qui peut servir d’onduleur. Sa RAM est soudée ou en SO-DIMM, souvent extensible jusqu’à 32 Go ou plus. Le Pi, lui, est un concentré de technologie : 5 V seulement, un écosystème logiciel mature, et une réputation de couteau suisse pour le DIY. Mais ses performances CPU sont limitées par un design ARM à faible consommation, et sa mémoire LPDDR5 (bande passante modeste) plafonne à 16 Go dans sa version la plus récente.

Le Pi 5 brille par sa sobriété énergétique, mais cette sobriété a un prix : la puissance brute. Pour l’inférence LLM, c’est la bande passante mémoire qui fait la loi, et le laptop x86 avec sa DDR4 (ou DDR3) en dual channel offre généralement deux à trois fois plus de débit que la LPDDR5 du Pi. Ajoutez à cela la possibilité d’utiliser un GPU discret sur le laptop — même modeste — et l’écart se creuse.

Sous le capot : ce qui fait vraiment la différence pour l’inférence

L’inférence d’un LLM est un problème de mémoire avant d’être un problème de calcul. Chaque token généré nécessite de lire les poids du modèle, qui résident en RAM. Plus la bande passante mémoire est élevée, plus le débit en tokens par seconde est important. Un vieux laptop avec deux barrettes DDR4-2400 en dual channel atteint environ 38 Go/s ; un Raspberry Pi 5 plafonne autour de 12 Go/s. Ce facteur de trois se retrouve directement dans les performances mesurées.

En pratique, cela signifie que le Pi 5 ne peut exécuter confortablement que des modèles de 1B à 3B paramètres en quantification Q4 (Llama 3.2 1B/3B, Qwen3 1.7B) via Ollama ou llama.cpp. Un dossier de référence publié par Wikiot sur l’inférence edge en 2026 confirme la faisabilité — Mistral 7B ou Gemma 2B en GGUF INT4 tournent sur Raspberry Pi — mais souligne que le débit plafonne autour de 12 tokens par seconde « sur les architectures récentes », et bien moins sur un Pi 5 en charge réelle. Pour un 7B, la génération devient laborieuse — souvent moins de 5 tok/s, ce qui rend la conversation pénible. Le laptop, lui, peut charger un 7B Q4_K_M (4-5 Go de RAM) et produire 5 à 10 tok/s sur CPU seul, voire 20-25 tok/s avec un petit GPU (GTX 1050 ou équivalent). Les chiffres du guide matériel 2026 sont éloquents : sur un PC avec 16 Go de RAM, Llama 3.2 3B en Q8 atteint ~20 tok/s, et Phi-4 Mini en Q4_K_M ~25 tok/s. Le Pi 5, lui, plafonne à 5-10 tok/s pour les mêmes modèles en Q4.

Le support logiciel accentue l’écart. Ollama et llama.cpp sont optimisés pour les instructions AVX2/AVX512 des CPU Intel/AMD, et pour CUDA/ROCm sur GPU. Sur ARM, la compilation est possible mais les performances sont moindres, et l’absence de CUDA force à utiliser Vulkan ou OpenCL, souvent moins efficaces. Le NPU Hailo-10H du Pi AI HAT+ pourrait changer la donne, mais il est encore jeune et son écosystème logiciel (serveur Hailo Ollama) reste en développement. En attendant, le laptop x86 garde une longueur d’avance.

Benchmarks pratiques : qui crache le plus de tokens par seconde ?

Les chiffres concrets manquent cruellement dans la littérature pour une comparaison directe laptop vs Pi. Les sources disponibles donnent des ordres de grandeur, mais pas de benchmark côte à côte standardisé. Ce que l’on sait :

• Sur CPU seul avec 16 Go de RAM, Llama 3.2 3B en Q8 : ~20 tok/s.
• Un MacBook avec 8 Go peut faire tourner des modèles 3-4B en Q4_K_M via Metal (llama.cpp), mais un 7B est limité ; 16 Go est le minimum confortable.
• Le Raspberry Pi 5, selon les retours d’expérience edge, peut exécuter Qwen 3.5 2B Q4_K_M via llama.cpp, mais sans chiffre de performance publié de façon robuste.

En extrapolant, un Pi 5 avec un 3B Q4 atteint probablement 5-8 tok/s, contre 15-25 tok/s pour un laptop i5 de 2018 en dual channel. Pour un 7B, le Pi devient inutilisable (moins de 2 tok/s), alors que le laptop reste fonctionnel à 5-10 tok/s. Le temps de chargement du modèle suit la même logique : le Pi mettra 2 à 3 fois plus de temps à charger un 3B depuis un SSD NVMe (si équipé) que le laptop.

Ces chiffres sont des estimations raisonnables basées sur les données disponibles ; ils doivent être pris avec précaution, faute de benchmark standardisé. Mais la tendance est nette : le laptop domine.

La facture d’électricité : le piège du 24/7

La consommation électrique est l’argument le plus fort du Raspberry Pi. Les mesures publiées par IT-Admin.tg (citant Jeff Geerling) indiquent 2,7-3,5 W au repos et 7-9 W en charge pour le Pi 5. Un mini PC Intel N100/N150, comparable en usage serveur, consomme 8-12 W au repos et 25-35 W en charge. Un vieux laptop, lui, se situe typiquement entre 15 et 30 W au repos (écran fermé) et 40-60 W en charge — mais ces chiffres ne sont pas sourcés précisément dans nos données ; ils restent des ordres de grandeur plausibles.

Calculons le coût annuel pour un usage 24/7 avec un tarif moyen de 0,25 €/kWh :

• Raspberry Pi 5 : 7 W en charge × 24 h × 365 j = 61,3 kWh/an ≈ 15,3 €/an.
• Laptop : 50 W en charge × 24 h × 365 j = 438 kWh/an ≈ 109,5 €/an.

L’écart est réel : le Pi est 7 fois moins gourmand. Mais deux nuances s’imposent. D’abord, le laptop peut être éteint à la demande — pour un usage ponctuel (rédaction, questions-réponses), il consommera bien moins que 24/7. Ensuite, un GPU dédié comme une RTX 4090 (450 W) coûterait environ 110 €/mois en électricité — soit plus que le Pi sur un an. Le petit matériel reste donc imbattable face aux grosses configurations, mais le laptop garde un avantage : sa puissance disponible à la demande.

Mise en place : le parcours du débutant vs le plaisir du bricoleur

Côté Raspberry Pi, l’installation est un rite initiatique : flasher une carte SD (ou un SSD NVMe via PCIe, désormais recommandé), installer un OS 64 bits (Raspberry Pi OS ou Ubuntu), puis Ollama ou llama.cpp. Les pièges sont nombreux : alimentation officielle 5V/5A obligatoire pour pleine puissance, ventilateur à ajouter sous charge, et la carte SD qui s’use rapidement — il vaut mieux passer au NVMe, ce qui ajoute un HAT et des câbles. Le tout demande un niveau de bricolage certain, mais la communauté est vaste et les tutoriels abondent.

Côté laptop, la voie royale est d’installer une distribution Linux (Ubuntu ou Debian) et de lancer Ollama en quelques commandes. Pour les utilisateurs de Windows, WSL2 fonctionne parfaitement. LM Studio offre une interface graphique cliquable pour les débutants. Le laptop a l’avantage d’inclure écran, clavier et batterie — pas besoin d’acheter des accessoires. Le principal risque est la surchauffe : un vieux laptop mal ventilé peut throttler, mais un nettoyage rapide et un support incliné suffisent souvent.

Coûts cachés et TCO sur 3 ans : au-delà du prix d’achat

Le Raspberry Pi 5 nu coûte 80-120 €, mais un kit complet pour serveur (SSD NVMe, HAT, alimentation, boîtier) atteint environ 404 € selon IT-Admin.tg (fin 2025). Ajoutez l’électricité (~15 €/an) et les accessoires de remplacement (carte SD ou NVMe, ventilateur), et le TCO sur 3 ans dépasse 450 €. Le laptop récupéré coûte 0 € à l’achat, mais il faut prévoir une batterie de remplacement (30-60 €), un SSD neuf si l’ancien est mort (30-50 €), et une éventuelle mise à niveau RAM (20-40 € pour passer à 16 Go). L’électricité, si usage 24/7, ajoute ~100 €/an — soit 300 € sur 3 ans. Au total, le laptop revient à 350-450 € si on l’achète d’occasion, ou à moins de 100 € si on le possède déjà.

Le Pi a un avantage : sa durabilité. Pas de batterie qui se dégrade, pas de ventilateur bruyant. Mais sa carte SD est un point faible connu, et le NVMe ajoute un coût non négligeable. Le laptop, lui, peut être revalorisé (RAM, SSD) et revendu. En termes de TCO, le laptop gagne si on le possède déjà ; le Pi reste compétitif pour un usage très intermittent.

Verdict nuancé : quel profil pour quelle machine ?

Le Raspberry Pi 5 est un excellent choix pour le bricoleur qui aime le DIY, qui veut un serveur silencieux et économe, et qui se contente de modèles 1B-3B pour des tâches simples (résumés, réponses courtes, expérimentation). C’est aussi une porte d’entrée idéale pour apprendre, avec une communauté énorme. Mais pour une utilisation sérieuse — chat fluide, rédaction, productivité — le vieux laptop est imbattable : plus de RAM, plus de bande passante, possibilité d’ajouter un GPU, et coût quasi nul si on le possède déjà.

L’utilisateur pragmatique qui veut des réponses rapides choisira le laptop. L’expérimentateur qui veut pousser les limites pourra même envisager un eGPU (boîtier externe avec une RTX 3060 d’occasion) pour faire tourner des 13B ou 20B. Le Pi, lui, restera un compagnon de voyage ou un serveur d’appoint.

Et si votre matériel de récupération ne suffit plus ? Le paysage 2026 en un coup d’œil

Il faut être honnête : ni le vieux laptop ni le Pi 5 ne feront tourner les modèles qui font l’actualité de l’automne 2026. La frontière a bougé. Les MoE (Mixture of Experts) géants — jusqu’à 284B paramètres — sont désormais accessibles sur du matériel grand public grâce à des moteurs comme FreeToken, développé par UC Berkeley et UT Austin, qui revendique 2 à 4 fois la vitesse d’Ollama via un cache LRU d’experts et du double buffering. Un projet comme Strata prétend même faire tourner un Qwen 125B sur une carte graphique ordinaire, ce qui alimente le débat sur les « moteurs d’inférence sur-entraînés » sur r/LocalLLaMA.

Mais ces prouesses supposent une bande passante PCIe confortable et, souvent, une carte graphique dédiée — pas un iGPU de 2018 ni un BCM2712. Pour situer le haut de gamme accessible, les mini-PC à mémoire unifiée ont explosé en 2026 : l’AMD Ryzen AI Halo propose 128 Go de mémoire unifiée et jusqu’à 120B+ de paramètres pour 3 999 $, tandis que l’AMD Gorgon Halo vise 192 Go et 200B+. Un Mac mini M6 avec 32 Go accélère réellement l’IA locale, mais ses limites face au cloud restent documentées. Ces machines coûtent le prix de dix vieux laptops — ce qui, justement, justifie de commencer par la récupération.

La bonne nouvelle, c’est que la quantification a progressé. TurboQuant, dévoilé par Google Research en mars 2026 et présenté à l’ICLR 2026, promet de réduire par six la mémoire nécessaire aux grands modèles sans perte de qualité — de quoi redonner de l’air à un laptop 16 Go dans les mois à venir. En attendant son intégration dans les runtimes grand public, la règle reste la même : la bande passante mémoire décide, et le vieux laptop x86 en dual channel garde l’avantage sur le Pi 5.

Conclusion : commencez par ce que vous avez

En 2026, le meilleur premier pas vers un LLM maison n’est ni un achat ni une carte graphique : c’est le vieux laptop qui prend la poussière. Avec 16 Go de RAM et un SSD, il fait tourner confortablement des modèles 3B à 7B, voire 13B avec un petit GPU, pour un coût quasi nul. Le Raspberry Pi 5 reste imbattable sur la consommation et le silence, mais il plafonne sur les petits modèles et exige un vrai travail de bricoleur. Si vous possédez déjà un laptop, la question est réglée. Si vous partez de zéro et visez la sobriété, le Pi a du sens — à condition d’accepter ses limites. Et si vous voulez viser les MoE géants de 2026, il faudra regarder du côté des mini-PC à mémoire unifiée ou d’un eGPU, en gardant en tête que la pénurie de mémoire rend chaque euro plus précieux qu’hier.

Sources

• LLMs en Local sur Raspberry Pi : Ollama, Mistral et Gemma sur Edge en 2026 — Wikiot
• Faire tourner une IA en local en 2026 : guide complet — Brief IA
• llama.cpp v0.5.0 in 2026: What Changed, How to Install, Run GGUF & Use the Local API — Gyanaangan
• FreeToken: Running Massive MoE Models Locally at 2-4x Ollama’s Speed — BetterStack
• FreeToken : Exécutez d’énormes modèles d’IA MoE 3x plus vite qu’avec Ollama — Stork.ai
• Mac mini M6 et OpenClaw : le vrai gain en IA locale — Lokan.fr
• Modèles GGUF : types de quantification et exécution — Convly.ai
• Comparatif LLM & API IA gratuites en français — Iatrust
• Plateforme IA locale et LLM open source — QDNA.fr
• Raspberry Pi : toutes les news, toute l’actu — Les Numériques

Article recherché et rédigé automatiquement · Magazine Electrosens