Le grand écart des petits modèles : ce que les LLM open-weights sous 7B font vraiment tourner chez vous en 2026
Alors que la course aux paramètres monopolise l’attention (Kimi K3, DeepSeek V4 Pro, modèles 100B+), une contre-tendance silencieuse redessine l’IA locale : les modèles sous 7B paramètres sont devenus, en 2026, le vrai terrain de jeu du hardware grand public. Cet article dresse un panorama structuré
llama.cpp 0.5.0 : autopsie technique du moteur qui fait tourner l’IA locale en 2026
llama.cpp a changé de dimension en 2026 : passage en 0.4.0 puis 0.5.0, refonte du backend, nouvelles optimisations CPU/GPU, API locale repensée. On décrypte en profondeur ce que ces versions changent réellement pour quiconque fait tourner des LLM open-weights chez soi — au-delà du changelog marketin
Kimi K3 vs DeepSeek V4 Pro : le duel des open-weights qui redéfinit ce qu’on peut faire tourner chez soi
Comparatif argumenté et technique des deux modèles open-weights les plus discutés de cette fin 2026 — Kimi K3 et DeepSeek V4 Pro — confrontés sur ce qui compte vraiment pour un usage local : architecture (MoE, nombre d’experts actifs, contexte), empreinte mémoire réelle à différentes quantifications
Strata : l’engine qui fait tourner un modèle 125B sur un seul GPU — autopsie technique d’un buzz
Strata, un moteur d’inférence open source devenu viral, revendique de faire tourner un modèle de 125 milliards de paramètres à « vitesse fulgurante » sur un seul GPU grand public — une affirmation qui mérite d’être disséquée couche par couche. L’article décortique l’architecture probable de Strata (
iGPU 2026 : le réveil des graphiques intégrés pour l’IA locale — Vulkan, ROCm et la fin du « il te faut une RTX
Pendant des années, faire tourner un LLM chez soi rimait avec GPU dédié NVIDIA. En 2026, ce dogme s’effondre : les iGPU AMD RDNA3/RDNA4 (780M, Strix Halo) et Intel Arc intégrés deviennent des cibles de première classe pour llama.cpp et l’écosystème local, avec des optimisations Vulkan et ROCm qui ch
AirLLM en 2026 : faire tourner un 70B sur 4 Go de VRAM, vraiment ?
AirLLM refait surface en 2026 avec une promesse spectaculaire : exécuter un modèle 70B sur un GPU de 4 Go, voire un 405B sur 8 Go de VRAM, sans quantification. Derrière le buzz, il s’agit d’une technique d’inférence par couches (chargement séquentiel des poids depuis le stockage, offload agressif, s
OpenClaw, le harness qui a fait basculer Apple dans l’IA locale — et pourquoi votre Mac n’est peut-être pas prêt
OpenClaw est devenu en quelques mois le harness open source de référence pour faire tourner des agents LLM en local, au point — selon la presse récente — d’avoir remis Apple dans la course à l’IA et de créer une pénurie de Macs. On décrypte en profondeur ce phénomène : ce qu’OpenClaw fait réellement
Harnais d’agents open source pour LLM locaux : le vrai chaînon manquant de l’IA à domicile
En 2026, faire tourner un LLM open weight chez soi ne suffit plus : ce qui transforme un modèle en assistant réellement utile, c’est le « harnais » — la couche logicielle qui gère outils, mémoire, boucles de raisonnement, exécution de code et permissions. Ce panorama recense l’écosystème naissant de
GGUF, AWQ, GPTQ, EXL2, NVFP4 : le grand guide 2026 de la quantification pour LLM locaux
En 2026, la quantification n’est plus un simple réglage de compression : c’est devenu le levier principal pour faire tenir un modèle open-weight sur du matériel grand public, et le choix du format (GGUF, AWQ, GPTQ, EXL2, NVFP4, FP8) détermine à la fois la vitesse, la qualité et la compatibilité de t
KV Cache : le nouveau champ de bataille pour faire tourner des LLM chez soi
Le KV cache est devenu le facteur limitant n°1 de l’inférence locale de LLM : il dévore la mémoire vive et croît avec la longueur du contexte, plafonnant la taille des modèles exécutables sur du matériel grand public. Cet article de fond explore les avancées récentes qui rebattent les cartes — la co