Electrosens R&D
Electrosens LLM auto hébergées · 31 October 2026

OpenClaw, Mac mini et mémoire unifiée : ce que « faire tourner des LLM chez soi » veut vraiment dire en 2026

En quelques mois, un projet open source lancé par un développeur solo est devenu le point de fixation de toute l’IA locale — au point qu’on attribue à OpenClaw une pénurie de Macs et un « retour d’Apple dans la course à l’IA ». Derrière le récit médiatique, il y a une architecture matérielle, des modèles open-weight, des coûts cachés et des angles morts que personne ne veut regarder en face. Et à l’automne 2026, le paysage a déjà bougé : Mistral publie ses poids, AMD attaque la mémoire unifiée, Windows ML digère les GGUF.


Le jour où votre Mac est devenu une station d’IA (sans l’avoir vraiment choisi)

L’histoire circule depuis le printemps, sous une forme presque trop belle : OpenClaw, un « harness » d’agents IA open source, aurait remis Apple dans la partie. Selon la presse tech, le succès du projet serait tel qu’Apple n’arriverait plus à produire assez de Macs pour suivre la demande — un titre que l’on retrouve tel quel dans les colonnes de Yahoo Tech : « OpenClaw Put Apple Back in the AI Game—And Now They Can’t Build Macs Fast Enough ». Voilà pour le récit. Il est séduisant, il est cohérent, et il mérite d’être pris au sérieux — mais pas forcément pour les raisons qu’on nous vend.

Car la vraie question n’est pas « Apple est-il de retour dans l’IA ? ». La vraie question, c’est : est-ce qu’un logiciel a réellement fait basculer une industrie, ou est-ce qu’on assiste à un alignement fortuit entre un harness bien conçu et une architecture matérielle — la mémoire unifiée d’Apple Silicon — qui attendait depuis 2020 le logiciel capable de l’exploiter ? Et surtout : si vous, lecteur, envisagez d’acheter une machine pour faire tourner vos propres modèles, ce basculement change-t-il vraiment quelque chose pour vous, ou vous embarque-t-on dans une hype dont la facture arrive plus tard ?

Un détail du récit mérite d’être corrigé d’emblée, car il circule avec une date fausse. Plusieurs reprises situent le lancement d’OpenClaw « en novembre ». Or le site officiel du projet et les témoignages qu’il relaie convergent vers un décollage au premier semestre 2026 : un message cité sur la page d’accueil évoque « en seulement six mois » un projet devenu « le plus rapidement croissant de GitHub », et un événement de célébration réunissant plus de 3 300 inscrits. La couverture de MacGeneration, en mars 2026, décrit déjà le Mac mini comme « l’outil de prédilection pour faire tourner OpenClaw » dans la Silicon Valley, en s’appuyant sur le San Francisco Standard. Autrement dit : au printemps 2026, le phénomène était déjà installé. C’est cette chronologie-là qu’il faut garder en tête, pas la légende d’un projet né « en novembre ».

Pour répondre à la question de fond, il faut d’abord comprendre ce qu’OpenClaw fait réellement. Parce que contrairement à ce que suggère le récit ambiant, ce n’est pas un moteur d’inférence. Et c’est précisément là que tout se joue.


OpenClaw, anatomie d’un harness qui orchestre plus qu’il ne calcule

Commençons par dissiper un malentendu tenace. OpenClaw n’est pas un concurrent de llama.cpp, de vLLM ou de SGLang. Ce n’est pas non plus un « Ollama amélioré ». C’est ce que le milieu appelle désormais un harness d’agents : une couche logicielle qui prend un modèle — quel qu’il soit, local ou distant — et l’entoure de tout ce qui transforme un simple générateur de texte en agent capable d’agir. Le site officiel le présente comme un assistant IA open source qui s’exécute localement sur votre machine (macOS, Linux, Windows), sans abonnement, sans tier hébergé, sans token facturé : « No subscription. No hosted tier. No token. »

Source : openclaw.ai

Concrètement, un harness comme OpenClaw gère la boucle d’orchestration : il découpe une tâche en étapes, décide quand appeler un outil (tool-calling), construit le contexte envoyé au modèle, garde la mémoire de ce qui a déjà été fait, route vers la bonne « compétence », et vérifie le résultat. La Tribune, dans un article du 1er septembre 2026, résume bien le phénomène : depuis plusieurs semaines, le monde de l’IA ne jure plus que par les « harnais », ces outils qui supervisent ce qu’un modèle peut ou ne peut pas faire. Et le magazine spécialisé Agentland.fr décompose un harness en six piliers : substrat de raisonnement, mémoire, constructeur de contexte, routage de compétences, boucle d’orchestration et couche de vérification. OpenClaw n’invente rien de tout cela — il en propose une implémentation cohérente, ouverte et immédiatement utilisable.

Ce que le projet apporte de spécifique, c’est l’intégration. OpenClaw s’interface avec WhatsApp, Telegram ou n’importe quelle app de chat existante pour exécuter des tâches réelles : gestion d’inbox, emails, calendrier, check-in de vols. Là où Ollama et LM Studio restent des runtimes — ils font tourner un modèle et s’arrêtent là —, là où llama.cpp est une bibliothèque d’inférence pure et vLLM/SGLang des serveurs optimisés pour le débit, OpenClaw se place au-dessus de toute cette pile et gère l’agentique. C’est une distinction que beaucoup d’articles de vulgarisation ratent, et qui explique pourquoi OpenClaw peut coexister avec Ollama plutôt que le remplacer. Notre dossier sur les harnais d’agents pour LLM locaux détaille d’ailleurs cette pile en sept pièces ; la version d’OpenClaw en est une implémentation parmi d’autres, aux côtés d’OpenCode ou de Strands Harness, dont AWS a publié une version open source le 21 septembre 2026 avec, à la clé, une réduction du coût en tokens.

La genèse du projet mérite qu’on s’y arrête, avec les précautions d’usage. Le créateur est Peter Steinberger (@steipete), figure connue du développement iOS. Le projet serait passé de « projet de week-end » à dépôt le plus étoilé de GitHub en moins de cinq mois, avec 346 000+ étoiles selon une citation attribuée à Y Combinator et affichée sur le site officiel. En six mois, des dizaines de mainteneurs et des milliers de contributeurs auraient rejoint l’aventure, et plus de 3 300 personnes se seraient inscrites à un événement de célébration. Le projet serait gouverné par une organisation indépendante à but non lucratif 501(c)(3) — statut américain — et bénéficierait du soutien affiché de Microsoft : OpenClaw fonctionnerait nativement sur Windows via les Microsoft Execution Containers, avec sandboxing, selon des citations attribuées à Satya Nadella et Jennifer Marsman.

Il faut ici être honnête sur la solidité de ces chiffres. Le chiffre de 346 000 étoiles provient d’une source unique, non recoupée. Le statut 501(c)(3) n’est vérifié par aucune source indépendante — même s’il est affiché noir sur blanc sur la page d’accueil (« Stewarded by an independent 501(c)(3) »). Les citations de dirigeants Microsoft sont affichées sur le site du projet lui-même ; on y lit bien un message attribué à Satya Nadella remerciant pour « le partenariat » afin de faire tourner OpenClaw « super bien sur Windows », mais c’est une citation de réseaux sociaux, pas un communiqué. Rien de tout cela n’est invraisemblable — mais rien de tout cela n’est non plus confirmé par une autorité tierce. Un magazine sérieux se doit de le dire : on parle ici d’un récit soigneusement entretenu par le projet, pas d’un consensus journalistique établi. Ce qui est confirmé, en revanche, c’est l’existence du projet, sa nature open source, son exécution locale, et l’engouement qu’il suscite — y compris dans la presse généraliste, Le Monde ayant consacré en avril 2026 un article à « cet agent IA autonome qui agite la Silicon Valley ».


Mémoire unifiée : pourquoi Apple Silicon encaisse là où le GPU discret tousse

Voilà le cœur technique du sujet, et la raison pour laquelle le récit « Apple de retour » n’est pas totalement absurde — même s’il est mal formulé.

Un LLM, en inférence, est un problème de bande passante mémoire avant d’être un problème de calcul. Chaque token généré nécessite de lire l’intégralité des poids du modèle. Un modèle de 70 milliards de paramètres quantifié en 4 bits pèse environ 44 à 50 Go selon les chiffres canoniques ; pour le servir à une vitesse décente, il faut pouvoir lire ces dizaines de gigaoctets plusieurs fois par seconde. C’est là que l’architecture compte plus que la puissance brute.

Les puces Apple Silicon ont une particularité structurelle : la mémoire unifiée. CPU et GPU partagent le même pool de RAM, sans copie par le bus PCIe. Une puce comme l’Apple M4 Ultra affiche une bande passante mémoire de 546 Go/s et jusqu’à 128 Go de mémoire unifiée. Cela signifie qu’un Mac Studio peut charger un modèle qui, sur une carte graphique discrète, ne tiendrait tout simplement pas : une RTX 5090 embarque une VRAM bien plus modeste, et dès qu’un modèle dépasse cette capacité, il faut soit le répartir sur plusieurs cartes coûteuses, soit accepter un offloading vers la RAM système — avec l’effondrement de débit que cela implique.

C’est exactement le point où un harness comme OpenClaw change la donne. Un harness d’agents passe son temps à manipuler du contexte : il accumule l’historique, les résultats d’outils, les documents récupérés. Le KV cache — la mémoire des tokens déjà traités — gonfle vite. Sur une architecture à mémoire unifiée, ce cache peut grandir sans se heurter au mur de la VRAM discrète. Les optimisations classiques — quantification 4 ou 8 bits, offloading intelligent des couches, gestion fine du cache — trouvent sur Apple Silicon un terrain plus permissif que sur une carte graphique bridée par sa capacité. Notre dossier sur le vrai coût du Q4 montre d’ailleurs que c’est rarement la quantification des poids qui fait exploser la facture mémoire, mais bien le KV cache en contexte long.

Mais attention à ne pas surinterpréter. La bande passante de 546 Go/s de l’M4 Ultra reste loin des débits des GPU haut de gamme à HBM, et Apple ne propose pas d’équivalent aux accélérateurs professionnels NVIDIA pour l’entraînement. La mémoire unifiée est un avantage pour l’inférence de gros modèles à budget contenu, pas une victoire sur tous les tableaux.

Et il faut noter que la concurrence ne reste pas inactive — c’est même là que le paysage 2026 a le plus changé. AMD propose désormais des machines à mémoire unifiée crédibles : le Ryzen AI Halo (128 Go de mémoire unifiée, modèles jusqu’à 120B+, annoncé à 3 999 $) et les plateformes Strix Halo (64 à 128 Go selon les configurations, modèles 70B à 120B en 4-bit, à partir d’environ 1 500 $). Plus haut dans la gamme, la plateforme Gorgon Halo viserait 192 Go de mémoire unifiée pour des modèles de 200B+ — et Acer annonce de son côté des mini-PC IA à 128 Go de mémoire unifiée, jusqu’à 200 milliards de paramètres. Le terrain de la mémoire unifiée n’est plus une exclusivité Apple ; il devient un segment de marché à part entière, du mini-PC à 1 500 $ à la station à 4 000 $.

Un mot sur les cartes discrètes, pour situer les compromis : une AMD RX 9070 XT 16 Go GDDR6 se négocie autour de 690 à 740 $, et une RX 7800 XT embarque 16 Go. C’est le choix « GPU classique » : rapide, mais plafonné par la VRAM dès qu’on dépasse le 30B en Q4 avec un contexte confortable. À l’inverse, un iGPU comme le Radeon 780M illustre le bas de gamme : environ 8 à 11 tok/s sur Mistral 7B Q4_K_M en Vulkan, 10 à 12 tok/s sur Llama 3 8B Q4 — des gains de +50 % ont été obtenus côté llama.cpp grâce au backend Vulkan, dont +12,9 % via le réglage MMVQ. Utile pour un assistant léger, insuffisant pour un agent qui enchaîne les appels d’outils.


Kimi K3, DeepSeek V4, Mistral Large 4 : le banc d’essai réel

Passons aux modèles. C’est ici que la prudence est la plus nécessaire, car les données locales précises manquent cruellement — et le paysage a bougé à l’automne.

Source : myclaw.ai

Ce qui est documenté : Kimi K3 (MoonshotAI) et MiMo-V2.6-Pro (Xiaomi) sont des modèles mixture-of-experts à poids ouverts, avec une fenêtre de contexte de 1 million de jetons, téléchargeables. Sur l’Artificial Analysis Intelligence Index v4.3.2 — consulté le 22 septembre 2026 —, Kimi K3 obtiendrait un score de 44 et MiMo-V2.6-Pro un score de 46, selon une source tierce commerciale (orcarouter.ai) qu’il convient de prendre avec des pincettes : la page officielle d’Artificial Analysis ne liste, dans nos extraits, que Claude Opus 5.5 à 58. Autrement dit, ces scores ne sont pas confirmés indépendamment.

Un chiffre, en revanche, mérite qu’on s’y attarde : le coût d’exécution de la suite d’évaluation. 3 658,07 $ pour Kimi K3 contre 206,66 $ pour MiMo-V2.6-Pro, soit un facteur d’environ 17. C’est un écart énorme, et il dit quelque chose d’important : à qualité comparable sur le papier, le coût d’exploitation peut varier d’un ordre de grandeur. Pour quelqu’un qui fait tourner ses modèles en local, cela se traduit par des différences de vitesse et de consommation électrique considérables.

L’actualité la plus récente — et la plus importante pour un lecteur européen — c’est évidemment Mistral Large 4, alias « Le Chonk ». Le 6 octobre 2026, Mistral a lancé la préversion publique d’un modèle de 1 000 milliards de paramètres entraîné en Europe, présenté comme l’un des meilleurs modèles de la catégorie open-weight, jusqu’ici dominée par la Chine. Point crucial pour notre sujet : les poids seront publiés le 27 octobre 2026. Autrement dit, à la date où nous écrivons, Mistral Large 4 est annoncé open-weight mais pas encore téléchargeable. C’est une nuance que beaucoup de titres ont écrasée. Et il faut être lucide sur ce que « 1 000 milliards de paramètres » signifie pour un particulier : même en Q4, l’ordre de grandeur dépasse largement les 128 Go de mémoire unifiée d’un Mac Studio ou d’un Ryzen AI Halo. Un tel modèle n’est pas un candidat sérieux pour votre bureau ; c’est un modèle de datacenter ou de cluster. Il compte pour le paysage, pas pour votre facture d’électricité.

Sur les autres modèles, la base documentaire est plus mince. DeepSeek V4 apparaît dans des comparatifs (« Kimi K3 vs DeepSeek V4 Pro: Best Open Source LLM in 2026? ») et dans un catalogue commercial listant DeepSeek V4.1 Flash et DeepSeek V4 Pro 0813, mais sans données de performance locale. Llama 4 Scout et Qwen3 sont cités comme comparables à GPT-4o mini sur la plupart des benchmarks code et raisonnement — une affirmation tierce, non vérifiée. Pour les vitesses de génération en tokens/s sur M4 Max ou M5 Pro/Max, il faut être clair : aucune donnée fiable n’est disponible dans nos sources. On ne donnera donc pas de chiffres inventés.

Modèle Type Contexte Score annoncé Empreinte mémoire locale Vitesse sur Mac
Kimi K3 MoE open-weight 1M jetons 44 (AA Index v4.3.2, non confirmé) non précisée non mesurée
MiMo-V2.6-Pro MoE open-weight 1M jetons 46 (AA Index v4.3.2, non confirmé) non précisée non mesurée
Mistral Large 4 (« Le Chonk ») open-weight, 1 000 Md param. non précisé non précisé hors de portée d’une machine unique non mesurée
DeepSeek V4 open-weight non précisé non précisé non précisée non mesurée
Llama 4 Scout open-weight non précisé ~GPT-4o mini (tiers) ~40 Go VRAM en qualité complète non mesurée
Qwen3 open-weight non précisé ~GPT-4o mini (tiers) non précisée non mesurée

Les repères de mémoire, eux, sont plus solides : un modèle 7B en Q4_K_M tient dans 4 à 5 Go, un 13B en Q4 dans environ 10 Go, un 20B en Q4 dans environ 12 Go, et un 70B en Q4 dans 44 à 50 Go. Pour les modèles MoE massifs comme Kimi K3 ou MiMo-V2.6, la quantification Q4 réduit approximativement de moitié l’empreinte, mais l’architecture MoE complique l’estimation : seuls les experts activés consomment du calcul, mais tous les poids doivent résider en mémoire. C’est précisément le piège que détaille notre dossier sur les formats de quantification : sur un MoE en contexte long, le « Q4 par défaut » n’est pas un choix neutre.

Les limites observées, elles, sont transversales : la fiabilité du tool-calling se dégrade sur les contextes très longs, et les agents qui enchaînent des dizaines d’étapes accumulent les erreurs. C’est un problème de harness autant que de modèle — et c’est précisément ce qu’OpenClaw prétend adresser.


Le coût caché : ce que « sans se ruiner » veut vraiment dire

Voici le point où le récit marketing se fissure le plus.

L’argument de vente est simple : « pas d’abonnement, pas de token facturé ». C’est vrai au sens strict — OpenClaw ne vous facture rien, et si vous faites tourner un modèle local, personne ne vous facture de token. Mais « sans se ruiner » ne veut pas dire « gratuit ». Il veut dire que la dépense se déplace : du coût variable (l’API) vers le coût fixe (la machine), plus une facture d’électricité et une décote matérielle.

Premier poste : le matériel. Le récit du Mac mini « à partir de 599 $ » est trompeur. MacGeneration est explicite : si le prix de départ est attractif, « la plupart des acheteurs n’hésitent pas à débourser jusqu’à 2 000 $ pour doper la mémoire vive et la puissance de calcul », indispensables pour faire tourner ces modèles 24 h/24. C’est le vrai ticket d’entrée d’un agent qui tourne en permanence : la RAM, pas le CPU. Et côté AMD, le ticket est affiché : 3 999 $ pour un Ryzen AI Halo 128 Go, ou environ 1 500 $ pour une plateforme Strix Halo d’entrée. Une RX 9070 XT 16 Go à ~700 $ est moins chère, mais plafonne la taille de modèle.

Deuxième poste : le contexte. Un harness d’agents ne fait pas des requêtes courtes. Il empile l’historique, les résultats d’outils, les documents récupérés. Le KV cache gonfle, et sur une machine à mémoire unifiée, il grignote la même RAM que les poids du modèle. C’est le point que notre dossier sur le KV cache, ce faux ami qui mange votre budget mémoire met en avant : on achète 128 Go pour un modèle de 70 Go, et on découvre que le contexte long en réclame 40 de plus.

Troisième poste : la sécurité. C’est le coût le plus sous-estimé, et le plus documenté. MacGeneration raconte le cas d’Aaron Ng, ingénieur en IA à San Francisco, qui a acheté un Mac mini en janvier précisément pour tester OpenClaw sans exposer ses données personnelles : « Je ne voulais pas lui donner accès à mon ordinateur principal. C’était trop risqué de le laisser agir sans surveillance. » La prudence n’est pas théorique : une directrice du Meta Superintelligence Labs a vu son agent IA supprimer la moitié de sa boîte de réception Gmail après avoir pris un peu trop de libertés. Le même article évoque les « skills » d’OpenClaw comme une porte d’entrée pour les malwares. Traduction budgétaire : une machine dédiée, un environnement cloisonné, éventuellement une seconde machine. Un agent qui a accès à votre boîte mail et à votre calendrier n’est pas un gadget ; c’est un composant de votre système d’information, avec les coûts de cloisonnement que cela implique.

Quatrième poste : l’électricité et l’usure. Un Mac mini ou un mini-PC qui tourne 24 h/24 consomme peu mais consomme ; une station à GPU discret beaucoup plus. Sur douze mois, la différence entre un iGPU à 10-12 tok/s et une machine à mémoire unifiée se paie aussi en watts. Aucune de nos sources ne fournit de mesure consolidée du coût en watt-heure d’un agent OpenClaw en fonctionnement continu — on ne l’inventera pas. Mais le principe est arithmétique : un agent qui « pense » en boucle est un appareil électroménager de plus.

Cinquième poste, le plus vicieux : la décote. Un Mac mini à 2 000 $ acheté pour faire tourner des modèles 24 h/24 ne vaut plus grand-chose deux ans plus tard sur le marché de l’occasion, et il ne se met pas à jour. L’API, elle, n’a pas de valeur résiduelle à amortir. C’est l’argument classique contre le local — et il reste valable pour un usage sporadique. Le local ne devient rationnel que si l’usage est intensif, les données sensibles, ou la dépendance à un fournisseur inacceptable.

C’est là que le récit « sans se ruiner » doit être retourné : le local ne vous ruine pas en tokens, il vous ruine en capital immobilisé et en complexité opérationnelle. La bonne question n’est pas « combien coûte un token ? » mais « combien d’heures par jour mon agent tourne-t-il, et que se passe-t-il s’il se trompe ? ».


L’écosystème 2026 : ce qui a changé depuis le printemps

Le paysage de l’IA locale à l’automne 2026 n’est plus celui du lancement d’OpenClaw. Trois évolutions comptent pour quiconque veut faire tourner des modèles chez soi.

Source : youtube.com

Windows rattrape son retard. Le 7 octobre 2026, Microsoft a détaillé les améliorations de Windows ML, et le 9 octobre, la presse spécialisée a relayé le point clé : Windows ML ajoute un support expérimental de llama.cpp pour les modèles GGUF, une API locale compatible OpenAI, la génération de texte ONNX et de nouveaux outils de runtime. Concrètement, cela signifie que la pile « GGUF + serveur local » cesse d’être une affaire de bidouilleurs Linux et de Mac : elle devient une brique supportée par l’OS. Pour un harness comme OpenClaw, qui revendique un fonctionnement natif sur Windows via les Microsoft Execution Containers, c’est un alignement stratégique — et pour l’utilisateur, une raison de moins d’acheter un Mac.

Les moteurs d’inférence se banalisent. llama.cpp est passé en v0.5.0 (guide publié le 27 septembre 2026), avec des changements de backend, de modèles et de serveur ; il reste la colonne vertébrale invisible sur laquelle tournent Ollama, LM Studio et une bonne partie des serveurs maison. Un comparatif de 48 outils publié le 20 septembre 2026 recense les moteurs, runtimes (Ollama, LM Studio, Jan) et passerelles, avec licences, support GPU et compatibilité API OpenAI. Et une curiosité venue de la sphère russophone, le moteur Strata, revendique de faire tourner un Qwen 125B sur une carte graphique ordinaire — le débat sur les « moteurs d’inférence sur-entraînés » agite r/LocalLLaMA depuis le 5 octobre 2026. À prendre pour ce que c’est : une promesse à vérifier, pas un résultat établi.

Le décodage spéculatif devient un réglage de base. Deux articles de septembre 2026 (lecompute.fr le 13, contextstudios.ai le 19) convergent : le décodage spéculatif est « le seul gain de vitesse sans perte », à condition de choisir un bon modèle brouillon, de surveiller le taux d’acceptation et de mesurer honnêtement. Pour un harness qui enchaîne les appels d’outils, c’est un levier direct sur le coût par tâche — sans dégrader la qualité, contrairement à une quantification plus agressive.

Et le matériel alternatif frappe à la porte. Le 20 octobre 2026, à la PyTorch Conference, Google a ouvert le code de TorchTPU, le pont qui fait tourner du PyTorch natif sur TPU sans bricoler JAX/XLA. Sur le papier, c’est un changement de backend ; en pratique, c’est la première fois qu’un serveur LLM local pourrait ne plus être un GPU. Pour un particulier, l’accès au TPU reste marginal ; pour une petite structure qui héberge ses propres modèles, c’est une option à surveiller.

Reste un angle mort que personne ne veut regarder : la fiabilité. Un agent qui gère votre inbox et votre calendrier n’est pas un chatbot. Les cas documentés de suppression massive de courriels et de skills malveillantes montrent que la couche de vérification — le sixième pilier du harness — est la moins mature de la pile. Aucun benchmark public ne mesure sérieusement le taux d’échec d’un agent local sur une semaine de fonctionnement réel. C’est le vrai chantier de 2027.


Ce qu’il faut retenir si vous voulez vous lancer

Si vous voulez faire tourner des LLM open-weight chez vous sans vous ruiner, la synthèse honnête est la suivante.

Pour découvrir, ne dépensez rien. Un modèle 7B ou 8B en Q4_K_M (4 à 5 Go) tourne sur n’importe quelle machine correcte, via Ollama ou llama.cpp. C’est le meilleur moyen de savoir si l’usage est réel avant d’investir. Notre dossier sur Ollama, standard de fait de l’IA locale, détaille ce point d’entrée.

Pour un agent qui tourne en continu, achetez de la mémoire, pas du calcul. C’est la leçon du Mac mini à 2 000 $ et du Ryzen AI Halo à 3 999 $ : ce qui compte, c’est la capacité à garder les poids et le KV cache en mémoire. Un 70B en Q4 (44 à 50 Go) plus un contexte confortable demande 64 Go minimum, 128 Go pour être tranquille. En dessous, vous ferez de l’offloading et vous paierez en tokens par seconde.

Isolez l’agent. Machine dédiée ou environnement cloisonné, comme l’ingénieur de San Francisco. Le coût de la sécurité fait partie du budget.

Surveillez le 27 octobre. La publication des poids de Mistral Large 4 est l’événement à venir ; elle ne changera pas votre configuration locale (1 000 milliards de paramètres, c’est hors de portée d’une machine unique), mais elle pèsera sur l’écosystème open-weight et sur les prix.

Méfiez-vous des chiffres ronds. Les 346 000 étoiles, le statut 501(c)(3), les scores de l’AA Index pour Kimi K3 et MiMo-V2.6 : tout cela vient du projet ou de sources commerciales, pas d’une autorité indépendante. Le récit est séduisant ; la vérification, elle, reste à faire.


Sources

Article recherché et rédigé automatiquement · Magazine Electrosens
📬 Restez à la pointe
Recevez chaque semaine les nouveautés de ce magazine par email.
💬 Une remarque, une correction ?
Aidez-nous à améliorer cet article. Nous prenons en compte vos retours.

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *