Exécuter des modèles locaux avec 128 Go de mémoire : coût et configuration

Un ordinateur de 128 Go peut accueillir des fichiers de modèles qui ne tiendraient pas sur une carte graphique classique unique. Le chiffre annoncé doit toutefois être interprété avec soin. AMD Ryzen AI Halo, Apple Mac Studio et NVIDIA DGX Spark utilisent une mémoire système unifiée, partagée entre CPU et GPU. Ce n'est pas la même chose que 128 Go de mémoire dédiée sur des cartes graphiques distinctes. Le système d'exploitation, le moteur du modèle et la mémoire de travail de la conversation ont eux aussi besoin d'espace.

Ce guide s'adresse à une personne techniquement avertie qui choisit une machine d'IA locale pour l'inférence privée, le code ou les documents. Il s'agit de trouver un modèle et un moteur compatibles, d'évaluer le prix d'une machine capable de les exécuter et de vérifier le résultat sur la charge de travail prévue. BIG CHANGE n'a pas testé le matériel. Les étapes ci-dessous suivent la documentation des fabricants et des offres américaines datées, avec la vidéo du 2 octobre de Repo Chad, Every Way to Get 128GB of VRAM for Local AI sert de contexte pour expliquer pourquoi d'anciens conseils tarifaires peuvent induire en erreur. Les prix de la vidéo ont été vérifiés le 30 septembre ; la comparaison actuelle repose donc sur des offres vérifiées le 10 octobre UTC.

Le grand changement

• Ce qui a changé : Un acheteur peut désormais choisir parmi plusieurs systèmes à mémoire unifiée de 128 Go pour l'IA locale, avec des piles logicielles et des prix très différents. La capacité annoncée correspond à la mémoire système partagée ; elle ne garantit pas que le modèle dispose de 128 Go.
• Pourquoi c'est important : L'inférence locale peut garder certaines données sur la machine de son propriétaire, selon le moteur et les outils connectés. Le choix dépend de la mémoire réellement utilisée par le modèle, de la longueur des requêtes, du logiciel pris en charge et du temps d'attente acceptable, pas uniquement du chiffre de mémoire le plus élevé.
• À surveiller : La configuration DGX Spark de 64 Go, moins coûteuse, est attendue le 23 octobre ; deux unités pour former le pool annoncé de 128 Go coûtent au moins 9 998 dollars en additionnant leurs prix de départ. Ceux qui peuvent attendre pourront comparer cette offre, une fois disponible, à une machine unique de 128 Go lorsque les prix et stocks des partenaires seront connus.

Ce que représentent 128 Go sur chaque machine

Les instructions ROCm 7.2 pour Strix Halo, datées du 20 février, décrivent jusqu'à 128 Go de LPDDR5X unifiée. Le système de mémoire virtuelle du GPU mappe des portions de cette RAM partagée dans l'espace d'adressage du GPU. La limite GTT contrôle ce que les processus utilisateur peuvent mapper ; AMD indique une valeur par défaut d'environ la moitié de la RAM système. Une réservation du micrologiciel ou une limite de mappage plus élevée ne transforme pas toute la mémoire installée en VRAM dédiée distincte. AMD documente un utilitaire Linux pour consulter et modifier cette limite, amd-ttm puis un redémarrage. Ne la modifiez qu'après avoir vérifié la machine, l'OS et les instructions ROCm exacts, en laissant de la mémoire pour l'OS et les autres processus.

Apple propose une configuration de Mac Studio avec M5 Max et 128 Go de mémoire unifiée. NVIDIA décrit les 128 Go du DGX Spark comme une mémoire système unifiée et cohérente. Sur ces trois machines, un modèle dont les poids tiennent dans les 128 Go nominaux peut tout de même échouer au chargement ou mal fonctionner lorsque le contexte, le cache clé-valeur, les tampons du moteur et le reste du système consomment aussi de la mémoire. La quantification peut réduire la taille des poids, mais modifie le fichier et peut affecter la qualité. Une réserve mémoire plus grande offre une capacité supplémentaire ; elle ne prouve ni la vitesse de génération ni celle du traitement des requêtes.

Comparatif d'achat aux États-Unis, daté

Voici les prix américains hors taxes, vérifiés le 10 octobre UTC. Les stocks et les prix des configurations sur commande peuvent changer avant le paiement.

Le tableau compare la capacité mémoire et l'accès à l'achat, pas des performances mesurées. La vidéo du créateur cite des benchmarks de plusieurs tiers, mais les moteurs, quantifications, longueurs de contexte et dates de test diffèrent. Ces chiffres ne permettent ni un classement contrôlé de vitesse ni un coût par jeton pour ces configurations précises.

Choisir et vérifier une configuration locale

1. Définissez la tâche réelle et les limites des données. Indiquez le modèle souhaité, le fichier ou format quantifié, le contexte maximal nécessaire et la dépendance éventuelle à CUDA, ROCm ou aux outils macOS. Précisez si les requêtes et documents doivent rester sur la machine. Un modèle local ne garantit pas à lui seul que les données restent locales si l'application envoie des requêtes à un service externe.
2. Prévoyez la mémoire pour toute la charge de travail. Prenez comme point de départ la taille publiée du fichier de modèle choisi. Ajoutez l'espace nécessaire au moteur, au contexte et au cache clé-valeur, à l'OS et aux autres applications ouvertes. Sans ces informations pour le moteur visé, considérez la compatibilité comme non vérifiée. Sur Strix Halo, examinez la limite de mappage GPU à partir des aux instructions ROCm 7.2 d'AMD ; il s'agit d'un guide propre à une version. Consultez les instructions AMD les plus récentes qui s'appliquent avant de considérer toute la RAM partagée comme utilisable par le GPU.
3. Associez un moteur pris en charge à la plateforme. La documentation de NVIDIA sur la prise en main de DGX Spark cite llama.cpp, Ollama, vLLM et LM Studio ; choisissez une solution compatible avec le format exact du modèle et la plateforme. Pour AMD ou Apple, suivez les instructions actuelles du moteur pour la plateforme plutôt que de supposer qu'une commande DGX convient. Téléchargez le modèle auprès de son distributeur d'origine, vérifiez sa licence et sa taille, et notez son identifiant.
4. Exécutez une requête représentative et vérifiez l'adéquation et le temps. Vérifiez que le modèle se charge, produit une réponse utile et tient dans la mémoire disponible avec le contexte prévu. Mesurez séparément le traitement des requêtes et la génération pour votre tâche. Ce sont des critères d'acceptation de l'acheteur, pas des résultats observés par BIG CHANGE. En cas d'échec du chargement, réduisez le contexte ou choisissez une quantification ou un modèle plus petit ; sur AMD, vérifiez le réglage de mappage documenté et la RAM disponible avant de le modifier. Si la vitesse est insuffisante, une hausse de mémoire ne prouve pas qu'une autre machine de 128 Go réglera le problème.
5. Évaluez le coût de l'ensemble. Revérifiez au paiement la configuration exacte, le stock du magasin, les taxes, le stockage, le support et les accessoires nécessaires. Conservez prix et date avec vos notes sur le modèle et le moteur afin qu'une évolution du stock ou du logiciel ne fasse pas passer une ancienne comparaison pour une donnée actuelle.

Cette procédure produit une courte fiche d'achat : configuration et prix exacts au paiement, modèle et licence, versions du moteur et de l'OS, budget mémoire prévu et résultat d'acceptation mesuré après obtention du matériel. Le lecteur décide des données transmises à l'application locale et des outils auxquels elle se connecte. L'achat, l'installation et toute politique de partage des données restent des décisions humaines.

Sources et lectures complémentaires

• Repo Chad, Every Way to Get 128GB of VRAM for Local AI, publiée le 2 octobre 2026. Comparaison du créateur et contexte des prix historiques, vérifiés le 30 septembre. Le titre emploie « VRAM » au sens large ; les spécifications des fabricants ci-dessous indiquent le type exact de mémoire de chaque produit. Cette vidéo n'est pas un test matériel de BIG CHANGE.
• AMD, Optimisation système Strix Halo, documentation ROCm 7.2 datée du 20 février 2026. Elle définit la mémoire unifiée, le mappage GPUVM/GTT, la limite par défaut approximative et la méthode Linux documentée pour la modifier. Vérifiez l'OS et la version concernés avant tout changement.
• Page produit AMD Ryzen AI Halo, consultée le 11 octobre 2026. Elle présente la plateforme développeur actuelle ; les données de performance d'AMD sont des tests du fabricant, pas des résultats indépendants utilisés ici.
• Micro Center, offre AMD Ryzen AI Halo Developer Platform, relevée le 10 octobre UTC. Elle indique 3 999,99 $, 128 Go/2 To et un retrait disponible dans plusieurs magasins affichés. Prix et stock varient selon l'établissement et peuvent changer.
• Apple, caractéristiques techniques du Mac Studio, configurateur américain actuel et annonce du 25 août, vérifiés le 10 octobre UTC. Les caractéristiques confirment une option de 128 Go sur M5 Max. Le prix d'entrée de 2 499 $ de l'annonce ne chiffre pas cette option ; le texte consulté sur le configurateur actuel n'affichait pas le total exact au paiement pour 128 Go.
• NVIDIA Marketplace, DGX Spark, consultée le 10 octobre UTC. Elle établit 128 Go de mémoire système unifiée cohérente, un prix de 6 950 $ et une rupture de stock dans la boutique NVIDIA.
• NVIDIA, annonce du DGX Spark de 64 Go, 2 octobre 2026. Elle annonce une disponibilité chez les partenaires le 23 octobre, un prix de départ de 4 999 $ et un regroupement de deux systèmes en pool de 128 Go. À la date de vérification, l'offre de 64 Go était future ; les affirmations de performance sont celles du fabricant.