128GBメモリでローカルモデルを動かす方法と費用

128GBのコンピューターなら、一般的な単体グラフィックスカードには収まらないモデルファイルを格納できる場合があります。それでも製品の容量表示は慎重に読む必要があります。AMD Ryzen AI Halo、Apple Mac Studio、NVIDIA DGX Sparkは、CPUとGPUが共有するユニファイドシステムメモリを使います。これは独立したグラフィックスカード上の128GB専用メモリとは異なります。OS、モデルランタイム、会話の作業メモリにも領域が必要です。

このガイドは、プライベート推論、コーディング、文書作業向けにローカルAIマシンを1台選ぶ技術者を対象としています。適合するモデルとランタイムを特定し、それらを動かせるマシンの価格を調べ、想定する作業で結果を確認します。BIG CHANGEはハードウェアをテストしていません。以下の手順はメーカー資料と日付入りの米国販売情報に基づき、背景資料としてRepo Chadが10月2日に公開した動画「ローカルAI向けに128GBのVRAMを得るあらゆる方法」を、以前の価格情報が誤解を招く理由を説明する背景資料として参照しています。動画内の価格は9月30日に確認されたため、今回の比較では10月10日UTCに確認した販売情報を使います。

大きな変化

• 何が変わったか： ローカルAI向けに128GBのユニファイドメモリを備えた複数のシステムから選べますが、ソフトウェア構成も価格も大きく異なります。表示容量は共有システムメモリであり、モデルが128GBを使える保証ではありません。
• 重要な理由： ローカル推論なら選んだデータを所有者のマシンに置ける場合がありますが、ランタイムや接続ツールにも左右されます。購入判断では最大メモリ値だけでなく、モデルの実使用量、プロンプト長、ソフトウェア対応、許容できる待ち時間を考慮します。
• 注目点： NVIDIAの低価格な64GB DGX Spark構成は10月23日発売予定です。発表された開始価格を合計すると、2台で128GBのプールを作る案は少なくとも9,998ドルです。待てる購入者は、パートナー価格と在庫が分かった時点で、発売後の構成と単体128GB機を比較できます。

各マシンにおける128GBの意味

AMDのROCm 7.2 Strix Haloガイドは2月20日付で、最大128GBのユニファイドLPDDR5Xを説明しています。GPU仮想メモリシステムは共有RAMの一部をGPUアドレス空間に割り当てます。GTT上限はユーザープロセスが割り当てられる量を制御し、AMDによると既定値はシステムRAMのおよそ半分です。ファームウェア予約や上限拡大によって、搭載メモリ全体が独立した専用VRAMになるわけではありません。AMDはこの上限を確認・変更するLinuxユーティリティを案内しており、amd-ttmその後に再起動します。該当するマシン、OS、ROCm資料を確認し、OSや他のプロセス用のメモリを残したうえで変更してください。

Appleは128GBユニファイドメモリ搭載のM5 Max Mac Studio構成を掲載しています。NVIDIAははDGX Sparkの128GBをコヒーレントなユニファイドシステムメモリと説明しています。どの機種でも、重みが公称128GBに収まるモデルであっても、コンテキスト、キー・バリューキャッシュ、ランタイムバッファ、その他のシステムがメモリを使えば、読み込みに失敗したり動作が遅くなったりする可能性があります。量子化で重みサイズを小さくできますが、ファイルが変わり品質にも影響することがあります。大容量メモリは容量の選択肢を広げますが、生成速度やプロンプト処理速度を示すものではありません。

日付入りの米国購入比較

米国の税抜価格で、10月10日UTCに確認しました。在庫や受注構成の価格は決済前に変わる可能性があります。

この表はメモリ容量と購入手段を比較しており、測定済み性能の比較ではありません。動画は複数の第三者ベンチマークを引用していますが、エンジン、量子化、コンテキスト長、試験日は異なります。これらの数値から、特定構成の統制された速度順位やトークン単価は算出できません。

ローカル環境を選び、確認する

1. 実際の作業とデータの境界を書き出します。 実行したいモデル、量子化ファイルまたは形式、必要な最大コンテキスト、CUDA・ROCm・macOSツールへの依存性を記します。プロンプトや文書をマシン内に留める必要があるかも明記します。アプリが外部サービスにリクエストを送るなら、ローカルモデルだけでデータがローカルに留まるとは限りません。
2. ワークロード全体のメモリを見積もります。 選んだモデルファイルの公称サイズを出発点にします。ランタイム、コンテキストとキー・バリューキャッシュ、OS、他のアプリ用の余裕も加えます。想定するランタイムの情報がなければ、適合性は未確認とみなします。Strix HaloではGPUマッピング上限をAMDのROCm 7.2の説明。これは特定バージョン向けのガイドです。共有RAMすべてをGPUが使えると考える前に、該当する最新のAMD資料を確認してください。
3. プラットフォームに対応したランタイムを選びます。NVIDIAのDGX Sparkのスタートガイドではllama.cpp、Ollama、vLLM、LM Studioが選択肢として挙げられています。モデル形式とプラットフォームに対応するものを選びます。AMDやAppleではDGX用コマンドを流用できると決めつけず、ランタイムの最新のプラットフォーム資料に従います。モデルは元の配布元から取得し、ライセンスとファイルサイズを確認して識別子を記録します。
4. 代表的なプロンプトを実行し、適合性と所要時間を確認します。 モデルが読み込まれ、実用的な回答を生成し、想定コンテキストで利用可能なメモリ内に収まるか確認します。自分の作業でプロンプト処理と生成を別々に計測します。これは購入者の受け入れ確認であり、BIG CHANGEが観測した結果ではありません。読み込めない場合はコンテキストを短くするか、小さい量子化版またはモデルを選びます。AMDでは変更前に、文書化されたマッピング設定と利用可能なシステムRAMを確認します。速度に不満があっても、メモリ増設だけで別の128GB機が解決すると証明できるわけではありません。
5. 購入全体の費用を計算します。 購入時に正確な構成、店舗在庫、税金、ストレージ、サポート、必要な付属品を再確認します。価格と日付はモデルやランタイムの記録と一緒に保存し、在庫やソフトウェアが変わった後に古い比較が最新情報に見えないようにします。

この手順で簡潔な購入記録を作れます。正確な構成と決済価格、モデルとライセンス、ランタイムとOSのバージョン、想定メモリ予算、実機入手後に測定した受け入れ結果を記録します。ローカルアプリに送るデータや接続するツールは利用者が決めます。ハードウェアの購入、設置、データ共有方針も人が判断します。

出典・参考資料

• Repo Chad、ローカルAI向けに128GBのVRAMを得るあらゆる方法（2026年10月2日公開）。制作者による比較と過去価格の背景資料で、価格は9月30日に確認されています。タイトルは「VRAM」を広い意味で使っています。各製品の正確なメモリ種別は以下のメーカー仕様に従います。この動画はBIG CHANGEによるハードウェアテストではありません。
• AMD「Strix Haloシステム最適化。2026年2月20日付ROCm 7.2資料。ユニファイドメモリ、GPUVM/GTTマッピング、おおよその既定上限、文書化されたLinuxでの調整方法を説明します。設定変更前に対象OSとバージョンを確認してください。
• AMD Ryzen AI Halo製品ページ（2026年10月11日確認）。現行の開発者向けプラットフォームを示します。AMDの性能資料はメーカー試験であり、このガイドで使う独立した結果ではありません。
• Micro Center：AMD Ryzen AI Halo Developer Platform掲載（10月10日UTC確認）。価格3,999.99ドル、128GB/2TB構成、複数店舗で店頭受取可能と記載。在庫と価格は店舗ごとに異なり、変わることがあります。
• Apple：Mac Studio技術仕様、現在の米国向け構成ページと8月25日の発表（10月10日UTC確認）。仕様はM5 Maxの128GBオプションを示しています。発表の開始価格2,499ドルはこのオプションの価格ではなく、確認した現在の構成ページにも128GB構成の正確な決済総額は表示されていませんでした。
• NVIDIA Marketplace：DGX Spark（10月10日UTC確認）。NVIDIA直営ストアで128GBのコヒーレントなユニファイドシステムメモリ、6,950ドル、在庫切れを確認できます。
• NVIDIA：64GB DGX Sparkの発表（2026年10月2日）。パートナーでの発売日を10月23日、開始価格を4,999ドルとし、2台を128GBプールにする方法を発表しています。確認日時点では64GB製品は未発売で、性能の主張はメーカー試験です。