Edisi Markdown

AI-translated from English; not yet reviewed by a fluent editor.

# Cara menjalankan model lokal dengan memori 128 GB dan biayanya

> Panduan praktis membeli sistem memori terpadu 128 GB untuk AI lokal: arti memori model sebenarnya, harga AS bertanggal, pilihan platform, dan hal yang perlu diperiksa sebelum membeli.

By BIG CHANGE Editorial

Published: 2026-10-10T23:47:09.293Z
Updated: 2026-10-10T23:47:09.293Z
Canonical: https://bigchange.ai/blog/run-local-models-128gb-memory-cost

![Conceptual charcoal illustration of an unbranded compact desktop computer with its cover removed, exposing a circuit board and a small orange connection between memory packages and a compute chip.](https://bigchange.ai/api/media/file/local-model-shared-memory-workstation-hero-v1.png)
AI-generated conceptual editorial illustration by BIG CHANGE.

Komputer 128 GB dapat menampung berkas model yang tidak muat pada satu kartu grafis konvensional. Namun, angka pada kemasan perlu dibaca dengan cermat. AMD Ryzen AI Halo, Apple Mac Studio, dan NVIDIA DGX Spark memakai memori sistem terpadu yang dibagi CPU dan GPU. Ini berbeda dari memori khusus 128 GB pada kartu grafis diskret. Sistem operasi, runtime model, dan memori kerja percakapan juga membutuhkan ruang.

Panduan ini ditujukan kepada pengguna teknis yang memilih satu mesin AI lokal untuk inferensi privat, pemrograman, atau pekerjaan dokumen. Tujuannya menentukan model dan runtime yang sesuai, menilai harga mesin yang dapat menjalankannya, lalu memeriksa hasil pada beban kerja yang dimaksud. BIG CHANGE tidak menguji perangkat keras. Langkah berikut mengikuti dokumentasi vendor dan daftar toko AS bertanggal, dengan [video Repo Chad tanggal 2 Oktober, *Every Way to Get 128GB of VRAM for Local AI* ](https://youtu.be/Ss7nXHxaJPk) digunakan sebagai latar untuk menjelaskan mengapa saran harga lama dapat menyesatkan. Harga dalam video diperiksa 30 September, sehingga perbandingan saat ini memakai daftar yang diperiksa pada 10 Oktober UTC.

## Perubahan besar

- **Yang berubah:** Pembeli dapat memilih beberapa sistem AI lokal dengan memori terpadu 128 GB, dengan tumpukan perangkat lunak dan harga yang sangat berbeda. Kapasitas yang diiklankan adalah memori sistem bersama, bukan jaminan bahwa model dapat memakai seluruh 128 GB.
- **Mengapa ini penting:**Inferensi lokal dapat menjaga data tertentu tetap di mesin pemilik, bergantung pada runtime dan alat yang terhubung. Keputusan pembelian bergantung pada penggunaan memori model yang sebenarnya, panjang prompt, dukungan perangkat lunak, dan waktu tunggu yang dapat diterima, bukan hanya angka memori terbesar.
- **Yang perlu diperhatikan:**Konfigurasi DGX Spark 64 GB yang lebih murah dijadwalkan hadir 23 Oktober; dua unit untuk pool 128 GB berharga sedikitnya US$9.998 berdasarkan penjumlahan harga awal yang diumumkan. Pembeli yang bisa menunggu dapat membandingkannya dengan satu mesin 128 GB setelah harga dan ketersediaan mitra diketahui.

## Arti 128 GB pada tiap mesin

Dokumentasi [panduan ROCm 7.2 Strix Halo](https://rocm.docs.amd.com/en/docs-7.2.0/how-to/system-optimization/strixhalo.html), tertanggal 20 Februari, menjelaskan hingga 128 GB LPDDR5X terpadu. Sistem memori virtual GPU memetakan sebagian RAM bersama ke ruang alamat GPU. Batas GTT mengatur yang dapat dipetakan proses pengguna; AMD menyebut nilai bawaan sekitar setengah RAM sistem. Reservasi firmware atau batas pemetaan lebih besar tidak mengubah seluruh memori terpasang menjadi kumpulan VRAM khusus yang terpisah. AMD mendokumentasikan utilitas Linux untuk memeriksa dan mengubah batas ini, `amd-ttm` lalu mulai ulang. Ubah hanya setelah memeriksa mesin, OS, dan panduan ROCm yang tepat serta menyisakan memori untuk OS dan proses lain.

Apple [mencantumkan konfigurasi Mac Studio M5 Max dengan memori terpadu 128 GB](https://www.apple.com/mac-studio/specs/). NVIDIA [menggambarkan 128 GB DGX Spark sebagai memori sistem terpadu yang koheren](https://marketplace.nvidia.com/en-us/enterprise/personal-ai-supercomputers/dgx-spark/?linkId=100000393960046). Pada ketiganya, model yang bobotnya tampak muat dalam angka nominal 128 GB tetap dapat gagal dimuat atau berjalan buruk ketika konteks, cache key-value, buffer runtime, dan bagian sistem lain turut memakai memori. Kuantisasi dapat mengurangi ukuran bobot, tetapi mengubah berkas dan dapat memengaruhi kualitas. Pool lebih besar memberi pilihan kapasitas, bukan bukti kecepatan generasi atau pemrosesan prompt.

## Perbandingan pembelian AS bertanggal

Ini adalah harga AS sebelum pajak yang diperiksa pada 10 Oktober UTC. Stok toko dan harga konfigurasi pesanan dapat berubah sebelum pembayaran.

| Rute | Keputusan memori dan perangkat lunak | Harga dan ketersediaan saat diperiksa |
| --- | --- | --- |
| Platform Pengembang AMD Ryzen AI Halo | LPDDR5X terpadu 128 GB, penyimpanan 2 TB; periksa runtime AMD dan pemetaan GPU yang dituju untuk OS pilihan. | [Micro Center mencantumkan harga US$3.999,99](https://www.microcenter.com/product/711962/amd-ryzen-ai-halo-developer-platform), tersedia untuk diambil di beberapa toko yang tercantum saat diperiksa. Ketersediaan berbeda menurut toko. |
| Apple Mac Studio, konfigurasi M5 Max 128 GB | Memori terpadu 128 GB adalah opsi konfigurasi pesanan pada tingkat M5 Max yang disebutkan; pastikan runtime model mendukung macOS dan format model pilihan. | Kreator [melaporkan total checkout Apple sebesar US$5.099 pada 30 September ](https://youtu.be/Ss7nXHxaJPk?t=332) untuk konfigurasi CPU 18-core, GPU 40-core, 128 GB/512 GB. BIG CHANGE tidak dapat memastikan total persis tersebut pada halaman toko Apple saat ini; periksa konfigurasi terkini sebelum membeli. Harga awal M5 Max Apple US$2.499 bukan harga konfigurasi 128 GB. |
| NVIDIA DGX Spark 128 GB | Memori sistem terpadu koheren 128 GB dan tumpukan perangkat lunak CUDA NVIDIA. Pastikan alat yang dituju berfungsi pada platform ini. | [NVIDIA Marketplace mencantumkan US$6.950 dan stok habis](https://marketplace.nvidia.com/en-us/enterprise/personal-ai-supercomputers/dgx-spark/?linkId=100000393960046). Stok mitra mungkin berbeda. |
| Dua sistem DGX Spark 64 GB yang akan datang | NVIDIA menyebut ConnectX-7 dan NVIDIA Sync dapat menggabungkan dua sistem 64 GB menjadi pool 128 GB; ini adalah konfigurasi dua node yang kompatibilitas beban kerjanya perlu diperiksa. | [NVIDIA mengumumkan ](https://blogs.nvidia.com/blog/local-ai-dgx-spark-64gb-sync/)ketersediaan mitra mulai 23 Oktober dengan harga awal US$4.999 per unit. Dua harga awal berjumlah US$9.998 sebelum pajak dan kabel yang mungkin diperlukan; pada tanggal pemeriksaan, ini masih tawaran mendatang. |

Tabel membandingkan kapasitas memori dan akses pembelian, bukan kinerja terukur. Video kreator memuat angka benchmark dari beberapa pihak ketiga, tetapi engine, kuantisasi, panjang konteks, dan tanggal pengujian berbeda. Angka itu tidak dapat dijadikan peringkat kecepatan terkontrol atau biaya per token untuk konfigurasi ini.

## Pilih dan periksa penyiapan lokal

1. **Catat tugas sebenarnya dan batas data.** Sebutkan model yang ingin dijalankan, berkas atau format terkuantisasi, konteks maksimum, serta ketergantungan alur kerja pada alat CUDA, ROCm, atau macOS. Catat apakah prompt dan dokumen harus tetap di mesin. Model lokal saja tidak menjaga data tetap lokal jika aplikasinya mengirim permintaan ke layanan eksternal.
2. **Anggarkan memori untuk seluruh beban kerja.** Mulailah dari ukuran berkas model pilihan yang dipublikasikan. Sisakan ruang untuk runtime, konteks dan cache key-value, sistem operasi, serta aplikasi lain yang terbuka. Jika informasi runtime yang dituju tidak tersedia, anggap kecocokan belum terverifikasi. Pada Strix Halo, periksa batas pemetaan GPU berdasarkan [petunjuk ROCm 7.2 AMD](https://rocm.docs.amd.com/en/docs-7.2.0/how-to/system-optimization/strixhalo.html); ini panduan untuk versi tertentu. Periksa petunjuk AMD terbaru yang berlaku sebelum menganggap seluruh RAM bersama dapat dipakai GPU.
3. **Cocokkan runtime yang didukung dengan platform.**Panduan [memulai DGX Spark](https://blogs.nvidia.com/blog/local-ai-dgx-spark-64gb-sync/) menyebut llama.cpp, Ollama, vLLM, dan LM Studio sebagai opsi; pilih yang mendukung format model dan platform yang tepat. Untuk AMD atau Apple, ikuti petunjuk platform runtime terkini, jangan menganggap perintah DGX berlaku. Unduh model dari distributor aslinya, periksa lisensi dan ukuran berkas, lalu catat identitas model.
4. **Jalankan prompt representatif dan periksa kecocokan serta waktunya.** Pastikan model dapat dimuat, menghasilkan jawaban berguna, dan tetap dalam memori yang tersedia pada konteks yang dituju. Ukur pemrosesan prompt dan generasi secara terpisah untuk tugas Anda. Ini pemeriksaan penerimaan pembeli, bukan hasil pengamatan BIG CHANGE. Jika gagal dimuat, kurangi konteks atau pilih kuantisasi atau model lebih kecil; pada AMD, periksa pengaturan pemetaan yang didokumentasikan dan RAM sistem yang tersedia sebelum mengubahnya. Jika kecepatannya tidak memadai, menambah memori saja tidak membuktikan mesin 128 GB lain akan menyelesaikannya.
5. **Hitung biaya keputusan secara keseluruhan.**Periksa lagi konfigurasi tepat, stok toko, pajak, penyimpanan, dukungan, dan aksesori yang diperlukan saat checkout. Simpan harga dan tanggal bersama catatan model dan runtime agar perubahan stok atau perangkat lunak kelak tidak membuat perbandingan lama tampak mutakhir.

Prosedur ini menghasilkan catatan pembelian singkat: konfigurasi mesin dan harga checkout yang tepat, model dan lisensi, versi runtime dan OS, anggaran memori yang diperkirakan, serta hasil penerimaan terukur setelah perangkat tersedia. Pembaca mengendalikan data yang dikirim ke aplikasi lokal dan alat yang dihubungkan. Pembelian perangkat, instalasi, dan kebijakan berbagi data tetap merupakan keputusan manusia.

## Sumber dan bacaan lanjutan

- [Repo Chad, *Every Way to Get 128GB of VRAM for Local AI*](https://youtu.be/Ss7nXHxaJPk), diterbitkan 2 Oktober 2026. Perbandingan kreator dan latar harga historis yang diperiksa 30 September. Judul memakai “VRAM” secara luas; spesifikasi vendor di bawah memberi jenis memori yang tepat. Video ini bukan pengujian perangkat keras BIG CHANGE.
- [AMD, *Optimasi sistem Strix Halo*](https://rocm.docs.amd.com/en/docs-7.2.0/how-to/system-optimization/strixhalo.html), dokumentasi ROCm 7.2 tertanggal 20 Februari 2026. Menjelaskan memori terpadu, pemetaan GPUVM/GTT, batas bawaan perkiraan, dan cara penyesuaian Linux yang terdokumentasi. Periksa OS dan versi yang berlaku sebelum mengubah pengaturan.
- [Halaman produk AMD Ryzen AI Halo](https://www.amd.com/en/products/processors/desktops/ryzen/ryzen-ai-halo.html), diperiksa 11 Oktober 2026. Mengidentifikasi platform pengembang saat ini; materi kinerja AMD adalah pengujian vendor, bukan hasil independen yang dipakai dalam panduan ini.
- [Daftar Micro Center: Platform Pengembang AMD Ryzen AI Halo](https://www.microcenter.com/product/711962/amd-ryzen-ai-halo-developer-platform), diperiksa 10 Oktober UTC. Mencantumkan harga US$3.999,99, konfigurasi 128 GB/2 TB, dan pengambilan di beberapa toko yang terdaftar. Harga serta stok berbeda menurut toko dan dapat berubah.
- [Apple: Spesifikasi teknis Mac Studio](https://www.apple.com/mac-studio/specs/), [konfigurator AS saat ini](https://www.apple.com/shop/buy-mac/mac-studio) dan [pengumuman 25 Agustus](https://www.apple.com/newsroom/2026/08/apple-introduces-new-mac-studio-with-m5-max-and-m5-ultra/), diperiksa 10 Oktober UTC. Spesifikasi menetapkan opsi 128 GB pada M5 Max. Harga awal US$2.499 dalam pengumuman bukan harga opsi itu; teks konfigurator toko saat ini yang dibaca di sini tidak menampilkan total checkout tepat untuk konfigurasi 128 GB.
- [NVIDIA Marketplace: DGX Spark](https://marketplace.nvidia.com/en-us/enterprise/personal-ai-supercomputers/dgx-spark/?linkId=100000393960046), diperiksa 10 Oktober UTC. Menetapkan memori sistem terpadu koheren 128 GB, harga US$6.950, dan status habis di toko NVIDIA sendiri.
- [NVIDIA: Pengumuman DGX Spark 64 GB](https://blogs.nvidia.com/blog/local-ai-dgx-spark-64gb-sync/), 2 Oktober 2026. Memberikan tanggal ketersediaan mitra 23 Oktober, harga awal US$4.999, dan jalur yang diumumkan untuk menggabungkan dua sistem menjadi pool 128 GB. Pada tanggal pemeriksaan, penawaran 64 GB masih mendatang; klaim kinerja adalah pengujian vendor.

## Sources

- [Repo Chad: Every Way to Get 128GB of VRAM for Local AI](https://youtu.be/Ss7nXHxaJPk) — Perbandingan kreator, harga diperiksa 30 September 2026. Dipakai sebagai konteks historis dan untuk menunjukkan bagaimana harga lama dapat menyesatkan; bukan acuan harga terkini atau pengujian perangkat keras BIG CHANGE.
- [AMD: Optimasi sistem Strix Halo, ROCm 7.2](https://rocm.docs.amd.com/en/docs-7.2.0/how-to/system-optimization/strixhalo.html) — Menjelaskan LPDDR5X terpadu hingga 128 GB, pemetaan GPUVM/GTT, batas GTT bawaan, dan jalur pengaturan Linux terdokumentasi. Ini tidak berarti seluruh RAM terpasang adalah VRAM khusus atau tersedia bagi satu model.
- [Halaman produk AMD Ryzen AI Halo](https://www.amd.com/en/products/processors/desktops/ryzen/ryzen-ai-halo.html) — Mengidentifikasi platform pengembang AMD saat ini. Perbandingan kinerja AMD adalah pengujian vendor dan tidak dipakai di sini sebagai hasil independen.
- [Micro Center: Platform Pengembang AMD Ryzen AI Halo](https://www.microcenter.com/product/711962/amd-ryzen-ai-halo-developer-platform) — Cuplikan bertanggal dari peritel: US$3.999,99, 128 GB/2 TB, dan pengambilan di beberapa toko yang tercantum. Harga serta stok berbeda menurut toko dan dapat berubah.
- [Apple: Spesifikasi teknis Mac Studio](https://www.apple.com/mac-studio/specs/) — Menetapkan opsi konfigurasi memori terpadu 128 GB untuk M5 Max. Tidak memberikan harga checkout AS terverifikasi untuk opsi tersebut.
- [Apple: Konfigurator Mac Studio AS saat ini](https://www.apple.com/shop/buy-mac/mac-studio) — Dibuka untuk memeriksa harga checkout M5 Max 128 GB saat ini; teks yang terbaca tidak menampilkan total konfigurasi yang tepat. Jangan menyimpulkannya dari harga awal.
- [Apple: Pengumuman Mac Studio M5 Max dan M5 Ultra](https://www.apple.com/newsroom/2026/08/apple-introduces-new-mac-studio-with-m5-max-and-m5-ultra/) — Menyebut harga awal seri M5 Max di AS sebesar US$2.499 dan waktu rilis. Itu bukan harga konfigurasi 128 GB.
- [NVIDIA Marketplace: DGX Spark](https://marketplace.nvidia.com/en-us/enterprise/personal-ai-supercomputers/dgx-spark/?linkId=100000393960046) — Cuplikan bertanggal dari toko NVIDIA: memori sistem terpadu koheren 128 GB, US$6.950, dan stok habis. Stok mitra mungkin berbeda.
- [NVIDIA: Pengumuman DGX Spark 64 GB dan NVIDIA Sync](https://blogs.nvidia.com/blog/local-ai-dgx-spark-64gb-sync/) — Mengumumkan ketersediaan mitra mulai 23 Oktober dengan harga awal US$4.999 serta cara menggabungkan dua unit menjadi pool 128 GB memakai ConnectX-7 dan NVIDIA Sync. Pada tanggal pemeriksaan, penawaran 64 GB masih mendatang; klaim kinerja adalah pengujian vendor.