Markdown edition

AI-translated from English; not yet reviewed by a fluent editor.

# Paano Patakbuhin ang mga Lokal na Modelo gamit ang 128GB at Magkano ang Gastos

> Praktikal na gabay sa pagbili ng mga sistemang may 128GB na pinagsasaluhang memorya para sa lokal na AI: ano talaga ang ibig sabihin ng memorya ng modelo, mga presyong US na may petsa, mga pagpipilian sa platform, at pagsusuring dapat gawin bago bumili.

By BIG CHANGE Editorial

Published: 2026-10-10T23:47:09.293Z
Updated: 2026-10-10T23:47:09.293Z
Canonical: https://bigchange.ai/blog/run-local-models-128gb-memory-cost

![Conceptual charcoal illustration of an unbranded compact desktop computer with its cover removed, exposing a circuit board and a small orange connection between memory packages and a compute chip.](https://bigchange.ai/api/media/file/local-model-shared-memory-workstation-hero-v1.png)
AI-generated conceptual editorial illustration by BIG CHANGE.

Kayang maglaman ang isang computer na may 128GB ng mga file ng modelo na hindi magkakasya sa karaniwang iisang graphics card. Kailangan pa ring basahing mabuti ang numerong nasa kahon. Gumagamit ng pinagsasaluhang system memory ng CPU at GPU ang Ryzen AI Halo ng AMD, Mac Studio ng Apple at DGX Spark ng NVIDIA. Iba ito sa 128GB na dedikadong memorya sa mga discrete graphics card. Kailangan din ng puwang para sa operating system, runtime ng modelo at working memory ng usapan.

Ang gabay na ito ay para sa teknikal na bihasang taong pumipili ng isang lokal na AI machine para sa pribadong inference, coding o dokumento. Tukuyin ang modelong kasya at runtime, presyuhan ang makinang kayang magpatakbo sa mga ito, at subukan ang resulta sa nilalayong gawain. Hindi sinubukan ng BIG CHANGE ang hardware. Sinusunod ng mga hakbang ang dokumentasyon ng mga vendor at mga listahan sa tindahan sa US na may petsa, kasama ang [video ni Repo Chad noong Oktubre 2, *Bawat Paraan para Makakuha ng 128GB na VRAM para sa Lokal na AI*](https://youtu.be/Ss7nXHxaJPk), bilang konteksto kung bakit maaaring makalito ang lumang payo sa presyo. Sinuri ang mga presyo nito noong Setyembre 30, kaya mga listahang sinuri noong Oktubre 10 UTC ang kasalukuyang paghahambing.

## Ang malaking pagbabago

- **Ano ang nagbago:** Maaaring pumili ang mamimili sa ilang sistemang may 128GB na pinagsasaluhang memorya para sa lokal na AI, na magkakaiba ang software stack at presyo. Pinagsasaluhan ng system ang ina-advertise na kapasidad, kaya hindi ibig sabihing magagamit ng modelo ang buong 128GB.
- **Bakit mahalaga:** Maaaring manatili sa makina ng may-ari ang piling datos sa lokal na inference, depende sa runtime at mga konektadong tool. Nakabatay ang pagbili sa aktuwal na gamit ng memorya ng modelo, haba ng prompt, suporta ng software at katanggap-tanggap na oras ng paghihintay, hindi lang sa pinakamalaking bilang ng memorya.
- **Ano ang dapat bantayan:** Inaasahang ilalabas sa Oktubre 23 ang mas murang 64GB na configuration ng DGX Spark ng NVIDIA, at nagkakahalaga ng hindi bababa sa $9,998 ang iminungkahing 128GB pool na binubuo ng dalawang unit batay sa mga inihayag na panimulang presyo. Maaaring ihambing ng mga kayang maghintay ang inilabas na alok sa iisang 128GB na makina kapag alam na ang presyo at availability ng mga partner.

## Ano ang ibig sabihin ng 128GB sa bawat makina

Ang [gabay ng AMD sa ROCm 7.2 para sa Strix Halo](https://rocm.docs.amd.com/en/docs-7.2.0/how-to/system-optimization/strixhalo.html), na may petsang Pebrero 20, naglalarawan ng hanggang 128GB na unified LPDDR5X. Iniaatas ng GPU virtual memory system nito ang mga bahagi ng pinagsasaluhang RAM sa GPU address space. Kinokontrol ng limitasyon ng GTT kung ano ang maimamapa ng mga proseso ng user; ayon sa AMD, humigit-kumulang kalahati ng system RAM ang default. Hindi ginagawang hiwalay na pool ng dedikadong VRAM ang buong naka-install na memorya dahil lang sa firmware reservation o mas mataas na mapping limit. Nagdodokumento ang AMD ng Linux utility na `amd-ttm` upang siyasatin at baguhin ang limitasyong iyon, kasunod ang pag-reboot. Baguhin lamang ito matapos tingnan ang eksaktong makina, OS at gabay ng ROCm, at mag-iwan ng memorya para sa OS at iba pang proseso.

Apple [ay naglilista ng configuration ng M5 Max Mac Studio na may 128GB na unified memory](https://www.apple.com/mac-studio/specs/). Inilalarawan ng NVIDIA [ang 128GB ng DGX Spark bilang coherent at pinagsasaluhang system memory](https://marketplace.nvidia.com/en-us/enterprise/personal-ai-supercomputers/dgx-spark/?linkId=100000393960046). Sa tatlo, maaari pa ring hindi mag-load o tumakbo nang maayos ang modelong kasya ang mga weight nito sa nominal na 128GB kapag gumamit na rin ng memorya ang context, key-value cache, runtime buffer at iba pang bahagi ng system. Nakapagpapaliit ng file ng weight ang quantization ngunit binabago nito ang file at maaaring makaapekto sa kalidad. Nagbibigay ng kapasidad na pagpipilian ang mas malaking pool ng memorya; hindi nito pinatutunayan ang bilis ng pagbuo ng sagot o pagproseso ng prompt.

## Paghahambing ng pagbili sa US na may petsa

Mga presyo ito sa US bago ang buwis, sinuri noong Oktubre 10 UTC. Maaaring magbago ang stock at presyo ng configuration bago mag-checkout.

| Ruta | Desisyon sa memorya at software | Presyo at availability nang suriin |
| --- | --- | --- |
| AMD Ryzen AI Halo Developer Platform | 128GB unified LPDDR5X, 2TB na storage; tingnan ang runtime ng AMD at GPU mapping para sa napiling OS. | [Naglista ang Micro Center ng $3,999.99](https://www.microcenter.com/product/711962/amd-ryzen-ai-halo-developer-platform), may pickup sa tindahan sa ilang nakalistang lokasyon noong sinuri. Nag-iiba ang availability ayon sa tindahan. |
| Apple Mac Studio, M5 Max na configuration na 128GB | 128GB unified memory ay opsyon sa pag-order ayon sa configuration para sa tinukoy na M5 Max tier; tiyaking sinusuportahan ng runtime ng modelo ang macOS at napiling format ng modelo. | Iniulat ng gumawa ng video ang [$5,099 na checkout sa Apple noong Setyembre 30](https://youtu.be/Ss7nXHxaJPk?t=332) para sa configuration na 18-core na CPU, 40-core na GPU, 128GB/512GB. Hindi nakumpirma ng BIG CHANGE ang eksaktong kabuuang iyon sa kasalukuyang pahina ng tindahan ng Apple; tiyaking suriin ang aktuwal na configuration bago bumili. Hindi presyo ng 128GB configuration ang panimulang presyo na $2,499 ng M5 Max ng Apple. |
| NVIDIA DGX Spark na 128GB | 128GB coherent unified system memory at CUDA software stack ng NVIDIA. Tiyaking gumagana ang mga nilalayong tool sa platform nito. | [Naglista ang NVIDIA Marketplace ng $6,950 at walang stock](https://marketplace.nvidia.com/en-us/enterprise/personal-ai-supercomputers/dgx-spark/?linkId=100000393960046). Maaaring magkaiba ang stock ng mga partner. |
| Dalawang hinaharap na DGX Spark na 64GB | Sinasabi ng NVIDIA na maaaring pagsamahin ng ConnectX-7 at NVIDIA Sync ang dalawang 64GB system bilang 128GB; dalawang-node na setup ito at kailangang tiyakin ang pagiging tugma sa gawain. | [Inanunsyo ng NVIDIA](https://blogs.nvidia.com/blog/local-ai-dgx-spark-64gb-sync/) ang availability sa partner sa Oktubre 23, simula $4,999 bawat isa. $9,998 ang pinagsamang panimulang presyo bago buwis at anumang kailangang cable; alok pa lang ito sa hinaharap sa petsa ng pagsusuri. |

Paghahambing ito ng kapasidad ng memorya at paraan ng pagbili, hindi ng nasukat na performance. May benchmark na numero ang video ng gumawa mula sa ilang ikatlong partido, ngunit magkakaiba ang engine, quantization, haba ng context at petsa ng pagsubok. Hindi natin magagawang kontroladong paghahambing ng bilis o gastos bawat token ang mga numerong iyon para sa eksaktong mga configuration na ito.

## Pumili at magsuri ng lokal na setup

1. **Isulat ang aktuwal na gawain at hangganan ng datos.** Name the model you want to run, the quantized file or format, the maximum context you need and whether the workflow depends on CUDA, ROCm or macOS tooling. Note whether prompts and documents must stay on the machine. A local model does not by itself keep data local if its application sends requests to an external service.
2. **Maglaan ng memorya para sa buong workload.** Gamitin bilang panimulang punto ang inilathalang laki ng piniling model file. Maglaan pa para sa runtime, context at key-value cache, operating system at iba pang bukas na application. Kung walang datos para sa nilalayong runtime, ituring na hindi pa nabeberipika ang pagkakasya. Sa Strix Halo, tingnan ang limitasyon ng GPU mapping ayon sa [mga tagubilin ng AMD sa ROCm 7.2](https://rocm.docs.amd.com/en/docs-7.2.0/how-to/system-optimization/strixhalo.html); gabay ito na may partikular na bersyon, kaya tingnan ang pinakabagong naaangkop na tagubilin ng AMD bago ipalagay na magagamit ng GPU ang lahat ng shared RAM.
3. **Itugma ang suportadong runtime sa platform.** Ang [gabay sa pagsisimula ng NVIDIA DGX Spark](https://blogs.nvidia.com/blog/local-ai-dgx-spark-64gb-sync/) ay naglilista ng llama.cpp, Ollama, vLLM at LM Studio bilang mga opsyon; pumili ng sumusuporta sa eksaktong format ng modelo at platform. Para sa AMD o Apple, sundin ang kasalukuyang tagubilin ng runtime para sa platform sa halip na ipagpalagay na akma ang command para sa DGX. I-download ang modelo mula sa orihinal nitong distributor, tingnan ang lisensya at laki ng file, at itala ang identifier nito.
4. **Magpatakbo ng kinatawang prompt at tingnan kung kasya at gaano ito katagal.** Tiyaking naglo-load ang modelo, nagbibigay ng kapaki-pakinabang na sagot at nananatili sa loob ng magagamit na memorya sa nilalayong haba ng context. Sukatin nang magkahiwalay ang pagproseso ng prompt at pagbuo ng sagot para sa sarili mong gawain. Mga pagsusuri ito ng mamimili bago tanggapin, hindi mga resultang nakita ng BIG CHANGE. Kung pumalya ang pag-load, bawasan ang context o pumili ng mas maliit na quantization o modelo; sa AMD, tingnan ang dokumentadong mapping setting at magagamit na system RAM bago baguhin ito. Kung hindi katanggap-tanggap ang bilis, hindi pinatutunayan ng dagdag na memorya lamang na malulutas iyon ng ibang 128GB na kahon.
5. **Presyuhan ang buong desisyon.** Suriing muli sa checkout ang eksaktong configuration, lokasyon ng stock, buwis, storage, suporta at mga kailangang accessory. Itabi ang presyo at petsa kasama ng tala tungkol sa modelo at runtime upang hindi magmukhang kasalukuyan ang lumang paghahambing kapag nagbago ang stock o software.

Nagbibigay ang pamamaraang ito ng maikling tala sa pagbili: eksaktong configuration at presyo sa checkout, modelo at lisensya, runtime at bersyon ng OS, inaasahang budget sa memorya, at nasukat na resulta ng pagsusuri matapos magkaroon ng access sa hardware. Ang mambabasa ang nagdedesisyon kung anong datos ang ipapadala sa lokal na application at sa mga tool na ikokonekta rito. Desisyon ng tao ang pagbili ng hardware, pag-install at anumang patakaran sa pagbabahagi ng datos.

## Mga mapagkukunan at karagdagang babasahin

- [Repo Chad, *Bawat Paraan para Makakuha ng 128GB na VRAM para sa Lokal na AI*](https://youtu.be/Ss7nXHxaJPk), inilathala noong Oktubre 2, 2026. Paghahambing ng gumawa at konteksto ng dating presyo; sinuri ang mga presyo noong Setyembre 30. Malawak ang paggamit ng salitang “VRAM” sa pamagat; inililinaw ng mga detalye ng vendor sa ibaba ang eksaktong uri ng memorya sa bawat produkto. Hindi pagsubok ng hardware ng BIG CHANGE ang video.
- [AMD, *pag-optimize ng Strix Halo system*](https://rocm.docs.amd.com/en/docs-7.2.0/how-to/system-optimization/strixhalo.html), dokumentasyon ng ROCm 7.2 na may petsang Pebrero 20, 2026. Ipinapaliwanag ang unified memory, GPUVM/GTT mapping, tinatayang default na limitasyon at dokumentadong landas ng setting sa Linux. Tingnan ang naaangkop na OS at bersyon bago baguhin ang mga setting.
- [Pahina ng produkto ng AMD Ryzen AI Halo](https://www.amd.com/en/products/processors/desktops/ryzen/ryzen-ai-halo.html), sinuri noong Oktubre 11, 2026. Tinutukoy ang kasalukuyang developer platform; pagsubok ng vendor ang materyal ng AMD tungkol sa performance, hindi independiyenteng resultang ginamit sa gabay na ito.
- [Micro Center, listahan ng AMD Ryzen AI Halo Developer Platform](https://www.microcenter.com/product/711962/amd-ryzen-ai-halo-developer-platform), sinuri noong Oktubre 10 UTC. Nakasaad ang presyong $3,999.99, configuration na 128GB/2TB at pickup sa ilang nakalistang tindahan. Nagbabago ang stock ayon sa tindahan.
- [Mga teknikal na detalye ng Apple Mac Studio](https://www.apple.com/mac-studio/specs/), [kasalukuyang US configurator](https://www.apple.com/shop/buy-mac/mac-studio) at [anunsyo noong Agosto 25](https://www.apple.com/newsroom/2026/08/apple-introduces-new-mac-studio-with-m5-max-and-m5-ultra/), sinuri noong Oktubre 10 UTC. Pinatutunayan ng mga detalye ang opsyon na 128GB para sa M5 Max. Hindi presyo ng opsyong iyon ang panimulang presyo na $2,499 sa anunsyo; hindi inilantad ng binasang pahina ng live configurator ang eksaktong kabuuan para sa 128GB. Huwag ipagpalagay iyon mula sa panimulang presyo ng linya.
- [NVIDIA Marketplace, DGX Spark](https://marketplace.nvidia.com/en-us/enterprise/personal-ai-supercomputers/dgx-spark/?linkId=100000393960046), sinuri noong Oktubre 10 UTC. Pinatutunayan ang 128GB coherent unified system memory, listahang $6,950 at kawalan ng stock sa sariling tindahan ng NVIDIA. Maaaring may stock ang mga partner.
- [Anunsyo ng NVIDIA para sa 64GB DGX Spark](https://blogs.nvidia.com/blog/local-ai-dgx-spark-64gb-sync/), Oktubre 2, 2026. Nakasaad ang paglabas sa partner sa Oktubre 23, panimulang presyong $4,999 at paraang pagsasama ng dalawang sistema bilang 128GB. Mga pahayag ng NVIDIA ang tungkol sa availability at performance habang hinihintay ang petsa ng paglabas.

## Sources

- [Repo Chad: Bawat Paraan para Makakuha ng 128GB na VRAM para sa Lokal na AI](https://youtu.be/Ss7nXHxaJPk) — Paghahambing ng gumawa at mga presyong sinuri noong Setyembre 30, 2026. Ginamit para sa dating konteksto at sa tanong kung nakalilito ang mga lumang presyo, hindi bilang awtoridad sa kasalukuyang presyo o pagsubok ng hardware ng BIG CHANGE.
- [AMD: Pag-optimize ng Strix Halo system, ROCm 7.2](https://rocm.docs.amd.com/en/docs-7.2.0/how-to/system-optimization/strixhalo.html) — Ipinapaliwanag ang hanggang 128GB na unified LPDDR5X, GPUVM/GTT mapping, default na limitasyon ng GTT at dokumentadong paraan sa Linux. Hindi nito sinasabing dedikadong VRAM ang lahat ng naka-install na RAM o magagamit ito ng iisang modelo.
- [Pahina ng produkto ng AMD Ryzen AI Halo](https://www.amd.com/en/products/processors/desktops/ryzen/ryzen-ai-halo.html) — Tinutukoy ang kasalukuyang developer platform ng AMD. Pagsubok ng vendor ang anumang paghahambing sa performance ng AMD at hindi ito ginamit bilang independiyenteng resulta rito.
- [Micro Center: AMD Ryzen AI Halo Developer Platform](https://www.microcenter.com/product/711962/amd-ryzen-ai-halo-developer-platform) — Snapshot ng retailer na may petsa: $3,999.99, 128GB/2TB at pickup sa maraming nakalistang lokasyon. Nag-iiba ang presyo at stock ayon sa tindahan at panahon.
- [Apple: Mga teknikal na detalye ng Mac Studio](https://www.apple.com/mac-studio/specs/) — Pinatutunayan ang opsyong M5 Max na may 128GB unified memory. Hindi nagbibigay ng beripikadong presyo sa checkout sa US para sa configuration na iyon.
- [Apple: Kasalukuyang US configurator ng Mac Studio](https://www.apple.com/shop/buy-mac/mac-studio) — Binuksan upang tingnan ang kasalukuyang checkout price ng M5 Max na 128GB; hindi inilantad ng tekstong nabasa ang eksaktong kabuuan ng configuration. Huwag maghinuha mula sa panimulang presyo.
- [Apple: Anunsyo ng Mac Studio na may M5 Max at M5 Ultra](https://www.apple.com/newsroom/2026/08/apple-introduces-new-mac-studio-with-m5-max-and-m5-ultra/) — Nakasaad na nagsisimula sa $2,499 sa US ang linya ng M5 Max at ibinigay ang panahon ng paglabas. Hindi iyon presyo ng configuration na 128GB.
- [NVIDIA Marketplace: DGX Spark](https://marketplace.nvidia.com/en-us/enterprise/personal-ai-supercomputers/dgx-spark/?linkId=100000393960046) — Snapshot ng tindahan ng NVIDIA na may petsa: 128GB coherent unified system memory, presyong $6,950 at walang stock. Maaaring iba ang imbentaryo ng partner.
- [NVIDIA: Anunsyo ng 64GB DGX Spark at NVIDIA Sync](https://blogs.nvidia.com/blog/local-ai-dgx-spark-64gb-sync/) — Inanunsyo ang availability sa partner mula Oktubre 23, simula $4,999, at pool na 128GB mula sa dalawang unit sa pamamagitan ng ConnectX-7 at NVIDIA Sync. Sa petsa ng pagsusuri, alok pa sa hinaharap ang 64GB; mga pagsubok ng vendor ang mga pahayag tungkol sa performance.