Como executar modelos locais com 128 GB de memória e quanto custa

Um computador de 128 GB pode comportar arquivos de modelos que não caberiam em uma única placa gráfica convencional. Ainda assim, é preciso interpretar com cuidado o número anunciado. AMD Ryzen AI Halo, Apple Mac Studio e NVIDIA DGX Spark usam memória unificada do sistema, compartilhada entre CPU e GPU. Isso difere de 128 GB de memória dedicada em placas gráficas discretas. O sistema operacional, o runtime do modelo e a memória de trabalho da conversa também precisam de espaço.

Este guia é para uma pessoa com conhecimento técnico que escolhe uma máquina de IA local para inferência privada, programação ou trabalho com documentos. A tarefa é identificar um modelo e runtime que caibam, calcular o preço de uma máquina capaz de executá-los e verificar o resultado na carga de trabalho pretendida. BIG CHANGE não testou o hardware. As etapas abaixo seguem a documentação dos fornecedores e anúncios de lojas dos EUA com data, usando o vídeo de 2 de outubro de Repo Chad, Every Way to Get 128GB of VRAM for Local AI é usado como contexto para explicar por que orientações antigas de preço podem induzir ao erro. Os preços do vídeo foram verificados em 30 de setembro; por isso, a comparação atual usa anúncios conferidos em 10 de outubro UTC.

A grande mudança

• O que mudou: Um comprador pode escolher entre vários sistemas com memória unificada de 128 GB para IA local, com pilhas de software e preços muito diferentes. A capacidade anunciada é memória compartilhada do sistema e não promete 128 GB disponíveis para o modelo.
• Por que isso importa: A inferência local pode manter determinados dados na máquina do proprietário, dependendo do runtime e das ferramentas conectadas. A decisão de compra depende do uso real de memória do modelo, do tamanho do prompt, do suporte de software e do tempo de espera aceitável, não apenas do maior número de memória.
• O que observar: A configuração mais barata do DGX Spark, com 64 GB, está prevista para 23 de outubro; o pool proposto de 128 GB com duas unidades custa pelo menos US$ 9.998, pela soma dos preços iniciais anunciados. Quem puder esperar poderá comparar essa oferta após o lançamento com uma máquina única de 128 GB, quando os preços e a disponibilidade dos parceiros forem conhecidos.

O que 128 GB significa em cada máquina

A documentação da orientação ROCm 7.2 para Strix Halo, datada de 20 de fevereiro, descreve até 128 GB de LPDDR5X unificada. O sistema de memória virtual da GPU mapeia partes dessa RAM compartilhada no espaço de endereçamento da GPU. O limite GTT controla o que processos de usuário podem mapear; a AMD diz que o padrão é aproximadamente metade da RAM do sistema. Uma reserva de firmware ou um limite de mapeamento maior não transforma toda a memória instalada em um pool separado de VRAM dedicada. A AMD documenta um utilitário Linux, amd-ttm e uma reinicialização. Altere-o somente após conferir a máquina, o sistema operacional e a orientação ROCm específicos, deixando memória para o SO e outros processos.

A Apple lista uma configuração do Mac Studio com M5 Max e 128 GB de memória unificada. A NVIDIA descreve os 128 GB do DGX Spark como memória de sistema unificada e coerente. Em qualquer uma das três máquinas, um modelo cujos pesos cabem no número nominal de 128 GB ainda pode não carregar ou funcionar mal quando contexto, cache key-value, buffers do runtime e o restante do sistema também consomem memória. A quantização pode reduzir o tamanho dos pesos, mas altera o arquivo e pode afetar a qualidade. Um pool maior oferece uma opção de capacidade; não comprova velocidade de geração nem de processamento do prompt.

Uma comparação de compra nos EUA com data

Estes são preços nos EUA antes dos impostos, conferidos em 10 de outubro UTC. O estoque e os preços de configurações sob encomenda podem mudar antes da finalização da compra.

A tabela compara capacidade de memória e acesso à compra, não desempenho medido. O vídeo do criador apresenta números de benchmarks de vários terceiros, mas motores, quantizações, tamanhos de contexto e datas de teste diferem. Não é possível transformar esses números em uma classificação controlada de velocidade nem em um custo por token para estas configurações específicas.

Escolha e verifique uma configuração local

1. Anote a tarefa real e os limites dos dados. Indique o modelo que pretende executar, o arquivo ou formato quantizado, o contexto máximo necessário e se o fluxo depende de ferramentas CUDA, ROCm ou macOS. Anote se prompts e documentos precisam permanecer na máquina. Um modelo local, por si só, não mantém os dados locais se o aplicativo envia solicitações a um serviço externo.
2. Reserve memória para toda a carga de trabalho. Use como ponto de partida o tamanho publicado do arquivo de modelo escolhido. Reserve espaço para o runtime, contexto e cache key-value, sistema operacional e outros aplicativos abertos. Se faltarem esses dados para o runtime pretendido, considere a compatibilidade não verificada. No Strix Halo, confira o limite de mapeamento da GPU com base nas instruções ROCm 7.2 da AMD; este é um guia vinculado a uma versão. Consulte as instruções atuais aplicáveis da AMD antes de considerar toda a RAM compartilhada utilizável pela GPU.
3. Associe um runtime compatível à plataforma.A orientação inicial do DGX Spark cita llama.cpp, Ollama, vLLM e LM Studio como opções; escolha uma que ofereça suporte ao formato exato do modelo e à plataforma. Para AMD ou Apple, consulte as instruções atuais da plataforma no runtime, sem presumir que um comando do DGX se aplica. Baixe o modelo de seu distribuidor original, confira a licença e o tamanho do arquivo e registre o identificador do modelo.
4. Execute um prompt representativo e confira compatibilidade e tempo. Confirme que o modelo carrega, produz uma resposta útil e cabe na memória disponível no contexto pretendido. Meça separadamente o processamento do prompt e a geração para sua tarefa. Estas são verificações de aceitação do comprador, não resultados observados pela BIG CHANGE. Se não carregar, reduza o contexto ou escolha uma quantização ou modelo menor; em AMD, confira a configuração de mapeamento documentada e a RAM disponível antes de alterá-la. Se a velocidade for inaceitável, mais memória, por si só, não prova que outra máquina de 128 GB resolverá.
5. Calcule o custo da decisão completa. Confira novamente a configuração exata, o estoque da loja, impostos, armazenamento, suporte e acessórios necessários no checkout. Guarde preço e data junto às anotações do modelo e do runtime para que mudanças posteriores de estoque ou software não façam uma comparação antiga parecer atual.

Este procedimento gera um breve registro de compra: configuração exata da máquina e preço no checkout, modelo e licença, versões do runtime e do sistema operacional, orçamento de memória esperado e resultado medido após acesso ao hardware. O leitor controla quais dados são enviados ao aplicativo local e a quais ferramentas ele se conecta. A compra do hardware, a instalação e qualquer política de compartilhamento de dados continuam sendo decisões humanas.

Fontes e leituras complementares

• Repo Chad, Every Way to Get 128GB of VRAM for Local AI, publicado em 2 de outubro de 2026. Comparação do criador e contexto histórico de preços, conferidos em 30 de setembro. O título usa “VRAM” em sentido amplo; as especificações dos fornecedores abaixo informam o tipo preciso de memória de cada produto. O vídeo não é um teste de hardware da BIG CHANGE.
• AMD, Otimização do sistema Strix Halo, documentação ROCm 7.2 datada de 20 de fevereiro de 2026. Define memória unificada, mapeamento GPUVM/GTT, limite padrão aproximado e o procedimento de ajuste documentado para Linux. Confira o sistema operacional e a versão aplicáveis antes de alterar configurações.
• Página do produto AMD Ryzen AI Halo, consultada em 11 de outubro de 2026. Identifica a plataforma de desenvolvedor atual; o material de desempenho da AMD é teste do fornecedor, não um resultado independente usado neste guia.
• Micro Center, anúncio da Plataforma de desenvolvedor AMD Ryzen AI Halo, conferido em 10 de outubro UTC. Informa o preço de US$ 3.999,99, configuração de 128 GB/2 TB e retirada disponível em várias lojas listadas. Estoque varia por loja e pode mudar.
• Apple, especificações técnicas do Mac Studio, configurador atual dos EUA e anúncio de 25 de agosto, consultados em 10 de outubro UTC. As especificações confirmam a opção de 128 GB no M5 Max. O preço inicial de US$ 2.499 do anúncio não informa o valor dessa opção; a página do configurador atual lida aqui não mostrou o total exato no checkout para a configuração de 128 GB.
• NVIDIA Marketplace, DGX Spark, consultado em 10 de outubro UTC. Confirma memória de sistema unificada e coerente de 128 GB, preço de US$ 6.950 e status sem estoque na loja própria da NVIDIA.
• NVIDIA, anúncio do DGX Spark de 64 GB, 2 de outubro de 2026. Informa disponibilidade por parceiros a partir de 23 de outubro, preço inicial de US$ 4.999 e a possibilidade anunciada de combinar dois sistemas em um pool de 128 GB. Na data da consulta, a oferta ainda era futura; as afirmações de desempenho são do fornecedor.