128GB কম্পিউটারে এমন মডেল ফাইল রাখা যেতে পারে যা প্রচলিত একক গ্রাফিক্স কার্ডে ধরবে না। তবু বাক্সের সংখ্যাটি সতর্কভাবে বুঝতে হবে। AMD Ryzen AI Halo, Apple Mac Studio এবং NVIDIA DGX Spark CPU ও GPU-র মধ্যে ভাগ করা ইউনিফায়েড সিস্টেম মেমরি ব্যবহার করে। এটি পৃথক গ্রাফিক্স কার্ডে থাকা 128GB ডেডিকেটেড মেমরির মতো নয়। অপারেটিং সিস্টেম, মডেল রানটাইম এবং কথোপকথনের কাজের মেমরিরও জায়গা লাগে।

এই নির্দেশিকা প্রযুক্তিগতভাবে দক্ষ সেই ব্যক্তির জন্য, যিনি ব্যক্তিগত ইনফারেন্স, কোডিং বা নথির কাজে একটি স্থানীয় AI কম্পিউটার বেছে নিচ্ছেন। উপযুক্ত মডেল ও রানটাইম চিহ্নিত করা, সেগুলো চালাতে সক্ষম মেশিনের দাম নির্ধারণ এবং প্রত্যাশিত কাজের চাপে ফল যাচাই করাই লক্ষ্য। BIG CHANGE হার্ডওয়্যার পরীক্ষা করেনি। নিচের ধাপগুলো নির্মাতার নথি ও তারিখযুক্ত মার্কিন দোকান-তালিকা অনুসরণ করে; পটভূমি হিসেবে Repo Chad-এর ২ অক্টোবরের ভিডিও, Every Way to Get 128GB of VRAM for Local AI -কে পুরোনো দামের পরামর্শ কেন বিভ্রান্তিকর হতে পারে তার পটভূমি হিসেবে ব্যবহার করা হয়েছে। ভিডিওর দাম ৩০ সেপ্টেম্বর যাচাই করা হয়েছিল, তাই বর্তমান তুলনায় ১০ অক্টোবর UTC-তে যাচাই করা তালিকা ব্যবহৃত হয়েছে।

বড় পরিবর্তন

  • যা বদলেছে: স্থানীয় AI-এর জন্য 128GB ইউনিফায়েড মেমরির একাধিক সিস্টেম থেকে ক্রেতা বেছে নিতে পারেন; সফটওয়্যার স্ট্যাক ও দাম অনেক আলাদা। বিজ্ঞাপিত ক্ষমতা শেয়ার্ড সিস্টেম মেমরি, মডেলের জন্য পুরো 128GB নিশ্চিত করে না।
  • কেন এটি গুরুত্বপূর্ণ: স্থানীয় ইনফারেন্স নির্বাচিত তথ্য মালিকের মেশিনে রাখতে পারে, তবে তা রানটাইম ও সংযুক্ত সরঞ্জামের ওপর নির্ভর করে। কেনার সিদ্ধান্তে শুধু সর্বোচ্চ মেমরি নয়, মডেলের প্রকৃত ব্যবহার, প্রম্পটের দৈর্ঘ্য, সফটওয়্যার সমর্থন ও গ্রহণযোগ্য অপেক্ষার সময় বিবেচ্য।
  • যা নজরে রাখবেন: NVIDIA-এর কমদামের 64GB DGX Spark ২৩ অক্টোবর আসার কথা; ঘোষিত প্রারম্ভিক দাম যোগ করলে দুই ইউনিটের 128GB পুলের খরচ অন্তত $9,998। অপেক্ষা করতে পারলে, অংশীদারদের দাম ও সরবরাহ জানা গেলে একক 128GB মেশিনের সঙ্গে প্রকাশিত অফারটি তুলনা করুন।

প্রতিটি মেশিনে 128GB বলতে কী বোঝায়

AMD-এর ROCm 7.2 Strix Halo নির্দেশিকা, ২০ ফেব্রুয়ারির নথিতে সর্বোচ্চ 128GB ইউনিফায়েড LPDDR5X বলা হয়েছে। GPU ভার্চুয়াল মেমরি ব্যবস্থা শেয়ার্ড RAM-এর অংশ GPU ঠিকানা স্থানে ম্যাপ করে। GTT সীমা নির্ধারণ করে ব্যবহারকারী প্রসেস কতটা ম্যাপ করতে পারে; AMD বলেছে ডিফল্ট প্রায় সিস্টেম RAM-এর অর্ধেক। ফার্মওয়্যার সংরক্ষণ বা বড় ম্যাপিং সীমা পুরো ইনস্টল করা মেমরিকে আলাদা ডেডিকেটেড VRAM পুলে পরিণত করে না। এই সীমা দেখা ও বদলানোর জন্য AMD Linux ইউটিলিটি নথিভুক্ত করেছে, amd-ttm এবং পরে রিবুট করতে হয়। সঠিক মেশিন, OS ও ROCm নির্দেশনা যাচাই করে এবং OS ও অন্যান্য প্রসেসের জন্য মেমরি রেখে তবেই বদলান।

Apple 128GB ইউনিফায়েড মেমরিসহ M5 Max Mac Studio কনফিগারেশন তালিকাভুক্ত করে। NVIDIA DGX Spark-এর 128GB-কে coherent unified system memory হিসেবে বর্ণনা করে। তিনটি মেশিনেই, নামমাত্র 128GB-তে ওজন ধরে এমন মডেলও লোড নাও হতে পারে বা খারাপ চলতে পারে, কারণ কনটেক্সট, key-value cache, রানটাইম বাফার ও সিস্টেমের বাকি অংশও মেমরি ব্যবহার করে। কোয়ান্টাইজেশন ওজনের ফাইল ছোট করতে পারে, তবে ফাইল বদলায় এবং মানে প্রভাব ফেলতে পারে। বড় মেমরি পুল ধারণক্ষমতার বিকল্প দেয়; জেনারেশন বা প্রম্পট প্রসেসিং গতি প্রমাণ করে না।

তারিখসহ যুক্তরাষ্ট্রের ক্রয় তুলনা

এগুলো ১০ অক্টোবর UTC-তে যাচাই করা যুক্তরাষ্ট্রের কর-পূর্ব দাম। স্টক ও কনফিগার-টু-অর্ডার দাম কেনার আগে বদলাতে পারে।

ধরন

মেমরি ও সফটওয়্যার সিদ্ধান্ত

যাচাইয়ের সময় দাম ও সরবরাহ

AMD Ryzen AI Halo ডেভেলপার প্ল্যাটফর্ম

128GB ইউনিফায়েড LPDDR5X, 2TB স্টোরেজ; নির্বাচিত OS-এর জন্য AMD রানটাইম ও GPU ম্যাপিং যাচাই করুন।

Micro Center-এ দাম ছিল $3,999.99; যাচাইয়ের সময় তালিকাভুক্ত কয়েকটি স্থানে দোকান থেকে সংগ্রহ করা যাচ্ছিল। সরবরাহ দোকানভেদে আলাদা।

Apple Mac Studio, M5 Max 128GB কনফিগারেশন

নির্দিষ্ট M5 Max স্তরে 128GB ইউনিফায়েড মেমরি অর্ডার-টু-কনফিগার বিকল্প; মডেল রানটাইম macOS ও নির্বাচিত ফরম্যাট সমর্থন করে কি না যাচাই করুন।

নির্মাতা ৩০ সেপ্টেম্বর Apple checkout-এ $5,099 দেখেছেন বলে জানিয়েছেন, 18-core CPU, 40-core GPU, 128GB/512GB কনফিগারেশনের জন্য। BIG CHANGE Apple-এর বর্তমান স্টোর পৃষ্ঠায় এই নির্দিষ্ট মোট নিশ্চিত করতে পারেনি; কেনার আগে বর্তমান কনফিগারেশন যাচাই করুন। Apple M5 Max-এর $2,499 প্রারম্ভিক দাম 128GB কনফিগারেশনের দাম নয়।

NVIDIA DGX Spark 128GB

128GB coherent unified system memory এবং NVIDIA CUDA সফটওয়্যার স্ট্যাক। নির্বাচিত সরঞ্জাম এই প্ল্যাটফর্মে চলে কি না যাচাই করুন।

NVIDIA Marketplace-এ দাম $6,950 এবং স্টক শেষ দেখানো হয়েছে। অংশীদারদের মজুত ভিন্ন হতে পারে।

ভবিষ্যতের দুটি 64GB DGX Spark সিস্টেম

NVIDIA বলেছে ConnectX-7 ও NVIDIA Sync দিয়ে দুটি 64GB সিস্টেমকে 128GB পুলে যুক্ত করা যায়; এটি দুই-নোড সেটআপ, কাজের চাপের সঙ্গে সামঞ্জস্য যাচাই করতে হবে।

NVIDIA ঘোষণা করেছে ২৩ অক্টোবর থেকে অংশীদারদের মাধ্যমে সরবরাহ, প্রতিটি $4,999 থেকে—এ কথা জানিয়েছে। দুটি প্রারম্ভিক দাম মিলে কর ও প্রয়োজনীয় কেবলের আগে $9,998; যাচাইয়ের তারিখে এটি ভবিষ্যৎ অফার ছিল।

সারণিতে মেমরির ক্ষমতা ও কেনার সুযোগ তুলনা করা হয়েছে, মাপা কর্মক্ষমতা নয়। নির্মাতার ভিডিওতে বিভিন্ন তৃতীয় পক্ষের বেঞ্চমার্ক আছে, তবে ইঞ্জিন, কোয়ান্টাইজেশন, কনটেক্সটের দৈর্ঘ্য ও পরীক্ষার তারিখ আলাদা। এসব সংখ্যা দিয়ে নির্দিষ্ট কনফিগারেশনের নিয়ন্ত্রিত গতি-ক্রম বা প্রতি টোকেন খরচ নির্ধারণ করা যায় না।

স্থানীয় সেটআপ বেছে যাচাই করুন

  1. প্রকৃত কাজ ও ডেটার সীমা লিখুন। যে মডেল চালাবেন, কোয়ান্টাইজড ফাইল বা ফরম্যাট, সর্বোচ্চ প্রয়োজনীয় কনটেক্সট এবং CUDA, ROCm বা macOS টুলের ওপর নির্ভরতা লিখুন। প্রম্পট ও নথি মেশিনে থাকা জরুরি কি না জানান। অ্যাপ বাইরের সার্ভিসে অনুরোধ পাঠালে শুধু স্থানীয় মডেল ডেটা স্থানীয় রাখে না।
  2. সম্পূর্ণ কাজের চাপের জন্য মেমরি বাজেট করুন। নির্বাচিত মডেল ফাইলের প্রকাশিত আকার দিয়ে শুরু করুন। রানটাইম, কনটেক্সট ও key-value cache, OS এবং খোলা অন্য অ্যাপের জন্য জায়গা যোগ করুন। লক্ষ্য রানটাইমের তথ্য না থাকলে উপযুক্ততা যাচাই হয়নি ধরে নিন। Strix Halo-তে GPU ম্যাপিং সীমা দেখুন AMD-এর ROCm 7.2 নির্দেশনা; এটি নির্দিষ্ট সংস্করণের নির্দেশিকা। সব শেয়ার্ড RAM GPU ব্যবহার করতে পারে ধরে নেওয়ার আগে AMD-এর সর্বশেষ প্রযোজ্য নির্দেশনা দেখুন।
  3. প্ল্যাটফর্মে সমর্থিত রানটাইম মিলিয়ে নিন। NVIDIA-এর DGX Spark-এর শুরু করার নির্দেশিকা-এ llama.cpp, Ollama, vLLM ও LM Studio বিকল্প হিসেবে আছে; নির্দিষ্ট মডেল ফরম্যাট ও প্ল্যাটফর্ম সমর্থন করে এমনটি বাছুন। AMD বা Apple-এর ক্ষেত্রে DGX কমান্ড প্রযোজ্য ধরে না নিয়ে রানটাইমের বর্তমান প্ল্যাটফর্ম নির্দেশনা মানুন। মূল বিতরণকারীর কাছ থেকে মডেল নামিয়ে লাইসেন্স ও ফাইলের আকার যাচাই করে মডেল পরিচিতি লিখুন।
  4. একটি প্রতিনিধিত্বমূলক প্রম্পট চালিয়ে উপযুক্ততা ও সময় যাচাই করুন। মডেল লোড হয়, ব্যবহারযোগ্য উত্তর দেয় এবং লক্ষ্য কনটেক্সটে উপলভ্য মেমরির মধ্যে থাকে কি না নিশ্চিত করুন। নিজের কাজে প্রম্পট প্রসেসিং ও জেনারেশন আলাদাভাবে মাপুন। এগুলো ক্রেতার গ্রহণযোগ্যতা যাচাই, BIG CHANGE-এর পর্যবেক্ষিত ফল নয়। লোড ব্যর্থ হলে কনটেক্সট কমান বা ছোট কোয়ান্টাইজেশন/মডেল নিন; AMD-তে বদলানোর আগে নথিভুক্ত ম্যাপিং সেটিং ও উপলভ্য সিস্টেম RAM দেখুন। গতি গ্রহণযোগ্য না হলে শুধু মেমরি বাড়ানোতে অন্য 128GB বাক্স সমস্যাটি মেটাবে প্রমাণ হয় না।
  5. সম্পূর্ণ কেনার খরচ হিসাব করুন। কেনার সময় সঠিক কনফিগারেশন, দোকানের স্টক, কর, স্টোরেজ, সাপোর্ট ও দরকারি আনুষঙ্গিক আবার যাচাই করুন। মডেল ও রানটাইমের নোটের সঙ্গে দাম ও তারিখ রাখুন, যাতে পরে স্টক বা সফটওয়্যার বদলালে পুরোনো তুলনাকে বর্তমান মনে না হয়।

এই পদ্ধতিতে সংক্ষিপ্ত ক্রয় রেকর্ড তৈরি হয়: সঠিক মেশিন কনফিগারেশন ও checkout দাম, মডেল ও লাইসেন্স, রানটাইম ও OS সংস্করণ, প্রত্যাশিত মেমরি বাজেট এবং হার্ডওয়্যার পাওয়ার পর মাপা গ্রহণযোগ্যতার ফল। স্থানীয় অ্যাপে কোন তথ্য যাবে ও কোন সরঞ্জাম যুক্ত হবে তা পাঠক নিয়ন্ত্রণ করেন। হার্ডওয়্যার কেনা, ইনস্টলেশন ও ডেটা-শেয়ারিং নীতি মানুষের সিদ্ধান্ত।

সূত্র ও আরও পড়ুন

  • Repo Chad: Every Way to Get 128GB of VRAM for Local AI, প্রকাশিত ২ অক্টোবর ২০২৬। নির্মাতার তুলনা ও পুরোনো দামের পটভূমি; দাম ৩০ সেপ্টেম্বর যাচাই করা। শিরোনামে “VRAM” বিস্তৃত অর্থে ব্যবহৃত হয়েছে; প্রতিটি পণ্যের সঠিক মেমরি ধরন নিচের নির্মাতা স্পেসিফিকেশনে আছে। ভিডিওটি BIG CHANGE-এর হার্ডওয়্যার পরীক্ষা নয়।
  • AMD: Strix Halo সিস্টেম অপ্টিমাইজেশন, ২০ ফেব্রুয়ারি ২০২৬-এর ROCm 7.2 নথি। ইউনিফায়েড মেমরি, GPUVM/GTT ম্যাপিং, আনুমানিক ডিফল্ট সীমা এবং Linux-এ নথিভুক্ত পরিবর্তনের পদ্ধতি ব্যাখ্যা করে। সেটিং বদলানোর আগে প্রযোজ্য OS ও সংস্করণ যাচাই করুন।
  • AMD Ryzen AI Halo পণ্য পৃষ্ঠা, ১১ অক্টোবর ২০২৬-এ যাচাই করা। বর্তমান ডেভেলপার প্ল্যাটফর্ম চিহ্নিত করে; AMD-এর পারফরম্যান্স উপকরণ নির্মাতার পরীক্ষা, এখানে ব্যবহৃত স্বাধীন ফল নয়।
  • Micro Center: AMD Ryzen AI Halo ডেভেলপার প্ল্যাটফর্ম তালিকা, ১০ অক্টোবর UTC-তে যাচাই করা। দাম $3,999.99, 128GB/2TB কনফিগারেশন এবং একাধিক তালিকাভুক্ত দোকানে সংগ্রহের সুযোগ দেখায়। দাম ও মজুত দোকানভেদে বদলায়।
  • Apple: Mac Studio প্রযুক্তিগত বিবরণ, বর্তমান US কনফিগারেটর এবং ২৫ আগস্টের ঘোষণা, ১০ অক্টোবর UTC-তে যাচাই করা। স্পেসিফিকেশন M5 Max-এ 128GB বিকল্প নিশ্চিত করে। ঘোষণার $2,499 প্রারম্ভিক দাম এই বিকল্পের দাম নয়; বর্তমান কনফিগারেটরের পাঠযোগ্য পৃষ্ঠায় 128GB কনফিগারেশনের সঠিক checkout মোট দেখা যায়নি।
  • NVIDIA Marketplace: DGX Spark, ১০ অক্টোবর UTC-তে যাচাই করা। NVIDIA-এর নিজস্ব দোকানে 128GB coherent unified system memory, $6,950 দাম ও স্টক-শেষ অবস্থা নিশ্চিত করে।
  • NVIDIA: 64GB DGX Spark ঘোষণা, ২ অক্টোবর ২০২৬। ২৩ অক্টোবর অংশীদারদের সরবরাহ, $4,999 প্রারম্ভিক দাম এবং দুই সিস্টেমে 128GB পুল তৈরির উপায় জানায়। যাচাইয়ের তারিখে 64GB অফারটি ভবিষ্যতের ছিল; পারফরম্যান্স দাবি নির্মাতার পরীক্ষা।