Ollama আপনার কম্পিউটারে ডাউনলোড করা মডেল চালিয়ে স্থানীয় HTTP ঠিকানায় দিতে পারে। এই নির্দেশিকা একই মডেল নাম রেখে ইনস্টল থেকে টার্মিনাল চ্যাট ও পূর্ণ API উত্তর পর্যন্ত যায়। এটি নথিভিত্তিক পদ্ধতি: BIG CHANGE সফটওয়্যার ইনস্টল করেনি বা আপনার যন্ত্রের ফল দেখেনি।

বড় পরিবর্তন

  • কী বদলেছে: Ollama ডাউনলোড করা মডেল থেকে টার্মিনাল চ্যাট ও স্থানীয় API-তে সরাসরি পথ দেয়। নতুন ব্যবহারকারী প্রতিটি ইন্টারফেসে মডেল নাম ও উত্তর দেখতে পারেন, চ্যাট উইন্ডোই কোথায় মডেল চলল তার প্রমাণ ধরে না নিয়ে।
  • কেন গুরুত্বপূর্ণ: স্থানীয় সার্ভার ও Ollama ক্লাউড API আলাদা গন্তব্য। অনুমোদিত কাজ বা ব্যক্তিগত কাজে ডাউনলোড করা মডেল বেছে এবং localhost-এ অনুরোধ করে এই অনুশীলন নিজের কম্পিউটারে রাখতে পারেন, তবে সার্ভার বিন্যাস আলাদা যাচাই করতে হবে।
  • যা খেয়াল রাখতে হবে: স্থানীয় URL একা প্রমাণ করে না যে প্রতিটি সুবিধা বা যুক্ত অ্যাপ স্থানীয় থাকে। Ollama স্থানীয় সার্ভার দিয়েও ক্লাউড মডেল ব্যবহার করতে পারে। নির্ধারক যাচাই হলো ইনস্টল করা মডেল ট্যাগ, অনুরোধের গন্তব্য, সার্ভারের বাঁধা ঠিকানা এবং কঠোর স্থানীয় ব্যবহার চাইলে পুনরায় শুরুর পর ক্লাউড বন্ধের লগ।

শুরুর আগে

যে কম্পিউটারে সফটওয়্যার ইনস্টলের অনুমতি আছে সেটি নিন। নিরীহ তথ্যভিত্তিক প্রশ্ন বাছুন যার উত্তর খোলা মূল নথিতে যাচাই করতে পারবেন। কমান্ড অনুশীলনের প্রশ্ন চাইলে সেটি বসান; শুধু পরীক্ষা করতে ব্যক্তিগত বা নিয়ন্ত্রিত তথ্য দেবেন না। উত্তর দেখার জন্য নথি রাখুন, সাবলীল জবাব নির্ভুলতার প্রমাণ নয়।

Ollama ও মডেলের জন্য জায়গা, নির্বাচিত মডেল লোড করার মতো মেমোরি এবং ইনস্টল ও ডাউনলোডের ইন্টারনেট দরকার। Ollama-এর দ্রুত শুরুর নির্দেশিকা স্থানীয় উদাহরণে gemma4:e2b ব্যবহার করে এবং 8 GB খালি VRAM, বা Mac-এ একীভূত মেমোরি সুপারিশ করে। Ollama জানায় সিস্টেম RAM-এ চলতে পারে, তবে উত্তর ধীর হয়। এগোনোর আগে বর্তমান মডেলের পৃষ্ঠা থেকে নির্দিষ্ট ট্যাগ, ডাউনলোড আকার ও লাইসেন্স দেখুন। ডাউনলোড আকার কম্পিউটার মডেল চালাতে পারবে তা প্রমাণ করে না। যন্ত্র বা অনুমোদিত কাজে না মিললে ছোট ডাউনলোডযোগ্য স্থানীয় মডেল লাইব্রেরি থেকে বাছুন এবং gemma4:e2b ট্যাগটি নিচের প্রতিটি কমান্ডে তার নির্দিষ্ট ট্যাগ দিয়ে বদলান। এই অনুশীলনে :cloud ট্যাগ বাছবেন না।

1. Ollama ইনস্টল করে স্থানীয় সার্ভার যাচাই করুন

Ollama নিন এর অফিসিয়াল ডাউনলোড পৃষ্ঠা থেকে এবং অপারেটিং সিস্টেমের নির্দেশ মানুন: Windows, macOS বা Linux। Windows ও macOS-এ ইনস্টল করা অ্যাপ খুলুন। Linux-এ বাছা ইনস্টল পদ্ধতি মেনে সার্ভিস শুরু করুন; কোনো সার্ভিস না চললে দ্রুত শুরুর নির্দেশিকা আলাদা টার্মিনালে ollama serve চালাতে বলে। আগে থেকেই শুনতে থাকা অ্যাপ বা সার্ভিসের ওপর দ্বিতীয় সার্ভার শুরু করবেন না।

নতুন টার্মিনালে ইনস্টল করা সংস্করণ ও স্থানীয় সার্ভারের উত্তর দেখুন:

Terminal
ollama -v
ollama ls

প্রকৃত সংস্করণ ও অপারেটিং সিস্টেম লিখুন। প্রথম ডাউনলোডের আগে মডেলের তালিকা ফাঁকা হতে পারে; কমান্ড বা সংযোগের ভুল হলে আগে ইনস্টল বা সার্ভার শুরু ঠিক করুন। Ollama-এর সাধারণ প্রশ্নোত্তর জানায় ডিফল্ট শোনার ঠিকানা 127.0.0.1:11434। অনুশীলনে লুপব্যাকেই রাখুন; নেটওয়ার্ক বাঁধন, প্রক্সি বা টানেল তৈরি করবেন না।

2. একটি নির্দিষ্ট স্থানীয় মডেল ডাউনলোড করুন

মডেলের পৃষ্ঠা যাচাই করে চালান:

Terminal
ollama pull gemma4:e2b
ollama ls

ডাউনলোডের পরে নির্দিষ্ট ট্যাগ ollama ls-এ দেখা যেতেই হবে। ট্যাগ, দেখানো আকার এবং পৃষ্ঠার লাইসেন্স লিখুন। ডাউনলোড ব্যর্থ বা ট্যাগ না থাকলে ফের চেষ্টার আগে বর্তমান লাইব্রেরির বানান, খালি ডিস্ক, নেটওয়ার্ক এবং প্রক্সি বা অনুমতির ভুল দেখুন। আংশিক ডাউনলোড সফল সেটআপ নয়।

3. ইন্টারঅ্যাকটিভ ও একবারের টার্মিনাল চ্যাট যাচাই করুন

ইন্টারঅ্যাকটিভ চ্যাট শুরু করুন:

Terminal
ollama run gemma4:e2b

অনুমোদিত অনুশীলনের প্রশ্ন চ্যাটে বসান। প্রশ্ন তৈরির নথির সঙ্গে উত্তর মিলিয়ে /bye লিখে বেরিয়ে আসুন। নিজের যাচাইয়ের জন্য প্রশ্ন ও আসল উত্তর রাখুন; লেখাটি উদাহরণ ফল দেয় না।

আলাদা একবারের চালনায় একই প্রশ্ন দিন। Windows-এর PowerShell-এ:

PowerShell
$practicePrompt = Read-Host 'Paste your approved practice question'
ollama run gemma4:e2b $practicePrompt

macOS বা Linux-এর Bash টার্মিনালে:

Terminal
read -r -p 'Paste your approved practice question: ' practice_prompt
ollama run gemma4:e2b "$practice_prompt"

আসল একবারের উত্তর একই উৎসের সঙ্গে দেখুন। দুই উত্তরের ভাষা হুবহু এক হওয়া দরকার নেই; দরকার হলো দুই কমান্ডই উদ্দেশ্য করা ট্যাগ চালিয়েছে এবং প্রতিটি তথ্যভিত্তিক দাবি উৎসের সঙ্গে তুলনায় ঠিক থাকে।

4. localhost দিয়ে একই মডেলকে জিজ্ঞেস করুন

এই চ্যাট API মডেল নাম ও বার্তা নেয় POST /api/chat ঠিকানায়। ডিফল্টে অংশে অংশে উত্তর দেয়; stream: false একটি পূর্ণ JSON উত্তর চায়। API পরিচিতি স্থানীয় মূল URL http://localhost:11434/api এবং সরাসরি ক্লাউড URL https://ollama.com/api আলাদা করে। স্থানীয় অনুরোধে API চাবি লাগে না।

Windows-এ PowerShell বসানো প্রশ্ন থেকে নিরাপদে JSON বানাতে পারে:

PowerShell
$practicePrompt = Read-Host 'Paste the same approved practice question'
$body = @{ model = 'gemma4:e2b'; messages = @(@{ role = 'user'; content = $practicePrompt }); stream = $false } | ConvertTo-Json -Depth 5
$response = Invoke-RestMethod -Uri 'http://localhost:11434/api/chat' -Method Post -ContentType 'application/json; charset=utf-8' -Body $body
$response | Select-Object model, done
$response.message.content

macOS বা Linux-এর এই Bash উদাহরণ Python 3 ব্যবহার করে শুধু প্রশ্ন JSON-এ সঠিকভাবে বসাতে। আগে দেখুন python3 ও curl ইনস্টল করা আছে:

Terminal
read -r -p 'Paste the same approved practice question: ' practice_prompt
export practice_prompt
python3 -c 'import json,os; print(json.dumps({"model":"gemma4:e2b","messages":[{"role":"user","content":os.environ["practice_prompt"]}],"stream":False}))' | curl -fsS 'http://localhost:11434/api/chat' -H 'Content-Type: application/json' --data-binary @-

অনুরোধে HTTP সাফল্য ও একটি JSON অবজেক্ট ফিরবে, যেখানে model ডাউনলোড ট্যাগের সঙ্গে মেলে, done এর মান true, এবং message.content ফাঁকা নয়। প্রকৃত উত্তর পড়ে উৎসের সঙ্গে যাচাই করুন। সাফল্য এই অনুরোধের স্থানীয় গন্তব্য ও নির্বাচিত মডেল প্রতিষ্ঠা করে; উদাহরণ কথোপকথনের ওপর না ভরসা করে নিজের আউটপুট রাখুন।

5. চলার অবস্থান ও শুধু স্থানীয় সীমা যাচাই করুন

মডেল লোড থাকা অবস্থায় চালান:

Terminal
ollama ps

এই PROCESSOR কলাম জানায় মডেল CPU, GPU বা দুটিতে আছে কি না, Ollama-এর সাধারণ প্রশ্নোত্তর অনুসারে। নিজের যন্ত্রে আসলে যা দেখায় তা লিখুন। মডেল মেমোরি থেকে সরে গেলে আরেকটি প্রশ্ন পাঠিয়ে আবার দেখুন। কাজ শেষে ollama stop gemma4:e2b দিয়ে মেমোরি থেকে সরাতে পারেন; ollama rm gemma4:e2b দিয়ে মুছে ফেলা পর্যবেক্ষণ রাখার পরে ঐচ্ছিক ডিস্ক পরিষ্কার।

কঠোরভাবে শুধু স্থানীয় Ollama সেটআপের জন্য অফিসিয়াল ক্লাউড বন্ধের নির্দেশনা মানুন: disable_ollama_cloud রাখুন ~/.ollama/server.json-এ, সেই অ্যাকাউন্টের জন্য যেটি Ollama সার্ভার চালায় (Windows-এ ওই অ্যাকাউন্টের ব্যবহারকারী প্রোফাইলের .ollama ফোল্ডার), অন্য পুরোনো JSON সেটিং অক্ষুণ্ণ রেখে:

JSON
{
  "disable_ollama_cloud": true
}

Linux-এ নথিতে দেওয়া systemd সার্ভিস চলে User=ollama পরিচয়ে, যার হোম /usr/share/ollama; নিজের হোমের ফাইল বদলে এই সার্ভিসের বিন্যাস হবে না। systemd ইনস্টলে Ollama-এর নথির বিকল্প OLLAMA_NO_CLOUD=1 সার্ভিস ওভাররাইডেও ব্যবহার করতে পারেন। প্রথমে পুরোনো সার্ভিস systemctl cat ollama.service দিয়ে দেখুন, তারপর sudo systemctl edit ollama.service দিয়ে ওভাররাইড খুলুন। নিচের অংশ [Service]-এর অধীনে দিন এবং অন্য ওভাররাইড সেটিং রাখুন:

Snippet
[Service]
Environment="OLLAMA_NO_CLOUD=1"

ওভাররাইড সেভ করে সার্ভিস বিন্যাস আবার লোড ও সার্ভিস পুনরায় শুরু করুন:

Terminal
sudo systemctl daemon-reload
sudo systemctl restart ollama.service

Windows বা macOS-এ বিন্যাস বদলানোর পরে Ollama অ্যাপ পুনরায় শুরু করুন। সার্ভারের লগে নির্দিষ্ট লাইন Ollama cloud disabled: true খুঁজুন। Windows-এর নথির লগ %LOCALAPPDATA%\Ollama\server.log; macOS-এ ~/.ollama/logs/server.log; Linux systemd ইনস্টলে journalctl -e -u ollama ব্যবহার করুন। সম্পর্কহীন টার্মিনালে পরিবেশ চলক বসালে চালু অ্যাপ বা সার্ভিসে পৌঁছবেই এমন নয়। ক্লাউড সুবিধা বন্ধে Ollama ক্লাউড মডেল ও ওয়েব অনুসন্ধান বাদ যায়। লগ নিশ্চিত না করলে শুধু স্থানীয় বলার আগে বিন্যাস ঠিক করে পুনরায় শুরু করুন।

সার্ভার লগ বা অপারেটিং সিস্টেমের শ্রবণ ঠিকানা দেখার সরঞ্জামে নিশ্চিত করুন এখনো 127.0.0.1:11434-এ শুনছে এবং ডাউনলোড ট্যাগ দিয়ে localhost অনুরোধ আবার করুন। OLLAMA_HOST বাঁধা ঠিকানা বদলাতে পারে, তাই ডিফল্ট ধরে না নিয়ে চালু সার্ভার দেখুন। আলাদা Python লাইব্রেরি, ব্রাউজার ইন্টারফেস, কোডিং এজেন্ট বা যুক্ত অ্যাপের নিজস্ব গন্তব্য ও তথ্যপথ যাচাই দরকার; স্থানীয় Ollama উত্তর ওই অ্যাপের গোপনীয়তা প্রমাণ করে না।

Windows-এ PowerShell দিয়ে শোনার ঠিকানা দেখুন:

PowerShell
Get-NetTCPConnection -LocalPort 11434 -State Listen | Select-Object LocalAddress, LocalPort

macOS-এ lsof -nP -iTCP:11434 -sTCP:LISTEN এবং Linux-এ ss -ltn '( sport = :11434 )' ব্যবহার করুন। প্ল্যাটফর্ম সরঞ্জাম না থাকলে সার্ভার লগ দেখুন। ওয়াইল্ডকার্ড বা লুপব্যাকের বাইরের শ্রবণ ঠিকানা পরীক্ষা না করে API কেবল এই কম্পিউটারে সীমিত ভাববেন না।

যাচাই ব্যর্থ হলে

যদি ollama -v বা ollama ls ব্যর্থ হয়, সংশ্লিষ্ট সিস্টেমের ইনস্টল ও শুরুর পৃষ্ঠায় ফিরুন। localhost সংযোগ প্রত্যাখ্যান সাধারণত অ্যাপ বা সার্ভিস থেমে থাকা বা অন্য ঠিকানায় শোনা বোঝায়। API নেটওয়ার্কে না খুলে লগ ও বাঁধা ঠিকানা দেখুন। উত্তর কয়েকটি JSON লাইনে এলে অনুরোধে "stream": false আছে কি না দেখুন। মেমোরি ফুরোলে বা মডেল অতিরিক্ত ধীর হলে ollama ps দেখুন এবং লাইব্রেরি থেকে সত্যিই ছোট স্থানীয় ট্যাগ বাছুন। সেই এক ট্যাগে ডাউনলোড, টার্মিনাল ও API যাচাই পুনরাবৃত্তি করুন। না শেষ করা ধাপ অযাচাইকৃত ধরুন।

স্থানীয় অনুশীলনে হার্ডওয়্যার, বিদ্যুৎ ও ডাউনলোডের জায়গা লাগে, কিন্তু Ollama API চাবি বা অর্থপ্রদত্ত API অ্যাকাউন্ট লাগে না। মডেলের লাইসেন্স ব্যবহার সীমিত করতে পারে। ক্লাউড মডেল ও ঐচ্ছিক তৃতীয়-পক্ষ ক্লায়েন্টের শর্ত ও তথ্যপথ আলাদা। হার্ডওয়্যার কেনার বিস্তারিত তুলনা দেখতে আমাদের 128 GB স্থানীয় মডেল নির্দেশিকা দেখুন; Ollama ও Claude Code-ভিত্তিক আলাদা কোডিং কাজে যাচাই করা পরিবর্তনের নির্দেশিকা দেখুন।

উৎস ও আরও পড়ুন