AI-translated from English; not yet reviewed by a fluent editor.

# স্থানীয় Ollama মডেল চালিয়ে তার চ্যাট API যাচাই করুন

> Ollama ইনস্টল করুন, ডাউনলোড করা মডেল বেছে টার্মিনালের উত্তর যাচাই করুন এবং একই প্রশ্ন localhost চ্যাট API-তে পাঠান। শুধু স্থানীয় বলার আগে মডেল ও ক্লাউডের সীমা পরীক্ষা করুন।

By BIG CHANGE Editorial

Published: 2026-10-20T14:31:39.416Z
Updated: 2026-10-20T14:31:39.416Z
Canonical: https://bigchange.ai/blog/run-local-ollama-model-chat-api-guide

![Conceptual charcoal illustration of a closed desktop computer tower beside a keyboard and an angled monitor showing indistinct terminal marks.](https://bigchange.ai/api/media/file/ollama-local-chat-api-desktop-hero-v2.png)
AI-generated conceptual illustration by BIG CHANGE.

Ollama আপনার কম্পিউটারে ডাউনলোড করা মডেল চালিয়ে স্থানীয় HTTP ঠিকানায় দিতে পারে। এই নির্দেশিকা একই মডেল নাম রেখে ইনস্টল থেকে টার্মিনাল চ্যাট ও পূর্ণ API উত্তর পর্যন্ত যায়। এটি নথিভিত্তিক পদ্ধতি: BIG CHANGE সফটওয়্যার ইনস্টল করেনি বা আপনার যন্ত্রের ফল দেখেনি।

## বড় পরিবর্তন

- **কী বদলেছে:** Ollama ডাউনলোড করা মডেল থেকে টার্মিনাল চ্যাট ও স্থানীয় API-তে সরাসরি পথ দেয়। নতুন ব্যবহারকারী প্রতিটি ইন্টারফেসে মডেল নাম ও উত্তর দেখতে পারেন, চ্যাট উইন্ডোই কোথায় মডেল চলল তার প্রমাণ ধরে না নিয়ে।
- **কেন গুরুত্বপূর্ণ:** স্থানীয় সার্ভার ও Ollama ক্লাউড API আলাদা গন্তব্য। অনুমোদিত কাজ বা ব্যক্তিগত কাজে ডাউনলোড করা মডেল বেছে এবং `localhost`-এ অনুরোধ করে এই অনুশীলন নিজের কম্পিউটারে রাখতে পারেন, তবে সার্ভার বিন্যাস আলাদা যাচাই করতে হবে।
- **যা খেয়াল রাখতে হবে:** স্থানীয় URL একা প্রমাণ করে না যে প্রতিটি সুবিধা বা যুক্ত অ্যাপ স্থানীয় থাকে। Ollama স্থানীয় সার্ভার দিয়েও ক্লাউড মডেল ব্যবহার করতে পারে। নির্ধারক যাচাই হলো ইনস্টল করা মডেল ট্যাগ, অনুরোধের গন্তব্য, সার্ভারের বাঁধা ঠিকানা এবং কঠোর স্থানীয় ব্যবহার চাইলে পুনরায় শুরুর পর ক্লাউড বন্ধের লগ।

## শুরুর আগে

যে কম্পিউটারে সফটওয়্যার ইনস্টলের অনুমতি আছে সেটি নিন। নিরীহ তথ্যভিত্তিক প্রশ্ন বাছুন যার উত্তর খোলা মূল নথিতে যাচাই করতে পারবেন। কমান্ড অনুশীলনের প্রশ্ন চাইলে সেটি বসান; শুধু পরীক্ষা করতে ব্যক্তিগত বা নিয়ন্ত্রিত তথ্য দেবেন না। উত্তর দেখার জন্য নথি রাখুন, সাবলীল জবাব নির্ভুলতার প্রমাণ নয়।

Ollama ও মডেলের জন্য জায়গা, নির্বাচিত মডেল লোড করার মতো মেমোরি এবং ইনস্টল ও ডাউনলোডের ইন্টারনেট দরকার। [Ollama-এর দ্রুত শুরুর নির্দেশিকা](https://docs.ollama.com/quickstart) স্থানীয় উদাহরণে `gemma4:e2b` ব্যবহার করে এবং 8 GB খালি VRAM, বা Mac-এ একীভূত মেমোরি সুপারিশ করে। Ollama জানায় সিস্টেম RAM-এ চলতে পারে, তবে উত্তর ধীর হয়। এগোনোর আগে [বর্তমান মডেলের পৃষ্ঠা](https://ollama.com/library/gemma4:e2b) থেকে নির্দিষ্ট ট্যাগ, ডাউনলোড আকার ও লাইসেন্স দেখুন। ডাউনলোড আকার কম্পিউটার মডেল চালাতে পারবে তা প্রমাণ করে না। যন্ত্র বা অনুমোদিত কাজে না মিললে ছোট *ডাউনলোডযোগ্য স্থানীয়* মডেল [লাইব্রেরি](https://ollama.com/library) থেকে বাছুন এবং `gemma4:e2b` ট্যাগটি নিচের **প্রতিটি** কমান্ডে তার নির্দিষ্ট ট্যাগ দিয়ে বদলান। এই অনুশীলনে `:cloud` ট্যাগ বাছবেন না।

## 1. Ollama ইনস্টল করে স্থানীয় সার্ভার যাচাই করুন

Ollama নিন এর [অফিসিয়াল ডাউনলোড পৃষ্ঠা](https://ollama.com/download) থেকে এবং অপারেটিং সিস্টেমের নির্দেশ মানুন: [Windows](https://docs.ollama.com/windows), [macOS](https://docs.ollama.com/macos) বা [Linux](https://docs.ollama.com/linux)। Windows ও macOS-এ ইনস্টল করা অ্যাপ খুলুন। Linux-এ বাছা ইনস্টল পদ্ধতি মেনে সার্ভিস শুরু করুন; কোনো সার্ভিস না চললে [দ্রুত শুরুর নির্দেশিকা](https://docs.ollama.com/quickstart) আলাদা টার্মিনালে `ollama serve` চালাতে বলে। আগে থেকেই শুনতে থাকা অ্যাপ বা সার্ভিসের ওপর দ্বিতীয় সার্ভার শুরু করবেন না।

নতুন টার্মিনালে ইনস্টল করা সংস্করণ ও স্থানীয় সার্ভারের উত্তর দেখুন:

```shell
ollama -v
ollama ls
```

প্রকৃত সংস্করণ ও অপারেটিং সিস্টেম লিখুন। প্রথম ডাউনলোডের আগে মডেলের তালিকা ফাঁকা হতে পারে; কমান্ড বা সংযোগের ভুল হলে আগে ইনস্টল বা সার্ভার শুরু ঠিক করুন। Ollama-এর [সাধারণ প্রশ্নোত্তর](https://docs.ollama.com/faq) জানায় ডিফল্ট শোনার ঠিকানা `127.0.0.1:11434`। অনুশীলনে লুপব্যাকেই রাখুন; নেটওয়ার্ক বাঁধন, প্রক্সি বা টানেল তৈরি করবেন না।

## 2. একটি নির্দিষ্ট স্থানীয় মডেল ডাউনলোড করুন

মডেলের পৃষ্ঠা যাচাই করে চালান:

```shell
ollama pull gemma4:e2b
ollama ls
```

ডাউনলোডের পরে নির্দিষ্ট ট্যাগ `ollama ls`-এ দেখা যেতেই হবে। ট্যাগ, দেখানো আকার এবং পৃষ্ঠার লাইসেন্স লিখুন। ডাউনলোড ব্যর্থ বা ট্যাগ না থাকলে ফের চেষ্টার আগে বর্তমান লাইব্রেরির বানান, খালি ডিস্ক, নেটওয়ার্ক এবং প্রক্সি বা অনুমতির ভুল দেখুন। আংশিক ডাউনলোড সফল সেটআপ নয়।

## 3. ইন্টারঅ্যাকটিভ ও একবারের টার্মিনাল চ্যাট যাচাই করুন

ইন্টারঅ্যাকটিভ চ্যাট শুরু করুন:

```shell
ollama run gemma4:e2b
```

অনুমোদিত অনুশীলনের প্রশ্ন চ্যাটে বসান। প্রশ্ন তৈরির নথির সঙ্গে উত্তর মিলিয়ে `/bye` লিখে বেরিয়ে আসুন। নিজের যাচাইয়ের জন্য প্রশ্ন ও আসল উত্তর রাখুন; লেখাটি উদাহরণ ফল দেয় না।

আলাদা একবারের চালনায় **একই** প্রশ্ন দিন। Windows-এর PowerShell-এ:

```powershell
$practicePrompt = Read-Host 'Paste your approved practice question'
ollama run gemma4:e2b $practicePrompt
```

macOS বা Linux-এর Bash টার্মিনালে:

```bash
read -r -p 'Paste your approved practice question: ' practice_prompt
ollama run gemma4:e2b "$practice_prompt"
```

আসল একবারের উত্তর একই উৎসের সঙ্গে দেখুন। দুই উত্তরের ভাষা হুবহু এক হওয়া দরকার নেই; দরকার হলো দুই কমান্ডই উদ্দেশ্য করা ট্যাগ চালিয়েছে এবং প্রতিটি তথ্যভিত্তিক দাবি উৎসের সঙ্গে তুলনায় ঠিক থাকে।

## 4. localhost দিয়ে একই মডেলকে জিজ্ঞেস করুন

এই [চ্যাট API](https://docs.ollama.com/api/chat) মডেল নাম ও বার্তা নেয় `POST /api/chat` ঠিকানায়। ডিফল্টে অংশে অংশে উত্তর দেয়; `stream: false` একটি পূর্ণ JSON উত্তর চায়। [API পরিচিতি](https://docs.ollama.com/api/introduction) স্থানীয় মূল URL `http://localhost:11434/api` এবং সরাসরি ক্লাউড URL `https://ollama.com/api` আলাদা করে। স্থানীয় অনুরোধে API চাবি লাগে না।

Windows-এ PowerShell বসানো প্রশ্ন থেকে নিরাপদে JSON বানাতে পারে:

```powershell
$practicePrompt = Read-Host 'Paste the same approved practice question'
$body = @{ model = 'gemma4:e2b'; messages = @(@{ role = 'user'; content = $practicePrompt }); stream = $false } | ConvertTo-Json -Depth 5
$response = Invoke-RestMethod -Uri 'http://localhost:11434/api/chat' -Method Post -ContentType 'application/json; charset=utf-8' -Body $body
$response | Select-Object model, done
$response.message.content
```

macOS বা Linux-এর এই Bash উদাহরণ Python 3 ব্যবহার করে শুধু প্রশ্ন JSON-এ সঠিকভাবে বসাতে। আগে দেখুন `python3` ও `curl` ইনস্টল করা আছে:

```bash
read -r -p 'Paste the same approved practice question: ' practice_prompt
export practice_prompt
python3 -c 'import json,os; print(json.dumps({"model":"gemma4:e2b","messages":[{"role":"user","content":os.environ["practice_prompt"]}],"stream":False}))' | curl -fsS 'http://localhost:11434/api/chat' -H 'Content-Type: application/json' --data-binary @-
```

অনুরোধে HTTP সাফল্য ও একটি JSON অবজেক্ট ফিরবে, যেখানে `model` ডাউনলোড ট্যাগের সঙ্গে মেলে, `done` এর মান `true`, এবং `message.content` ফাঁকা নয়। প্রকৃত উত্তর পড়ে উৎসের সঙ্গে যাচাই করুন। সাফল্য এই অনুরোধের স্থানীয় গন্তব্য ও নির্বাচিত মডেল প্রতিষ্ঠা করে; উদাহরণ কথোপকথনের ওপর না ভরসা করে নিজের আউটপুট রাখুন।

## 5. চলার অবস্থান ও শুধু স্থানীয় সীমা যাচাই করুন

মডেল লোড থাকা অবস্থায় চালান:

```shell
ollama ps
```

এই `PROCESSOR` কলাম জানায় মডেল CPU, GPU বা দুটিতে আছে কি না, Ollama-এর [সাধারণ প্রশ্নোত্তর](https://docs.ollama.com/faq) অনুসারে। নিজের যন্ত্রে আসলে যা দেখায় তা লিখুন। মডেল মেমোরি থেকে সরে গেলে আরেকটি প্রশ্ন পাঠিয়ে আবার দেখুন। কাজ শেষে `ollama stop gemma4:e2b` দিয়ে মেমোরি থেকে সরাতে পারেন; `ollama rm gemma4:e2b` দিয়ে মুছে ফেলা পর্যবেক্ষণ রাখার পরে ঐচ্ছিক ডিস্ক পরিষ্কার।

কঠোরভাবে শুধু স্থানীয় Ollama সেটআপের জন্য [অফিসিয়াল ক্লাউড বন্ধের নির্দেশনা](https://docs.ollama.com/faq) মানুন: `disable_ollama_cloud` রাখুন `~/.ollama/server.json`-এ, সেই অ্যাকাউন্টের জন্য **যেটি Ollama সার্ভার চালায়** (Windows-এ ওই অ্যাকাউন্টের ব্যবহারকারী প্রোফাইলের `.ollama` ফোল্ডার), অন্য পুরোনো JSON সেটিং অক্ষুণ্ণ রেখে:

```json
{
  "disable_ollama_cloud": true
}
```

Linux-এ [নথিতে দেওয়া systemd সার্ভিস](https://docs.ollama.com/linux) চলে `User=ollama` পরিচয়ে, যার হোম `/usr/share/ollama`; নিজের হোমের ফাইল বদলে এই সার্ভিসের বিন্যাস হবে না। systemd ইনস্টলে Ollama-এর নথির বিকল্প `OLLAMA_NO_CLOUD=1` সার্ভিস ওভাররাইডেও ব্যবহার করতে পারেন। প্রথমে পুরোনো সার্ভিস `systemctl cat ollama.service` দিয়ে দেখুন, তারপর `sudo systemctl edit ollama.service` দিয়ে ওভাররাইড খুলুন। নিচের অংশ `[Service]`-এর অধীনে দিন এবং অন্য ওভাররাইড সেটিং রাখুন:

```plaintext
[Service]
Environment="OLLAMA_NO_CLOUD=1"
```

ওভাররাইড সেভ করে সার্ভিস বিন্যাস আবার লোড ও সার্ভিস পুনরায় শুরু করুন:

```bash
sudo systemctl daemon-reload
sudo systemctl restart ollama.service
```

Windows বা macOS-এ বিন্যাস বদলানোর পরে Ollama অ্যাপ পুনরায় শুরু করুন। সার্ভারের লগে নির্দিষ্ট লাইন `Ollama cloud disabled: true` খুঁজুন। Windows-এর নথির লগ `%LOCALAPPDATA%\Ollama\server.log`; macOS-এ `~/.ollama/logs/server.log`; Linux systemd ইনস্টলে `journalctl -e -u ollama` ব্যবহার করুন। সম্পর্কহীন টার্মিনালে পরিবেশ চলক বসালে চালু অ্যাপ বা সার্ভিসে পৌঁছবেই এমন নয়। ক্লাউড সুবিধা বন্ধে Ollama ক্লাউড মডেল ও ওয়েব অনুসন্ধান বাদ যায়। লগ নিশ্চিত না করলে শুধু স্থানীয় বলার আগে বিন্যাস ঠিক করে পুনরায় শুরু করুন।

সার্ভার লগ বা অপারেটিং সিস্টেমের শ্রবণ ঠিকানা দেখার সরঞ্জামে নিশ্চিত করুন এখনো `127.0.0.1:11434`-এ শুনছে এবং ডাউনলোড ট্যাগ দিয়ে localhost অনুরোধ আবার করুন। `OLLAMA_HOST` বাঁধা ঠিকানা বদলাতে পারে, তাই ডিফল্ট ধরে না নিয়ে চালু সার্ভার দেখুন। আলাদা Python লাইব্রেরি, ব্রাউজার ইন্টারফেস, কোডিং এজেন্ট বা যুক্ত অ্যাপের নিজস্ব গন্তব্য ও তথ্যপথ যাচাই দরকার; স্থানীয় Ollama উত্তর ওই অ্যাপের গোপনীয়তা প্রমাণ করে না।

Windows-এ PowerShell দিয়ে শোনার ঠিকানা দেখুন:

```powershell
Get-NetTCPConnection -LocalPort 11434 -State Listen | Select-Object LocalAddress, LocalPort
```

macOS-এ `lsof -nP -iTCP:11434 -sTCP:LISTEN` এবং Linux-এ `ss -ltn '( sport = :11434 )'` ব্যবহার করুন। প্ল্যাটফর্ম সরঞ্জাম না থাকলে সার্ভার লগ দেখুন। ওয়াইল্ডকার্ড বা লুপব্যাকের বাইরের শ্রবণ ঠিকানা পরীক্ষা না করে API কেবল এই কম্পিউটারে সীমিত ভাববেন না।

## যাচাই ব্যর্থ হলে

যদি `ollama -v` বা `ollama ls` ব্যর্থ হয়, সংশ্লিষ্ট সিস্টেমের ইনস্টল ও শুরুর পৃষ্ঠায় ফিরুন। localhost সংযোগ প্রত্যাখ্যান সাধারণত অ্যাপ বা সার্ভিস থেমে থাকা বা অন্য ঠিকানায় শোনা বোঝায়। API নেটওয়ার্কে না খুলে লগ ও বাঁধা ঠিকানা দেখুন। উত্তর কয়েকটি JSON লাইনে এলে অনুরোধে `"stream": false` আছে কি না দেখুন। মেমোরি ফুরোলে বা মডেল অতিরিক্ত ধীর হলে `ollama ps` দেখুন এবং লাইব্রেরি থেকে সত্যিই ছোট স্থানীয় ট্যাগ বাছুন। সেই এক ট্যাগে ডাউনলোড, টার্মিনাল ও API যাচাই পুনরাবৃত্তি করুন। না শেষ করা ধাপ অযাচাইকৃত ধরুন।

স্থানীয় অনুশীলনে হার্ডওয়্যার, বিদ্যুৎ ও ডাউনলোডের জায়গা লাগে, কিন্তু Ollama API চাবি বা অর্থপ্রদত্ত API অ্যাকাউন্ট লাগে না। মডেলের লাইসেন্স ব্যবহার সীমিত করতে পারে। ক্লাউড মডেল ও ঐচ্ছিক তৃতীয়-পক্ষ ক্লায়েন্টের শর্ত ও তথ্যপথ আলাদা। হার্ডওয়্যার কেনার বিস্তারিত তুলনা দেখতে আমাদের [128 GB স্থানীয় মডেল নির্দেশিকা](https://bigchange.ai/blog/run-local-models-128gb-memory-cost) দেখুন; Ollama ও Claude Code-ভিত্তিক আলাদা কোডিং কাজে [যাচাই করা পরিবর্তনের নির্দেশিকা](https://bigchange.ai/blog/claude-code-local-ollama-checked-change-guide) দেখুন।

## উৎস ও আরও পড়ুন

- [Ollama দ্রুত শুরুর নির্দেশিকা](https://docs.ollama.com/quickstart) ইনস্টল, স্থানীয় `gemma4:e2b` উদাহরণ ও মেমোরি সুপারিশ বোঝায়। উদাহরণ নথি, আপনার যন্ত্রের পরীক্ষা নয়।
- [কমান্ড লাইন তথ্যসূত্র](https://docs.ollama.com/cli) এখানে ব্যবহৃত বর্তমান `pull`, `run`, `ls`, `ps`, `stop`, `rm` ও `serve` কমান্ডের তালিকা দেয়।
- [API পরিচিতি](https://docs.ollama.com/api/introduction) ও [চ্যাট প্রান্তবিন্দু](https://docs.ollama.com/api/chat) স্থানীয় ও ক্লাউড ঠিকানা আলাদা করে, স্ট্রিমবিহীন অনুরোধ ও উত্তর ফিল্ড নির্ধারণ করে।
- [সাধারণ প্রশ্নোত্তর](https://docs.ollama.com/faq) লুপব্যাক বাঁধন, প্রসেসরের অবস্থান, ক্লাউড বন্ধের সেটিং ও লগ যাচাই বোঝায়।
- [Gemma 4 E2B পৃষ্ঠা](https://ollama.com/library/gemma4:e2b) বর্তমান নির্দিষ্ট ট্যাগ, আকার ও লাইসেন্স তথ্য দেয়, ডাউনলোডের আগে দেখার জন্য।

## Sources

- [Ollama দ্রুত শুরুর নির্দেশিকা](https://docs.ollama.com/quickstart) — অফিসিয়াল ইনস্টল প্রবেশ ও স্থানীয় gemma4:e2b উদাহরণ, pull, run, /bye, API অনুরোধ ও মেমোরি সুপারিশসহ। পাঠকের হার্ডওয়্যারের উপযোগিতা বা বাস্তব ফল প্রতিষ্ঠা করে না।
- [Ollama CLI তথ্যসূত্র](https://docs.ollama.com/cli) — বর্তমান pull, run, ls, ps, stop, rm ও serve কমান্ড। লেখার জন্য টার্মিনাল চালানো হয়নি।
- [Ollama API পরিচিতি](https://docs.ollama.com/api/introduction) — localhost ও সরাসরি ক্লাউড মূল URL এবং চাবিবিহীন স্থানীয় প্রবেশ আলাদা করে। অনুমতি চালু থাকলে স্থানীয় সার্ভারও ক্লাউড মডেল পেতে পারে।
- [Ollama চ্যাট প্রান্তবিন্দু](https://docs.ollama.com/api/chat) — model/messages অনুরোধ, ডিফল্ট স্ট্রিমিং, stream:false এবং পূর্ণ model, done, message.content ফিল্ড নির্ধারণ করে। পাঠকের উত্তর প্রমাণ করে না।
- [Ollama সাধারণ প্রশ্নোত্তর](https://docs.ollama.com/faq) — ডিফল্ট লুপব্যাক বাঁধন, প্রসেসরের অবস্থান, ক্লাউড বন্ধের বিন্যাস, পুনরায় শুরু ও লগ সংকেত বোঝায়। অন্য ক্লায়েন্ট অ্যাপের আলাদা তথ্যপথ।
- [Ollama Gemma 4 E2B পৃষ্ঠা](https://ollama.com/library/gemma4:e2b) — নির্দিষ্ট উদাহরণ ট্যাগ ও বর্তমান ফাইল ও লাইসেন্স তথ্য দেয়। ডাউনলোডের আগে পাঠক বর্তমান আকার, অধিকার ও যন্ত্রের ক্ষমতা দেখবেন।
- [Ollama Windows ইনস্টল](https://docs.ollama.com/windows) — প্ল্যাটফর্ম ইনস্টল, CLI ও পেছনের সার্ভারের আচরণ, লগের অবস্থান; পাঠকের ইনস্টল করা সংস্করণ নির্ধারণ করে না।
- [Ollama macOS ইনস্টল](https://docs.ollama.com/macos) — প্ল্যাটফর্ম ইনস্টল, অ্যাপ ও CLI আচরণ, লগের অবস্থান; পাঠকের ইনস্টল করা সংস্করণ নির্ধারণ করে না।
- [Ollama Linux ইনস্টল](https://docs.ollama.com/linux) — প্ল্যাটফর্ম ইনস্টল, হাতে বা সার্ভিসে শুরু এবং জার্নাল নির্দেশ; পাঠক নিজের বাস্তব বিন্যাস মানবেন।