Markdown ایڈیشن

AI-translated from English; not yet reviewed by a fluent editor.

# مقامی Ollama ماڈل چلائیں اور اس کا چیٹ API جانچیں

> Ollama نصب کریں، ڈاؤن لوڈ شدہ ماڈل چنیں، ٹرمینل کے جواب دیکھیں اور وہی سوال localhost چیٹ API کو بھیجیں۔ اسے صرف مقامی کہنے سے پہلے ماڈل اور کلاؤڈ کی حد جانچیں۔

By BIG CHANGE Editorial

Published: 2026-10-20T14:31:39.416Z
Updated: 2026-10-20T14:31:39.416Z
Canonical: https://bigchange.ai/blog/run-local-ollama-model-chat-api-guide

![Conceptual charcoal illustration of a closed desktop computer tower beside a keyboard and an angled monitor showing indistinct terminal marks.](https://bigchange.ai/api/media/file/ollama-local-chat-api-desktop-hero-v2.png)
AI-generated conceptual illustration by BIG CHANGE.

Ollama ڈاؤن لوڈ شدہ ماڈل آپ کے کمپیوٹر پر چلا کر مقامی HTTP پتے پر پیش کر سکتا ہے۔ یہ رہنما ہر قدم میں ایک ہی ماڈل نام کے ساتھ تنصیب سے ٹرمینل چیٹ اور مکمل API جواب تک جاتا ہے۔ یہ دستاویزی طریقہ ہے: BIG CHANGE نے سافٹ ویئر نصب نہیں کیا یا آپ کی مشین کے نتائج نہیں دیکھے۔

## بڑی تبدیلی

- **کیا بدلا:** Ollama ڈاؤن لوڈ ماڈل سے ٹرمینل چیٹ اور مقامی API تک سیدھا راستہ دیتا ہے۔ نوآموز ہر انٹرفیس پر ماڈل نام اور جواب جانچ سکتا ہے، یہ فرض کرنے کے بجائے کہ چیٹ ونڈو بتاتی ہے ماڈل کہاں چلا۔
- **یہ کیوں اہم ہے:** مقامی سرور اور Ollama کلاؤڈ API الگ منزلیں ہیں۔ مجاز کام یا ذاتی کام کے لیے ڈاؤن لوڈ ماڈل منتخب کرکے اور `localhost` کو درخواست دے کر مشق اپنے کمپیوٹر پر رکھ سکتے ہیں، جبکہ سرور ترتیب الگ جانچیں۔
- **کن باتوں پر نظر رکھیں:** مقامی URL اکیلا ثابت نہیں کرتا کہ ہر خصوصیت یا منسلک ایپ مقامی رہتی ہے۔ Ollama مقامی سرور سے کلاؤڈ ماڈل بھی استعمال کر سکتا ہے۔ فیصلہ کن پڑتالیں نصب ماڈل ٹیگ، درخواست کی منزل، سرور کا بندھا پتہ اور سخت مقامی کام چاہیے تو دوبارہ آغاز کے بعد کلاؤڈ بند ہونے کا لاگ ہیں۔

## شروع کرنے سے پہلے

وہ کمپیوٹر استعمال کریں جہاں سافٹ ویئر نصب کرنے کی اجازت ہو۔ بے ضرر حقائق پر مبنی سوال چنیں جس کا جواب کھلی اصل دستاویز سے جانچ سکیں۔ کمانڈ مشقی سوال مانگے تو وہی چسپاں کریں؛ صرف آزمائش کے لیے نجی یا ضابطہ بند مواد نہ ڈالیں۔ جواب جانچنے کو دستاویز رکھیں، رواں جواب درستگی کا ثبوت نہیں۔

Ollama اور ماڈل کے لیے ذخیرہ، منتخب ماڈل لوڈ کرنے کی میموری اور تنصیب و ڈاؤن لوڈ کا انٹرنیٹ چاہیے۔ [Ollama کی فوری شروعات](https://docs.ollama.com/quickstart) مقامی مثال میں `gemma4:e2b` استعمال کرتی اور 8 GB دستیاب VRAM، یا Mac پر یکجا میموری تجویز کرتی ہے۔ Ollama کے مطابق سسٹم RAM پر واپسی ممکن ہے مگر جواب سست ہوتے ہیں۔ آگے بڑھنے سے پہلے [ماڈل کا موجودہ صفحہ](https://ollama.com/library/gemma4:e2b) دیکھ کر عین ٹیگ، ڈاؤن لوڈ حجم اور لائسنس جانچیں۔ ڈاؤن لوڈ حجم ثابت نہیں کرتا کہ کمپیوٹر ماڈل چلا سکے گا۔ مشین یا جائز استعمال کے مطابق نہ ہو تو چھوٹا *ڈاؤن لوڈ ہونے والا مقامی* ماڈل [لائبریری](https://ollama.com/library) سے چنیں اور `gemma4:e2b` کو نیچے **ہر** کمانڈ میں اس کے عین ٹیگ سے بدلیں۔ اس مشق میں `:cloud` ٹیگ مت چنیں۔

## 1. Ollama نصب کرکے مقامی سرور جانچیں

Ollama اس کے [سرکاری ڈاؤن لوڈ صفحے](https://ollama.com/download) سے لیں اور اپنے نظام کی ہدایات مانیں: [Windows](https://docs.ollama.com/windows)، [macOS](https://docs.ollama.com/macos) یا [Linux](https://docs.ollama.com/linux)۔ Windows اور macOS پر نصب ایپ کھولیں۔ Linux پر منتخب تنصیب کا طریقہ مان کر اس کی سروس شروع کریں؛ کوئی سروس نہ چل رہی ہو تو [فوری شروعات](https://docs.ollama.com/quickstart) الگ ٹرمینل میں `ollama serve` چلانے کو کہتی ہے۔ پہلے سے سننے والی ایپ یا سروس کے اوپر دوسرا سرور نہ چلائیں۔

نئے ٹرمینل میں نصب ورژن اور مقامی سرور کا جواب جانچیں:

```shell
ollama -v
ollama ls
```

حقیقی ورژن اور نظام درج کریں۔ پہلی بار ڈاؤن لوڈ سے پہلے ماڈل فہرست خالی ہو سکتی ہے؛ کمانڈ یا کنکشن کی خرابی ہو تو پہلے تنصیب یا سرور آغاز ٹھیک کریں۔ Ollama کے [عام سوالات](https://docs.ollama.com/faq) بتاتے ہیں کہ پہلے سے طے شدہ سننے کا پتہ `127.0.0.1:11434` ہے۔ مشق کے لیے اسے لوپ بیک پر رکھیں؛ نیٹ ورک بائنڈ، پراکسی یا ٹنل نہ بنائیں۔

## 2. ایک عین مقامی ماڈل ڈاؤن لوڈ کریں

ماڈل صفحہ جانچ کر چلائیں:

```shell
ollama pull gemma4:e2b
ollama ls
```

ڈاؤن لوڈ کے بعد عین ٹیگ `ollama ls` میں نظر آنا چاہیے۔ ٹیگ، بتایا حجم اور ماڈل صفحے کا لائسنس لکھیں۔ ڈاؤن لوڈ ناکام یا ٹیگ غائب ہو تو دوبارہ کوشش سے پہلے موجودہ لائبریری کا ہجا، خالی ڈسک، نیٹ ورک اور پراکسی یا اجازت کی خرابی دیکھیں۔ جزوی ڈاؤن لوڈ کامیاب ترتیب نہیں۔

## 3. تعاملی اور ایک بار کی ٹرمینل چیٹ جانچیں

تعاملی چیٹ شروع کریں:

```shell
ollama run gemma4:e2b
```

مجاز مشقی سوال چیٹ میں چسپاں کریں۔ سوال بنانے کی دستاویز سے جواب ملائیں اور `/bye` لکھ کر نکلیں۔ اپنی پڑتال کے لیے سوال اور حقیقی جواب رکھیں؛ مضمون مثالی نتیجہ نہیں دیتا۔

الگ ایک بار کی اجرا میں **وہی** سوال استعمال کریں۔ Windows کے PowerShell میں:

```powershell
$practicePrompt = Read-Host 'Paste your approved practice question'
ollama run gemma4:e2b $practicePrompt
```

macOS یا Linux کے Bash ٹرمینل میں:

```bash
read -r -p 'Paste your approved practice question: ' practice_prompt
ollama run gemma4:e2b "$practice_prompt"
```

حقیقی ایک بار کا جواب اسی ماخذ سے دیکھیں۔ دونوں جواب لفظ بہ لفظ برابر ہونا ضروری نہیں؛ اہم یہ ہے کہ دونوں کمانڈ نے مطلوب ٹیگ چلایا اور ہر حقائق پر مبنی دعویٰ ماخذ سے مقابلے میں درست رہا۔

## 4. localhost سے اسی ماڈل کو پوچھیں

یہ [چیٹ API](https://docs.ollama.com/api/chat) ماڈل نام اور پیغام `POST /api/chat` پر لیتا ہے۔ جواب پہلے سے طے شدہ طور پر حصوں میں آتا ہے؛ `stream: false` ایک پورا JSON جواب مانگتا ہے۔ [API تعارف](https://docs.ollama.com/api/introduction) مقامی بنیادی URL `http://localhost:11434/api` اور براہ راست کلاؤڈ URL `https://ollama.com/api` الگ کرتا ہے۔ مقامی درخواست کو API کلید نہیں چاہیے۔

Windows پر PowerShell چسپاں سوال سے JSON محفوظ بنا سکتا ہے:

```powershell
$practicePrompt = Read-Host 'Paste the same approved practice question'
$body = @{ model = 'gemma4:e2b'; messages = @(@{ role = 'user'; content = $practicePrompt }); stream = $false } | ConvertTo-Json -Depth 5
$response = Invoke-RestMethod -Uri 'http://localhost:11434/api/chat' -Method Post -ContentType 'application/json; charset=utf-8' -Body $body
$response | Select-Object model, done
$response.message.content
```

macOS یا Linux کی یہ Bash مثال Python 3 صرف سوال کے خاص حروف کو JSON کے مطابق محفوظ انداز میں لکھنے کے لیے استعمال کرتی ہے۔ پہلے جانچیں کہ `python3` اور `curl` نصب ہیں:

```bash
read -r -p 'Paste the same approved practice question: ' practice_prompt
export practice_prompt
python3 -c 'import json,os; print(json.dumps({"model":"gemma4:e2b","messages":[{"role":"user","content":os.environ["practice_prompt"]}],"stream":False}))' | curl -fsS 'http://localhost:11434/api/chat' -H 'Content-Type: application/json' --data-binary @-
```

درخواست HTTP کامیابی اور ایک JSON آبجیکٹ لوٹائے جس کا `model` ڈاؤن لوڈ ٹیگ سے ملے، `done` کی قدر `true` ہو اور `message.content` خالی نہ ہو۔ حقیقی جواب پڑھ کر ماخذ سے جانچیں۔ کامیابی اس درخواست کی مقامی منزل اور منتخب ماڈل ثابت کرتی ہے؛ مثالی گفتگو پر بھروسا کرنے کے بجائے اپنی آؤٹ پٹ رکھیں۔

## 5. چلنے کی جگہ اور صرف مقامی حد جانچیں

ماڈل لوڈ ہو تو چلائیں:

```shell
ollama ps
```

یہ `PROCESSOR` کالم بتاتا ہے کہ ماڈل CPU، GPU یا دونوں پر لوڈ ہے، جیسا Ollama کے [عام سوالات](https://docs.ollama.com/faq) کہتے ہیں۔ مشین واقعی جو دکھاتی ہے لکھیں۔ ماڈل میموری سے نکل چکا ہو تو دوسرا سوال بھیج کر دوبارہ دیکھیں۔ کام کے بعد `ollama stop gemma4:e2b` سے میموری خالی کر سکتے ہیں؛ `ollama rm gemma4:e2b` سے ہٹانا مشاہدات محفوظ کرنے کے بعد اختیاری ڈسک صفائی ہے۔

سخت مقامی Ollama ترتیب کے لیے [سرکاری کلاؤڈ بند کرنے کی ہدایات](https://docs.ollama.com/faq) مانیں: `disable_ollama_cloud` کو `~/.ollama/server.json` میں اس اکاؤنٹ کے لیے رکھیں **جو Ollama سرور چلاتا ہے** (Windows میں اس اکاؤنٹ کے صارف پروفائل کا `.ollama` فولڈر)، باقی موجودہ JSON ترتیبات محفوظ رکھ کر:

```json
{
  "disable_ollama_cloud": true
}
```

Linux پر [دستاویز کردہ systemd سروس](https://docs.ollama.com/linux) اس شناخت سے چلتی ہے: `User=ollama`، جس کا ہوم `/usr/share/ollama` ہے؛ اپنے ہوم کی فائل بدلنا اس سروس کو ترتیب نہیں دے گا۔ systemd تنصیب میں Ollama کا دستاویز کردہ متبادل `OLLAMA_NO_CLOUD=1` سروس اووررائڈ میں بھی استعمال کر سکتے ہیں۔ پہلے موجودہ سروس `systemctl cat ollama.service` سے دیکھیں، پھر اووررائڈ `sudo systemctl edit ollama.service` سے کھولیں۔ درج ذیل `[Service]` کے تحت ڈالیں اور دوسری اووررائڈ ترتیبات رکھیں:

```plaintext
[Service]
Environment="OLLAMA_NO_CLOUD=1"
```

اووررائڈ محفوظ کریں، پھر سروس ترتیب دوبارہ لوڈ اور سروس دوبارہ شروع کریں:

```bash
sudo systemctl daemon-reload
sudo systemctl restart ollama.service
```

Windows یا macOS میں ترتیب بدلنے کے بعد Ollama ایپ دوبارہ چلائیں۔ سرور لاگ میں عین سطر `Ollama cloud disabled: true` دیکھیں۔ Windows کا دستاویز کردہ لاگ `%LOCALAPPDATA%\Ollama\server.log` ہے؛ macOS پر `~/.ollama/logs/server.log` ہے؛ Linux systemd تنصیب پر `journalctl -e -u ollama` استعمال کریں۔ غیر متعلقہ ٹرمینل میں مقرر ماحولیاتی متغیر پہلے سے چلتی ایپ یا سروس تک لازماً نہیں پہنچتا۔ کلاؤڈ خصوصیات بند کرنے سے Ollama کلاؤڈ ماڈل اور ویب تلاش ہٹتے ہیں۔ لاگ تصدیق نہ کرے تو صرف مقامی کہنے سے پہلے ترتیب درست کرکے دوبارہ چلائیں۔

سرور لاگ یا نظام کے سننے والے پتے کی جانچ سے تصدیق کریں کہ اب بھی `127.0.0.1:11434` پر سن رہا ہے، پھر ڈاؤن لوڈ ٹیگ سے localhost درخواست دہرائیں۔ `OLLAMA_HOST` بائنڈ پتہ بدل سکتا ہے، اس لیے طے شدہ قدر فرض نہ کریں بلکہ فعال سرور دیکھیں۔ الگ Python لائبریری، براؤزر انٹرفیس، کوڈنگ ایجنٹ یا جڑی ایپ کو اپنے endpoint اور ڈیٹا راستے کی پڑتال چاہیے؛ مقامی Ollama جواب اس ایپ کی رازداری ثابت نہیں کرتا۔

Windows پر PowerShell سے سننے کا پتہ دیکھیں:

```powershell
Get-NetTCPConnection -LocalPort 11434 -State Listen | Select-Object LocalAddress, LocalPort
```

macOS پر `lsof -nP -iTCP:11434 -sTCP:LISTEN` اور Linux پر `ss -ltn '( sport = :11434 )'` استعمال کریں۔ نظام کا آلہ دستیاب نہ ہو تو سرور لاگ دیکھیں۔ وائلڈ کارڈ یا غیر لوپ بیک پتہ جانچ مانگتا ہے، تبھی API کو اس کمپیوٹر تک محدود سمجھیں۔

## پڑتال ناکام ہو تو

اگر `ollama -v` یا `ollama ls` ناکام ہوں، متعلقہ نظام کے تنصیب اور آغاز صفحے پر لوٹیں۔ localhost کنکشن مسترد ہونا عموماً ایپ یا سروس بند یا دوسرے پتے پر ہونے کو کہتا ہے؛ API نیٹ ورک پر کھولنے کے بجائے لاگ اور بائنڈ پتہ دیکھیں۔ جواب کئی JSON سطروں میں آئے تو درخواست میں `"stream": false` ہونا جانچیں۔ میموری کم پڑے یا ماڈل ناقابل عمل حد تک سست ہو تو `ollama ps` دیکھیں اور لائبریری سے واقعی چھوٹا مقامی ٹیگ چنیں؛ اسی ایک ٹیگ سے ڈاؤن لوڈ، ٹرمینل اور API پڑتالیں دہرائیں۔ نامکمل مرحلہ غیر مصدقہ سمجھیں۔

مقامی مشق کو ہارڈویئر، بجلی اور ڈاؤن لوڈ ذخیرہ چاہیے مگر Ollama API کلید یا ادا شدہ API اکاؤنٹ نہیں۔ ماڈل لائسنس مطلوب استعمال محدود کر سکتا ہے۔ کلاؤڈ ماڈل اور اختیاری تیسرے فریق کلائنٹ کی شرائط اور ڈیٹا راستے الگ ہیں۔ ہارڈویئر خریدنے کے تفصیلی موازنے کے لیے ہماری [128 GB مقامی ماڈل رہنمائی](https://bigchange.ai/blog/run-local-models-128gb-memory-cost) دیکھیں؛ Ollama اور Claude Code کے الگ کوڈنگ کام کے لیے [جانچی ہوئی تبدیلی کی رہنمائی](https://bigchange.ai/blog/claude-code-local-ollama-checked-change-guide) دیکھیں۔

## ماخذ اور مزید مطالعہ

- [Ollama فوری شروعات](https://docs.ollama.com/quickstart) تنصیب، مقامی `gemma4:e2b` مثال اور میموری تجویز بتاتی ہے۔ مثال دستاویز ہے، آپ کی مشین کا ٹیسٹ نہیں۔
- [کمانڈ لائن حوالہ](https://docs.ollama.com/cli) یہاں استعمال موجودہ `pull`، `run`، `ls`، `ps`، `stop`، `rm` اور `serve` کمانڈ بتاتا ہے۔
- [API تعارف](https://docs.ollama.com/api/introduction) اور [چیٹ endpoint](https://docs.ollama.com/api/chat) مقامی اور کلاؤڈ پتے الگ کرتے اور غیر اسٹریمنگ درخواست و جواب کی فیلڈز بتاتے ہیں۔
- [عام سوالات](https://docs.ollama.com/faq) لوپ بیک بائنڈنگ، پروسیسر جگہ، کلاؤڈ بند کرنے کی ترتیب اور لاگ پڑتال بتاتے ہیں۔
- [Gemma 4 E2B صفحہ](https://ollama.com/library/gemma4:e2b) موجودہ عین ٹیگ، حجم اور لائسنس مواد دیتا ہے، ڈاؤن لوڈ سے پہلے دیکھنے کے لیے۔

## Sources

- [Ollama فوری شروعات](https://docs.ollama.com/quickstart) — سرکاری تنصیب کا آغاز اور مقامی gemma4:e2b مثال، pull، run، /bye، API درخواست اور میموری تجویز سمیت۔ قاری کے ہارڈویئر کی موزونیت یا حقیقی نتیجہ ثابت نہیں کرتا۔
- [Ollama CLI حوالہ](https://docs.ollama.com/cli) — موجودہ pull، run، ls، ps، stop، rm اور serve کمانڈ۔ مضمون کے لیے ٹرمینل نہیں چلایا گیا۔
- [Ollama API تعارف](https://docs.ollama.com/api/introduction) — localhost اور براہ راست کلاؤڈ بنیادی URL اور بغیر کلید مقامی رسائی الگ کرتا ہے۔ اجازت فعال ہو تو مقامی سرور کلاؤڈ ماڈل تک جا سکتے ہیں۔
- [Ollama چیٹ endpoint](https://docs.ollama.com/api/chat) — model/messages درخواست، طے شدہ اسٹریمنگ، stream:false اور مکمل model، done، message.content فیلڈ بتاتا ہے۔ قاری کے جواب کا ثبوت نہیں۔
- [Ollama عام سوالات](https://docs.ollama.com/faq) — طے شدہ لوپ بیک بائنڈنگ، پروسیسر جگہ، کلاؤڈ بند کرنے کی ترتیب، دوبارہ آغاز اور لاگ علامت بتاتے ہیں۔ دوسرے کلائنٹ ایپ کے ڈیٹا راستے الگ ہیں۔
- [Ollama Gemma 4 E2B صفحہ](https://ollama.com/library/gemma4:e2b) — عین مثالی ٹیگ اور موجودہ فائل و لائسنس مواد دیتا ہے۔ ڈاؤن لوڈ سے پہلے قاری موجودہ حجم، حقوق اور مشین گنجائش دیکھے۔
- [Ollama Windows تنصیب](https://docs.ollama.com/windows) — نظام کی تنصیب، CLI اور پس منظر سرور رویہ، لاگ مقام؛ قاری کا نصب ورژن ثابت نہیں کرتا۔
- [Ollama macOS تنصیب](https://docs.ollama.com/macos) — نظام کی تنصیب، ایپ اور CLI رویہ، لاگ مقام؛ قاری کا نصب ورژن ثابت نہیں کرتا۔
- [Ollama Linux تنصیب](https://docs.ollama.com/linux) — نظام کی تنصیب، دستی یا سروس آغاز اور روزنامچے کی ہدایات؛ قاری اپنی حقیقی ترتیب مانے۔