Markdown संस्करण

AI-translated from English; not yet reviewed by a fluent editor.

# स्थानीय Ollama मॉडल चलाएँ और उसका चैट API जाँचें

> Ollama स्थापित करें, डाउनलोड किया मॉडल चुनें, टर्मिनल के उत्तर जाँचें और वही प्रश्न localhost चैट API को भेजें। इसे केवल स्थानीय व्यवस्था कहने से पहले मॉडल और क्लाउड सीमा सत्यापित करें।

By BIG CHANGE Editorial

Published: 2026-10-20T14:31:39.416Z
Updated: 2026-10-20T14:31:39.416Z
Canonical: https://bigchange.ai/blog/run-local-ollama-model-chat-api-guide

![Conceptual charcoal illustration of a closed desktop computer tower beside a keyboard and an angled monitor showing indistinct terminal marks.](https://bigchange.ai/api/media/file/ollama-local-chat-api-desktop-hero-v2.png)
AI-generated conceptual illustration by BIG CHANGE.

Ollama डाउनलोड किया मॉडल आपके कंप्यूटर पर चला सकता है और स्थानीय HTTP पते पर उपलब्ध कराता है। मार्गदर्शिका हर चरण में एक ही मॉडल नाम से स्थापना, टर्मिनल चैट और पूर्ण API उत्तर तक जाती है। यह दस्तावेज-आधारित प्रक्रिया है: BIG CHANGE ने सॉफ़्टवेयर स्थापित नहीं किया और आपकी मशीन के परिणाम नहीं देखे।

## बड़ा बदलाव

- **क्या बदला:** Ollama डाउनलोड किए मॉडल से टर्मिनल चैट और स्थानीय API तक सीधा रास्ता देता है। शुरुआती पाठक हर इंटरफ़ेस पर मॉडल नाम और उत्तर जाँच सकता है, यह मानने के बजाय कि चैट विंडो बता देती है कि अनुमान प्रक्रिया कहाँ चली।
- **यह क्यों मायने रखता है:**स्थानीय सर्वर और Ollama क्लाउड API अलग गंतव्य हैं। अनुमत कामकाजी या निजी कार्य के लिए डाउनलोड किया मॉडल चुनकर और `localhost` पर अनुरोध करके अभ्यास अपने कंप्यूटर पर रख सकते हैं, जबकि सर्वर कॉन्फ़िगरेशन अलग जाँचनी होगी।
- **किन बातों पर ध्यान दें:**स्थानीय URL अकेला साबित नहीं करता कि हर सुविधा या जुड़ा ऐप स्थानीय है। Ollama स्थानीय सर्वर से भी क्लाउड मॉडल इस्तेमाल कर सकता है। निर्णायक जाँचें स्थापित मॉडल टैग, अनुरोध गंतव्य, सर्वर बाइंड पता और सख्ती से स्थानीय संचालन चाहिए तो पुनः शुरू करने के बाद क्लाउड बंद होने का लॉग हैं।

## शुरू करने से पहले

ऐसा कंप्यूटर लें जहाँ सॉफ़्टवेयर स्थापित करने की अनुमति हो। सुरक्षित तथ्यात्मक प्रश्न चुनें जिसका उत्तर खुले मूल दस्तावेज से जाँच सकें। कमांड अभ्यास प्रश्न माँगें तो वही चिपकाएँ; सिर्फ परीक्षण के लिए निजी या विनियमित सामग्री न डालें। उत्तर जाँचने के लिए दस्तावेज रखें, क्योंकि धाराप्रवाह जवाब सटीकता का प्रमाण नहीं।

Ollama और मॉडल के लिए भंडारण, चुने मॉडल को लोड करने लायक मेमोरी और स्थापना तथा डाउनलोड के लिए इंटरनेट चाहिए। [Ollama की त्वरित शुरुआत](https://docs.ollama.com/quickstart) स्थानीय उदाहरण में `gemma4:e2b` इस्तेमाल करती है और 8 GB उपलब्ध VRAM, या Mac पर एकीकृत मेमोरी सुझाती है। Ollama के अनुसार सिस्टम RAM पर वापसी संभव है, लेकिन उत्तर धीमे होते हैं। आगे बढ़ने से पहले [वर्तमान मॉडल सूची](https://ollama.com/library/gemma4:e2b) में सटीक टैग, डाउनलोड आकार और लाइसेंस देखें। डाउनलोड आकार साबित नहीं करता कि कंप्यूटर मॉडल चला सकता है। मशीन या अनुमत उपयोग के अनुकूल न हो तो *डाउनलोड होने वाला स्थानीय* छोटा मॉडल [लाइब्रेरी](https://ollama.com/library) से चुनें और `gemma4:e2b` को नीचे के **हर** कमांड में उसके सटीक टैग से बदलें। इस अभ्यास में `:cloud` टैग न चुनें।

## 1. Ollama स्थापित करके स्थानीय सर्वर जाँचें

Ollama इसके [आधिकारिक डाउनलोड पृष्ठ](https://ollama.com/download) से लें और ऑपरेटिंग सिस्टम के निर्देश मानें: [Windows](https://docs.ollama.com/windows), [macOS](https://docs.ollama.com/macos) या [Linux](https://docs.ollama.com/linux)। Windows और macOS पर स्थापित ऐप खोलें। Linux पर चुनी स्थापना पद्धति के अनुसार सेवा शुरू करें; कोई सेवा न चल रही हो तो [त्वरित शुरुआत](https://docs.ollama.com/quickstart) अलग टर्मिनल में `ollama serve` चलाने को कहती है। पहले से सुनते ऐप या सेवा के ऊपर दूसरा सर्वर न शुरू करें।

नए टर्मिनल में स्थापित संस्करण और स्थानीय सर्वर का उत्तर जाँचें:

```shell
ollama -v
ollama ls
```

वास्तविक संस्करण और ऑपरेटिंग सिस्टम लिखें। पहले डाउनलोड से पहले मॉडल सूची खाली हो सकती है। कमांड या कनेक्शन त्रुटि आए तो पहले स्थापना या सर्वर शुरुआत ठीक करें। Ollama के [अक्सर पूछे प्रश्न](https://docs.ollama.com/faq) बताते हैं कि डिफ़ॉल्ट सुनने का पता `127.0.0.1:11434` है। अभ्यास के लिए इसे लूपबैक पर रखें; नेटवर्क बाइंड, प्रॉक्सी या टनल न बनाएँ।

## 2. एक सटीक स्थानीय मॉडल डाउनलोड करें

मॉडल पृष्ठ जाँचने के बाद चलाएँ:

```shell
ollama pull gemma4:e2b
ollama ls
```

डाउनलोड के बाद सटीक टैग `ollama ls` में दिखना चाहिए। टैग, सूची का आकार और मॉडल पृष्ठ का लाइसेंस दर्ज करें। डाउनलोड असफल हो या टैग न मिले तो दोबारा कोशिश से पहले वर्तमान लाइब्रेरी की वर्तनी, खाली डिस्क, नेटवर्क और प्रॉक्सी या अनुमति त्रुटि देखें। आंशिक डाउनलोड सफल सेटअप नहीं है।

## 3. संवादात्मक और एकबारगी टर्मिनल चैट जाँचें

संवादात्मक चैट शुरू करें:

```shell
ollama run gemma4:e2b
```

स्वीकृत अभ्यास प्रश्न चैट में चिपकाएँ। जिस दस्तावेज से प्रश्न बनाया, उससे उत्तर जाँचकर `/bye` लिखकर बाहर निकलें। अपने लिए प्रश्न और वास्तविक उत्तर रखें; लेख उदाहरण परिणाम नहीं देता।

अलग एकबारगी रन में **वही** प्रश्न इस्तेमाल करें। Windows के PowerShell में:

```powershell
$practicePrompt = Read-Host 'Paste your approved practice question'
ollama run gemma4:e2b $practicePrompt
```

macOS या Linux के Bash टर्मिनल में:

```bash
read -r -p 'Paste your approved practice question: ' practice_prompt
ollama run gemma4:e2b "$practice_prompt"
```

वास्तविक एकबारगी उत्तर उसी स्रोत से जाँचें। दोनों उत्तरों के शब्द एक जैसे जरूरी नहीं; उपयोगी जाँच यह है कि दोनों कमांड ने इच्छित टैग चलाया और हर तथ्यात्मक दावा स्रोत से तुलना में सही निकला।

## 4. localhost से उसी मॉडल को पूछें

यह [चैट API](https://docs.ollama.com/api/chat) मॉडल नाम और संदेश `POST /api/chat` पर लेता है। डिफ़ॉल्ट रूप से उत्तर टुकड़ों में आता है; `stream: false` एक पूरा JSON उत्तर माँगता है। [API परिचय](https://docs.ollama.com/api/introduction) स्थानीय मूल URL `http://localhost:11434/api` और सीधे क्लाउड URL `https://ollama.com/api` को अलग बताता है। स्थानीय अनुरोध को API कुंजी नहीं चाहिए।

Windows पर PowerShell चिपकाए प्रश्न से JSON सुरक्षित बना सकता है:

```powershell
$practicePrompt = Read-Host 'Paste the same approved practice question'
$body = @{ model = 'gemma4:e2b'; messages = @(@{ role = 'user'; content = $practicePrompt }); stream = $false } | ConvertTo-Json -Depth 5
$response = Invoke-RestMethod -Uri 'http://localhost:11434/api/chat' -Method Post -ContentType 'application/json; charset=utf-8' -Body $body
$response | Select-Object model, done
$response.message.content
```

macOS या Linux का यह Bash उदाहरण Python 3 केवल प्रश्न को JSON में सही एस्केप करने के लिए इस्तेमाल करता है। पहले जाँचें कि `python3` और `curl` स्थापित हैं:

```bash
read -r -p 'Paste the same approved practice question: ' practice_prompt
export practice_prompt
python3 -c 'import json,os; print(json.dumps({"model":"gemma4:e2b","messages":[{"role":"user","content":os.environ["practice_prompt"]}],"stream":False}))' | curl -fsS 'http://localhost:11434/api/chat' -H 'Content-Type: application/json' --data-binary @-
```

अनुरोध HTTP सफलता और एक JSON ऑब्जेक्ट लौटाए, जिसमें `model` डाउनलोड टैग से मेल खाए, `done` का मान `true` हो और `message.content` खाली न हो। वास्तविक उत्तर पढ़कर स्रोत से जाँचें। सफलता इस अनुरोध का स्थानीय गंतव्य और चयनित मॉडल स्थापित करती है; उदाहरण बातचीत के बजाय अपना आउटपुट रखें।

## 5. चलने का स्थान और केवल स्थानीय सीमा जाँचें

मॉडल लोड हो तो चलाएँ:

```shell
ollama ps
```

यह `PROCESSOR` कॉलम बताता है कि मॉडल CPU, GPU या दोनों पर लोड है, जैसा Ollama के [अक्सर पूछे प्रश्न](https://docs.ollama.com/faq) अपनी मशीन वास्तव में जो दिखाती है उसे दर्ज करें। मॉडल पहले ही मेमोरी से निकल गया हो तो दूसरा प्रश्न भेजकर फिर देखें। काम के बाद `ollama stop gemma4:e2b` से मेमोरी खाली कर सकते हैं; `ollama rm gemma4:e2b` से हटाना निरीक्षण सुरक्षित करने के बाद वैकल्पिक डिस्क सफाई है।

Ollama को सख्ती से स्थानीय रखने के लिए [आधिकारिक क्लाउड बंद करने के निर्देश](https://docs.ollama.com/faq) मानें: `disable_ollama_cloud` को `~/.ollama/server.json` में उस खाते के लिए रखें **जो Ollama सर्वर चलाता है** (Windows में उस खाते की उपयोगकर्ता प्रोफ़ाइल का `.ollama` फ़ोल्डर), बाकी मौजूदा JSON सेटिंग बचाकर:

```json
{
  "disable_ollama_cloud": true
}
```

Linux पर [दस्तावेज में दी systemd सेवा](https://docs.ollama.com/linux) इस पहचान से चलती है: `User=ollama`, जिसका होम `/usr/share/ollama` है। अपने होम की फ़ाइल बदलना उस सेवा को कॉन्फ़िगर नहीं करेगा। systemd स्थापना में Ollama का दस्तावेज वाला विकल्प `OLLAMA_NO_CLOUD=1` सेवा ओवरराइड में भी इस्तेमाल कर सकते हैं। पहले मौजूदा सेवा `systemctl cat ollama.service` से देखें, फिर ओवरराइड `sudo systemctl edit ollama.service` से खोलें। नीचे का भाग `[Service]` के तहत जोड़ें और बाकी ओवरराइड सेटिंग बचाएँ:

```plaintext
[Service]
Environment="OLLAMA_NO_CLOUD=1"
```

ओवरराइड सहेजें, फिर सेवा कॉन्फ़िगरेशन दोबारा लोड कर सेवा पुनः शुरू करें:

```bash
sudo systemctl daemon-reload
sudo systemctl restart ollama.service
```

Windows या macOS में कॉन्फ़िगरेशन बदलने के बाद Ollama ऐप पुनः शुरू करें। सर्वर लॉग में सटीक पंक्ति `Ollama cloud disabled: true` देखें। Windows का दस्तावेज वाला लॉग `%LOCALAPPDATA%\Ollama\server.log` है; macOS पर `~/.ollama/logs/server.log` है; Linux systemd स्थापना पर `journalctl -e -u ollama` इस्तेमाल करें। किसी असंबंधित टर्मिनल में सेट वातावरण चर पहले से चलते ऐप या सेवा तक जरूरी नहीं पहुँचे। क्लाउड सुविधाएँ बंद करने पर Ollama क्लाउड मॉडल और वेब खोज हटते हैं। लॉग पुष्टि न करे तो केवल स्थानीय कहने से पहले सेटिंग सुधारकर पुनः शुरू करें।

सर्वर लॉग या ऑपरेटिंग सिस्टम के सुनने वाले पते के निरीक्षण से पुष्टि करें कि अब भी `127.0.0.1:11434` पर सुन रहा है और डाउनलोड टैग से localhost अनुरोध दोहराएँ। `OLLAMA_HOST` बाइंड पता बदल सकता है, इसलिए डिफ़ॉल्ट मानने के बजाय चल रहा सर्वर देखें। अलग Python लाइब्रेरी, ब्राउज़र इंटरफ़ेस, कोडिंग एजेंट या जुड़े ऐप को अपने एंडपॉइंट और डेटा मार्ग की जाँच चाहिए; स्थानीय Ollama उत्तर उस ऐप की गोपनीयता नहीं साबित करता।

Windows पर PowerShell में सुनने वाला पता देखें:

```powershell
Get-NetTCPConnection -LocalPort 11434 -State Listen | Select-Object LocalAddress, LocalPort
```

macOS पर `lsof -nP -iTCP:11434 -sTCP:LISTEN` और Linux पर `ss -ltn '( sport = :11434 )'` इस्तेमाल करें। प्लेटफ़ॉर्म उपकरण न मिले तो सर्वर लॉग देखें। वाइल्डकार्ड या गैर-लूपबैक सुनने वाले पते की जाँच जरूरी है, तभी API को सिर्फ इस कंप्यूटर तक सीमित मानें।

## जाँच असफल हो तो

अगर `ollama -v` या `ollama ls` असफल हों, संबंधित ऑपरेटिंग सिस्टम के स्थापना और शुरुआत पृष्ठ पर लौटें। localhost कनेक्शन अस्वीकार होने का अर्थ अक्सर ऐप या सेवा बंद या दूसरे पते पर होना है। API नेटवर्क पर खोलने के बजाय लॉग और बाइंड पता जाँचें। उत्तर कई JSON पंक्तियों में आए तो अनुरोध में `"stream": false` की मौजूदगी देखें। मॉडल को मेमोरी कम पड़े या बहुत धीमा हो तो `ollama ps` जाँचें और लाइब्रेरी से सच में छोटा स्थानीय टैग चुनें। उसी एक टैग से डाउनलोड, टर्मिनल और API जाँच दोहराएँ। अधूरे चरण को अप्रमाणित मानें।

स्थानीय अभ्यास को हार्डवेयर, बिजली और डाउनलोड भंडारण चाहिए, लेकिन Ollama API कुंजी या भुगतान वाला API खाता नहीं। मॉडल लाइसेंस इच्छित उपयोग सीमित कर सकता है। क्लाउड मॉडल और वैकल्पिक तृतीय-पक्ष क्लाइंट की शर्तें और डेटा मार्ग अलग हैं। हार्डवेयर खरीद की विस्तृत तुलना के लिए हमारा [128 GB स्थानीय मॉडल मार्गदर्शन](https://bigchange.ai/blog/run-local-models-128gb-memory-cost) देखें; Ollama और Claude Code वाले अलग कोडिंग काम के लिए [जाँचे गए बदलाव का मार्गदर्शन](https://bigchange.ai/blog/claude-code-local-ollama-checked-change-guide) देखें।

## स्रोत और आगे की पढ़ाई

- [Ollama त्वरित शुरुआत](https://docs.ollama.com/quickstart) स्थापना, स्थानीय `gemma4:e2b` उदाहरण और मेमोरी सुझाव बताती है। उदाहरण दस्तावेज है, आपकी मशीन का परीक्षण नहीं।
- [कमांड लाइन संदर्भ](https://docs.ollama.com/cli) यहाँ इस्तेमाल वर्तमान `pull`, `run`, `ls`, `ps`, `stop`, `rm` और `serve` कमांड बताता है।
- [API परिचय](https://docs.ollama.com/api/introduction) और [चैट एंडपॉइंट](https://docs.ollama.com/api/chat) स्थानीय और क्लाउड पते अलग करते तथा बिना स्ट्रीम वाला अनुरोध और उत्तर फ़ील्ड परिभाषित करते हैं।
- [अक्सर पूछे प्रश्न](https://docs.ollama.com/faq) लूपबैक बाइंडिंग, प्रोसेसर स्थान, क्लाउड बंद करने की सेटिंग और लॉग जाँच बताते हैं।
- [Gemma 4 E2B पृष्ठ](https://ollama.com/library/gemma4:e2b) वर्तमान सटीक टैग, आकार और लाइसेंस सामग्री देता है, डाउनलोड से पहले जाँचने के लिए।

## Sources

- [Ollama त्वरित शुरुआत](https://docs.ollama.com/quickstart) — आधिकारिक स्थापना प्रवेश और स्थानीय gemma4:e2b उदाहरण, pull, run, /bye, API अनुरोध और मेमोरी सुझाव सहित। पाठक के हार्डवेयर की उपयुक्तता या वास्तविक परिणाम स्थापित नहीं करता।
- [Ollama CLI संदर्भ](https://docs.ollama.com/cli) — वर्तमान pull, run, ls, ps, stop, rm और serve कमांड। लेख के लिए टर्मिनल नहीं चलाया गया।
- [Ollama API परिचय](https://docs.ollama.com/api/introduction) — localhost और सीधे क्लाउड मूल URL तथा बिना कुंजी स्थानीय पहुँच अलग करता है। अनुमति चालू हो तो स्थानीय सर्वर अब भी क्लाउड मॉडल ले सकते हैं।
- [Ollama चैट एंडपॉइंट](https://docs.ollama.com/api/chat) — model/messages अनुरोध, डिफ़ॉल्ट स्ट्रीमिंग, stream:false और पूर्ण model, done, message.content फ़ील्ड परिभाषित करता है। पाठक के उत्तर का प्रमाण नहीं।
- [Ollama अक्सर पूछे प्रश्न](https://docs.ollama.com/faq) — डिफ़ॉल्ट लूपबैक बाइंडिंग, प्रोसेसर स्थान, क्लाउड बंद करना, पुनः शुरू करना और लॉग संकेत बताता है। दूसरे क्लाइंट ऐप के डेटा मार्ग अलग हैं।
- [Ollama Gemma 4 E2B पृष्ठ](https://ollama.com/library/gemma4:e2b) — सटीक उदाहरण टैग और वर्तमान फ़ाइल व लाइसेंस सामग्री देता है। डाउनलोड से पहले पाठक वर्तमान आकार, अधिकार और मशीन क्षमता देखें।
- [Ollama Windows स्थापना](https://docs.ollama.com/windows) — प्लेटफ़ॉर्म स्थापना, CLI और पृष्ठभूमि सर्वर व्यवहार, लॉग स्थान; पाठक का स्थापित संस्करण साबित नहीं करता।
- [Ollama macOS स्थापना](https://docs.ollama.com/macos) — प्लेटफ़ॉर्म स्थापना, ऐप और CLI व्यवहार, लॉग स्थान; पाठक का स्थापित संस्करण साबित नहीं करता।
- [Ollama Linux स्थापना](https://docs.ollama.com/linux) — प्लेटफ़ॉर्म स्थापना, मैन्युअल या सेवा शुरुआत और जर्नल निर्देश; पाठक अपनी वास्तविक कॉन्फ़िगरेशन मानें।