Ollama डाउनलोड किया मॉडल आपके कंप्यूटर पर चला सकता है और स्थानीय HTTP पते पर उपलब्ध कराता है। मार्गदर्शिका हर चरण में एक ही मॉडल नाम से स्थापना, टर्मिनल चैट और पूर्ण API उत्तर तक जाती है। यह दस्तावेज-आधारित प्रक्रिया है: BIG CHANGE ने सॉफ़्टवेयर स्थापित नहीं किया और आपकी मशीन के परिणाम नहीं देखे।

बड़ा बदलाव

  • क्या बदला: Ollama डाउनलोड किए मॉडल से टर्मिनल चैट और स्थानीय API तक सीधा रास्ता देता है। शुरुआती पाठक हर इंटरफ़ेस पर मॉडल नाम और उत्तर जाँच सकता है, यह मानने के बजाय कि चैट विंडो बता देती है कि अनुमान प्रक्रिया कहाँ चली।
  • यह क्यों मायने रखता है:स्थानीय सर्वर और Ollama क्लाउड API अलग गंतव्य हैं। अनुमत कामकाजी या निजी कार्य के लिए डाउनलोड किया मॉडल चुनकर और localhost पर अनुरोध करके अभ्यास अपने कंप्यूटर पर रख सकते हैं, जबकि सर्वर कॉन्फ़िगरेशन अलग जाँचनी होगी।
  • किन बातों पर ध्यान दें:स्थानीय URL अकेला साबित नहीं करता कि हर सुविधा या जुड़ा ऐप स्थानीय है। Ollama स्थानीय सर्वर से भी क्लाउड मॉडल इस्तेमाल कर सकता है। निर्णायक जाँचें स्थापित मॉडल टैग, अनुरोध गंतव्य, सर्वर बाइंड पता और सख्ती से स्थानीय संचालन चाहिए तो पुनः शुरू करने के बाद क्लाउड बंद होने का लॉग हैं।

शुरू करने से पहले

ऐसा कंप्यूटर लें जहाँ सॉफ़्टवेयर स्थापित करने की अनुमति हो। सुरक्षित तथ्यात्मक प्रश्न चुनें जिसका उत्तर खुले मूल दस्तावेज से जाँच सकें। कमांड अभ्यास प्रश्न माँगें तो वही चिपकाएँ; सिर्फ परीक्षण के लिए निजी या विनियमित सामग्री न डालें। उत्तर जाँचने के लिए दस्तावेज रखें, क्योंकि धाराप्रवाह जवाब सटीकता का प्रमाण नहीं।

Ollama और मॉडल के लिए भंडारण, चुने मॉडल को लोड करने लायक मेमोरी और स्थापना तथा डाउनलोड के लिए इंटरनेट चाहिए। Ollama की त्वरित शुरुआत स्थानीय उदाहरण में gemma4:e2b इस्तेमाल करती है और 8 GB उपलब्ध VRAM, या Mac पर एकीकृत मेमोरी सुझाती है। Ollama के अनुसार सिस्टम RAM पर वापसी संभव है, लेकिन उत्तर धीमे होते हैं। आगे बढ़ने से पहले वर्तमान मॉडल सूची में सटीक टैग, डाउनलोड आकार और लाइसेंस देखें। डाउनलोड आकार साबित नहीं करता कि कंप्यूटर मॉडल चला सकता है। मशीन या अनुमत उपयोग के अनुकूल न हो तो डाउनलोड होने वाला स्थानीय छोटा मॉडल लाइब्रेरी से चुनें और gemma4:e2b को नीचे के हर कमांड में उसके सटीक टैग से बदलें। इस अभ्यास में :cloud टैग न चुनें।

1. Ollama स्थापित करके स्थानीय सर्वर जाँचें

Ollama इसके आधिकारिक डाउनलोड पृष्ठ से लें और ऑपरेटिंग सिस्टम के निर्देश मानें: Windows, macOS या Linux। Windows और macOS पर स्थापित ऐप खोलें। Linux पर चुनी स्थापना पद्धति के अनुसार सेवा शुरू करें; कोई सेवा न चल रही हो तो त्वरित शुरुआत अलग टर्मिनल में ollama serve चलाने को कहती है। पहले से सुनते ऐप या सेवा के ऊपर दूसरा सर्वर न शुरू करें।

नए टर्मिनल में स्थापित संस्करण और स्थानीय सर्वर का उत्तर जाँचें:

Terminal
ollama -v
ollama ls

वास्तविक संस्करण और ऑपरेटिंग सिस्टम लिखें। पहले डाउनलोड से पहले मॉडल सूची खाली हो सकती है। कमांड या कनेक्शन त्रुटि आए तो पहले स्थापना या सर्वर शुरुआत ठीक करें। Ollama के अक्सर पूछे प्रश्न बताते हैं कि डिफ़ॉल्ट सुनने का पता 127.0.0.1:11434 है। अभ्यास के लिए इसे लूपबैक पर रखें; नेटवर्क बाइंड, प्रॉक्सी या टनल न बनाएँ।

2. एक सटीक स्थानीय मॉडल डाउनलोड करें

मॉडल पृष्ठ जाँचने के बाद चलाएँ:

Terminal
ollama pull gemma4:e2b
ollama ls

डाउनलोड के बाद सटीक टैग ollama ls में दिखना चाहिए। टैग, सूची का आकार और मॉडल पृष्ठ का लाइसेंस दर्ज करें। डाउनलोड असफल हो या टैग न मिले तो दोबारा कोशिश से पहले वर्तमान लाइब्रेरी की वर्तनी, खाली डिस्क, नेटवर्क और प्रॉक्सी या अनुमति त्रुटि देखें। आंशिक डाउनलोड सफल सेटअप नहीं है।

3. संवादात्मक और एकबारगी टर्मिनल चैट जाँचें

संवादात्मक चैट शुरू करें:

Terminal
ollama run gemma4:e2b

स्वीकृत अभ्यास प्रश्न चैट में चिपकाएँ। जिस दस्तावेज से प्रश्न बनाया, उससे उत्तर जाँचकर /bye लिखकर बाहर निकलें। अपने लिए प्रश्न और वास्तविक उत्तर रखें; लेख उदाहरण परिणाम नहीं देता।

अलग एकबारगी रन में वही प्रश्न इस्तेमाल करें। Windows के PowerShell में:

PowerShell
$practicePrompt = Read-Host 'Paste your approved practice question'
ollama run gemma4:e2b $practicePrompt

macOS या Linux के Bash टर्मिनल में:

Terminal
read -r -p 'Paste your approved practice question: ' practice_prompt
ollama run gemma4:e2b "$practice_prompt"

वास्तविक एकबारगी उत्तर उसी स्रोत से जाँचें। दोनों उत्तरों के शब्द एक जैसे जरूरी नहीं; उपयोगी जाँच यह है कि दोनों कमांड ने इच्छित टैग चलाया और हर तथ्यात्मक दावा स्रोत से तुलना में सही निकला।

4. localhost से उसी मॉडल को पूछें

यह चैट API मॉडल नाम और संदेश POST /api/chat पर लेता है। डिफ़ॉल्ट रूप से उत्तर टुकड़ों में आता है; stream: false एक पूरा JSON उत्तर माँगता है। API परिचय स्थानीय मूल URL http://localhost:11434/api और सीधे क्लाउड URL https://ollama.com/api को अलग बताता है। स्थानीय अनुरोध को API कुंजी नहीं चाहिए।

Windows पर PowerShell चिपकाए प्रश्न से JSON सुरक्षित बना सकता है:

PowerShell
$practicePrompt = Read-Host 'Paste the same approved practice question'
$body = @{ model = 'gemma4:e2b'; messages = @(@{ role = 'user'; content = $practicePrompt }); stream = $false } | ConvertTo-Json -Depth 5
$response = Invoke-RestMethod -Uri 'http://localhost:11434/api/chat' -Method Post -ContentType 'application/json; charset=utf-8' -Body $body
$response | Select-Object model, done
$response.message.content

macOS या Linux का यह Bash उदाहरण Python 3 केवल प्रश्न को JSON में सही एस्केप करने के लिए इस्तेमाल करता है। पहले जाँचें कि python3 और curl स्थापित हैं:

Terminal
read -r -p 'Paste the same approved practice question: ' practice_prompt
export practice_prompt
python3 -c 'import json,os; print(json.dumps({"model":"gemma4:e2b","messages":[{"role":"user","content":os.environ["practice_prompt"]}],"stream":False}))' | curl -fsS 'http://localhost:11434/api/chat' -H 'Content-Type: application/json' --data-binary @-

अनुरोध HTTP सफलता और एक JSON ऑब्जेक्ट लौटाए, जिसमें model डाउनलोड टैग से मेल खाए, done का मान true हो और message.content खाली न हो। वास्तविक उत्तर पढ़कर स्रोत से जाँचें। सफलता इस अनुरोध का स्थानीय गंतव्य और चयनित मॉडल स्थापित करती है; उदाहरण बातचीत के बजाय अपना आउटपुट रखें।

5. चलने का स्थान और केवल स्थानीय सीमा जाँचें

मॉडल लोड हो तो चलाएँ:

Terminal
ollama ps

यह PROCESSOR कॉलम बताता है कि मॉडल CPU, GPU या दोनों पर लोड है, जैसा Ollama के अक्सर पूछे प्रश्न अपनी मशीन वास्तव में जो दिखाती है उसे दर्ज करें। मॉडल पहले ही मेमोरी से निकल गया हो तो दूसरा प्रश्न भेजकर फिर देखें। काम के बाद ollama stop gemma4:e2b से मेमोरी खाली कर सकते हैं; ollama rm gemma4:e2b से हटाना निरीक्षण सुरक्षित करने के बाद वैकल्पिक डिस्क सफाई है।

Ollama को सख्ती से स्थानीय रखने के लिए आधिकारिक क्लाउड बंद करने के निर्देश मानें: disable_ollama_cloud को ~/.ollama/server.json में उस खाते के लिए रखें जो Ollama सर्वर चलाता है (Windows में उस खाते की उपयोगकर्ता प्रोफ़ाइल का .ollama फ़ोल्डर), बाकी मौजूदा JSON सेटिंग बचाकर:

JSON
{
  "disable_ollama_cloud": true
}

Linux पर दस्तावेज में दी systemd सेवा इस पहचान से चलती है: User=ollama, जिसका होम /usr/share/ollama है। अपने होम की फ़ाइल बदलना उस सेवा को कॉन्फ़िगर नहीं करेगा। systemd स्थापना में Ollama का दस्तावेज वाला विकल्प OLLAMA_NO_CLOUD=1 सेवा ओवरराइड में भी इस्तेमाल कर सकते हैं। पहले मौजूदा सेवा systemctl cat ollama.service से देखें, फिर ओवरराइड sudo systemctl edit ollama.service से खोलें। नीचे का भाग [Service] के तहत जोड़ें और बाकी ओवरराइड सेटिंग बचाएँ:

Snippet
[Service]
Environment="OLLAMA_NO_CLOUD=1"

ओवरराइड सहेजें, फिर सेवा कॉन्फ़िगरेशन दोबारा लोड कर सेवा पुनः शुरू करें:

Terminal
sudo systemctl daemon-reload
sudo systemctl restart ollama.service

Windows या macOS में कॉन्फ़िगरेशन बदलने के बाद Ollama ऐप पुनः शुरू करें। सर्वर लॉग में सटीक पंक्ति Ollama cloud disabled: true देखें। Windows का दस्तावेज वाला लॉग %LOCALAPPDATA%\Ollama\server.log है; macOS पर ~/.ollama/logs/server.log है; Linux systemd स्थापना पर journalctl -e -u ollama इस्तेमाल करें। किसी असंबंधित टर्मिनल में सेट वातावरण चर पहले से चलते ऐप या सेवा तक जरूरी नहीं पहुँचे। क्लाउड सुविधाएँ बंद करने पर Ollama क्लाउड मॉडल और वेब खोज हटते हैं। लॉग पुष्टि न करे तो केवल स्थानीय कहने से पहले सेटिंग सुधारकर पुनः शुरू करें।

सर्वर लॉग या ऑपरेटिंग सिस्टम के सुनने वाले पते के निरीक्षण से पुष्टि करें कि अब भी 127.0.0.1:11434 पर सुन रहा है और डाउनलोड टैग से localhost अनुरोध दोहराएँ। OLLAMA_HOST बाइंड पता बदल सकता है, इसलिए डिफ़ॉल्ट मानने के बजाय चल रहा सर्वर देखें। अलग Python लाइब्रेरी, ब्राउज़र इंटरफ़ेस, कोडिंग एजेंट या जुड़े ऐप को अपने एंडपॉइंट और डेटा मार्ग की जाँच चाहिए; स्थानीय Ollama उत्तर उस ऐप की गोपनीयता नहीं साबित करता।

Windows पर PowerShell में सुनने वाला पता देखें:

PowerShell
Get-NetTCPConnection -LocalPort 11434 -State Listen | Select-Object LocalAddress, LocalPort

macOS पर lsof -nP -iTCP:11434 -sTCP:LISTEN और Linux पर ss -ltn '( sport = :11434 )' इस्तेमाल करें। प्लेटफ़ॉर्म उपकरण न मिले तो सर्वर लॉग देखें। वाइल्डकार्ड या गैर-लूपबैक सुनने वाले पते की जाँच जरूरी है, तभी API को सिर्फ इस कंप्यूटर तक सीमित मानें।

जाँच असफल हो तो

अगर ollama -v या ollama ls असफल हों, संबंधित ऑपरेटिंग सिस्टम के स्थापना और शुरुआत पृष्ठ पर लौटें। localhost कनेक्शन अस्वीकार होने का अर्थ अक्सर ऐप या सेवा बंद या दूसरे पते पर होना है। API नेटवर्क पर खोलने के बजाय लॉग और बाइंड पता जाँचें। उत्तर कई JSON पंक्तियों में आए तो अनुरोध में "stream": false की मौजूदगी देखें। मॉडल को मेमोरी कम पड़े या बहुत धीमा हो तो ollama ps जाँचें और लाइब्रेरी से सच में छोटा स्थानीय टैग चुनें। उसी एक टैग से डाउनलोड, टर्मिनल और API जाँच दोहराएँ। अधूरे चरण को अप्रमाणित मानें।

स्थानीय अभ्यास को हार्डवेयर, बिजली और डाउनलोड भंडारण चाहिए, लेकिन Ollama API कुंजी या भुगतान वाला API खाता नहीं। मॉडल लाइसेंस इच्छित उपयोग सीमित कर सकता है। क्लाउड मॉडल और वैकल्पिक तृतीय-पक्ष क्लाइंट की शर्तें और डेटा मार्ग अलग हैं। हार्डवेयर खरीद की विस्तृत तुलना के लिए हमारा 128 GB स्थानीय मॉडल मार्गदर्शन देखें; Ollama और Claude Code वाले अलग कोडिंग काम के लिए जाँचे गए बदलाव का मार्गदर्शन देखें।

स्रोत और आगे की पढ़ाई

  • Ollama त्वरित शुरुआत स्थापना, स्थानीय gemma4:e2b उदाहरण और मेमोरी सुझाव बताती है। उदाहरण दस्तावेज है, आपकी मशीन का परीक्षण नहीं।
  • कमांड लाइन संदर्भ यहाँ इस्तेमाल वर्तमान pull, run, ls, ps, stop, rm और serve कमांड बताता है।
  • API परिचय और चैट एंडपॉइंट स्थानीय और क्लाउड पते अलग करते तथा बिना स्ट्रीम वाला अनुरोध और उत्तर फ़ील्ड परिभाषित करते हैं।
  • अक्सर पूछे प्रश्न लूपबैक बाइंडिंग, प्रोसेसर स्थान, क्लाउड बंद करने की सेटिंग और लॉग जाँच बताते हैं।
  • Gemma 4 E2B पृष्ठ वर्तमान सटीक टैग, आकार और लाइसेंस सामग्री देता है, डाउनलोड से पहले जाँचने के लिए।