Ollama డౌన్‌లోడ్ చేసిన మోడల్‌ను మీ కంప్యూటర్‌పై నడిపి లోకల్ HTTP చిరునామాలో అందించగలదు. ఈ మార్గదర్శిని ప్రతి దశలో ఒకే మోడల్ పేరుతో ఇన్‌స్టాలేషన్ నుంచి టెర్మినల్ చాట్, పూర్తి API సమాధానం వరకు తీసుకెళ్తుంది. ఇది పత్రాల ఆధారిత ప్రక్రియ: BIG CHANGE సాఫ్ట్‌వేర్ ఇన్‌స్టాల్ చేయలేదు, మీ యంత్రపు ఫలితాలు చూడలేదు.

పెద్ద మార్పు

  • ఏమి మారింది: Ollama డౌన్‌లోడ్ మోడల్ నుంచి టెర్మినల్ చాట్, లోకల్ APIకి నేరుగా దారి ఇస్తుంది. ప్రారంభకుడు ప్రతి ఇంటర్‌ఫేస్‌లో మోడల్ పేరు, సమాధానం చూడవచ్చు. చాట్ కిటికీ ఉందంటే గణన ఎక్కడ నడిచిందో రుజువని ఊహించాల్సిన అవసరం లేదు.
  • ఎందుకు ముఖ్యం: లోకల్ సర్వర్, Ollama క్లౌడ్ API వేరు గమ్యాలు. అనుమతించిన పని లేదా వ్యక్తిగత పని కోసం డౌన్‌లోడ్ చేసిన మోడల్ ఎంచుకుని localhost చిరునామాకు అభ్యర్థన చేస్తూ ఈ అభ్యాసాన్ని సొంత కంప్యూటర్‌పై ఉంచవచ్చు; సర్వర్ అమరిక విడిగా చూడాలి.
  • గమనించాల్సినవి: లోకల్ URL ఒక్కటే ప్రతి సదుపాయం లేదా జతచేసిన యాప్ లోకల్‌గా ఉంటుందని నిరూపించదు. Ollama లోకల్ సర్వర్ ద్వారా క్లౌడ్ మోడల్స్ కూడా వాడగలదు. నిర్ణయాత్మక తనిఖీలు ఇన్‌స్టాల్ చేసిన మోడల్ ట్యాగ్, అభ్యర్థన గమ్యం, సర్వర్ బైండ్ చిరునామా, కఠిన లోకల్ వినియోగం అవసరమైతే పునఃప్రారంభం తర్వాత క్లౌడ్ నిలిపిన లాగ్.

ప్రారంభించే ముందు

సాఫ్ట్‌వేర్ ఇన్‌స్టాల్ చేయడానికి అనుమతి ఉన్న కంప్యూటర్ వాడండి. తెరిచిన అసలు పత్రంలో సమాధానం తనిఖీ చేయగల హానిలేని వాస్తవ ప్రశ్న ఎంచుకోండి. ఆదేశాలు అభ్యాస ప్రశ్న అడిగినప్పుడు అదే అతికించండి. పరీక్ష కోసమే ప్రైవేట్ లేదా నియంత్రిత సమాచారం ఇవ్వవద్దు. చక్కని సమాధానం ఖచ్చితత్వానికి రుజువు కాదు కాబట్టి పత్రాన్ని తనిఖీకి అందుబాటులో ఉంచండి.

Ollama, మోడల్ కోసం నిల్వ స్థలం, మోడల్ లోడ్ చేయడానికి సరిపడా మెమరీ, ఇన్‌స్టాల్, డౌన్‌లోడ్‌కు ఇంటర్నెట్ అవసరం. Ollama త్వరిత ప్రారంభం లోకల్ ఉదాహరణగా gemma4:e2b వాడి 8 GB అందుబాటులోని VRAM లేదా Macలో ఏకీకృత మెమరీ సూచిస్తుంది. సిస్టమ్ RAMకు మారవచ్చని, అయితే సమాధానాలు నెమ్మదిస్తాయని Ollama చెబుతుంది. కొనసాగేముందు ప్రస్తుత మోడల్ పేజీ పేజీలో ఖచ్చితమైన ట్యాగ్, డౌన్‌లోడ్ పరిమాణం, లైసెన్స్ చూడండి. డౌన్‌లోడ్ పరిమాణం యంత్రం మోడల్ నడపగలదని రుజువు కాదు. యంత్రానికి లేదా అనుమతించిన వినియోగానికి సరిపోకపోతే చిన్న డౌన్‌లోడ్ చేయగల లోకల్ మోడల్‌ను లైబ్రరీ నుంచి ఎంచుకుని gemma4:e2b ట్యాగ్‌ను కింది ప్రతి ఆదేశంలో దాని ఖచ్చితమైన ట్యాగ్‌తో మార్చండి. ఈ అభ్యాసానికి :cloud ట్యాగ్ ఎంచుకోవద్దు.

1. Ollama ఇన్‌స్టాల్ చేసి లోకల్ సర్వర్ తనిఖీ చేయండి

Ollamaను అధికారిక డౌన్‌లోడ్ పేజీ నుంచి తీసుకుని ఆపరేటింగ్ సిస్టమ్ సూచనలు పాటించండి: Windows, macOS లేదా Linux. Windows, macOSలో ఇన్‌స్టాల్ చేసిన యాప్ తెరవండి. Linuxలో ఎంచుకున్న పద్ధతి ప్రకారం సేవ ప్రారంభించండి. సేవ ఏదీ నడవకపోతే త్వరిత ప్రారంభం వేరే టెర్మినల్‌లో ollama serve నడపమంటుంది. ఇప్పటికే స్వీకరిస్తున్న యాప్ లేదా సేవపై రెండో సర్వర్ ప్రారంభించవద్దు.

కొత్త టెర్మినల్‌లో ఇన్‌స్టాల్ చేసిన వెర్షన్, లోకల్ సర్వర్ స్పందన తనిఖీ చేయండి:

Terminal
ollama -v
ollama ls

నిజమైన వెర్షన్, ఆపరేటింగ్ సిస్టమ్ నమోదు చేయండి. మొదటి డౌన్‌లోడ్ ముందు మోడల్ జాబితా ఖాళీగా ఉండవచ్చు. ఆదేశం లేదా అనుసంధానం లోపమైతే ముందు ఇన్‌స్టాలేషన్ లేదా సర్వర్ ప్రారంభం సరిచేయండి. Ollama తరచు అడిగే ప్రశ్నలు ప్రకారం సాధారణ స్వీకరణ చిరునామా 127.0.0.1:11434. ఈ అభ్యాసంలో loopbackపైనే ఉంచండి; నెట్‌వర్క్ బైండ్, ప్రాక్సీ, టన్నెల్ అమర్చవద్దు.

2. ఒక ఖచ్చితమైన లోకల్ మోడల్ డౌన్‌లోడ్ చేయండి

మోడల్ పేజీ తనిఖీ చేసి నడపండి:

Terminal
ollama pull gemma4:e2b
ollama ls

డౌన్‌లోడ్ తర్వాత ఖచ్చితమైన ట్యాగ్ ollama ls జాబితాలో కనిపించాలి. ట్యాగ్, చూపిన పరిమాణం, మోడల్ పేజీ లైసెన్స్ నమోదు చేయండి. డౌన్‌లోడ్ విఫలమైతే లేదా ట్యాగ్ లేకపోతే మళ్లీ ప్రయత్నించే ముందు ప్రస్తుత లైబ్రరీలో స్పెల్లింగ్, ఖాళీ డిస్క్, నెట్‌వర్క్, ప్రాక్సీ లేదా అనుమతి లోపం చూడండి. పాక్షిక డౌన్‌లోడ్ విజయవంతమైన అమరిక కాదు.

3. పరస్పర, ఒకసారి టెర్మినల్ చాట్ తనిఖీ చేయండి

పరస్పర చాట్ ప్రారంభించండి:

Terminal
ollama run gemma4:e2b

అనుమతించిన అభ్యాస ప్రశ్నను చాట్‌లో అతికించండి. ప్రశ్న తయారుచేసిన పత్రంతో సమాధానం పోల్చి, /bye ఆదేశంతో బయటకు రండి. తనిఖీ కోసం ప్రశ్న, నిజమైన సమాధానం ఉంచుకోండి. ఈ వ్యాసం ఉదాహరణ ఫలితం ఇవ్వదు.

వేరే ఒకసారి అమలుకు అదే ప్రశ్న వాడండి. Windows PowerShellలో:

PowerShell
$practicePrompt = Read-Host 'Paste your approved practice question'
ollama run gemma4:e2b $practicePrompt

macOS లేదా Linux Bash టెర్మినల్‌లో:

Terminal
read -r -p 'Paste your approved practice question: ' practice_prompt
ollama run gemma4:e2b "$practice_prompt"

నిజమైన ఒకసారి సమాధానాన్ని అదే మూలంతో పోల్చండి. రెండు సమాధానాల పదాలు ఒకటిగా ఉండాల్సిన పనిలేదు; రెండు ఆదేశాలు ఉద్దేశించిన ట్యాగ్ నడిపాయా, ప్రతి వాస్తవ వాదన మూలంతో పోలికలో నిలిచిందా అనేది ఉపయోగకరమైన తనిఖీ.

4. localhost ద్వారా అదే మోడల్‌ను అడగండి

ఈ చాట్ API మోడల్ పేరు, సందేశాలను POST /api/chat చిరునామాలో తీసుకుంటుంది. సాధారణంగా భాగాలుగా స్పందిస్తుంది; stream: false ఒక పూర్తి JSON సమాధానం కోరుతుంది. API పరిచయం లోకల్ ప్రాథమిక URL http://localhost:11434/api, నేరుగా క్లౌడ్ URL https://ollama.com/apiలను వేరుచేస్తుంది. లోకల్ అభ్యర్థనకు API కీ అవసరం లేదు.

Windowsలో PowerShell అతికించిన ప్రశ్న నుంచి JSONను సురక్షితంగా నిర్మించగలదు:

PowerShell
$practicePrompt = Read-Host 'Paste the same approved practice question'
$body = @{ model = 'gemma4:e2b'; messages = @(@{ role = 'user'; content = $practicePrompt }); stream = $false } | ConvertTo-Json -Depth 5
$response = Invoke-RestMethod -Uri 'http://localhost:11434/api/chat' -Method Post -ContentType 'application/json; charset=utf-8' -Body $body
$response | Select-Object model, done
$response.message.content

macOS లేదా Linuxలో ఈ Bash ఉదాహరణ Python 3ను ప్రశ్నను JSONలో సరిగ్గా ఎస్కేప్ చేయడానికే వాడుతుంది. ముందు python3, curl ఇన్‌స్టాల్ అయ్యాయో తనిఖీ చేయండి:

Terminal
read -r -p 'Paste the same approved practice question: ' practice_prompt
export practice_prompt
python3 -c 'import json,os; print(json.dumps({"model":"gemma4:e2b","messages":[{"role":"user","content":os.environ["practice_prompt"]}],"stream":False}))' | curl -fsS 'http://localhost:11434/api/chat' -H 'Content-Type: application/json' --data-binary @-

అభ్యర్థన HTTP విజయం, ఒక JSON ఆబ్జెక్ట్ ఇవ్వాలి. అందులో model డౌన్‌లోడ్ ట్యాగ్‌తో సరిపోవాలి, done విలువ true కావాలి, message.content ఖాళీగా ఉండకూడదు. నిజమైన సమాధానం చదివి మూలంతో తనిఖీ చేయండి. విజయం ఈ అభ్యర్థన లోకల్ గమ్యాన్ని, ఎంచుకున్న మోడల్‌ను నిర్ధారిస్తుంది. ఉదాహరణ సంభాషణ బదులు సొంత అవుట్‌పుట్ ఉంచుకోండి.

5. నడిచే స్థానం, కేవలం లోకల్ హద్దు చూడండి

మోడల్ లోడ్ అయినప్పుడు నడపండి:

Terminal
ollama ps

ఈ PROCESSOR కాలమ్ మోడల్ CPU, GPU లేదా రెండింటిలో లోడ్ అయిందో చెబుతుందని Ollama తరచు అడిగే ప్రశ్నలు వివరిస్తాయి. మీ యంత్రం నిజంగా ఏమి చూపుతుందో నమోదు చేయండి. మోడల్ ఇప్పటికే మెమరీ నుంచి తొలగితే మరో ప్రశ్న పంపి చూడండి. పూర్తయ్యాక ollama stop gemma4:e2b ఆదేశంతో మెమరీ నుంచి విడిచిపెట్టవచ్చు; ollama rm gemma4:e2b ఆదేశంతో తొలగించడం పరిశీలనలు ఉంచుకున్న తర్వాత ఐచ్ఛిక డిస్క్ శుభ్రత.

కఠినమైన లోకల్ Ollama అమరికకు అధికారిక క్లౌడ్ నిలిపివేత సూచనలు పాటించండి: disable_ollama_cloud సెట్టింగ్‌ను ~/.ollama/server.json ఫైల్‌లో ఈ ఖాతా కోసం ఉంచండి: Ollama సర్వర్ నడిపే ఖాతా (Windowsలో ఆ ఖాతా వినియోగదారు ప్రొఫైల్‌లోని .ollama ఫోల్డర్). ఇప్పటికే ఉన్న ఇతర JSON అమరికలు ఉంచండి:

JSON
{
  "disable_ollama_cloud": true
}

Linuxలో పత్రాల్లోని systemd సేవ ఈ గుర్తింపుతో నడుస్తుంది: User=ollama, దాని హోమ్ /usr/share/ollama. మీ సొంత హోమ్ ఫైల్ సవరించడం ఆ సేవను అమర్చదు. systemd ఇన్‌స్టాలేషన్‌లో Ollama పత్రాల ప్రత్యామ్నాయం OLLAMA_NO_CLOUD=1 సెట్టింగ్‌ను సేవ ఓవర్‌రైడ్‌లో కూడా వాడవచ్చు. ముందు ప్రస్తుతం ఉన్న సేవను systemctl cat ollama.service కమాండ్‌తో చూసి, తర్వాత sudo systemctl edit ollama.service కమాండ్‌తో ఓవర్‌రైడ్ తెరవండి. కింది భాగాన్ని [Service] కింద జోడించి ఇతర ఓవర్‌రైడ్ అమరికలు ఉంచండి:

Snippet
[Service]
Environment="OLLAMA_NO_CLOUD=1"

ఓవర్‌రైడ్ భద్రపరచి, సేవ అమరిక మళ్లీ లోడ్ చేసి సేవ పునఃప్రారంభించండి:

Terminal
sudo systemctl daemon-reload
sudo systemctl restart ollama.service

Windows లేదా macOSలో అమరిక మార్చాక Ollama యాప్ పునఃప్రారంభించండి. సర్వర్ లాగ్‌లో ఖచ్చితమైన వరుస Ollama cloud disabled: true కోసం చూడండి. Windows పత్రాల్లోని లాగ్ %LOCALAPPDATA%\Ollama\server.log; macOSలో ~/.ollama/logs/server.log; Linux systemd ఇన్‌స్టాలేషన్‌లో journalctl -e -u ollama వాడండి. సంబంధం లేని టెర్మినల్‌లో పెట్టిన వాతావరణ చరం ఇప్పటికే నడిచే యాప్ లేదా సేవకు తప్పనిసరిగా చేరదు. క్లౌడ్ సదుపాయాలు నిలిపితే Ollama క్లౌడ్ మోడల్స్, వెబ్ శోధన తొలగుతాయి. లాగ్ అమరికను నిర్ధారించకపోతే కేవలం లోకల్ అని చెప్పేముందు సరిచేసి పునఃప్రారంభించండి.

సర్వర్ లాగ్ లేదా ఆపరేటింగ్ సిస్టమ్ తనిఖీలో ఇంకా 127.0.0.1:11434 చిరునామాలో స్వీకరిస్తోందని చూసి డౌన్‌లోడ్ ట్యాగ్‌తో localhost అభ్యర్థన పునరావృతం చేయండి. OLLAMA_HOST బైండ్ చిరునామా మార్చగలదు. సాధారణ విలువ ఊహించకుండా నడిచే సర్వర్ చూడండి. వేరే Python లైబ్రరీ, బ్రౌజర్ ఇంటర్‌ఫేస్, కోడింగ్ ఏజెంట్ లేదా అనుసంధాన యాప్‌కు సొంత గమ్యం, డేటా మార్గం తనిఖీ అవసరం. లోకల్ Ollama సమాధానం ఆ యాప్ గోప్యతను నిరూపించదు.

Windowsలో PowerShellతో స్వీకరణ చిరునామా చూడండి:

PowerShell
Get-NetTCPConnection -LocalPort 11434 -State Listen | Select-Object LocalAddress, LocalPort

macOSలో lsof -nP -iTCP:11434 -sTCP:LISTEN; Linuxలో ss -ltn '( sport = :11434 )' వాడండి. ప్లాట్‌ఫార్మ్ సాధనం లేకపోతే సర్వర్ లాగ్ చూడండి. వైల్డ్‌కార్డ్ లేదా loopback కాని చిరునామాను పరిశీలించాకే API ఈ కంప్యూటర్‌కే పరిమితమని భావించండి.

తనిఖీ విఫలమైతే

ఒకవేళ ollama -v లేదా ollama ls విఫలమైతే సంబంధిత ఆపరేటింగ్ సిస్టమ్ ఇన్‌స్టాల్, ప్రారంభ పేజీకి తిరిగి వెళ్లండి. localhost కనెక్షన్ తిరస్కరణ సాధారణంగా యాప్ లేదా సేవ ఆగడం లేదా మరోచోట స్వీకరించడం సూచిస్తుంది. APIను నెట్‌వర్క్‌కు తెరవకుండా లాగ్‌లు, బైండ్ చిరునామా చూడండి. సమాధానం పలు JSON వరుసల్లో వస్తే అభ్యర్థనలో "stream": false ఉందో చూడండి. మెమరీ చాలకపోతే లేదా మోడల్ పనికిరానంత నెమ్మదిగా ఉంటే ollama ps చూసి లైబ్రరీలో నిజంగా చిన్న లోకల్ ట్యాగ్ ఎంచుకోండి. ఆ ఒక్క ట్యాగ్‌తో డౌన్‌లోడ్, టెర్మినల్, API తనిఖీలు మళ్లీ చేయండి. పూర్తి కాని ప్రతి దశను నిర్ధారణ కానిదిగా భావించండి.

ఈ లోకల్ అభ్యాసానికి హార్డ్‌వేర్, విద్యుత్, డౌన్‌లోడ్ నిల్వ కావాలి; Ollama API కీ లేదా చెల్లింపు API ఖాతా అవసరం లేదు. మోడల్ లైసెన్స్ ఉద్దేశించిన వాడకాన్ని పరిమితం చేయవచ్చు. క్లౌడ్ మోడల్స్, ఐచ్ఛిక మూడో పక్ష క్లయింట్లకు వేరు నిబంధనలు, డేటా మార్గాలు ఉంటాయి. హార్డ్‌వేర్ కొనుగోలు వివరాల పోలికకు మా 128 GB లోకల్ మోడల్ మార్గదర్శిని చూడండి; Ollama, Claude Codeతో వేరే కోడింగ్ పనికి మా తనిఖీ చేసిన మార్పు మార్గదర్శిని చూడండి.

మూలాలు, మరింత చదవడానికి

  • Ollama త్వరిత ప్రారంభం ఇన్‌స్టాలేషన్, లోకల్ gemma4:e2b ఉదాహరణ, మెమరీ సూచన వివరిస్తుంది. ఉదాహరణ పత్రం మాత్రమే, మీ యంత్రపు పరీక్ష కాదు.
  • ఆదేశాల సూచిక ఇక్కడ వాడిన ప్రస్తుత pull, run, ls, ps, stop, rm, serve ఆదేశాలను చూపుతుంది.
  • API పరిచయం, చాట్ ఎండ్‌పాయింట్ లోకల్, క్లౌడ్ చిరునామాలను వేరుచేసి, స్ట్రీమ్ కాని అభ్యర్థన, సమాధాన ఫీల్డ్‌లను నిర్దేశిస్తాయి.
  • తరచు అడిగే ప్రశ్నలు loopback బైండింగ్, ప్రాసెసర్ స్థానం, క్లౌడ్ నిలిపివేత, లాగ్ తనిఖీ వివరిస్తాయి.
  • Gemma 4 E2B పేజీ డౌన్‌లోడ్ ముందు చూడాల్సిన ప్రస్తుత ఖచ్చితమైన ట్యాగ్, పరిమాణం, లైసెన్స్ సమాచారం ఇస్తుంది.