Ollama može da pokrene preuzet model na računaru i učini ga dostupnim na lokalnoj HTTP adresi. Ovaj vodič vodi jedan model od instalacije do razgovora u terminalu i celog API odgovora, koristeći isto ime modela u svakom koraku. Postupak je zasnovan na dokumentaciji: BIG CHANGE nije instalirao softver niti posmatrao rezultate na vašem računaru.

Velika promena

  • Šta se promenilo: Ollama daje direktan put od preuzetog modela do razgovora u terminalu i lokalnog API-ja. Početnik može da proveri ime i odgovor u svakom interfejsu, umesto da pretpostavi da prozor za razgovor dokazuje gde je izvršeno zaključivanje.
  • Zašto je važno: Lokalni server i Ollama API u oblaku su različita odredišta. Za odobreni poslovni ili lični zadatak možete zadržati ovu vežbu na svom računaru izborom preuzetog modela i obraćanjem na localhost, uz zasebnu proveru podešavanja servera.
  • Na šta obratiti pažnju: Lokalni URL ne dokazuje da svaka funkcija ili povezana aplikacija ostaje lokalna. Ollama može da koristi modele u oblaku i preko lokalnog servera. Odlučujuće provere su oznaka instaliranog modela, odredište zahteva, adresa na kojoj server sluša i, kada je neophodan strogo lokalan rad, zapis o isključenom oblaku posle ponovnog pokretanja.

Pre početka

Koristite računar na kom smete da instalirate softver. Izaberite bezopasno činjenično pitanje čiji odgovor možete proveriti u otvorenom originalnom dokumentu. Nalepite ga kada komande traže pitanje za vežbu; ne unosite privatne ili regulisane podatke samo radi testa. Ostavite dokument dostupnim za proveru odgovora, jer tečan odgovor nije dokaz tačnosti.

Treba vam prostor za Ollama i model, dovoljno memorije da učitate izabrani model i internet za instalaciju i preuzimanje. Ollama brzi početak koristi gemma4:e2b kao lokalni primer i preporučuje 8 GB slobodnog VRAM-a, odnosno objedinjene memorije na Mac-u. Ollama navodi da može da pređe na sistemski RAM uz sporije odgovore. Proverite aktuelnu stranicu modela za tačnu oznaku, veličinu preuzimanja i licencu pre nastavka. Veličina preuzimanja ne dokazuje da računar može da pokrene model. Ako ne odgovara uređaju ili dozvoljenoj upotrebi, izaberite manji lokalni model koji se može preuzeti iz biblioteke i zamenite gemma4:e2b u svakoj donjoj komandi njegovom tačnom oznakom. Za ovu vežbu ne birajte :cloud oznaku.

1. Instalirajte Ollama i proverite lokalni server

Preuzmite Ollama sa zvanične stranice za preuzimanje i pratite uputstvo za svoj operativni sistem: Windows, macOS ili Linux. Na Windows i macOS otvorite instaliranu aplikaciju. Na Linux-u sledite izabranu instalaciju i pokrenite njen servis; ako servis nije aktivan, brzi početak kaže da pokrenete ollama serve u odvojenom terminalu. Ne pokrećite drugi server preko aplikacije ili servisa koji već sluša.

U novom terminalu proverite instaliranu verziju i da li lokalni server odgovara:

Terminal
ollama -v
ollama ls

Zabeležite stvarnu verziju i operativni sistem. Lista modela može biti prazna pre prvog preuzimanja; greška komande ili veze znači da prvo rešite instalaciju ili pokretanje servera. Ollama česta pitanja navode da je podrazumevana adresa slušanja 127.0.0.1:11434. Ostavite je na povratnoj adresi za ovu vežbu; ne podešavajte mrežno vezivanje, posrednik ili tunel.

2. Preuzmite jedan tačno određen lokalni model

Posle provere stranice modela pokrenite:

Terminal
ollama pull gemma4:e2b
ollama ls

Tačna oznaka mora da se pojavi u ollama ls posle preuzimanja. Zabeležite oznaku, navedenu veličinu i licencu sa stranice. Ako preuzimanje ne uspe ili oznake nema, pre ponavljanja proverite pisanje prema aktuelnoj biblioteci, slobodan disk, mrežu i greške posrednika ili dozvole. Delimično preuzimanje nije uspešna postavka.

3. Proverite interaktivni i jednokratni razgovor u terminalu

Pokrenite interaktivni razgovor:

Terminal
ollama run gemma4:e2b

Nalepite odobreno pitanje za vežbu u polje razgovora. Proverite odgovor prema dokumentu iz kog ste sastavili pitanje, pa unesite /bye za izlaz. Sačuvajte pitanje i stvarni odgovor za svoju proveru; članak ne daje primer rezultata.

Za zasebno jednokratno pokretanje koristite isto pitanje. U PowerShell-u na Windows-u:

PowerShell
$practicePrompt = Read-Host 'Paste your approved practice question'
ollama run gemma4:e2b $practicePrompt

U Bash terminalu na macOS-u ili Linux-u:

Terminal
read -r -p 'Paste your approved practice question: ' practice_prompt
ollama run gemma4:e2b "$practice_prompt"

Proverite stvarni jednokratni odgovor prema istom izvoru. Odgovori ne moraju imati iste reči; korisna provera je da su obe komande pokrenule očekivanu oznaku i da svaka činjenična tvrdnja izdrži poređenje sa izvorom.

4. Pitajte isti model preko localhost adrese

Ovaj API za razgovor prima ime modela i poruke na POST /api/chat. Podrazumevano šalje delove odgovora; stream: false traži jedan ceo JSON odgovor. Uvod u API razlikuje lokalni osnovni URL, http://localhost:11434/api, od direktnog URL-a u oblaku, https://ollama.com/api. Lokalni zahtev ne traži API ključ.

Na Windows-u PowerShell može bezbedno da napravi JSON od nalepljenog pitanja:

PowerShell
$practicePrompt = Read-Host 'Paste the same approved practice question'
$body = @{ model = 'gemma4:e2b'; messages = @(@{ role = 'user'; content = $practicePrompt }); stream = $false } | ConvertTo-Json -Depth 5
$response = Invoke-RestMethod -Uri 'http://localhost:11434/api/chat' -Method Post -ContentType 'application/json; charset=utf-8' -Body $body
$response | Select-Object model, done
$response.message.content

Na macOS-u ili Linux-u ovaj Bash primer koristi Python 3 samo za pravilno predstavljanje pitanja u JSON-u. Pre upotrebe proverite da su python3 i curl instalirani:

Terminal
read -r -p 'Paste the same approved practice question: ' practice_prompt
export practice_prompt
python3 -c 'import json,os; print(json.dumps({"model":"gemma4:e2b","messages":[{"role":"user","content":os.environ["practice_prompt"]}],"stream":False}))' | curl -fsS 'http://localhost:11434/api/chat' -H 'Content-Type: application/json' --data-binary @-

Zahtev treba da vrati HTTP uspeh i jedan JSON objekat u kom model odgovara preuzetoj oznaci, done ima vrednost true, a message.content nije prazan. Pročitajte i proverite stvarni odgovor prema izvoru. Uspešan odgovor utvrđuje lokalno odredište i izabrani model ovog zahteva; čuvajte svoj izlaz umesto da se oslonite na primer prepiske.

5. Proverite mesto izvršavanja i lokalnu granicu

Dok je model učitan pokrenite:

Terminal
ollama ps

Kolona PROCESSOR pokazuje da li je model učitan na CPU, GPU ili oba, prema Ollama čestim pitanjima. Zabeležite šta računar stvarno pokazuje. Ako je već izbačen iz memorije, pošaljite novo pitanje i proverite ponovo. Po završetku ga možete osloboditi komandom ollama stop gemma4:e2b; uklanjanje komandom ollama rm gemma4:e2b je opciono čišćenje diska pošto sačuvate zapažanja.

Za strogo lokalnu Ollama postavku pratite zvanična uputstva za isključivanje oblaka: stavite disable_ollama_cloud u ~/.ollama/server.json za nalog koji pokreće Ollama server (fascikla .ollama u korisničkom profilu tog naloga na Windows-u), uz očuvanje drugih postojećih JSON podešavanja:

JSON
{
  "disable_ollama_cloud": true
}

Na Linux-u dokumentovani systemd servis radi kao User=ollama, čiji je matični direktorijum /usr/share/ollama; uređivanje datoteke u vašem matičnom direktorijumu ne bi podesilo taj servis. Za systemd instalaciju možete upotrebiti i Ollama dokumentovanu alternativu OLLAMA_NO_CLOUD=1 u dopuni podešavanja servisa. Prvo proverite postojeći servis komandom systemctl cat ollama.service, zatim otvorite dopunu komandom sudo systemctl edit ollama.service. Dodajte sledeće pod [Service], uz očuvanje drugih podešavanja dopune:

Snippet
[Service]
Environment="OLLAMA_NO_CLOUD=1"

Sačuvajte dopunu, pa ponovo učitajte podešavanja i pokrenite servis:

Terminal
sudo systemctl daemon-reload
sudo systemctl restart ollama.service

Ponovo pokrenite Ollama aplikaciju na Windows-u ili macOS-u posle promene podešavanja. U dnevniku servera nađite tačan red Ollama cloud disabled: true. Na Windows-u dokumentovani dnevnik je %LOCALAPPDATA%\Ollama\server.log; na macOS-u ~/.ollama/logs/server.log; za Linux systemd instalaciju koristite journalctl -e -u ollama. Promenljiva okruženja iz nepovezanog terminala ne stiže nužno do već pokrenute aplikacije ili servisa. Isključivanje oblaka uklanja Ollama modele u oblaku i veb pretragu. Ako dnevnik ne potvrdi podešavanje, ispravite konfiguraciju i ponovo pokrenite pre nego što postavku nazovete isključivo lokalnom.

Potvrdite u dnevniku servera ili alatom operativnog sistema da se i dalje sluša na 127.0.0.1:11434 i ponovite localhost zahtev sa preuzetom oznakom. OLLAMA_HOST može da promeni adresu vezivanja, pa proverite aktivni server umesto pretpostavke o podrazumevanoj vrednosti. Zasebna Python biblioteka, veb interfejs, programerski agent ili druga povezana aplikacija traži sopstvenu proveru odredišta i puta podataka; lokalni Ollama odgovor ne dokazuje ponašanje privatnosti te aplikacije.

Na Windows-u proverite adresu slušanja u PowerShell-u:

PowerShell
Get-NetTCPConnection -LocalPort 11434 -State Listen | Select-Object LocalAddress, LocalPort

Na macOS-u upotrebite lsof -nP -iTCP:11434 -sTCP:LISTEN; na Linux-u ss -ltn '( sport = :11434 )'. Ako alat nije dostupan, proverite dnevnik servera. Slušanje na svim adresama ili van povratne adrese zahteva istragu pre nego što API smatrate ograničenim na ovaj računar.

Ako provera ne uspe

Ako ollama -v ili ollama ls ne uspe, vratite se na stranicu instalacije i pokretanja za taj operativni sistem. Odbijena localhost veza obično znači da su aplikacija ili servis zaustavljeni ili slušaju drugde; proverite dnevnike i adresu umesto izlaganja API-ja mreži. Ako stiže više JSON redova, uverite se da zahtev sadrži "stream": false. Ako modelu nedostaje memorija ili je nepraktično spor, proverite ollama ps i izaberite stvarno manju lokalnu oznaku iz biblioteke, pa ponovite preuzimanje, terminal i API provere sa tom jednom oznakom. Svaku nezavršenu fazu smatrajte neproverenom.

Lokalna vežba traži hardver, struju i prostor za preuzimanje, ali ne Ollama API ključ ili plaćeni API nalog. Licenca modela može ograničiti namenjenu upotrebu. Modeli u oblaku i opcioni klijenti trećih strana imaju sopstvene uslove i puteve podataka. Za detaljnije poređenje kupovine hardvera pogledajte naš vodič za lokalne modele sa 128 GB; za drugačiji programerski zadatak sa Ollama i Claude Code naš vodič za proverenu izmenu.

Izvori i dalje čitanje

  • Ollama brzi početak objašnjava instalaciju, lokalni primer gemma4:e2b i preporuku memorije. Primer je dokumentacija, a ne test vašeg računara.
  • Referenca komandne linije nabraja aktuelne komande pull, run, ls, ps, stop, rm i serve korišćene ovde.
  • Uvod u API i krajnja tačka razgovora odvajaju lokalnu i adresu u oblaku i definišu zahtev bez slanja u delovima i polja odgovora.
  • Česta pitanja dokumentuju povratno vezivanje, mesto procesora, isključivanje oblaka i proveru dnevnika.
  • Stranica Gemma 4 E2B daje aktuelnu tačnu oznaku, veličinu i licencu za proveru pre preuzimanja.