Ollama може да покрене преузет модел на рачунару и учини га доступним на локалној HTTP адреси. Овај водич води један модел од инсталације до разговора у терминалу и целог API одговора, користећи исто име модела у сваком кораку. Поступак је заснован на документацији: BIG CHANGE није инсталирао софтвер нити посматрао резултате на вашем рачунару.

Велика промена

  • Шта се променило: Ollama даје директан пут од преузетог модела до разговора у терминалу и локалног API-ја. Почетник може да провери име и одговор у сваком интерфејсу, уместо да претпостави да прозор за разговор доказује где је извршено закључивање.
  • Зашто је важно: Локални сервер и Ollama API у облаку су различита одредишта. За одобрени пословни или лични задатак можете задржати ову вежбу на свом рачунару избором преузетог модела и обраћањем на localhost, уз засебну проверу подешавања сервера.
  • На шта обратити пажњу: Локални URL не доказује да свака функција или повезана апликација остаје локална. Ollama може да користи моделе у облаку и преко локалног сервера. Одлучујуће провере су ознака инсталираног модела, одредиште захтева, адреса на којој сервер слуша и, када је неопходан строго локалан рад, запис о искљученом облаку после поновног покретања.

Пре почетка

Користите рачунар на ком смете да инсталирате софтвер. Изаберите безопасно чињенично питање чији одговор можете проверити у отвореном оригиналном документу. Налепите га када команде траже питање за вежбу; не уносите приватне или регулисане податке само ради теста. Оставите документ доступним за проверу одговора, јер течан одговор није доказ тачности.

Треба вам простор за Ollama и модел, довољно меморије да учитате изабрани модел и интернет за инсталацију и преузимање. Ollama брзи почетак користи gemma4:e2b као локални пример и препоручује 8 GB слободног VRAM-а, односно обједињене меморије на Mac-у. Ollama наводи да може да пређе на системски RAM уз спорије одговоре. Проверите актуелну страницу модела за тачну ознаку, величину преузимања и лиценцу пре наставка. Величина преузимања не доказује да рачунар може да покрене модел. Ако не одговара уређају или дозвољеној употреби, изаберите мањи локални модел који се може преузети из библиотеке и замените gemma4:e2b у свакој доњој команди његовом тачном ознаком. За ову вежбу не бирајте :cloud ознаку.

1. Инсталирајте Ollama и проверите локални сервер

Преузмите Ollama са званичне странице за преузимање и пратите упутство за свој оперативни систем: Windows, macOS или Linux. На Windows и macOS отворите инсталирану апликацију. На Linux-у следите изабрану инсталацију и покрените њен сервис; ако сервис није активан, брзи почетак каже да покренете ollama serve у одвојеном терминалу. Не покрећите други сервер преко апликације или сервиса који већ слуша.

У новом терминалу проверите инсталирану верзију и да ли локални сервер одговара:

Terminal
ollama -v
ollama ls

Забележите стварну верзију и оперативни систем. Листа модела може бити празна пре првог преузимања; грешка команде или везе значи да прво решите инсталацију или покретање сервера. Ollama честа питања наводе да је подразумевана адреса слушања 127.0.0.1:11434. Оставите је на повратној адреси за ову вежбу; не подешавајте мрежно везивање, посредник или тунел.

2. Преузмите један тачно одређен локални модел

После провере странице модела покрените:

Terminal
ollama pull gemma4:e2b
ollama ls

Тачна ознака мора да се појави у ollama ls после преузимања. Забележите ознаку, наведену величину и лиценцу са странице. Ако преузимање не успе или ознаке нема, пре понављања проверите писање према актуелној библиотеци, слободан диск, мрежу и грешке посредника или дозволе. Делимично преузимање није успешна поставка.

3. Проверите интерактивни и једнократни разговор у терминалу

Покрените интерактивни разговор:

Terminal
ollama run gemma4:e2b

Налепите одобрено питање за вежбу у поље разговора. Проверите одговор према документу из ког сте саставили питање, па унесите /bye за излаз. Сачувајте питање и стварни одговор за своју проверу; чланак не даје пример резултата.

За засебно једнократно покретање користите исто питање. У PowerShell-у на Windows-у:

PowerShell
$practicePrompt = Read-Host 'Paste your approved practice question'
ollama run gemma4:e2b $practicePrompt

У Bash терминалу на macOS-у или Linux-у:

Terminal
read -r -p 'Paste your approved practice question: ' practice_prompt
ollama run gemma4:e2b "$practice_prompt"

Проверите стварни једнократни одговор према истом извору. Одговори не морају имати исте речи; корисна провера је да су обе команде покренуле очекивану ознаку и да свака чињенична тврдња издржи поређење са извором.

4. Питајте исти модел преко localhost адресе

Овај API за разговор прима име модела и поруке на POST /api/chat. Подразумевано шаље делове одговора; stream: false тражи један цео JSON одговор. Увод у API разликује локални основни URL, http://localhost:11434/api, од директног URL-а у облаку, https://ollama.com/api. Локални захтев не тражи API кључ.

На Windows-у PowerShell може безбедно да направи JSON од налепљеног питања:

PowerShell
$practicePrompt = Read-Host 'Paste the same approved practice question'
$body = @{ model = 'gemma4:e2b'; messages = @(@{ role = 'user'; content = $practicePrompt }); stream = $false } | ConvertTo-Json -Depth 5
$response = Invoke-RestMethod -Uri 'http://localhost:11434/api/chat' -Method Post -ContentType 'application/json; charset=utf-8' -Body $body
$response | Select-Object model, done
$response.message.content

На macOS-у или Linux-у овај Bash пример користи Python 3 само за правилно представљање питања у JSON-у. Пре употребе проверите да су python3 и curl инсталирани:

Terminal
read -r -p 'Paste the same approved practice question: ' practice_prompt
export practice_prompt
python3 -c 'import json,os; print(json.dumps({"model":"gemma4:e2b","messages":[{"role":"user","content":os.environ["practice_prompt"]}],"stream":False}))' | curl -fsS 'http://localhost:11434/api/chat' -H 'Content-Type: application/json' --data-binary @-

Захтев треба да врати HTTP успех и један JSON објекат у ком model одговара преузетој ознаци, done има вредност true, а message.content није празан. Прочитајте и проверите стварни одговор према извору. Успешан одговор утврђује локално одредиште и изабрани модел овог захтева; чувајте свој излаз уместо да се ослоните на пример преписке.

5. Проверите место извршавања и локалну границу

Док је модел учитан покрените:

Terminal
ollama ps

Колона PROCESSOR показује да ли је модел учитан на CPU, GPU или оба, према Ollama честим питањима. Забележите шта рачунар стварно показује. Ако је већ избачен из меморије, пошаљите ново питање и проверите поново. По завршетку га можете ослободити командом ollama stop gemma4:e2b; уклањање командом ollama rm gemma4:e2b је опционо чишћење диска пошто сачувате запажања.

За строго локалну Ollama поставку пратите званична упутства за искључивање облака: ставите disable_ollama_cloud у ~/.ollama/server.json за налог који покреће Ollama сервер (фасцикла .ollama у корисничком профилу тог налога на Windows-у), уз очување других постојећих JSON подешавања:

JSON
{
  "disable_ollama_cloud": true
}

На Linux-у документовани systemd сервис ради као User=ollama, чији је матични директоријум /usr/share/ollama; уређивање датотеке у вашем матичном директоријуму не би подесило тај сервис. За systemd инсталацију можете употребити и Ollama документовану алтернативу OLLAMA_NO_CLOUD=1 у допуни подешавања сервиса. Прво проверите постојећи сервис командом systemctl cat ollama.service, затим отворите допуну командом sudo systemctl edit ollama.service. Додајте следеће под [Service], уз очување других подешавања допуне:

Snippet
[Service]
Environment="OLLAMA_NO_CLOUD=1"

Сачувајте допуну, па поново учитајте подешавања и покрените сервис:

Terminal
sudo systemctl daemon-reload
sudo systemctl restart ollama.service

Поново покрените Ollama апликацију на Windows-у или macOS-у после промене подешавања. У дневнику сервера нађите тачан ред Ollama cloud disabled: true. На Windows-у документовани дневник је %LOCALAPPDATA%\Ollama\server.log; на macOS-у ~/.ollama/logs/server.log; за Linux systemd инсталацију користите journalctl -e -u ollama. Променљива окружења из неповезаног терминала не стиже нужно до већ покренуте апликације или сервиса. Искључивање облака уклања Ollama моделе у облаку и веб претрагу. Ако дневник не потврди подешавање, исправите конфигурацију и поново покрените пре него што поставку назовете искључиво локалном.

Потврдите у дневнику сервера или алатом оперативног система да се и даље слуша на 127.0.0.1:11434 и поновите localhost захтев са преузетом ознаком. OLLAMA_HOST може да промени адресу везивања, па проверите активни сервер уместо претпоставке о подразумеваној вредности. Засебна Python библиотека, веб интерфејс, програмерски агент или друга повезана апликација тражи сопствену проверу одредишта и пута података; локални Ollama одговор не доказује понашање приватности те апликације.

На Windows-у проверите адресу слушања у PowerShell-у:

PowerShell
Get-NetTCPConnection -LocalPort 11434 -State Listen | Select-Object LocalAddress, LocalPort

На macOS-у употребите lsof -nP -iTCP:11434 -sTCP:LISTEN; на Linux-у ss -ltn '( sport = :11434 )'. Ако алат није доступан, проверите дневник сервера. Слушање на свим адресама или ван повратне адресе захтева истрагу пре него што API сматрате ограниченим на овај рачунар.

Ако провера не успе

Ако ollama -v или ollama ls не успе, вратите се на страницу инсталације и покретања за тај оперативни систем. Одбијена localhost веза обично значи да су апликација или сервис заустављени или слушају другде; проверите дневнике и адресу уместо излагања API-ја мрежи. Ако стиже више JSON редова, уверите се да захтев садржи "stream": false. Ако моделу недостаје меморија или је непрактично спор, проверите ollama ps и изаберите стварно мању локалну ознаку из библиотеке, па поновите преузимање, терминал и API провере са том једном ознаком. Сваку незавршену фазу сматрајте непровереном.

Локална вежба тражи хардвер, струју и простор за преузимање, али не Ollama API кључ или плаћени API налог. Лиценца модела може ограничити намењену употребу. Модели у облаку и опциони клијенти трећих страна имају сопствене услове и путеве података. За детаљније поређење куповине хардвера погледајте наш водич за локалне моделе са 128 GB; за другачији програмерски задатак са Ollama и Claude Code наш водич за проверену измену.

Извори и даље читање

  • Ollama брзи почетак објашњава инсталацију, локални пример gemma4:e2b и препоруку меморије. Пример је документација, а не тест вашег рачунара.
  • Референца командне линије набраја актуелне команде pull, run, ls, ps, stop, rm и serve коришћене овде.
  • Увод у API и крајња тачка разговора одвајају локалну и адресу у облаку и дефинишу захтев без слања у деловима и поља одговора.
  • Честа питања документују повратно везивање, место процесора, искључивање облака и проверу дневника.
  • Страница Gemma 4 E2B даје актуелну тачну ознаку, величину и лиценцу за проверу пре преузимања.