Ollama может запускать загруженную модель на компьютере и предоставлять её по локальному HTTP-адресу. Руководство проводит одну модель от установки до чата в терминале и полного ответа API, сохраняя одно имя на каждом этапе. Это процедура по документации: BIG CHANGE не устанавливала программу и не наблюдала результаты на вашем устройстве.

Главное изменение

  • Что изменилось: Ollama даёт прямой путь от загруженной модели к чату в терминале и локальному API. Новичок может проверить имя модели и ответ в каждом интерфейсе, а не считать окно чата доказательством места выполнения модели.
  • Почему это важно: Локальный сервер и облачный API Ollama — разные адресаты. Для разрешённой рабочей или личной задачи можно оставить упражнение на своём компьютере, выбрав загруженную модель и обращаясь к localhost, отдельно проверяя конфигурацию сервера.
  • На что обратить внимание: Локальный URL сам по себе не доказывает, что каждая функция или подключённое приложение остаётся локальным. Ollama может использовать облачные модели через локальный сервер. Решающие проверки: установленный тег, адрес запроса, адрес привязки сервера и, при строгом локальном режиме, запись об отключении облака после перезапуска.

Перед началом

Используйте компьютер, на котором разрешена установка программ. Выберите безобидный фактический вопрос, ответ на который можно проверить в открытом первоисточнике. Вставляйте его, когда команды просят учебный вопрос; не вводите закрытые или регулируемые данные только для теста. Держите документ под рукой для проверки: связный ответ не является доказательством точности.

Нужны место для Ollama и модели, память для её загрузки и интернет для установки и скачивания. Быстрый старт Ollama использует gemma4:e2b как локальный пример и рекомендует 8 ГБ свободной VRAM либо объединённой памяти на Mac. По словам Ollama, возможен переход на системную RAM с более медленными ответами. Проверьте актуальную страницу модели на точный тег, размер загрузки и лицензию до продолжения. Размер файла не доказывает, что компьютер способен запустить модель. Если она не подходит устройству или разрешённой задаче, выберите меньшую скачиваемую локальную модель из библиотеки и замените gemma4:e2b в каждой команде ниже её точным тегом. Для упражнения не выбирайте тег :cloud.

1. Установите Ollama и проверьте локальный сервер

Получите Ollama с официальной страницы загрузки и следуйте инструкции своей ОС: Windows, macOS или Linux. На Windows и macOS откройте установленное приложение. На Linux следуйте выбранному способу установки и запустите службу; если она не работает, быстрый старт предлагает выполнить ollama serve в отдельном терминале. Не запускайте второй сервер поверх уже слушающего приложения или службы.

В новом терминале проверьте установленную версию и ответ локального сервера:

Terminal
ollama -v
ollama ls

Запишите реальную версию и ОС. До первой загрузки список моделей может быть пуст. Ошибка команды или подключения требует сначала исправить установку или запуск сервера. В FAQ Ollama указан стандартный адрес прослушивания 127.0.0.1:11434. Оставьте его на интерфейсе обратной петли; не настраивайте сетевую привязку, прокси или туннель.

2. Загрузите одну точную локальную модель

После проверки страницы модели выполните:

Terminal
ollama pull gemma4:e2b
ollama ls

Точный тег должен появиться в ollama ls после загрузки. Запишите тег, указанный размер и лицензию на странице. Если загрузка не удалась или тег отсутствует, до повтора проверьте написание в текущей библиотеке, свободный диск, сеть и ошибки прокси или разрешений. Частичная загрузка не является успешной настройкой.

3. Проверьте интерактивный и разовый чат в терминале

Начните интерактивный чат:

Terminal
ollama run gemma4:e2b

Вставьте утверждённый учебный вопрос в чат. Проверьте ответ по документу, из которого составили вопрос, и введите /bye для выхода. Сохраните вопрос и реальный ответ для своей проверки; статья не предоставляет пример результата.

Для отдельного разового запуска используйте тот же вопрос. В PowerShell на Windows:

PowerShell
$practicePrompt = Read-Host 'Paste your approved practice question'
ollama run gemma4:e2b $practicePrompt

В терминале Bash на macOS или Linux:

Terminal
read -r -p 'Paste your approved practice question: ' practice_prompt
ollama run gemma4:e2b "$practice_prompt"

Проверьте настоящий разовый ответ по тому же источнику. Ответы не обязаны совпадать по словам; важно, что обе команды запустили нужный тег, а каждое фактическое утверждение выдерживает сравнение с первоисточником.

4. Спросите ту же модель через localhost

Этот API чата принимает имя модели и сообщения по адресу POST /api/chat. По умолчанию ответ идёт частями; stream: false запрашивает один полный ответ JSON. Введение в API различает локальный базовый URL http://localhost:11434/api и прямой облачный URL https://ollama.com/api. Для локального запроса не нужен API-ключ.

На Windows PowerShell может безопасно построить JSON из вставленного вопроса:

PowerShell
$practicePrompt = Read-Host 'Paste the same approved practice question'
$body = @{ model = 'gemma4:e2b'; messages = @(@{ role = 'user'; content = $practicePrompt }); stream = $false } | ConvertTo-Json -Depth 5
$response = Invoke-RestMethod -Uri 'http://localhost:11434/api/chat' -Method Post -ContentType 'application/json; charset=utf-8' -Body $body
$response | Select-Object model, done
$response.message.content

На macOS или Linux следующий пример Bash использует Python 3 только для корректного экранирования вопроса в JSON. Заранее проверьте наличие python3 и curl:

Terminal
read -r -p 'Paste the same approved practice question: ' practice_prompt
export practice_prompt
python3 -c 'import json,os; print(json.dumps({"model":"gemma4:e2b","messages":[{"role":"user","content":os.environ["practice_prompt"]}],"stream":False}))' | curl -fsS 'http://localhost:11434/api/chat' -H 'Content-Type: application/json' --data-binary @-

Запрос должен вернуть успешный HTTP-ответ и один JSON-объект, где model соответствует загруженному тегу, done имеет значение true, а message.content не пусто. Прочитайте реальный ответ и проверьте по источнику. Успешный ответ устанавливает локальный адрес и выбранную модель этого запроса; сохраняйте свой вывод, а не полагайтесь на пример переписки.

5. Проверьте место исполнения и локальную границу

Пока модель загружена, выполните:

Terminal
ollama ps

Столбец PROCESSOR показывает, загружена ли модель на CPU, GPU или обоих, согласно FAQ Ollama. Запишите реальное показание своего устройства. Если модель уже выгружена, отправьте ещё вопрос и проверьте снова. По завершении её можно выгрузить через ollama stop gemma4:e2b; удаление через ollama rm gemma4:e2b — необязательная очистка диска после сохранения наблюдений.

Для строго локальной настройки Ollama следуйте официальной инструкции отключения облака: поместите disable_ollama_cloud в ~/.ollama/server.json для аккаунта, запускающего сервер Ollama (папка .ollama в профиле этого пользователя на Windows), сохранив другие существующие настройки JSON:

JSON
{
  "disable_ollama_cloud": true
}

На Linux документированная служба systemd работает как User=ollama, с домашним каталогом /usr/share/ollama; изменение файла в вашем домашнем каталоге не настроит эту службу. При установке через systemd можно использовать описанную Ollama альтернативу OLLAMA_NO_CLOUD=1 в переопределении службы. Сначала изучите существующую службу командой systemctl cat ollama.service, затем откройте переопределение через sudo systemctl edit ollama.service. Добавьте следующее под [Service], сохранив прочие настройки переопределения:

Snippet
[Service]
Environment="OLLAMA_NO_CLOUD=1"

Сохраните переопределение, перечитайте конфигурацию и перезапустите службу:

Terminal
sudo systemctl daemon-reload
sudo systemctl restart ollama.service

После изменения конфигурации перезапустите приложение Ollama на Windows или macOS. Найдите в серверном журнале точную строку Ollama cloud disabled: true. На Windows документированный журнал — %LOCALAPPDATA%\Ollama\server.log, на macOS — ~/.ollama/logs/server.log; в Linux с systemd используйте journalctl -e -u ollama. Переменная окружения из постороннего терминала не обязательно попадёт в уже работающие приложение или службу. Отключение облачных функций убирает облачные модели и веб-поиск Ollama. Если журнал не подтверждает настройку, исправьте конфигурацию и перезапустите до заявления о полностью локальной работе.

По журналу сервера или проверке прослушивания в ОС подтвердите, что адрес по-прежнему 127.0.0.1:11434, и повторите localhost-запрос с загруженным тегом. OLLAMA_HOST может менять адрес привязки, поэтому проверяйте работающий сервер, а не предполагайте стандартный. Отдельная библиотека Python, браузерный интерфейс, агент программирования или другое связанное приложение требуют своих проверок адреса и пути данных; локальный ответ Ollama не доказывает приватность этого приложения.

На Windows исследуйте адрес прослушивания в PowerShell:

PowerShell
Get-NetTCPConnection -LocalPort 11434 -State Listen | Select-Object LocalAddress, LocalPort

На macOS используйте lsof -nP -iTCP:11434 -sTCP:LISTEN, на Linux — ss -ltn '( sport = :11434 )'. Если средство платформы недоступно, смотрите серверный журнал. Прослушивание на всех адресах или вне обратной петли требует изучения до вывода, что API ограничен этим компьютером.

Если проверка не прошла

Если ollama -v или ollama ls не работают, вернитесь к инструкции установки и запуска соответствующей ОС. Отказ localhost-соединения обычно означает остановку приложения или службы либо другой адрес прослушивания; проверьте журналы и привязку вместо открытия API сети. При ответе несколькими строками JSON убедитесь, что запрос содержит "stream": false. При нехватке памяти или неприемлемой скорости проверьте ollama ps и выберите действительно меньший локальный тег в библиотеке, затем повторите загрузку, терминал и API с одним этим тегом. Любой незавершённый этап считайте непроверенным.

Локальному упражнению нужны оборудование, электричество и место для загрузок, но не API-ключ Ollama или платный API-аккаунт. Лицензия модели может ограничивать назначение. У облачных моделей и необязательных сторонних клиентов собственные условия и пути данных. Для более глубокого сравнения покупки оборудования смотрите наше руководство по локальным моделям на 128 ГБ; для другой задачи программирования с Ollama и Claude Code — руководство по проверенному изменению.

Источники и дополнительные материалы

  • Быстрый старт Ollama объясняет установку, локальный пример gemma4:e2b и рекомендацию памяти. Пример — документация, а не тест вашего компьютера.
  • Справочник командной строки перечисляет текущие команды pull, run, ls, ps, stop, rm и serve, используемые здесь.
  • Введение в API и конечная точка чата разделяют локальные и облачные адреса и определяют непотоковый запрос и поля ответа.
  • FAQ документирует привязку к обратной петле, размещение на процессорах, отключение облака и проверку журнала.
  • Страница Gemma 4 E2B даёт текущий точный тег, размер и лицензионные материалы для проверки перед загрузкой.