Ollama는 다운로드한 모델을 컴퓨터에서 실행하고 로컬 HTTP 주소로 제공할 수 있습니다. 이 가이드는 모든 단계에서 같은 모델 이름을 사용해 설치부터 터미널 채팅과 완전한 API 응답까지 진행합니다. 문서 기반 절차이며 BIG CHANGE는 소프트웨어를 설치하거나 사용자 기기의 결과를 관찰하지 않았습니다.

핵심 변화

  • 달라진 점: Ollama는 다운로드한 모델에서 터미널 채팅과 로컬 API로 바로 이어지는 경로를 제공합니다. 초보자도 채팅 창만으로 추론 실행 위치를 추정하는 대신 각 인터페이스에서 모델 이름과 응답을 확인할 수 있습니다.
  • 중요한 이유: 로컬 서버와 Ollama 클라우드 API는 목적지가 다릅니다. 승인된 업무나 개인 작업이라면 다운로드한 모델을 선택하고 localhost 주소를 사용해 연습을 자신의 컴퓨터 안에서 진행할 수 있습니다. 서버 설정은 별도로 확인해야 합니다.
  • 주의할 점: 로컬 URL만으로 모든 기능이나 연결 앱이 로컬에 머문다는 사실을 입증할 수는 없습니다. Ollama는 로컬 서버를 통해 클라우드 모델도 사용할 수 있습니다. 핵심 검사는 설치 모델 태그, 요청 목적지, 서버 바인딩 주소이며 엄격한 로컬 전용 동작이 필요하면 재시작 후 클라우드 비활성화 로그도 확인해야 합니다.

시작하기 전에

소프트웨어 설치가 허용된 컴퓨터를 사용하세요. 열어 둔 원본 문서에서 답을 확인할 수 있는 무해한 사실 질문을 고릅니다. 명령이 연습 질문을 요구하면 그 질문을 붙여 넣으세요. 시험만을 위해 개인정보나 규제 대상 자료를 입력하지 않습니다. 유창한 답변은 정확성의 증거가 아니므로 확인용 문서를 유지하세요.

Ollama와 모델을 저장할 공간, 선택 모델을 로드할 충분한 메모리, 설치·다운로드용 인터넷이 필요합니다. Ollama 빠른 시작 문서는 gemma4:e2b 모델을 로컬 예시로 쓰며 사용 가능한 VRAM 8 GB 또는 Mac의 통합 메모리를 권장합니다. Ollama는 시스템 RAM으로 전환할 수 있지만 답변이 느려진다고 설명합니다. 계속하기 전에 현재 모델 페이지에서 정확한 태그, 다운로드 크기, 라이선스를 확인하세요. 다운로드 크기만으로 기기에서 실행 가능함을 알 수는 없습니다. 기기나 허가된 용도에 맞지 않으면 다운로드 가능한 로컬 모델 중 더 작은 것을 라이브러리에서 선택하세요. 그리고 gemma4:e2b 태그를 아래 모든 명령에서 선택 모델의 정확한 태그로 바꿉니다. 이 연습에서는 :cloud 태그를 선택하지 마세요.

1. Ollama 설치 및 로컬 서버 확인

Ollama를 공식 다운로드 페이지에서 받고 운영체제 지침을 따르세요. 대상은 Windows, macOS 또는 Linux입니다. Windows와 macOS에서는 설치 앱을 엽니다. Linux는 선택한 설치 방식에 따라 서비스를 시작합니다. 실행 중인 서비스가 없으면 빠른 시작 문서는 별도 터미널에서 ollama serve 실행을 안내합니다. 앱이나 서비스가 이미 수신 대기 중이면 두 번째 서버를 시작하지 마세요.

새 터미널에서 설치 버전과 로컬 서버 응답을 확인하세요.

Terminal
ollama -v
ollama ls

실제 버전과 운영체제를 기록합니다. 첫 다운로드 전 모델 목록은 비어 있을 수 있습니다. 명령이나 연결 오류가 있으면 설치 또는 서버 시작부터 해결하세요. Ollama의 자주 묻는 질문 문서에 따르면 기본 수신 주소는 127.0.0.1:11434입니다. 이 연습에서는 루프백을 유지하고 네트워크 바인딩, 프록시, 터널을 설정하지 않습니다.

2. 정확한 로컬 모델 하나 다운로드

모델 페이지를 확인한 후 실행하세요.

Terminal
ollama pull gemma4:e2b
ollama ls

다운로드 후 정확한 태그가 ollama ls 목록에 나타나야 합니다. 태그, 표시 크기, 모델 페이지 라이선스를 기록하세요. 다운로드가 실패하거나 태그가 없으면 다시 시도하기 전에 현재 라이브러리의 철자, 디스크 여유, 네트워크, 프록시·권한 오류를 확인합니다. 부분 다운로드는 설정 성공이 아닙니다.

3. 대화형·단발 터미널 채팅 확인

대화형 채팅을 시작하세요.

Terminal
ollama run gemma4:e2b

승인된 연습 질문을 채팅 입력에 붙여 넣으세요. 질문을 만들 때 사용한 문서로 답변을 확인하고 /bye 명령으로 종료합니다. 자신의 확인을 위해 실제 질문과 답변을 보관하세요. 이 글은 예시 결과를 제공하지 않습니다.

별도 단발 실행에는 같은 질문을 사용합니다. Windows PowerShell에서는 다음과 같습니다.

PowerShell
$practicePrompt = Read-Host 'Paste your approved practice question'
ollama run gemma4:e2b $practicePrompt

macOS나 Linux의 Bash 터미널에서는 다음과 같습니다.

Terminal
read -r -p 'Paste your approved practice question: ' practice_prompt
ollama run gemma4:e2b "$practice_prompt"

실제 단발 답변을 같은 원본과 대조하세요. 두 답변의 표현이 같을 필요는 없습니다. 두 명령이 의도한 태그를 실행했는지, 사실 주장이 원본과의 비교를 통과하는지가 중요합니다.

4. localhost로 같은 모델에 질문

이 채팅 API 인터페이스는 POST /api/chat 주소에서 모델 이름과 메시지를 받습니다. 기본은 스트리밍이며 stream: false 설정은 완전한 JSON 응답 하나를 요청합니다. API 소개 문서는 로컬 기본 URL http://localhost:11434/api 주소와 직접 클라우드 URL https://ollama.com/api 주소를 구분합니다. 로컬 요청에는 API 키가 필요 없습니다.

Windows에서는 PowerShell로 붙여 넣은 질문에서 JSON을 안전하게 구성할 수 있습니다.

PowerShell
$practicePrompt = Read-Host 'Paste the same approved practice question'
$body = @{ model = 'gemma4:e2b'; messages = @(@{ role = 'user'; content = $practicePrompt }); stream = $false } | ConvertTo-Json -Depth 5
$response = Invoke-RestMethod -Uri 'http://localhost:11434/api/chat' -Method Post -ContentType 'application/json; charset=utf-8' -Body $body
$response | Select-Object model, done
$response.message.content

macOS나 Linux의 다음 Bash 예시는 질문을 JSON으로 올바르게 이스케이프하는 데만 Python 3를 사용합니다. 먼저 python3 및 curl 설치 여부를 확인하세요.

Terminal
read -r -p 'Paste the same approved practice question: ' practice_prompt
export practice_prompt
python3 -c 'import json,os; print(json.dumps({"model":"gemma4:e2b","messages":[{"role":"user","content":os.environ["practice_prompt"]}],"stream":False}))' | curl -fsS 'http://localhost:11434/api/chat' -H 'Content-Type: application/json' --data-binary @-

요청은 HTTP 성공과 JSON 객체 하나를 반환해야 합니다. 해당 model 값은 다운로드 태그와 일치하고 done 값은 true이며 message.content 내용은 비어 있지 않아야 합니다. 실제 답변을 읽고 원본으로 검증하세요. 성공 응답이 확립하는 것은 이 요청의 로컬 목적지와 선택 모델입니다. 예시 대화에 기대지 말고 자신의 출력을 보관합니다.

5. 실행 위치와 로컬 전용 경계 확인

모델이 로드된 동안 실행하세요.

Terminal
ollama ps

이 PROCESSOR 열은 모델이 CPU, GPU, 또는 양쪽에 로드되었는지 보여 준다고 Ollama의 자주 묻는 질문 문서는 설명합니다. 실제 기기 표시를 기록하세요. 이미 해제되었다면 다른 질문을 보내고 다시 확인합니다. 완료 후 ollama stop gemma4:e2b 명령으로 메모리에서 해제할 수 있습니다. ollama rm gemma4:e2b 명령으로 제거하는 것은 관찰 기록을 저장한 뒤 선택적으로 하는 디스크 정리입니다.

엄격한 Ollama 로컬 전용 설정에는 공식 클라우드 비활성화 지침을 따르세요. disable_ollama_cloud 설정을 ~/.ollama/server.json 파일은 Ollama 서버를 실행하는 계정 환경에 적용합니다. Windows에서는 해당 계정 사용자 프로필의 .ollama 폴더이며 기존 다른 JSON 설정을 보존합니다.

JSON
{
  "disable_ollama_cloud": true
}

Linux에서는 문서에 나온 systemd 서비스 설정이 User=ollama 계정으로 실행되며 홈은 /usr/share/ollama입니다. 자신의 홈 파일을 수정해서는 이 서비스를 설정할 수 없습니다. systemd 설치는 Ollama 문서의 대안인 OLLAMA_NO_CLOUD=1 설정을 서비스 재정의에 사용할 수도 있습니다. 먼저 systemctl cat ollama.service 명령으로 기존 서비스를 살피고 sudo systemctl edit ollama.service 명령으로 재정의를 엽니다. 다음 내용을 [Service] 아래에 넣고 기존 다른 재정의 설정을 유지하세요.

Snippet
[Service]
Environment="OLLAMA_NO_CLOUD=1"

재정의를 저장하고 서비스 설정을 다시 읽은 뒤 서비스를 재시작하세요.

Terminal
sudo systemctl daemon-reload
sudo systemctl restart ollama.service

Windows나 macOS에서는 설정 변경 후 Ollama 앱을 재시작합니다. 서버 로그에서 정확한 문구 Ollama cloud disabled: true 표시를 확인하세요. Windows 문서의 로그는 %LOCALAPPDATA%\Ollama\server.log, macOS는 ~/.ollama/logs/server.log입니다. Linux systemd 설치에서는 journalctl -e -u ollama 명령을 사용합니다. 무관한 터미널에서 설정한 환경변수가 이미 실행 중인 앱이나 서비스에 전달된다는 보장은 없습니다. 클라우드 기능을 끄면 Ollama 클라우드 모델과 웹 검색이 제거됩니다. 로그가 설정을 확인해 주지 않으면 로컬 전용이라고 설명하기 전에 수정하고 재시작하세요.

서버 로그나 운영체제의 수신 검사로 계속 127.0.0.1:11434 주소에서 대기하는지 확인하고 다운로드 태그로 localhost 요청을 반복합니다. OLLAMA_HOST 설정은 바인딩 주소를 바꿀 수 있으므로 기본값을 추정하지 말고 실제 서버를 살피세요. 별도 Python 라이브러리, 브라우저 인터페이스, 코딩 에이전트 등 연결 앱은 각각 목적지와 데이터 경로 검사가 필요합니다. Ollama의 로컬 응답만으로 그 앱의 개인정보 처리 방식을 확립할 수 없습니다.

Windows에서는 PowerShell로 수신 주소를 검사하세요.

PowerShell
Get-NetTCPConnection -LocalPort 11434 -State Listen | Select-Object LocalAddress, LocalPort

macOS에서는 lsof -nP -iTCP:11434 -sTCP:LISTEN, Linux에서는 ss -ltn '( sport = :11434 )' 명령을 사용합니다. 플랫폼 도구가 없으면 서버 로그를 확인하세요. 와일드카드나 루프백이 아닌 주소의 수신은 API가 이 컴퓨터 안에 제한된다고 보기 전에 조사해야 합니다.

검사가 실패한 경우

다음 명령 ollama -v 또는 ollama ls 실행이 실패하면 운영체제의 설치·시작 안내로 돌아가세요. localhost 연결 거부는 보통 앱이나 서비스가 멈췄거나 다른 주소에서 대기함을 뜻합니다. API를 네트워크에 공개하는 대신 로그와 바인딩 주소를 확인합니다. 응답이 여러 JSON 줄이면 요청에 "stream": false 설정이 있는지 확인하세요. 메모리가 부족하거나 실용적이지 않을 정도로 느리면 ollama ps 명령을 확인하고 라이브러리에서 실제로 더 작은 로컬 태그를 선택합니다. 그 한 태그로 다운로드, 터미널, API 검사를 반복하세요. 끝내지 못한 단계는 미검증으로 취급합니다.

이 로컬 연습에는 하드웨어, 전력, 다운로드 저장 공간이 필요하지만 Ollama API 키나 유료 API 계정은 필요 없습니다. 모델 라이선스가 의도한 사용을 제한할 수 있습니다. 클라우드 모델과 선택적인 타사 클라이언트에는 별도 약관과 데이터 경로가 있습니다. 자세한 하드웨어 구매 비교는 128 GB 로컬 모델 가이드를 참고하세요. Ollama와 Claude Code를 쓰는 별도 코딩 작업에는 검사된 변경 가이드를 참고할 수 있습니다.

출처 및 추가 자료

  • Ollama 빠른 시작 문서는 설치 경로, 로컬 gemma4:e2b 예시, 메모리 권장을 설명합니다. 예시는 문서이며 사용자 기기의 시험 결과가 아닙니다.
  • CLI 참조 문서는 여기서 사용한 현재 pull, run, ls, ps, stop, rm 및 serve 명령을 나열합니다.
  • API 소개 및 채팅 엔드포인트 문서는 로컬·클라우드 주소를 구분하고 비스트리밍 요청과 응답 필드를 정의합니다.
  • 자주 묻는 질문 문서는 루프백 바인딩, 프로세서 배치, 클라우드 비활성화, 로그 검사를 설명합니다.
  • Gemma 4 E2B 모델 페이지 자료는 다운로드 전 확인할 현재 정확한 태그, 크기, 라이선스를 제공합니다.