ஒரே Mac-இல் Ollama, Open WebUI, Continue அமைக்கவும்

செயலிகளை நிறுவ அனுமதியும், ரகசியத் தகவல் இல்லாத சொந்தச் சோதனைக் கோப்பும் உள்ள Mac உரிமையாளருக்கான வழிகாட்டி இது. Ollama-வில் ஒரு மாதிரியைப் பதிவிறக்கி, உரையாடலைத் தக்கவைக்கும் Open WebUI உலாவி அரட்டையையும் VS Code-இன் Continue நீட்சியையும் அதே இயக்கச் சேவையில் இணைப்பீர்கள். பிறகு உண்மையில் முன்மொழியப்பட்ட மாற்றத்தைப் பார்த்து வைத்துக்கொள்வதா முடிவெடுப்பீர்கள். கீழேயுள்ள கட்டளைகளும் சோதனைகளும் பராமரிப்பாளர்களின் தற்போதைய ஆவணங்களைப் பின்பற்றுகின்றன. BIG CHANGE இந்த அமைப்பை இயக்கவோ வேகம், செலவு, வலையமைப்புப் போக்குவரத்தை அளக்கவோ இல்லை.

பெரிய மாற்றம்

• மாறுவது என்ன: பதிவிறக்கிய Ollama மாதிரி உள்ளூர் API மூலம் உலாவி அரட்டைக்கும் VS Code திருத்த உதவியாளருக்கும் சேவை வழங்க முடியும். ஒவ்வொரு கிளையன்ட்டின் இணைப்பையும் தனியாகச் சோதிக்க வேண்டும்.
• ஏன் முக்கியம்: ஒரே மாதிரி நிறுவல் அதே Mac-இல் உரையாடலையும் பரிசீலித்த நிரல் மாற்றத்தையும் ஆதரிக்கும்; இறுதி மாற்ற முடிவு கோப்பு உரிமையாளரிடமே இருக்கும்.
• கவனிக்க வேண்டியது: மெனுவிலுள்ள மாதிரிப் பெயர் எந்தச் சேவையகம் பதிலளித்தது என்பதை நிரூபிக்காது. குறிப்பாக மற்ற வழங்குநர்கள் அல்லது மேக வசதிகள் இருந்தால் இணைப்பையும் உண்மைப் பதில்களையும் பாருங்கள்.

1. Mac-ஐச் சரிபார்த்து மாதிரியைத் தேர்ந்தெடுக்கவும்

தேவையானவை Ollama-வுக்கு macOS 14 அல்லது புதியது, Mac-க்கான Docker Desktop, Continue நீட்சிஉள்ள VS Code மற்றும் கீழுள்ள சிறிய JSON, கோப்புச் சோதனைகளுக்கு Python 3. Ollama Apple M வரிசையின் CPU, GPU இயக்கத்தை ஆதரிக்கிறது; Intel Mac ஆவணத்தில் CPU மட்டும் உள்ளது. Mac பதிவிறக்கப் பக்கத்திலிருந்து Ollama நிறுவி Applications-க்கு நகர்த்தித் திறக்கவும்; கேட்டால் கட்டளைவரி இணைப்பை அனுமதிக்கவும். Docker Desktop நிறுவித் தொடங்கி, VS Code-இன் Extensions காட்சியிலிருந்து Continue நிறுவவும். Python 3-ஐ Python.org இலிருந்து நிறுவவும், python3 இல்லாவிட்டால். Mac-இல் VS Code தானாக code என்பதை shell தேடல் பாதையில் சேர்க்காது. அதன் Mac அமைப்பு வழிமுறைகளைபின்பற்றி Cmd+Shift+Pமூலம் Command Palette திறந்து Shell Command: Install 'code' command in PATHஇயக்கி Terminal-ஐ மீண்டும் தொடங்கவும். தேவையான கருவிகள் உள்ளனவா உறுதிசெய்யவும்:

sw_vers -productVersion
ollama --version
docker version
code --version
python3 --version

நிறுவிய பதிப்புகளை எழுதுங்கள். ஏதேனும் செயலி இயங்காவிட்டால் அல்லது மாதிரி, Docker தரவுக்கு இடமில்லாவிட்டால் நிறுத்துங்கள். qwen2.5-coder:7b மாதிரிப் பக்கம் தற்போது 4.7 GB பதிவிறக்கம், Apache 2.0 உரிமம் எனக் காட்டுகிறது. பதிவிறக்க அளவு முழு இயக்க நினைவகத் தேவை அல்ல. இது குறிப்பிட்ட உதாரணம்; எல்லா Mac-க்கும் பரிந்துரை அல்ல. தேவைப்பட்டால் ஆவணப்படுத்தப்பட்ட சிறிய உள்ளூர் குறிச்சொல்லைத் தேர்ந்து, கீழுள்ள ஒவ்வொரு கட்டளை, உலாவித் தேர்வு, YAML புலத்திலுள்ள qwen2.5-coder:7b இடத்தில் அந்தத் துல்லிய குறிச்சொல்லை இடுங்கள். மாற்று மாதிரியின் உரிமத்தையும் பாருங்கள்.

மாதிரியைப் பதிவிறக்கி Ollama துல்லிய குறிச்சொல்லைக் காட்டுகிறதா பாருங்கள்:

ollama pull qwen2.5-coder:7b
ollama list
curl --fail-with-body --silent --show-error http://127.0.0.1:11434/api/tags | python3 -c 'import json,sys; d=json.load(sys.stdin); print([m["name"] for m in d["models"]])'

பட்டியலில் qwen2.5-coder:7bஇருக்க வேண்டும். அடுத்து உள்ளூர் அரட்டை API -யிடம் குறுகிய பதில் கேளுங்கள். HTTP பிழையில் கட்டளை தோல்வியடைகிறது; திரும்பிய மாதிரியையும் காலியல்லாத உதவியாளர் உள்ளடக்கத்தையும் சோதிக்கிறது. பதிலின் சொற்கள் முக்கியமல்ல. Ollama இயக்கத் தேர்வு num_predict இச்சோதனையை 64 உருவாக்கப்பட்ட token-களுக்கு வரையறுக்கிறது. துண்டிக்கப்பட்ட வாக்கியமும் உள்ளடக்கம் வந்ததை உறுதிப்படுத்தலாம்; காலிப் பதில் தோல்வி, காரணத்தை ஆராய வேண்டும்.

set -o pipefail
curl --fail-with-body --silent --show-error http://127.0.0.1:11434/api/chat \
  -H 'Content-Type: application/json' \
  -d '{"model":"qwen2.5-coder:7b","messages":[{"role":"user","content":"Reply with one short sentence about checking a local connection."}],"stream":false,"options":{"num_predict":64}}' \
  | python3 -c 'import json,sys; d=json.load(sys.stdin); assert d.get("model")=="qwen2.5-coder:7b",d.get("model"); assert d.get("message",{}).get("content","").strip(); print("Model:",d["model"],"Reply:",d["message"]["content"])'

குறிச்சொல் இல்லாவிட்டால் பதிவிறக்கத்தை முடித்துப் பட்டியலை மீண்டும் பாருங்கள். API அணுக முடியாவிட்டால் Ollama தொடங்கி அதன் Mac சேவையகப் பதிவை இங்கே பாருங்கள்: ~/.ollama/logs/server.log. பதிவிறக்கிய குறிச்சொல்லும் வெற்றியான உள்ளூர் பதிலும் மூன்று சோதனைகளில் முதலாவதாகும்.

2. நீடிக்கும் உள்ளூர் தரவுடன் Open WebUI தொடங்கவும்

இந்த Open WebUI விரைவுத் தொடக்க வழிகாட்டி கணக்குகள், அமைப்புகள், அரட்டைகளை /app/backend/data -இல் சேமிக்கிறது; மாறாத WEBUI_SECRET_KEYதேவை என்கிறது. நாம் நிலையான v0.12.3 வெளியீட்டைப் பயன்படுத்துகிறோம்; தொடர்ந்து மாறும் main குறிச்சொல்லை அல்ல. Docker Mac கட்டமைப்புக்கான image-ஐத் தேர்வுசெய்யும்; பதிவிறக்கியபின் அதன் அடையாளத்தை எழுதுங்கள்.

முதலில் இங்கு பயன்படுத்தும் பெயர்களைச் சரிபார்க்கவும். ஏற்கெனவே இருந்தால் அந்த container அல்லது volume முந்தைய அமைப்பைச் சேர்ந்ததா பாருங்கள். கட்டளை இயங்குவதற்காகவே இருக்கும் container-ஐ மாற்றவோ அதன் volume-ஐ அழிக்கவோ வேண்டாம்.

docker ps -a --filter name=^/bc-open-webui$ 
docker volume inspect bc-open-webui-data

முதல் அமைப்பில் இரண்டாம் கட்டளை volume இல்லை என்பது இயல்பு. அடுத்த படிகள் உருவாக்கிய விசையை Mac கணக்கின் தனிப்பட்ட கோப்பில் வைக்கின்றன. container மீண்டும் உருவாக்க இதைப் பாதுகாக்கவும். அதன் உள்ளடக்கத்தை repository-க்கு commit செய்யவோ எங்கும் ஒட்டவோ பகிரவோ வேண்டாம். இந்த instance-க்கு விசை இருந்தால் அதையே தொடர்ந்து பயன்படுத்தவும்.

mkdir -p "$HOME/.config/bc-open-webui"
chmod 700 "$HOME/.config/bc-open-webui"
umask 077
if [ ! -s "$HOME/.config/bc-open-webui/webui-secret" ]; then
  openssl rand -hex 32 > "$HOME/.config/bc-open-webui/webui-secret"
fi
chmod 600 "$HOME/.config/bc-open-webui/webui-secret"
export WEBUI_SECRET_KEY="$(cat "$HOME/.config/bc-open-webui/webui-secret")"
docker pull ghcr.io/open-webui/open-webui:v0.12.3
docker image inspect ghcr.io/open-webui/open-webui:v0.12.3 --format '{{json .RepoDigests}}'
docker volume create bc-open-webui-data
docker run -d --name bc-open-webui --restart unless-stopped \
  -p 127.0.0.1:3000:8080 \
  --add-host=host.docker.internal:host-gateway \
  -v bc-open-webui-data:/app/backend/data \
  -e WEBUI_SECRET_KEY \
  -e OLLAMA_BASE_URL=http://host.docker.internal:11434 \
  ghcr.io/open-webui/open-webui:v0.12.3
unset WEBUI_SECRET_KEY
docker ps --filter name=^/bc-open-webui$ --format 'table {{.Names}}\t{{.Image}}\t{{.Ports}}'

port வெளியீட்டில் 127.0.0.1:3000->8080/tcpதோன்ற வேண்டும். பெயருள்ள volume container மீண்டும் உருவானாலும் அரட்டைகளையும் அமைப்புகளையும் வைத்திருக்கும். விசை session தொடர்ச்சியையும் செயலியின் மறையாக்க மதிப்புகளையும் காக்கிறது; தனிப்பட்ட பிரதியைப் பாதுகாக்கவும். Docker அணுகல் உள்ளவர்கள் container அமைப்பில் சூழல் மதிப்புகளைப் பார்க்கலாம். இது ஒருவரின் உள்ளூர் அமைப்பு; பகிரப்பட்ட host-இன் ரகசியக் களஞ்சியம் அல்ல.

உலாவியில் http://127.0.0.1:3000 திறக்கவும். முதல் முறை நிர்வாகி கணக்கு உருவாக்கவும். avatar மெனுவில் Settings → Admin → Connectionsதிறந்து Manage Ollama API Connections பாருங்கள். http://host.docker.internal:11434நோக்கி ஒரே செயலில் உள்ள இணைப்பை வைத்துக்கொண்டு, சோதனைக்குத் தேவையற்ற வழங்குநர் இணைப்புகளை அகற்றவும் அல்லது அணைக்கவும். Open WebUI பல Ollama இணைப்புகளிடையே கோரிக்கைகளைப் பகிர முடியும்என்பதால் dropdown பெயர் பொருந்துவது மட்டும் போதாது. புதிய அரட்டையில் qwen2.5-coder:7b தேர்ந்தெடுத்து “உள்ளூர் மாதிரி பதிலளித்ததை எப்படி உறுதிசெய்வது?” எனக் கேளுங்கள். காலியல்லாத பதில் வருவதை உறுதிசெய்து சேமித்த அரட்டையை மீண்டும் திறக்கவும். மாதிரியும் இணைப்பு URL-உம் எழுதவும். இது உலாவிச் சோதனை; குறிப்பிட்ட பதில் கட்டாயமில்லை.

பக்கம் ஏறாவிட்டால் docker logs bc-open-webui மற்றும் port பிணைப்பைப் பார்க்கவும். மாதிரிப் பட்டியல் காலியாக இருந்தால் Ollama இன்னும் /api/tags-க்கு பதிலளிக்கிறதா, சேமித்த Open WebUI இணைப்பு சரியா, Docker Desktop-இன் இப்பதிப்பு Mac host சேவையை அணுகுகிறதா சோதிக்கவும். host.docker.internal என்பது Docker Desktop-இன் host முகவரி; ஆனால் localhost container-க்குள் அதே container-ஐக் குறிக்கும். Ollama இயல்பாக 127.0.0.1-இல் பிணைக்கப்படுகிறது; host-container அனுப்புதல் அமைப்பைப் பொறுத்து மாறலாம். தோற்ற இணைப்பை வெற்றியான அமைப்பாக எண்ணவோ பொதுவான சரிசெய்தலாக Ollama-வை 0.0.0.0 -இல் வெளிப்படுத்தவோ வேண்டாம். தொடருமுன் பாதுகாப்புக் கொள்கைக்கு ஏற்ப உள்ளூர் வலைப் பாதையைத் தீர்க்கவும். சிக்கல் ஆராயும்போது volume-உம் பழைய அரட்டைகளும் இருக்கட்டும்.

3. Continue-ஐ அதே Ollama குறிச்சொல்லுடன் இணைக்கவும்

Continue Mac-இன் VS Code-இல் இயங்குவதால் அதன் Ollama API முகவரி http://localhost:11434ஆகும். Continue திறந்து அரட்டை உள்ளீட்டின் மேல் வலது அமைப்பு dropdown-இல் Local Configஅருகிலுள்ள பற்சக்கரத்தை அழுத்தவும். இதில் ~/.continue/config.yamlதிறக்கும்; Continue-இன் தற்போதைய குறிப்பேடு YAML பயன்படுத்துகிறது. முந்தைய அமைப்பின் நகலை வைத்துத் தேவையான மாதிரிகள், விதிகளைப் பாதுகாக்கவும். புதிய உள்ளூர் அமைப்பின் முழு குறைந்தபட்ச உள்ளடக்கம்:

name: Local Ollama check
version: 1.0.0
schema: v1
models:
  - name: Qwen2.5 Coder 7B local
    provider: ollama
    model: qwen2.5-coder:7b
    apiBase: http://localhost:11434
    roles:
      - chat
      - edit

இருக்கும் கோப்பில் இந்த மாதிரிப் பதிவை அதன் models: பட்டியலில் சேர்த்து மேல்நிலை அமைப்பை வைத்திருக்கவும். சேமித்து Local Config மற்றும் பெயருள்ள உள்ளூர் மாதிரி தேர்ந்து Continue Chat-இல் குறுகிய கேள்வி கேளுங்கள். உள்ளடக்கம் வருகிறதா உறுதிசெய்யவும். இது நீட்சியின் இணைப்பைச் சோதிக்கும்; அரட்டை பதில் கோப்புத் திருத்தம் அல்ல. chat மற்றும் edit பாத்திரங்கள் இங்குள்ள இரு செயல்களையும் இயக்குகின்றன; இம்முறை Agent அல்லது தானியங்குப் பூர்த்தியை உறுதியளிக்காது.

சுயமாகச் சோதிக்கக்கூடிய எளிய செயல்பாட்டுடன் சொந்த சோதனை directory, file உருவாக்கவும். கட்டளை இருக்கும் கோப்பையோ மூல நகலையோ பாதுகாக்கிறது. ஏதேனும் பெயர் ஏற்கெனவே இருந்தால் பார்த்து அல்லது வேறு directory தேர்ந்தெடுக்கவும்:

mkdir -p "$HOME/continue-local-check"
if [ -e "$HOME/continue-local-check/greeting.py" ] || [ -e "$HOME/continue-local-check/greeting.original.py" ]; then
  printf '%s\n' 'Scratch file already exists; inspect it or choose a new directory.'
else
  cat > "$HOME/continue-local-check/greeting.py" <<'PY'
def greeting(name):
    return "Hello, " + name

if __name__ == "__main__":
    assert greeting("Ada") == "Hello, Ada"
    print(greeting("Ada"))
PY
  if python3 "$HOME/continue-local-check/greeting.py"; then
    cp "$HOME/continue-local-check/greeting.py" "$HOME/continue-local-check/greeting.original.py"
  else
    printf '%s\n' 'Original check failed; inspect the file before requesting an edit.'
  fi
fi

மூலச் சோதனை assertion வென்றபின் Hello, Ada அச்சிட வேண்டும். greeting.py VS Code-இல் திறந்து function மட்டும் தேர்ந்தெடுத்து Cmd+I அழுத்தி Continue Editபயன்படுத்தவும். திரும்பும் உரையை மாற்றாமல் சிறிய docstring சேர்க்கக் கேளுங்கள். படிப்படியாகத் தோன்றும் inline diff-ஐ greeting.original.pyஉடன் ஒப்பிடவும். தேர்ந்த code-இன் Edit முழுக் கோப்பையும் context-இல் சேர்க்கலாம்; எனவே சொந்த, ரகசியமற்ற கோப்பை மட்டும் பயன்படுத்தவும். மாதிரி கேட்டதைவிட அதிகம் மாற்றலாம். ஒவ்வொரு வரியையும் பார்த்து ஏற்ற பரிந்துரையை Cmd+Opt+Yமூலம் ஏற்கவும் அல்லது Cmd+Opt+Nமூலம் மறுக்கவும். Continue-இல் அனைத்தையும் ஏற்கும் அல்லது மறுக்கும் கட்டுப்பாடுகளும் உள்ளன; சிறிய diff-ஐ ஒவ்வொரு மாற்றமாகப் பார்ப்பது எளிது.

ஏற்றபின் கோப்பைச் சேமித்து இயக்கவும்:

diff -u "$HOME/continue-local-check/greeting.original.py" "$HOME/continue-local-check/greeting.py" || true
python3 "$HOME/continue-local-check/greeting.py"

diff-இல் விரும்பிய மாற்றம் மட்டுமே உள்ளதா, மூல assertion இன்னும் வெல்கிறதா பாருங்கள். மறுத்தால் கோப்பு மூலத்துடன் பொருந்துகிறதா உறுதிசெய்து மறுப்பைப் பதிவு செய்யுங்கள்; திருத்தம் முடிந்தது எனச் சொல்லாதீர்கள். கோப்பு, diff, தனியான Python சோதனை மாதிரியின் சுய விளக்கத்தைவிட நம்பகமானவை.

4. வரம்புகளைத் தெளிவாக வைத்திருக்கவும்

Ollama, Open WebUI, Continue தனித்தனி அமைப்புகளைக் கொண்டவை. Ollama cloud மட்டும் அணைக்க சேவையகம் இயக்கும் கணக்கின் ~/.ollama/server.json-இல் கீழுள்ள புலம் சேர்த்து முந்தைய JSON புலங்களை வைத்திருக்கவும். புதிய கோப்பின் முழு உள்ளடக்கம்:

{
  "disable_ollama_cloud": true
}

Ollama செயலியை மீண்டும் தொடங்கி server log பாருங்கள்:

grep 'Ollama cloud disabled: true' "$HOME/.ollama/logs/server.log"

இந்த Ollama FAQ அந்த log வரியை விளக்குகிறது. அது இல்லாவிட்டால் cloud அணைந்தது எனச் சொல்லுமுன் Ollama இயக்கும் Mac கணக்கு, JSON, மறுதொடக்கத்தைச் சரிபார்க்கவும். இவ்வமைப்பு Open WebUI-இன் பிற வழங்குநர்கள், விருப்ப இணைய வசதிகள் அல்லது Continue போக்குவரத்தைச் சோதிக்காது. Continue-இன் இணையமில்லா வழிகாட்டி கூறுவதுபோல் Allow Anonymous Telemetryஅணைத்து, உள்ளூர் மாதிரிகள் பயன்படுத்தி VS Code மீண்டும் தொடங்கவும். ரகசியத் தகவலைப் பயன்படுத்துமுன் ஒவ்வொரு செயலியின் இணைப்பையும் பாருங்கள். loopback URL மட்டுமே network audit அல்ல.

உண்மையான பயன்பாட்டிற்கு Docker Desktop உரிமத்தைப் பாருங்கள். தனிப்பட்ட, கல்வி, வணிகமற்ற திறந்தமூலப் பயன்பாடும் பின்வரும் சிறு நிறுவனங்களும் இலவசம்: 250-க்கும் குறைவான ஊழியர்கள் மற்றும் ஆண்டுக்கு 10 மில்லியன் அமெரிக்க டாலருக்கும் குறைவான வருவாய். பெரிய நிறுவனங்கள், அரசின் தொழில்சார் பயன்பாட்டிற்கு கட்டணச் சந்தா வேண்டும். மாதிரியின் Apache 2.0 உரிமம் தனியானது. வட்டு, நினைவகம், பதிவிறக்க அலைவரிசை, மின்சாரம் தேவைதான்; இவ்வழிகாட்டிக்கு செலவு அல்லது செயல்திறன் அளக்கப்படவில்லை.

Ollama terminal, API மட்டுமே விளக்கும் குறுகிய முறைக்கு உள்ளூர் Ollama மாதிரியை இயக்கி அதன் chat API சரிபார்க்கவும்பார்க்கவும். உள்ளூர் Ollama மாதிரியுடன் Claude Code-இல் ஒரு சரிபார்த்த மாற்றம் செய்யவும் மற்றொரு நிரலாக்க client-ஐ விளக்குகிறது.

மூலங்கள் மற்றும் மேலும் வாசிக்க

• Ollama macOS தேவைகள், chat API, மாதிரிப் பட்டியல் API மற்றும் FAQ: நிறுவல் வரம்புகள், காணக்கூடிய API புலங்கள், இயல்பான கேட்பு முகவரி, Ollama-வுக்கான cloud அமைப்பு. 21 அக்டோபர் 2026 அன்று சரிபார்க்கப்பட்டது.
• Ollama API விவரக்குறிப்பு: இயக்கப் புலம் options.num_predict குறுகிய உள்ளூர் chat சோதனையை வரையறுக்கிறது. கட்டுப்படுத்திய பதில் வாக்கிய நடுவே முடியும். 21 அக்டோபர் 2026 அன்று சரிபார்க்கப்பட்டது.
• Qwen2.5-Coder 7B மாதிரி அட்டை: எடுத்துக்காட்டு குறிச்சொல், குறிப்பிட்ட பதிவிறக்கம், மாதிரி உரிமம். பதிவிறக்குமுன் தற்போதைய தகவலும் Mac வளங்களும் பாருங்கள். 21 அக்டோபர் 2026 அன்று சரிபார்க்கப்பட்டது.
• Open WebUI விரைவுத் தொடக்கம், Ollama இணைப்பு வழிகாட்டி மற்றும் v0.12.3 வெளியீடு: container சேமிப்பு/விசை, வழங்குநர் அமைப்புகள், நிலையான பதிப்பு அடையாளம். இவை முறையை விளக்குகின்றன; இந்த Mac வெற்றியாக இணைந்ததற்குச் சான்றல்ல. 21 அக்டோபர் 2026 அன்று சரிபார்க்கப்பட்டது.
• Continue அமைப்பு, YAML குறிப்பேடு, Edit விரைவுத் தொடக்கம் மற்றும் இணையமில்லா வழிகாட்டி: தற்போதைய கோப்புப் பாதை, விசைகள், திருத்தக் கட்டுப்பாடுகள், telemetry அமைப்பு. 21 அக்டோபர் 2026 அன்று சரிபார்க்கப்பட்டது.
• Docker Desktop வலையமைப்பு, Mac நிறுவல் மற்றும் உரிமம்: host முகவரி, நிறுவல், வணிகப் பயன்பாட்டு வரம்புகள். நிறுவனத்தின் தற்போதைய விதிகளைப் பாருங்கள். 21 அக்டோபர் 2026 அன்று சரிபார்க்கப்பட்டது.
• VS Code Mac அமைப்பு மற்றும் Python 3 பதிவிறக்கங்கள்: விருப்ப shell command நிறுவலும் சோதனை interpreter-உம். 21 அக்டோபர் 2026 அன்று சரிபார்க்கப்பட்டது.