உங்கள் கணினியில் Ollama மாடலை இயக்கி அதன் chat APIயைச் சரிபார்ப்பது எப்படி

Ollama பதிவிறக்கிய மாடலை உங்கள் கணினியில் இயக்கி, உள்ளூர் HTTP முகவரியில் வழங்க முடியும். நிறுவுதல் முதல் முனைய உரையாடல் மற்றும் முழுமையான API பதில் வரை ஒரே மாடல் பெயரை இந்த வழிகாட்டி பயன்படுத்துகிறது. இது ஆவணங்களை அடிப்படையாகக் கொண்ட செயல்முறை. BIG CHANGE உங்கள் கணினியில் மென்பொருளை நிறுவவோ அதன் முடிவுகளைப் பார்க்கவோ இல்லை.

முக்கிய மாற்றம்

• என்ன மாறியுள்ளது: பதிவிறக்கிய மாடலை முனைய உரையாடலிலும் உள்ளூர் API வழியாகவும் பயன்படுத்த Ollama நேரடி வழி வழங்குகிறது. உரையாடல் சாளரம் இருப்பதால் மட்டும் கணக்கீடு எங்கு நடந்தது என்று ஊகிக்காமல், ஒவ்வொரு இடத்திலும் மாடல் பெயரையும் பதிலையும் தொடக்கநிலைப் பயனரும் சரிபார்க்கலாம்.
• இது ஏன் முக்கியம்: உள்ளூர் சேவையகமும் Ollama cloud APIயும் வெவ்வேறு இலக்குகள். அனுமதிக்கப்பட்ட வேலை அல்லது தனிப்பட்ட பணியைச் செய்பவர் பதிவிறக்கிய மாடலைத் தேர்ந்தெடுத்து, கோரிக்கையை localhost முகவரிக்கு அனுப்புவதன் மூலம் இந்தப் பயிற்சியைத் தனது கணினியில் வைத்திருக்கலாம். சேவையக அமைப்பைத் தனியாகச் சரிபார்க்க வேண்டும்.
• கவனிக்க வேண்டியது: உள்ளூர் URL இருப்பதால் மட்டும் எல்லா அம்சங்களும் இணைக்கப்பட்ட செயலிகளும் உள்ளூரிலேயே இயங்குகின்றன என்று உறுதியாகாது. Ollama தனது உள்ளூர் சேவையகம் வழியாக cloud மாடல்களையும் பயன்படுத்த முடியும். நிறுவிய மாடல் குறிச்சொல், கோரிக்கையின் இலக்கு, சேவையகம் கேட்கும் முகவரி ஆகியவற்றைச் சரிபார்க்க வேண்டும். கண்டிப்பான உள்ளூர் செயல்பாடு தேவைப்பட்டால் மறுதொடக்கத்திற்குப் பிறகு cloud முடக்கப்பட்டதைக் காட்டும் பதிவையும் பார்க்க வேண்டும்.

தொடங்குவதற்கு முன்

மென்பொருள் நிறுவ உங்களுக்கு அனுமதி உள்ள கணினியைப் பயன்படுத்துங்கள். திறந்து வைத்திருக்கும் மூல ஆவணத்தில் பதிலைச் சரிபார்க்கக்கூடிய, தீங்கற்ற உண்மை சார்ந்த கேள்வியைத் தேர்ந்தெடுங்கள். பயிற்சிக் கேள்வியைக் கேட்கும்போது அதைப் பதியுங்கள். அமைப்பைச் சோதிப்பதற்காக மட்டும் தனிப்பட்ட அல்லது ஒழுங்குமுறைக்கு உட்பட்ட தகவலை உள்ளிட வேண்டாம். இயல்பாக எழுதப்பட்ட பதில் துல்லியத்திற்குச் சான்றல்ல; பதிலைச் சரிபார்க்க ஆவணத்தை வைத்திருங்கள்.

Ollama மற்றும் மாடலுக்குச் சேமிப்பிடம், தேர்ந்தெடுத்த மாடலை ஏற்றப் போதுமான நினைவகம், நிறுவவும் பதிவிறக்கவும் இணைய இணைப்பு தேவை. Ollama தொடக்க வழிகாட்டி தனது உள்ளூர் எடுத்துக்காட்டாக gemma4:e2b மாடலைப் பயன்படுத்துகிறது. கிடைக்கும் VRAM அல்லது Mac ஒருங்கிணைந்த நினைவகம் 8 GB இருக்குமாறு பரிந்துரைக்கிறது. சிஸ்டம் RAMஐப் பயன்படுத்த முடியும், ஆனால் பதில்கள் மெதுவாகும் என Ollama கூறுகிறது. தொடரும்முன் தற்போதைய மாடல் பட்டியல் பக்கத்தில் சரியான குறிச்சொல், பதிவிறக்க அளவு, உரிமம் ஆகியவற்றைப் பாருங்கள். பதிவிறக்க அளவு மட்டும் உங்கள் கணினியால் மாடலை இயக்க முடியும் என்பதற்குச் சான்றல்ல. கணினிக்கோ அனுமதிக்கப்பட்ட பயன்பாட்டிற்கோ பொருந்தாவிட்டால் சிறிய பதிவிறக்கக்கூடிய உள்ளூர் மாடலை மாடல் நூலகம் பக்கத்திலிருந்து தேர்ந்தெடுங்கள். கீழுள்ள கட்டளைகளில் gemma4:e2b குறிச்சொல்லை ஒவ்வொரு இடத்திலும் தேர்ந்தெடுத்த மாடலின் சரியான குறிச்சொல்லால் மாற்றுங்கள். இந்தப் பயிற்சிக்கு :cloud குறிச்சொல் உள்ள மாடலைத் தேர்ந்தெடுக்க வேண்டாம்.

1. Ollamaவை நிறுவி உள்ளூர் சேவையகத்தைச் சரிபாருங்கள்

Ollamaவை அதன் அதிகாரப்பூர்வப் பதிவிறக்கப் பக்கம் வழியாகப் பெற்று, உங்கள் இயங்குதளத்திற்கான வழிமுறைகளைப் பின்பற்றுங்கள்: Windows, macOS அல்லது Linux. Windows மற்றும் macOSஇல் நிறுவிய செயலியைத் திறக்கவும். Linuxஇல் தேர்ந்தெடுத்த நிறுவல் முறையைப் பின்பற்றி அதன் சேவையைத் தொடங்கவும். சேவை இயங்கவில்லை என்றால், தொடக்க வழிகாட்டி தனி முனையத்தில் ollama serve கட்டளையை இயக்கச் சொல்கிறது. ஏற்கெனவே கேட்கும் செயலி அல்லது சேவைக்கு மேலாக இரண்டாவது சேவையகத்தைத் தொடங்க வேண்டாம்.

புதிய முனையத்தில் நிறுவிய பதிப்பையும் உள்ளூர் சேவையகத்தின் பதிலளிப்பையும் சரிபாருங்கள்:

ollama -v
ollama ls

உண்மையான பதிப்பு எண்ணையும் இயங்குதளத்தையும் பதிவு செய்யுங்கள். முதல் பதிவிறக்கத்திற்கு முன் மாடல் பட்டியல் காலியாக இருக்கலாம். கட்டளை அல்லது இணைப்புப் பிழை ஏற்பட்டால் தொடரும்முன் நிறுவல் அல்லது சேவையகத் தொடக்கச் சிக்கலைச் சரிசெய்ய வேண்டும். Ollamaவின் அடிக்கடி கேட்கப்படும் கேள்விகள் ஆவணத்தின்படி இயல்புநிலை கேட்கும் முகவரி 127.0.0.1:11434. இந்தப் பயிற்சிக்கு loopback முகவரியிலேயே வைத்திருங்கள்; பிணைய முகவரி, proxy அல்லது tunnel அமைக்க வேண்டாம்.

2. ஒரு குறிப்பிட்ட உள்ளூர் மாடலைப் பதிவிறக்குங்கள்

மாடல் பக்கத்தைச் சரிபார்த்த பிறகு இயக்குங்கள்:

ollama pull gemma4:e2b
ollama ls

பதிவிறக்கத்திற்குப் பிறகு சரியான குறிச்சொல் ollama ls பட்டியலில் இருக்க வேண்டும். குறிச்சொல், காட்டப்படும் அளவு, மாடல் பக்கத்தில் உள்ள உரிமம் ஆகியவற்றைப் பதிவு செய்யுங்கள். பதிவிறக்கம் தோல்வியடைந்தாலோ குறிச்சொல் இல்லாவிட்டாலோ மீண்டும் முயலும்முன் தற்போதைய நூலகத்தில் எழுத்துப்பிழை, காலி வட்டிடம், பிணைய அணுகல், proxy அல்லது அனுமதிப் பிழை ஆகியவற்றைச் சரிபாருங்கள். பகுதி பதிவிறக்கம் வெற்றிகரமான அமைப்பல்ல.

3. உரையாடல் மற்றும் ஒருமுறை முனையப் பதில்களைச் சரிபாருங்கள்

உரையாடலைத் தொடங்குங்கள்:

ollama run gemma4:e2b

உரையாடலில் உங்கள் அனுமதிக்கப்பட்ட பயிற்சிக் கேள்வியைப் பதியுங்கள். கேள்வி உருவாக்கப் பயன்படுத்திய ஆவணத்துடன் பதிலை ஒப்பிட்ட பிறகு /bye கட்டளையை உள்ளிட்டு வெளியேறுங்கள். உங்கள் சோதனைக்காகக் கேள்வியையும் உண்மையான பதிலையும் வைத்திருங்கள்; இந்தக் கட்டுரை மாதிரி முடிவை வழங்கவில்லை.

தனியான ஒருமுறை இயக்கத்திற்கு அதே கேள்வியைப் பயன்படுத்துங்கள். Windowsஇல் PowerShell:

$practicePrompt = Read-Host 'Paste your approved practice question'
ollama run gemma4:e2b $practicePrompt

macOS அல்லது Linuxஇல் Bash முனையம்:

read -r -p 'Paste your approved practice question: ' practice_prompt
ollama run gemma4:e2b "$practice_prompt"

ஒருமுறை இயக்கத்தில் கிடைத்த உண்மையான பதிலையும் அதே மூலத்துடன் சரிபாருங்கள். இரு பதில்களும் ஒரே சொற்களைப் பயன்படுத்த வேண்டியதில்லை. இரு கட்டளைகளும் நோக்கமிட்ட குறிச்சொல்லை இயக்கினவா, உண்மை சார்ந்த கூற்றுகள் மூலத்துடன் பொருந்துகின்றனவா என்பதே பயனுள்ள சோதனை.

4. localhost வழியாக அதே மாடலிடம் கேளுங்கள்

இந்த chat API மாடல் பெயரையும் செய்திகளையும் POST /api/chat முகவரியில் பெறுகிறது. இயல்பாகப் பதிலைப் பகுதிகளாக அனுப்பும்; stream: false அமைப்பு ஒரே முழுமையான JSON பதிலைக் கோருகிறது. API அறிமுக ஆவணம் உள்ளூர் அடிப்படை URL ஆன http://localhost:11434/api முகவரியையும் நேரடி cloud URL ஆன https://ollama.com/api முகவரியையும் வேறுபடுத்துகிறது. உள்ளூர் கோரிக்கைக்கு API key தேவையில்லை.

Windowsஇல் நீங்கள் பதியும் கேள்வியிலிருந்து PowerShell பாதுகாப்பாக JSON உருவாக்க முடியும்:

$practicePrompt = Read-Host 'Paste the same approved practice question'
$body = @{ model = 'gemma4:e2b'; messages = @(@{ role = 'user'; content = $practicePrompt }); stream = $false } | ConvertTo-Json -Depth 5
$response = Invoke-RestMethod -Uri 'http://localhost:11434/api/chat' -Method Post -ContentType 'application/json; charset=utf-8' -Body $body
$response | Select-Object model, done
$response.message.content

macOS அல்லது Linuxஇல் கீழுள்ள Bash எடுத்துக்காட்டு, உங்கள் கேள்வியை JSONஇல் பாதுகாப்பாக இடுவதற்கு மட்டும் Python 3ஐப் பயன்படுத்துகிறது. பயன்படுத்தும்முன் python3 மற்றும் curl நிறுவப்பட்டுள்ளனவா எனச் சரிபாருங்கள்:

read -r -p 'Paste the same approved practice question: ' practice_prompt
export practice_prompt
python3 -c 'import json,os; print(json.dumps({"model":"gemma4:e2b","messages":[{"role":"user","content":os.environ["practice_prompt"]}],"stream":False}))' | curl -fsS 'http://localhost:11434/api/chat' -H 'Content-Type: application/json' --data-binary @-

கோரிக்கை HTTP வெற்றியையும் ஒரே JSON பொருளையும் வழங்க வேண்டும். அதன் model மதிப்பு பதிவிறக்கிய குறிச்சொல்லுடன் பொருந்த வேண்டும்; done மதிப்பு true ஆகவும், message.content காலியாக இல்லாமலும் இருக்க வேண்டும். உண்மையான பதிலைப் படித்து உங்கள் மூலத்துடன் சரிபாருங்கள். வெற்றிகரமான பதில் இந்தக் கோரிக்கையின் உள்ளூர் இலக்கையும் தேர்ந்தெடுத்த மாடலையும் உறுதிப்படுத்துகிறது. மாதிரி உரையாடலை நம்பாமல் உங்கள் சொந்த வெளியீட்டை வைத்திருங்கள்.

5. மாடல் ஏற்றப்பட்ட இடத்தையும் உள்ளூர் செயல்பாட்டின் எல்லையையும் சரிபாருங்கள்

மாடல் நினைவகத்தில் இருக்கும்போது இயக்குங்கள்:

ollama ps

இந்த PROCESSOR நெடுவரிசை மாடல் CPU, GPU அல்லது இரண்டிலும் ஏற்றப்பட்டுள்ளதா என்பதைக் காட்டுகிறது என Ollamaவின் அடிக்கடி கேட்கப்படும் கேள்விகள் ஆவணம் கூறுகிறது. உங்கள் கணினி உண்மையில் காட்டுவதைப் பதிவு செய்யுங்கள். மாடல் ஏற்கெனவே நினைவகத்திலிருந்து நீங்கியிருந்தால் மீண்டும் கேள்வி அனுப்பிச் சரிபாருங்கள். முடித்த பிறகு நினைவகத்திலிருந்து நீக்க ollama stop gemma4:e2b பயன்படுத்தலாம். ollama rm gemma4:e2b கட்டளை மூலம் மாடலை நீக்குவது, உங்கள் பதிவுகளைச் சேமித்த பிறகு செய்யக்கூடிய விருப்பமான வட்டிடச் சுத்தப்படுத்தல்.

Ollama கண்டிப்பாக உள்ளூரில் மட்டுமே இயங்க வேண்டுமெனில் cloud முடக்குவதற்கான அதிகாரப்பூர்வ வழிமுறைகள் படி disable_ollama_cloud அமைப்பை ~/.ollama/server.json கோப்பில் வைக்கவும். இது Ollama சேவையகத்தை இயக்கும் கணக்கிற்கானதாக இருக்க வேண்டும் (Windowsஇல் அந்தக் கணக்கின் பயனர் சுயவிவரத்தில் உள்ள .ollama கோப்புறை). ஏற்கெனவே உள்ள பிற JSON அமைப்புகளைப் பாதுகாக்கவும்:

{
  "disable_ollama_cloud": true
}

Linuxஇல் ஆவணத்தில் குறிப்பிடப்பட்ட systemd சேவை இயங்கும் பயனர் User=ollama; அதன் முகப்புக் கோப்புறை /usr/share/ollama. உங்கள் சொந்த முகப்புக் கோப்பைத் திருத்துவது அந்தச் சேவையை அமைக்காது. systemd நிறுவலில் Ollama ஆவணப்படுத்திய OLLAMA_NO_CLOUD=1 மாற்று அமைப்பைச் சேவை overrideஇல் பயன்படுத்தலாம். முதலில் தற்போதைய சேவையை systemctl cat ollama.service கட்டளையால் பாருங்கள். பிறகு sudo systemctl edit ollama.service கட்டளையால் overrideஐத் திறந்து, கீழுள்ள பகுதியை [Service] பிரிவின் கீழ் சேர்க்கவும். பிற override அமைப்புகளைப் பாதுகாக்கவும்:

[Service]
Environment="OLLAMA_NO_CLOUD=1"

கோப்பைச் சேமித்து, systemd அமைப்பைப் புதுப்பித்து, சேவையை மறுதொடங்குங்கள்:

sudo systemctl daemon-reload
sudo systemctl restart ollama.service

Windows மற்றும் macOSஇல் கோப்பை மாற்றிய பிறகு செயலியை முழுவதும் மறுதொடங்கி, பதிவில் இந்தத் துல்லியமான வரியைத் தேடுங்கள்: Ollama cloud disabled: true. Windows ஆவணத்தில் குறிப்பிடப்பட்ட பதிவு %LOCALAPPDATA%\Ollama\server.log; macOS பதிவு ~/.ollama/logs/server.log; Linux systemd நிறுவலில் journalctl -e -u ollama கட்டளையைப் பயன்படுத்துங்கள். தொடர்பில்லாத முனையத்தில் சூழல் மாறியை அமைப்பதால் இயங்கும் செயலி அல்லது சேவை மாறிவிடாது. cloudஐ முடக்குவது cloud மாடல்களையும் இணையத் தேடலையும் நீக்குகிறது. பதிவு உறுதிப்படுத்தவில்லை என்றால், உள்ளூரில் மட்டுமே இயங்குகிறது என்று கூறும்முன் மறுதொடக்கத்தைச் சரிசெய்யுங்கள்.

சேவையகம் இன்னும் 127.0.0.1:11434 முகவரியில்தான் கேட்கிறதா என்பதைப் பதிவு அல்லது இயங்குதளக் கருவி மூலம் உறுதிப்படுத்தி, பதிவிறக்கிய குறிச்சொல்லுடன் localhost கோரிக்கையை மீண்டும் செய்யுங்கள். OLLAMA_HOST கேட்கும் முகவரியை மாற்றக்கூடும்; இயல்புநிலையை ஊகிக்காமல் இயங்கும் சேவையகத்தைப் பாருங்கள். தனி Python நூலகம், உலாவி, நிரலாக்க முகவர் அல்லது இணைக்கப்பட்ட செயலியின் இலக்கு மற்றும் தரவுப் பாதையைத் தனியாகச் சரிபார்க்க வேண்டும். உள்ளூர் Ollama இருப்பதால் அவற்றின் தனியுரிமை உறுதியாகாது.

Windowsஇல் PowerShell மூலம் கேட்கும் முகவரியைப் பாருங்கள்:

Get-NetTCPConnection -LocalPort 11434 -State Listen | Select-Object LocalAddress, LocalPort

macOSஇல் lsof -nP -iTCP:11434 -sTCP:LISTEN கட்டளையையும் Linuxஇல் ss -ltn '( sport = :11434 )' கட்டளையையும் பயன்படுத்துங்கள். கருவி இல்லாவிட்டால் சேவையகப் பதிவைப் பாருங்கள். எல்லா முகவரிகளையும் கேட்கும் அல்லது loopback அல்லாத முகவரி தெரிந்தால், API உங்கள் கணினிக்கு மட்டுமே கிடைக்கிறது என்று கூறும்முன் விசாரியுங்கள்.

சிக்கல்கள், செலவுகள் மற்றும் வரம்புகள்

இந்த ollama -v அல்லது ollama ls கட்டளை தோல்வியடைந்தால் இயங்குதள நிறுவல் மற்றும் தொடக்க வழிமுறைகளுக்குத் திரும்புங்கள். localhost இணைப்பு மறுக்கப்படுவது பெரும்பாலும் சேவையகம் நிறுத்தப்பட்டிருப்பதையோ வேறொரு முகவரியில் கேட்பதையோ குறிக்கும். பதிவையும் முகவரியையும் பாருங்கள்; இதைச் சரிசெய்ய APIயைப் பிணையத்திற்கு வெளிப்படுத்த வேண்டாம். பல JSON வரிகள் வந்தால் "stream": false அமைப்பு கோரிக்கையில் உள்ளதா எனப் பாருங்கள். நினைவகப் பற்றாக்குறை அல்லது மெதுவான பதில் ஏற்பட்டால் ollama ps முடிவைப் பார்த்து, உண்மையில் சிறிய மாடல் குறிச்சொல்லைத் தேர்ந்தெடுத்து, பதிவிறக்கம், முனையம், API சோதனைகள் அனைத்திலும் அதே குறிச்சொல்லைப் பயன்படுத்துங்கள். முடிக்காத கட்டத்தை உறுதிப்படுத்தப்படாததாகக் கருதுங்கள்.

உள்ளூர் மாடலுக்கும் வன்பொருள், மின்சாரம், சேமிப்பிடம் தேவை. இந்தப் பயிற்சிக்கு Ollama API key அல்லது கட்டண API தேவையில்லை; மாடல் உரிமம் பயன்பாட்டைக் கட்டுப்படுத்தலாம். cloud மற்றும் விருப்ப மூன்றாம் தரப்பு சேவைகளுக்குத் தனி விதிகளும் தரவுப் பாதைகளும் உள்ளன. வாங்கும்முன் வன்பொருள் ஒப்பீட்டிற்கு 128 GB உள்ளூர் AI கணினி வழிகாட்டி படியுங்கள். தனியான Ollama மற்றும் Claude Code பணிக்கு சரிபார்த்த மாற்றத்தை உருவாக்கும் வழிகாட்டி படியுங்கள்.

ஆதாரங்களும் கூடுதல் வாசிப்பும்

• Ollama தொடக்க வழிகாட்டி — நிறுவல் மற்றும் உள்ளூர் gemma4:e2b எடுத்துக்காட்டு, நினைவகப் பரிந்துரை உட்பட. இது ஆவணம்; உங்கள் கணினியில் செய்யப்பட்ட சோதனையல்ல.
• கட்டளை வரி குறிப்பு — இங்கு பயன்படுத்திய தற்போதைய pull, run, ls, ps, stop, rm மற்றும் serve கட்டளைகள்.
• API அறிமுகம் மற்றும் chat endpoint ஆவணம் — உள்ளூர் மற்றும் cloud அடிப்படை முகவரிகள், பகுதிகளாக அனுப்பாத கோரிக்கை, பதில் புலங்கள்.
• அடிக்கடி கேட்கப்படும் கேள்விகள் — இயல்புநிலை loopback முகவரி, மாடல் ஏற்றப்பட்ட இடம், cloud அமைப்பு, பதிவுச் சரிபார்ப்பு.
• Gemma 4 E2B மாடல் பட்டியல் — பதிவிறக்கும்முன் சரியான குறிச்சொல், அளவு, உரிமம் ஆகியவற்றைப் பார்க்கவும்.