Ejecuta un modelo local de Ollama y comprueba su API de chat

Ollama puede ejecutar un modelo descargado en tu ordenador y servirlo en una dirección HTTP local. Esta guía sigue un modelo desde la instalación hasta el chat en el terminal y una respuesta API completa, usando el mismo nombre en cada paso. Es un procedimiento basado en documentación: BIG CHANGE no ha instalado el software ni observado los resultados en tu equipo.

El gran cambio

• Qué ha cambiado: Ollama ofrece una ruta directa de un modelo descargado al chat en el terminal y una API local. Una persona principiante puede comprobar nombre y respuesta en cada interfaz, en vez de suponer que una ventana de chat demuestra dónde se ejecutó la inferencia.
• Por qué importa: El servidor local y la API de nube de Ollama son destinos distintos. Para una tarea laboral o personal autorizada, puedes mantener este ejercicio en tu ordenador eligiendo un modelo descargado y accediendo a localhost, mientras compruebas por separado la configuración del servidor.
• En qué fijarse: Una URL local por sí sola no demuestra que todas las funciones o aplicaciones conectadas permanezcan locales. Ollama también usa modelos de nube mediante su servidor local. Las comprobaciones decisivas son la etiqueta instalada, el destino de la solicitud, la dirección de escucha del servidor y, si se requiere funcionamiento estrictamente local, el registro de desactivación de nube tras reiniciar.

Antes de empezar

Usa un ordenador donde tengas permiso para instalar software. Elige una pregunta factual inocua cuya respuesta puedas comprobar en un documento original abierto. Pégala cuando los comandos pidan una pregunta de práctica; no introduzcas material privado o regulado solo para probar. Conserva el documento para revisar la respuesta: una contestación fluida no demuestra exactitud.

Necesitas almacenamiento para Ollama y el modelo, memoria suficiente para cargarlo e internet para instalar y descargar. El inicio rápido de Ollama utiliza gemma4:e2b como ejemplo local y recomienda 8 GB de VRAM disponible, o memoria unificada en un Mac. Ollama indica que puede recurrir a RAM del sistema con respuestas más lentas. Consulta la ficha actual del modelo para conocer etiqueta exacta, tamaño de descarga y licencia antes de continuar. El tamaño de descarga no demuestra que tu equipo pueda ejecutarlo. Si no encaja en tu máquina o uso autorizado, elige un modelo local descargable más pequeño en la biblioteca y sustituye gemma4:e2b en todos los comandos siguientes por su etiqueta exacta. No elijas una etiqueta :cloud para este ejercicio.

1. Instala Ollama y comprueba el servidor local

Obtén Ollama de su página oficial de descarga y sigue las instrucciones de tu sistema operativo: Windows, macOS o Linux. En Windows y macOS, abre la aplicación instalada. En Linux, sigue el método elegido y arranca su servicio; si no hay ninguno ejecutándose, el inicio rápido indica ejecutar ollama serve en otro terminal. No inicies un segundo servidor si una aplicación o servicio ya está escuchando.

En un terminal nuevo, comprueba la versión instalada y que responde el servidor local:

ollama -v
ollama ls

Registra la versión real y el sistema operativo. La lista de modelos puede estar vacía antes de la primera descarga; un error de comando o conexión exige resolver instalación o arranque antes de seguir. La FAQ de Ollama indica que la escucha predeterminada es 127.0.0.1:11434. Mantenla en la interfaz de bucle local para este ejercicio; no configures escucha de red, proxy ni túnel.

2. Descarga un modelo local exacto

Tras consultar la ficha del modelo, ejecuta:

ollama pull gemma4:e2b
ollama ls

La etiqueta exacta debe aparecer en ollama ls después de descargar. Registra etiqueta, tamaño mostrado y licencia de la página. Si falla la descarga o falta la etiqueta, revisa la escritura en la biblioteca actual, espacio libre, acceso de red y errores de proxy o permisos antes de reintentar. Una descarga parcial no es una configuración exitosa.

3. Comprueba el chat interactivo y puntual del terminal

Inicia un chat interactivo:

ollama run gemma4:e2b

Pega la pregunta de práctica aprobada en el chat. Contrasta la respuesta con el documento usado para formularla y escribe /bye para salir. Conserva pregunta y respuesta reales para tu comprobación; este artículo no ofrece un resultado de ejemplo.

Para una ejecución puntual distinta, usa la misma pregunta. En PowerShell de Windows:

$practicePrompt = Read-Host 'Paste your approved practice question'
ollama run gemma4:e2b $practicePrompt

En un terminal Bash de macOS o Linux:

read -r -p 'Paste your approved practice question: ' practice_prompt
ollama run gemma4:e2b "$practice_prompt"

Comprueba la respuesta puntual real con la misma fuente. No es necesario que ambas respuestas usen idénticas palabras; lo útil es verificar que los comandos ejecutaron la etiqueta prevista y que cada afirmación factual resiste la comparación con la fuente.

4. Pregunta al mismo modelo mediante localhost

La API de chat recibe nombre de modelo y mensajes en POST /api/chat. Usa transmisión progresiva por defecto; stream: false solicita una única respuesta JSON completa. La introducción a la API diferencia la URL base local, http://localhost:11434/api, de la URL directa de nube, https://ollama.com/api. La solicitud local no necesita clave API.

En Windows, PowerShell puede construir el JSON de forma segura a partir de la pregunta pegada:

$practicePrompt = Read-Host 'Paste the same approved practice question'
$body = @{ model = 'gemma4:e2b'; messages = @(@{ role = 'user'; content = $practicePrompt }); stream = $false } | ConvertTo-Json -Depth 5
$response = Invoke-RestMethod -Uri 'http://localhost:11434/api/chat' -Method Post -ContentType 'application/json; charset=utf-8' -Body $body
$response | Select-Object model, done
$response.message.content

En macOS o Linux, este ejemplo Bash usa Python 3 solo para escapar correctamente la pregunta en JSON. Comprueba que python3 y curl estén instalados antes:

read -r -p 'Paste the same approved practice question: ' practice_prompt
export practice_prompt
python3 -c 'import json,os; print(json.dumps({"model":"gemma4:e2b","messages":[{"role":"user","content":os.environ["practice_prompt"]}],"stream":False}))' | curl -fsS 'http://localhost:11434/api/chat' -H 'Content-Type: application/json' --data-binary @-

La solicitud debe devolver éxito HTTP y un objeto JSON cuyo model coincida con la etiqueta descargada, done sea true, y message.content no esté vacío. Lee y contrasta la respuesta real con tu fuente. Una respuesta exitosa establece el destino local y modelo seleccionado de esta solicitud; conserva tu salida en vez de confiar en una transcripción de ejemplo.

5. Comprueba la ubicación y el límite de funcionamiento local

Mientras el modelo esté cargado, ejecuta:

ollama ps

La columna PROCESSOR informa de si el modelo está cargado en CPU, GPU o ambas, según la FAQ de Ollama. Registra lo que muestra tu equipo. Si ya se descargó de memoria, envía otra pregunta y vuelve a comprobar. Puedes liberarlo al terminar con ollama stop gemma4:e2b; eliminarlo mediante ollama rm gemma4:e2b es una limpieza opcional del disco tras guardar tus observaciones.

Para un entorno de Ollama estrictamente local, sigue las instrucciones oficiales para desactivar la nube: coloca disable_ollama_cloud en ~/.ollama/server.json para la cuenta que ejecuta el servidor de Ollama (la carpeta .ollama del perfil de usuario de esa cuenta en Windows), conservando los demás ajustes JSON existentes:

{
  "disable_ollama_cloud": true
}

En Linux, el servicio systemd documentado se ejecuta como User=ollama, cuyo directorio personal es /usr/share/ollama; editar tu propio archivo personal no configuraría ese servicio. Con una instalación systemd también puedes usar la alternativa documentada por Ollama OLLAMA_NO_CLOUD=1 en una configuración de sustitución del servicio. Examina primero el servicio existente con systemctl cat ollama.service, abre la sustitución con sudo systemctl edit ollama.service y añade lo siguiente bajo [Service], conservando cualquier otro ajuste existente:

[Service]
Environment="OLLAMA_NO_CLOUD=1"

Guarda la configuración de sustitución, recarga y reinicia el servicio:

sudo systemctl daemon-reload
sudo systemctl restart ollama.service

Reinicia la aplicación Ollama en Windows o macOS tras cambiar la configuración. Busca en el registro del servidor la línea exacta Ollama cloud disabled: true. En Windows, el registro documentado es %LOCALAPPDATA%\Ollama\server.log; en macOS es ~/.ollama/logs/server.log; en una instalación systemd de Linux utiliza journalctl -e -u ollama. Una variable de entorno definida en un terminal ajeno no llega necesariamente a una aplicación o servicio ya iniciado. Desactivar las funciones de nube elimina los modelos de nube y la búsqueda web de Ollama. Si el registro no confirma el ajuste, corrige la configuración y reinicia antes de describirlo como exclusivamente local.

Confirma que la escucha sigue en 127.0.0.1:11434 en el registro del servidor o con la inspección de puertos de tu sistema, y repite la solicitud a localhost con la etiqueta descargada. OLLAMA_HOST puede cambiar la dirección de escucha, así que examina el servidor activo en lugar de suponer el valor predeterminado. Una biblioteca Python, interfaz de navegador, agente de programación u otra aplicación conectada necesita su propia comprobación de destino y recorrido de datos; una respuesta local de Ollama no establece la privacidad de esa aplicación.

En Windows, inspecciona la dirección de escucha en PowerShell:

Get-NetTCPConnection -LocalPort 11434 -State Listen | Select-Object LocalAddress, LocalPort

En macOS usa lsof -nP -iTCP:11434 -sTCP:LISTEN; en Linux usa ss -ltn '( sport = :11434 )'. Si no está disponible la herramienta de plataforma, consulta el registro del servidor. Una escucha comodín o fuera del bucle local exige investigación antes de considerar que la API está limitada a este equipo.

Si falla una comprobación

Si falla ollama -v o ollama ls, vuelve a la página de instalación y arranque del sistema correspondiente. Una conexión localhost rechazada suele significar que la aplicación o servicio está detenido o escucha en otra dirección; revisa registros y dirección en vez de exponer la API en la red. Si llegan varias líneas JSON, asegúrate de incluir "stream": false en la solicitud. Si falta memoria o el modelo es demasiado lento, comprueba ollama ps y elige una etiqueta local realmente más pequeña en la biblioteca; repite descarga, terminal y API con esa única etiqueta. Toda etapa sin completar sigue sin verificar.

Este ejercicio local necesita hardware, electricidad y almacenamiento de descarga, pero ninguna clave API de Ollama ni cuenta API de pago. La licencia puede limitar tu uso previsto. Los modelos de nube y clientes opcionales de terceros tienen sus propios términos y recorridos de datos. Para comparar con más detalle la compra de hardware, consulta nuestra guía de modelos locales con 128 GB; para una tarea distinta de programación con Ollama y Claude Code, nuestra guía de un cambio verificado.

Fuentes y lecturas adicionales

• Inicio rápido de Ollama explica la instalación, el ejemplo local gemma4:e2b y la memoria recomendada. Su ejemplo es documentación, no una prueba de tu ordenador.
• Referencia de la línea de comandos enumera los comandos actuales pull, run, ls, ps, stop, rm y serve utilizados aquí.
• Introducción a la API y endpoint de chat separan las direcciones local y de nube y definen la solicitud sin transmisión progresiva y los campos de respuesta.
• FAQ documenta la escucha en bucle local, ubicación del procesador, desactivación de nube y comprobación del registro.
• Ficha de Gemma 4 E2B ofrece etiqueta exacta actual, tamaño y documentación de licencia para consultar antes de descargar.