Diese Anleitung richtet sich an Mac-Besitzer, die Anwendungen installieren dürfen und eine eigene, nicht vertrauliche Testdatei verwenden können. Du lädst ein Modell in Ollama, verbindest einen dauerhaft gespeicherten Open WebUI-Browserchat und die Continue-Erweiterung in VS Code mit demselben Laufzeitdienst und prüfst einen tatsächlichen Änderungsvorschlag, bevor du ihn übernimmst. Die Befehle und Prüfungen folgen der aktuellen Herstellerdokumentation. BIG CHANGE hat diesen Aufbau nicht ausgeführt und weder Geschwindigkeit noch Kosten oder Netzwerkverkehr gemessen.

Die große Veränderung

  • Was sich ändert: Ein heruntergeladenes Ollama-Modell kann über seine lokale API sowohl einen Browserchat als auch einen VS Code-Editorassistenten bedienen. Für jeden Client ist eine eigene Verbindungsprüfung nötig.
  • Warum das wichtig ist: Eine Modellinstallation kann ein Gespräch und eine geprüfte Codeänderung auf demselben Mac unterstützen. Die letzte Entscheidung über Änderungen bleibt beim Dateieigentümer.
  • Worauf zu achten ist: Ein Modellname im Menü beweist nicht, welcher Server geantwortet hat. Prüfe die Anbieteranbindung und tatsächlichen Antworten, besonders wenn weitere Anbieter oder Cloudfunktionen eingerichtet sind.

1. Den Mac prüfen und ein Modell auswählen

Du benötigst macOS 14 oder neuer für Ollama, Docker Desktop für Mac, VS Code mit der Continue-Erweiterungund Python 3 für die kleinen JSON- und Dateiprüfungen unten. Ollama unterstützt CPU- und GPU-Ausführung auf Apple-M-Chips; für Intel-Macs nennt die Dokumentation nur die CPU. Installiere Ollama über den Mac-Download, verschiebe die App nach Applications, starte sie und erlaube auf Nachfrage die Befehlszeilenverknüpfung. Installiere und starte Docker Desktop und anschließend Continue über die Extensions-Ansicht von VS Code. Installiere Python 3 von Python.org , falls python3 nicht verfügbar ist. Auf dem Mac fügt VS Code code nicht automatisch zum Suchpfad der Shell hinzu. Folge der Mac-Einrichtungsanleitung: Öffne Command Palette mit Cmd+Shift+P, führe Shell Command: Install 'code' command in PATHaus und starte Terminal neu. Prüfe, ob die benötigten Werkzeuge verfügbar sind:

Terminal
sw_vers -productVersion
ollama --version
docker version
code --version
python3 --version

Notiere die installierten Versionen. Halte an, wenn eine der Anwendungen nicht läuft oder der Mac keinen Platz für Modell und Docker-Daten hat. Der Modelleintrag qwen2.5-coder:7b nennt derzeit 4,7 GB Downloadgröße und die Lizenz Apache 2.0. Die Downloadgröße entspricht nicht dem gesamten Arbeitsspeicherbedarf. Dieses konkrete Beispiel ist keine Empfehlung für jeden Mac. Wähle bei Bedarf einen dokumentierten kleineren lokalen Modelltag und ersetze qwen2.5-coder:7b in jedem folgenden Befehl, Browserauswahlfeld und YAML-Feld durch genau diesen Tag. Prüfe auch die Lizenz des Ersatzmodells.

Lade das Modell herunter und prüfe, ob Ollama den genauen Tag auflistet:

Terminal
ollama pull qwen2.5-coder:7b
ollama list
curl --fail-with-body --silent --show-error http://127.0.0.1:11434/api/tags | python3 -c 'import json,sys; d=json.load(sys.stdin); print([m["name"] for m in d["models"]])'

Die Liste sollte qwen2.5-coder:7benthalten. Bitte danach die lokale Chat-API um eine kurze Antwort. Der Befehl schlägt bei einem HTTP-Fehler fehl und prüft das zurückgegebene Modell sowie einen nicht leeren Assistententext; der genaue Wortlaut ist unwichtig. Die Ollama-Laufzeitoption num_predict begrenzt diese Prüfung auf 64 erzeugte Tokens. Auch ein abgeschnittener Satz kann belegen, dass Inhalt zurückkam. Eine leere Antwort bedeutet eine fehlgeschlagene Prüfung und muss untersucht werden.

Terminal
set -o pipefail
curl --fail-with-body --silent --show-error http://127.0.0.1:11434/api/chat \
  -H 'Content-Type: application/json' \
  -d '{"model":"qwen2.5-coder:7b","messages":[{"role":"user","content":"Reply with one short sentence about checking a local connection."}],"stream":false,"options":{"num_predict":64}}' \
  | python3 -c 'import json,sys; d=json.load(sys.stdin); assert d.get("model")=="qwen2.5-coder:7b",d.get("model"); assert d.get("message",{}).get("content","").strip(); print("Model:",d["model"],"Reply:",d["message"]["content"])'

Fehlt der Tag, schließe den Download ab und prüfe die Liste erneut. Ist die API nicht erreichbar, starte Ollama und prüfe sein Serverprotokoll auf dem Mac unter ~/.ollama/logs/server.log. Ein heruntergeladener Tag und eine erfolgreiche lokale Antwort bilden die erste von drei Prüfungen.

2. Open WebUI mit dauerhaften lokalen Daten starten

Die Open WebUI-Schnellstartanleitung speichert Konten, Einstellungen und Chats unter /app/backend/data und verlangt einen festen WEBUI_SECRET_KEY. Wir verwenden die stabile Version v0.12.3 anstelle des fortlaufend aktualisierten Tags main . Docker wählt das Image für die Mac-Architektur aus. Notiere dessen Identität nach dem Herunterladen.

Prüfe zuerst die hier verwendeten Namen. Falls einer bereits existiert, untersuche den Container oder das Volume und kläre, ob er zu einem früheren Aufbau gehört. Ersetze keinen vorhandenen Container und lösche sein Volume nicht nur, damit dieser Befehl funktioniert.

Terminal
docker ps -a --filter name=^/bc-open-webui$ 
docker volume inspect bc-open-webui-data

Bei der ersten Einrichtung ist es normal, wenn der zweite Befehl meldet, dass das Volume nicht existiert. Die folgenden Schritte speichern einen erzeugten Schlüssel in einer privaten Datei deines Mac-Kontos. Bewahre sie für eine spätere Neuerstellung des Containers sicher auf. Committe, kopiere oder teile ihren Inhalt nicht. Hast du für diese Instanz bereits einen Schlüssel, verwende ihn weiter.

Terminal
mkdir -p "$HOME/.config/bc-open-webui"
chmod 700 "$HOME/.config/bc-open-webui"
umask 077
if [ ! -s "$HOME/.config/bc-open-webui/webui-secret" ]; then
  openssl rand -hex 32 > "$HOME/.config/bc-open-webui/webui-secret"
fi
chmod 600 "$HOME/.config/bc-open-webui/webui-secret"
export WEBUI_SECRET_KEY="$(cat "$HOME/.config/bc-open-webui/webui-secret")"
docker pull ghcr.io/open-webui/open-webui:v0.12.3
docker image inspect ghcr.io/open-webui/open-webui:v0.12.3 --format '{{json .RepoDigests}}'
docker volume create bc-open-webui-data
docker run -d --name bc-open-webui --restart unless-stopped \
  -p 127.0.0.1:3000:8080 \
  --add-host=host.docker.internal:host-gateway \
  -v bc-open-webui-data:/app/backend/data \
  -e WEBUI_SECRET_KEY \
  -e OLLAMA_BASE_URL=http://host.docker.internal:11434 \
  ghcr.io/open-webui/open-webui:v0.12.3
unset WEBUI_SECRET_KEY
docker ps --filter name=^/bc-open-webui$ --format 'table {{.Names}}\t{{.Image}}\t{{.Ports}}'

Die Portausgabe sollte 127.0.0.1:3000->8080/tcpanzeigen. Das benannte Volume behält Chats und Einstellungen beim Neuerstellen des Containers. Der Schlüssel schützt die Sitzungskontinuität und verschlüsselte Anwendungswerte; bewahre daher seine private Kopie auf. Personen mit Docker-Zugriff können Umgebungswerte in der Containerkonfiguration sehen. Dies ist eine lokale Einzelbenutzereinrichtung, kein Geheimnisspeicher für einen gemeinsam genutzten Host.

Öffne http://127.0.0.1:3000 im Browser. Erstelle beim ersten Start das Administratorkonto. Öffne im Avatarmenü Settings → Admin → Connections. Prüfe Manage Ollama API Connections und lasse genau eine Verbindung zu http://host.docker.internal:11434aktiviert. Entferne oder deaktiviere für diese Prüfung unbeabsichtigte Anbieterverbindungen. Open WebUI kann Anfragen auf mehrere Ollama-Verbindungen verteilen. Ein passender Name im Auswahlmenü reicht deshalb nicht. Wähle qwen2.5-coder:7b in einem neuen Chat und frage: „Wie kann ich überprüfen, dass ein lokales Modell geantwortet hat?“ Prüfe, ob eine nicht leere Antwort erscheint, und öffne den gespeicherten Chat erneut. Notiere das ausgewählte Modell und die Verbindungs-URL. Dies ist die Browserprüfung; eine bestimmte Antwort wird nicht vorgegeben.

Lädt die Seite nicht, prüfe docker logs bc-open-webui und die Portbindung. Ist die Modellliste leer, kontrolliere, ob Ollama weiterhin auf /api/tagsantwortet, prüfe die gespeicherte Open WebUI-Verbindung und teste, ob diese Docker Desktop-Version den Dienst auf dem Mac-Host erreicht. host.docker.internal ist die Hostadresse von Docker Desktop, während localhost innerhalb des Containers den Container selbst bezeichnet. Ollama bindet standardmäßig an 127.0.0.1; die Weiterleitung zwischen Host und Container kann je nach Konfiguration variieren. Behandle eine fehlgeschlagene Verbindung nicht als Erfolg und mache Ollama nicht als Standardreparatur über 0.0.0.0 zugänglich. Kläre den lokalen Netzwerkpfad vor dem Fortfahren gemäß deiner Sicherheitsrichtlinie. Behalte Volume und vorhandene Chats während der Fehlersuche.

3. Continue mit demselben Ollama-Tag verbinden

Continue läuft in VS Code auf dem Mac. Seine Ollama-API-Adresse lautet daher http://localhost:11434. Öffne Continue, verwende das Konfigurationsmenü oben rechts am Chateingabefeld und klicke auf das Zahnrad neben Local Config. Dadurch öffnet sich ~/.continue/config.yaml; die aktuelle Continue-Referenz verwendet YAML. Sichere vorhandene Konfigurationen und behalte weiterhin benötigte Modelle oder Regeln. Eine neue lokale Konfiguration hat folgenden vollständigen Mindestinhalt:

YAML
name: Local Ollama check
version: 1.0.0
schema: v1
models:
  - name: Qwen2.5 Coder 7B local
    provider: ollama
    model: qwen2.5-coder:7b
    apiBase: http://localhost:11434
    roles:
      - chat
      - edit

Füge bei einer vorhandenen Datei diesen Modelleintrag unter ihrer Liste models: hinzu und behalte die bisherige oberste Konfigurationsebene. Speichere, wähle Local Config und das benannte lokale Modell und stelle in Continue Chat eine kurze Frage. Prüfe, ob Inhalt zurückkommt. Das überprüft die Erweiterungsverbindung, aber eine Chatantwort ist keine Dateiänderung. Die Rollen chat und edit ermöglichen die beiden hier verwendeten Aktionen. Diese Anleitung verspricht weder Agent-Funktionen noch Autovervollständigung.

Erstelle ein eigenes Testverzeichnis und eine Datei mit einem einfachen Verhalten, das du unabhängig prüfen kannst. Der Befehl bewahrt eine vorhandene Datei oder Originalkopie. Prüfe sie oder wähle ein neues Testverzeichnis, wenn einer der Namen bereits verwendet wird:

Terminal
mkdir -p "$HOME/continue-local-check"
if [ -e "$HOME/continue-local-check/greeting.py" ] || [ -e "$HOME/continue-local-check/greeting.original.py" ]; then
  printf '%s\n' 'Scratch file already exists; inspect it or choose a new directory.'
else
  cat > "$HOME/continue-local-check/greeting.py" <<'PY'
def greeting(name):
    return "Hello, " + name

if __name__ == "__main__":
    assert greeting("Ada") == "Hello, Ada"
    print(greeting("Ada"))
PY
  if python3 "$HOME/continue-local-check/greeting.py"; then
    cp "$HOME/continue-local-check/greeting.py" "$HOME/continue-local-check/greeting.original.py"
  else
    printf '%s\n' 'Original check failed; inspect the file before requesting an edit.'
  fi
fi

Die ursprüngliche Prüfung sollte nach bestandener Assertion Hello, Ada ausgeben. Öffne greeting.py in VS Code, markiere nur die Funktion und drücke Cmd+I für Continue Edit. Bitte um einen kurzen Docstring, ohne den zurückgegebenen Text zu ändern. Vergleiche den schrittweise angezeigten Inline-Diff mit greeting.original.py. Edit für markierten Code kann die ganze Datei als Kontext einbeziehen. Verwende deshalb nur eine eigene, nicht vertrauliche Datei. Das Modell kann mehr ändern als angefordert. Prüfe jede geänderte Zeile und übernimm einen geeigneten Vorschlag mit Cmd+Opt+Yoder lehne ihn mit Cmd+Opt+Nab. Continue bietet auch Steuerelemente zum Übernehmen oder Ablehnen aller Änderungen. Ein kleiner Diff lässt sich jedoch leichter Änderung für Änderung prüfen.

Speichere die Datei nach dem Übernehmen und führe Folgendes aus:

Terminal
diff -u "$HOME/continue-local-check/greeting.original.py" "$HOME/continue-local-check/greeting.py" || true
python3 "$HOME/continue-local-check/greeting.py"

Prüfe, ob der Diff nur die beabsichtigte Änderung enthält und die ursprüngliche Assertion weiter besteht. Lehnst du den Vorschlag ab, kontrolliere die Übereinstimmung mit dem Original und notiere die Ablehnung. Melde keine abgeschlossene Bearbeitung. Datei, Diff und unabhängige Python-Prüfung belegen das Ergebnis verlässlicher als die Beschreibung des Modells.

4. Grenzen deutlich machen

Ollama, Open WebUI und Continue haben eigene Einstellungen. Um ausschließlich die Ollama-Cloud zu deaktivieren, ergänze das folgende Feld in der ~/.ollama/server.jsondes Kontos, das den Ollama-Server ausführt, und behalte vorhandene JSON-Felder. Für eine neue Datei ist dies der gesamte Inhalt:

JSON
{
  "disable_ollama_cloud": true
}

Starte die Ollama-App neu und prüfe danach ihr Serverprotokoll:

Terminal
grep 'Ollama cloud disabled: true' "$HOME/.ollama/logs/server.log"

Die Ollama-FAQ dokumentiert diese Protokollzeile. Fehlt sie, prüfe erneut das ausführende Mac-Konto, JSON und Neustart, bevor du von deaktivierten Cloudfunktionen sprichst. Diese Einstellung untersucht weder andere Open WebUI-Anbieter noch optionale Onlinefunktionen oder Continue-Verkehr. Die Offline-Anleitung von Continue empfiehlt, Allow Anonymous Telemetryauszuschalten, lokale Modelle zu verwenden und VS Code neu zu starten. Prüfe vor vertraulichen Eingaben die Verbindungen jeder Anwendung. Eine Loopback-URL allein ist kein Netzwerkaudit.

Prüfe die Docker Desktop-Lizenz für deine tatsächliche Nutzung. Kostenlos sind private, pädagogische und nichtkommerzielle Open-Source-Nutzung sowie kleine Unternehmen mit weniger als 250 Beschäftigten UND weniger als 10 Millionen Dollar Jahresumsatz. Professionelle Nutzung in größeren Organisationen und Behörden erfordert ein kostenpflichtiges Abonnement. Die Apache 2.0-Lizenz des Modells gilt separat. Speicherplatz, Arbeitsspeicher, Downloadbandbreite und Strom bleiben relevant. Für diese Anleitung wurden weder Kosten noch Leistung gemessen.

Eine engere Anleitung zu Ollama-Terminal und API findest du unter Ein lokales Ollama-Modell ausführen und seine Chat-API prüfen. Eine geprüfte Claude Code-Änderung mit einem lokalen Ollama-Modell durchführen behandelt einen anderen Coding-Client.

Quellen und weiterführende Hinweise