antirez ds4 und DeepSeek V4 lokal auf Mac 2026:
Die 96-GB-Schwelle und Bare-Metal-Mac-Miete

llama.cpp, Ollama und MLX decken viele Checkpoints ab. ds4 setzt auf ein Modell, durchgängig: Loader, Prompt-Rendering, Tool Calling, KV im RAM und auf Disk, HTTP-Server und Agent-Anbindung in einem nativen Stack.

Typische Reibung vor dem ersten produktiven Token:

• CapEx-Schock: 96-GB-Klasse MacBook Pro oder Studio liegt oft im fünf- bis sechsstelligen USD-Bereich — pro Sitzplatz multipliziert.
• Storage und Uplink: Gewichte plus Disk-KV füllen schnell Hunderte GB; der erste Download scheitert an Heimleitungen.
• Falsche Runtime-Erwartung: ds4 wie Ollama behandeln und wöchentlich Checkpoints tauschen kostet Engineering-Zeit.
• Sicherheitslücken: ungeschütztes ds4-server im öffentlichen Netz wird zur offenen Relais-Stelle.

• Autorenintention: antirez positioniert ds4 als Single-Model-Erlebnis, wenn offene Gewichte nah an Frontier liegen und asymmetrische Quants in 96–128-GB-Klasse passen.
• Kein Universal-Runner: das README schließt beliebige GGUF-Dateien aus; Produktion soll Metal unter macOS oder CUDA unter Linux nutzen.
• Agenten-Pfad: ds4-server spricht OpenAI- und Anthropic-kompatible HTTP-APIs — Ihre IDE sieht einen privaten Modellanbieter.

ds4 optimiert für ein starkes offenes Checkpoint plus eine glaubwürdige Engine — nicht für wöchentlich wechselnde 7B-Spielzeuge.

Prüfen Sie nach jedem Release Kommandos und Backend-Support im offiziellen Repository.

antirez/ds4 auf GitHub

A few words on DS4 (antirez.com)

Disk-KV ist für Agenten-Workflows zentral: lange Tool-Spuren ohne Persistenz erzwingen teures Re-Prefill. Flags wie --kv-disk-space-mb sind Kapazitätsplanung, kein unbegrenzter Speicher — Werte im README nach Release erneut prüfen.

Im Vergleich zu Ollama fehlt bewusst die Modell-Bibliothek: Sie gewinnen vorhersehbare Metal-Pfade und verlieren Plug-and-Play mit jedem neuen GGUF der Woche. Für Compliance-Teams ist das ein Feature — weniger unkontrollierte Gewichte auf Produktionshosts.

Im Vergleich zu reinen Cloud-APIs gewinnen Sie Datenresidenz auf dem gemieteten Host, solange Tunnel und Keys gehärtet sind. Sie verlieren elastische Skalierung pro Request: RAM ist der harte Engpass, nicht vCPU.

Das README warnt: CPU-Inferenz unter macOS ist kein Produktions-SLA — Metal oder CUDA ist der Pfad. CPU-Läufe auf aktuellen macOS-Versionen können zudem schwere VM-Probleme auslösen — Triage beginnt mit Backend-Bestätigung, nicht mit Swap-Tuning.

• Modellspeicher: Hunderte GB NVMe für Gewichte, Sidecars und KV-Verzeichnisse einplanen.
• Strom und Thermik: anhaltendes Prefill auf Max/Ultra ist Workstation-Last.
• Duplizierte Anschaffung: fünf Entwickler × 96-GB-Mac skaliert CapEx schneller als ein geteilter 128-GB-Host.

• UMA: CPU und GPU teilen einen großen Pool — entscheidend für große MoE-Checkpoints.
• Bandbreite: M-Serie Max/Ultra liefert sehr hohe Speicherbandbreite für Prefill und Expert-Routing.
• SSD plus Disk-KV: ds4 kann KV auf schnellem lokalen Storage persistieren; passt zu macOS-NVMe-Layouts.

CUDA auf Linux (DGX Spark und ähnlich) existiert, doch Teams mit macOS-Tooling mieten oft lieber einen High-Memory-Mac, statt einen zweiten Linux-Inferenz-Hop zu bauen. Der Metal-Graph ist im ds4-Design nicht austauschbarer Dekor — er ist der Pfad, auf dem Offizielle Quants und KV-Strategien getestet wurden.

Wenn Sie bereits CALMVPS für OpenClaw-Gateways oder iOS-Runner nutzen, fügt ds4 eine zweite Workload-Schicht hinzu: planen Sie Disk-IOPS und RAM so, dass Gateway-Traffic und Inferenz-Spitzen nicht dieselbe NVMe-Queue blockieren.

Wenn Prompts, Tool-Outputs oder Logs personenbezogene Daten enthalten und Sie statt lokaler Inferenz wieder Cloud-APIs anbinden, dokumentieren Sie Verarbeitungszwecke und prüfen Sie DSGVO-Pflichten inklusive Auftragsverarbeitung — ein gemieteter Bare-Metal-Mac ersetzt keine Rechtsgrundlage für Drittland-Transfers.

Voraussetzung: Sie haben per SSH Zugriff auf einen CALMVPS-Bare-Metal-Mac mit ausreichend gemeinsamem Speicher und freiem NVMe. Alle Kommandos gegen die README-Version abgleichen, die Sie gerade bauen.

1. RAM-Stufe wählen: auf der Mietpreisseite gemeinsamen Speicher ab 96 GB (128 GB empfohlen) buchen; Hunderte GB für Gewichte und KV einplanen. Dokumentieren Sie erwartete gleichzeitige Agent-Sessions — jede Session wächst KV und Tool-Traces.
2. Host validieren: macOS-Version, Xcode CLT, Metal verfügbar; SSH härten; Fail2ban oder gleichwertige Rate-Limits erwägen; unauthentifiziertes ds4-server nie ins öffentliche Internet stellen.
3. ds4 für Metal bauen: offizielles Repo klonen und laut README für macOS-Metal-Ziele kompilieren. Build-Artefakte und Compiler-Flags im Change-Log festhalten, damit Reproduktion nach Mietende möglich bleibt.
4. GGUF bereitstellen: DeepSeek-V4-Flash-Datei passend zur ds4-Revision laden; auf schnelle lokale SSD legen; Prüfsumme notieren; Download bei schmalen Uplinks per rsync vom Entwickler-Rechner fortsetzen.
5. Server starten: README-Flags für Modellpfad, Kontext und Disk-KV — Beispiel:

./ds4-server \
  -m /path/to/model.gguf \
  --ctx 100000 \
  --kv-disk-dir /var/ds4-kv \
  --kv-disk-space-mb 8192

6. IDE anbinden: OpenAI-kompatible Base-URL per SSH-Tunnel oder privatem Netz; Tool Calling vor Team-Rollout testen. Bei mehreren Entwicklern Zugriff und Logs so trennen, dass keine fremden Chat-Inhalte ohne Berechtigung lesbar bleiben.

• ds4-server unter dediziertem Benutzer mit Log-Rotation auf dem KV-Verzeichnis betreiben.
• Modell-Hashes im internen Runbook pinnen; Upgrades bewusst auslösen.
• Nur vertrauenswürdige Laptops per ssh -L oder Tailscale an den HTTP-Port lassen.
• Monitoring: Prefill-Latenz, Generierungsrate und freier Speicher auf dem KV-Mount — Alerts vor OOM auf dem Produktionshost.
• Bei PRO-Experimenten Instanzgröße auf CALMVPS erhöhen statt zweiten Rechner zu kaufen; Snapshot der KV-Verzeichnisse vor Resize planen.

Typischer Rollout: ein Entwickler validiert Tool Calling über Tunnel, dann zweites Teammitglied mit eigenem API-Key, erst danach breitere IDE-Rollout — so bleiben Fehlkonfigurationen lokal begrenzt.

• Dokumentierte RAM-Untergrenze: Metal-Pfad ab 96 GB MacBook-Klasse; 128 GB komfortabler laut Upstream.
• Produktions-Backends: Metal auf macOS; CUDA auf Linux; CPU nur Diagnose.
• Service-Einstieg: ds4-server HTTP mit OpenAI/Anthropic-Client-Kompatibilität.
• Kontext- und KV-Flags: README-Beispiele mit großem --ctx und Disk-KV — Quoten als Kapazitätsinput behandeln.

FAQ: 32-GB-Mac? Nicht laut dokumentiertem Produktionspfad — Miete oder Upgrade statt Swap-Hoffnung. Llama 3? Nein — anderer Runtime oder warten auf neues ds4-Checkpoint. Datenrisiko null? Payload bleibt auf Ihrer Instanz, dennoch SSH, Tunnel und API-Keys härten; bei personenbezogenen Prompts Verarbeitungsverzeichnis und Zugriffskontrolle dokumentieren.

Öffentliche APIs sind budgetierbar, aber schwer für proprietären Code zu kontrollieren. Jeder Refactor sendet Tokens ins Rechenzentrum des Anbieters; Audit und Datenresidenz werden zur Daueraufgabe. Bare-Metal-ds4 gibt Kontrolle zurück — gegen finanzierten RAM. Miete macht daraus ein abbrechbares Sprint-Experiment: Sie validieren Tool Calling und Kontextverhalten, bevor Sie Studio-Hardware depreciaten.

Für iOS-CI, Xcode-Caches und Agent-Automation, die ohnehin einen macOS-Host brauchen, lässt sich derselbe Bare-Metal-Knoten tagsüber für Builds und nachts für Inferenz nutzen — sofern RAM und Disk bewusst getrennt werden. Das ist kein Ersatz für dedizierte Produktions-SLOs, aber ein realistischer Brückenpfad für Teams unter CapEx-Druck.

ds4 auf einem schlafenden Laptop bricht lange KV-Sessions. Ein günstiger Linux-VPS ohne Metal verfehlt den Produktionspfad. Für stabile 7×24-Betriebe, planbare RAM-Stufen und Team-Sharing bei lokalen Agenten-Experimenten ist CALMVPS multiregionale Bare-Metal-Mac-Miete meist die bessere Wahl: dediziertes Apple Silicon, Lieferung in etwa 120 Sekunden, flexible Tages- oder Monatslaufzeiten. Details auf der CALMVPS-Mietpreisseite; Bestellung über Mac mini M4 bestellen.