Der $899 Mac mini ist kein lokales KI-Gerät. Der $2,699 64GB Panikkauf ist normalerweise auch die falsche Antwort.
Dies ist ein Einkaufsführer für den aktuellen Mac mini (M6 und M5 Pro), wenn Sie offene Modelle auf Ihrem Schreibtisch ausführen möchten: welche Speichervariante Sie bestellen sollten, warum die Dateigröße von Hugging Face nicht RAM ist und warum die Leute drei Wochen später keinen einheitlichen Speicher mehr haben.
Sie werden sehen:
- Warum 16GB versagen, sobald macOS und der KV-Cache ihren Anteil nehmen
- Warum die Dekodiergeschwindigkeit der Speicherbandbreite folgt (153 / 170 / 307 GB/s), nicht dem Chip-Marketing
- Warum neuronale Beschleuniger die Zeit bis zum ersten Token ändern (gemessene llama.cpp-Vorbefüllung 210 → 742 tok/s auf einem 9B Q4), ohne dass der neuere M6 schneller dekodiert als der M5 Pro
- Dichte 27B vs 35B MoE auf demselben Bus (~14 vs ~70 tok/s, vom Autor berichtet)
- Die vierstufige Konfiguration: 16GB überspringen, die ungeschickte 24GB-Stufe überspringen, 32GB M6 für die meisten Leute kaufen, auf 64GB M5 Pro oder Mac Studio nur für 70B-Klassen-Arbeiten hochstufen
- Wann Frontier-Cloud-Coding immer noch gewinnt und warum Sie 27B und 70B auf OpenRouter mieten sollten, bevor Sie $1,400 RAM löten
Für neunzig Prozent der Käufer von lokalen KI ist die Bestellung der M6 Mac mini mit 32GB.
## Kapitel
00:00 Zwei Tabs, zwei Antworten
00:25 Die $1,800 Lücke
00:51 Eine fünf Zoll, vier Watt Maschine
01:21 Einheitlicher Speicher vs PCIe
01:50 Der Vorbefüllungsstopp
02:20 Neuronale Beschleuniger: 210 bis 742
02:46 M6 vs M5 Pro
03:09 Dekodierung ist ein Speicherrohr
03:47 Schneller nur, wenn es passt
03:58 16GB-Dateien sind nicht 16GB RAM
04:17 Die KV-Cache-Rechnung
04:52 macOS nimmt einen Anteil
05:21 Dichte 27B belastet den Bus
05:47 MoE: 70 vs 14 tok/s
06:30 Die $899 16GB Falle überspringen
06:53 24GB ist die ungeschickte Mitte
07:15 Kaufen Sie den 32GB M6
07:53 64GB, dann Mac Studio
08:28 Cloud gewinnt immer noch beim Frontier-Coding
08:56 Mieten, bevor Sie kaufen
09:11 Bestellen Sie 32GB
#macmini #localai #localllm #applesilicon #m6 #m5pro #llm #unifiedmemory #ollama #llamacpp #privateai #homelab #developer #artificialintelligence #mac #qwen
## Benutzeranfragen
mac mini
Bester mac mini für lokale KI
Sollte ich einen Mac mini für lokale KI kaufen?
Ist der $899 Mac mini ausreichend für lokale LLMs?
Wie viel RAM benötige ich auf einem Mac mini für lokale KI?
M6 vs M5 Pro Mac mini für das lokale Ausführen von LLMs
Warum läuft mein lokales LLM nach ein paar Wochen aus dem Speicher?
Was ist KV-Cache und warum benötigt es so viel RAM?
Kann ein 16GB Mac mini 27B-Modelle ausführen?
Sind 32GB oder 64GB besser für lokale KI auf dem Mac mini?
Generiert der M5 Pro Tokens schneller als der M6?
Sollte ich ein Mac Studio anstelle eines Mac mini für lokale LLMs kaufen?
Mixture of Experts vs dichte Modelle auf Apple Silicon
Ist lokale KI besser als Claude oder GPT für das Programmieren?
Wie teste ich lokale Modelle auf OpenRouter, bevor ich Hardware kaufe?
Mac mini Speicherbandbreite 153 vs 170 vs 307 GB/s
Warum die Dateigröße von Hugging Face GGUF nicht der RAM ist, den Sie benötigen
## Quellen
- Apple Newsroom Mac mini (2026-08) Produktfotografie und Ansprüche zu neuronalen Beschleunigern
- Apple Support HT203253 Leistungstabelle (M6 im Leerlauf ~4 W) und Mac mini Akustik (~5 dBA im Leerlauf)
- Hugging Face `unsloth/Qwen3.8-27B-GGUF`, Datei `Qwen3.8-27B-Q4_0.gguf` (~16.1 GB)
- Starry Hope, zitiert Alex Ziskind llama.cpp 9B Q4 Vorbefüllung 210 vs 742 tok/s und separate 2.5s → 0.7s TTFT (vom Autor berichtet; nicht Apple „bis zu 4ד)
- Loengnavy, Medium, M4 Pro gleiche Hardware MoE vs dichte Dekodierung (~78.8 vs ~14.7 tok/s; VO rundet auf ~70 vs ~14) — vom Autor berichtet
- AtomGradient, MLX Inferenzbandbreitencharakterisierung auf Apple Silicon
- OpenRouter Live-Catch: `qwen/qwen3.8-27b` vs `meta-llama/llama-3.3-70b-instruct`, derselbe `auth.ts` Ablauf-Einheit Prompt
- NordicSilicon Mac mini LLM-Tabellen wurden nur als sekundärer Kontext verwendet; M6/M5 Pro tok/s Zeilen werden nicht als vom Ersteller gemessen behandelt
## Links