Korrekturhinweis (21.10.2026): Dieser Artikel behauptete bis heute „echte Zahlen aus Tests auf 4 Maschinen“, gemessene Token/s-Werte, eigene 50-Aufgaben-Benchmarks und Punktwerte für die Qualität. Diese Messungen hat die Redaktion nicht durchgeführt; sie sind entfernt. Außerdem nannte er ein Modell „Llama 3.3 8B“, das es nicht gibt (Llama 3.3 erschien nur als 70B), und Mistral Large 123B als „neu seit Anfang 2026“ (es ist Mistral Large 2 von 2024). Die Größenangaben stammen jetzt aus der Ollama-Bibliothek, Stand 21.10.2026. Neu ist der Abschnitt zu 8 GB RAM, der den früheren Einzelartikel dazu ersetzt.
Die Ausgangsfrage
Du willst KI lokal laufen lassen — welches Modell macht auf deiner Hardware Sinn? Eine generische Antwort gibt es nicht. Ein 3B-Modell auf einem 8-GB-Laptop arbeitet anders als ein 70B-Modell auf einem 128-GB-Mac.
Dieser Artikel: Konkrete Empfehlungen pro RAM-Klasse, mit den Download-Größen aus der Ollama-Bibliothek und einer Einordnung, wofür die Klasse taugt.
Alle Modelle laufen über Ollama mit der Standard-Quantisierung (meist Q4_K_M, der übliche Kompromiss zwischen Größe und Qualität). Faustregel: Im Arbeitsspeicher braucht ein Modell etwas mehr als seine Download-Größe, weil der Kontext (KV-Cache) dazukommt. Wie schnell es antwortet, hängt stark von CPU, GPU und Kontextlänge ab — deshalb nennen wir keine Token/s-Werte, die wir nicht selbst gemessen haben.
8 GB RAM — "Office-Laptop"
Zielgruppe: Business-Laptops und ältere Notebooks. Nach Betriebssystem, Browser und zwei offenen Programmen bleiben von 8 GB oft nur 4 bis 5 GB nutzbar.
Praktikabel: Modelle mit 1 bis 4 Milliarden Parametern in 4-Bit-Quantisierung.
| Modell | Ollama-Befehl | Download | Wofür |
|--------|---------------|----------|-------|
| Llama 3.2 1B | ollama run llama3.2:1b | 1,3 GB | sehr alte Geräte, einfachste Aufgaben |
| Gemma 2 2B | ollama run gemma2:2b | 1,6 GB | kurze Zusammenfassungen, FAQ, Übersetzungen |
| Llama 3.2 3B | ollama run llama3.2:3b | 2,0 GB | Allrounder, der übliche Start |
| Phi-4 Mini (3,8B) | ollama run phi4-mini | 2,5 GB | Logik, Mathe, strukturierte Analysen |
| Qwen3.5 4B | ollama run qwen3.5:4b | 3,3–4,0 GB | Code-Hilfe, Debugging, Skripte |
Entscheidungshilfe: Für Chat und Zusammenfassungen Llama 3.2 3B. Wenn du hauptsächlich Code schreibst, zusätzlich Qwen3.5 4B. Wenn du zwischen 1B und 3B wählen kannst, nimm 3B.
Was bei 8 GB nicht gut geht
- 7B- und 8B-Modelle (Llama 3.1 8B: 4,9 GB Download) passen nur knapp. Du musst die meisten anderen Programme schließen, und bei längeren Gesprächen beginnt das System auszulagern. Für gelegentliche Nutzung okay, für tägliche Arbeit zu zäh.
- Ab 14B (Qwen2.5-Coder 14B: 9,0 GB) passt das Modell nicht mehr in den Speicher; das System lagert dauerhaft aus und wird unbenutzbar.
- Lange Dokumente: Der Kontext belegt zusätzlichen Speicher. Begrenze ihn im Ollama-Chat mit
/set parameter num_ctx 2048, wenn der RAM knapp wird.
Wenn es hakt
ollama pszeigt, welche Modelle gerade im Speicher liegen;ollama stop <modell>entlädt eines.- Gibt ein Modell nur Unsinn aus, Download löschen und neu laden:
ollama rm llama3.2:3b, danachollama pull llama3.2:3b. - Wird die Ausgabe extrem langsam, lagert das System aus: kleineres Modell wählen oder den Kontext verkürzen.
Ein 3B-Modell ersetzt kein großes Cloud-Modell. Für E-Mails, kurze Texte, einfache Code-Snippets und Zusammenfassungen weniger Seiten reicht es; für mehrstufiges Reasoning, lange Dokumente oder Bildanalyse nicht. Wer oft an die Grenze stößt, rüstet auf 16 GB auf.
16 GB RAM — "Standard-Laptop"
Zielgruppe: Durchschnittlicher Business-Laptop, Consumer-Notebook
Bestes Modell: Llama 3.1 8B (ollama run llama3.1:8b, 4,9 GB Download)
Warum: Passt mit Reserve in den RAM, ohne dass das System auslagert. Für Chat, Zusammenfassungen und einfaches Coding die solide Wahl dieser Größenklasse.
Alternative Empfehlung
Wenn du hauptsächlich Coding machen willst: Qwen2.5-Coder 7B (ollama run qwen2.5-coder:7b, 4,7 GB). Auf Code spezialisiert, etwas kleiner, passt gut in 16 GB.
Was nicht läuft
- 14B-Modelle: drücken das System an die Grenze
- 30B+ Modelle: gar nicht
32 GB RAM — "Developer-Workstation"
Zielgruppe: Developer-Notebook, Home-Office-Workstation
Bestes Modell: Qwen2.5-Coder 14B (fürs Coding) oder Gemma 2 27B (für alles andere)
| Modell | Ollama-Befehl | Download |
|--------|---------------|----------|
| Qwen2.5-Coder 14B | ollama run qwen2.5-coder:14b | 9,0 GB |
| Gemma 2 27B | ollama run gemma2:27b | 16 GB |
Kompromiss: Das 27B-Modell liefert in der Regel die bessere Textqualität, antwortet auf derselben Hardware aber spürbar langsamer. Für interaktive Chat-Nutzung ist 14B angenehmer, für Batch-Verarbeitung lohnt sich 27B.
Alternative
Mistral Nemo 12B — kleiner als die 14B-Modelle und laut Mistral mehrsprachig trainiert, auch auf Deutsch.
64 GB RAM — "Pro-Workstation"
Zielgruppe: Mac M-Serie Pro-User, High-End-PC mit ausreichend RAM
Bestes Modell: Llama 3.3 70B (ollama run llama3.3:70b, Q4_K_M, 43 GB Download)
Mac mit Apple Silicon: Das ganze Modell liegt im gemeinsamen Speicher, keine Aufteilung nötig.
Windows mit RTX 4090 + 64 GB: Das Modell passt nicht ganz in die 24 GB GPU-Speicher und muss teilweise im CPU-RAM laufen. Diese Aufteilung kostet deutlich Geschwindigkeit.
Die 70B-Klasse ist der Punkt, ab dem lokale Modelle für anspruchsvolle Texte und Analysen ernsthaft infrage kommen. Die aktuellen Spitzenmodelle der großen Anbieter erreichen sie nicht.
Alternative — DeepSeek-R1 32B
Für Reasoning-lastige Tasks (logische Rätsel, komplexe Analysen) ist ein Reasoning-Modell wie DeepSeek-R1 32B eine Alternative: kleiner als 70B, aber auf schrittweises Denken trainiert.
Was jetzt möglich wird
- Dokument-Analyse ohne Cloud
- Code-Reviews über größere Code-Ausschnitte
- Deutsche Texte in deutlich besserer Qualität als in den kleinen Klassen
128 GB RAM — "Research / Professional"
Zielgruppe: Mac Studio M-Serie Ultra, professionelle KI-Workstation
Bestes Modell: Llama 3.3 70B mit weniger aggressiver Quantisierung (llama3.3:70b-instruct-q8_0, 75 GB Download) — mehr Qualität, dafür langsamer als Q4.
Was darüber hinaus möglich wird
- Mehrere Modelle parallel laden: etwa Llama 3.3 70B (Q4) und Qwen2.5-Coder 32B (20 GB) gleichzeitig, ohne Lade-Pause
- Mistral Large 2 (123B,
ollama run mistral-large, 73 GB Download): seit 2024 verfügbar, passt in 128 GB - Eigene Fine-Tunings auf Basis kleinerer Modelle
Die Entscheidungs-Matrix
| RAM | Ollama-Befehl Start-Empfehlung | Einsatzbereich |
|-----|-------------------------------|----------------|
| 8 GB | ollama run llama3.2:3b | Alltagschat, kurze Texte, einfache Snippets |
| 16 GB | ollama run llama3.1:8b | Chat, einfaches Coding, Zusammenfassungen |
| 32 GB | ollama run gemma2:27b | Alltagsnutzung auf höherem Niveau |
| 64 GB | ollama run llama3.3:70b | Anspruchsvolle Texte und Analysen lokal |
| 128 GB | ollama run mistral-large | Research, Batch-Jobs, Multi-Modell |
GPU-Beschleunigung — worauf achten
macOS (Apple Silicon): Alle M-Chips haben unified memory. RAM = GPU-RAM. Keine Konfiguration nötig, Ollama nutzt automatisch Metal.
Windows mit NVIDIA:
- RTX 3060 (12 GB): 8B-Modelle passen komplett rein
- RTX 4070 (16 GB): 14B-Modelle laufen komplett auf GPU
- RTX 4080/4090 (24 GB): 30B-Modelle komplett auf GPU
- RTX 5090 (32 GB): hält größere Modelle, 70B in Q4 aber weiterhin nicht komplett
Linux mit NVIDIA: Gleiche Werte wie Windows.
AMD Radeon: ROCm-Support ist unter Linux okay, unter Windows eingeschränkt. Für KI-lastige Arbeit vorher prüfen, ob deine Karte unterstützt wird.
Speed-Kosten-Rechnung
Eine interessante Betrachtung: Wann lohnt sich die Hardware-Investition gegenüber Cloud?
Rechnung für Claude Pro Abo = 20€/Monat = 240€/Jahr:
- Mac Studio M-Serie mit 128 GB: ~5000€. ROI nach ~20 Jahren (oder Produktivitäts-Gewinn).
- Mac Mini mit 32 GB: ~1200€. ROI nach ~5 Jahren.
- Upgrade eines bestehenden PC auf 32 GB: ~150€. ROI nach ~8 Monaten.
Warum es trotzdem Sinn macht: Hardware bleibt. Lokale Modelle werden besser mit der Zeit. Daten-Kontrolle. Offline-Fähigkeit.
Warum Cloud weiter Sinn macht: Die Spitzenmodelle der großen Anbieter laufen nicht lokal. Multimodal (Bilder generieren) ist lokal schwieriger.
Die Antwort liegt meist in der Mitte: Lokal für das, was täglich läuft und privat ist, Cloud für die wenigen Premium-Aufgaben.
Praxis-Empfehlung
Wenn du gerade einen Laptop kaufst und KI lokal nutzen willst:
- Budget (bis 1500€): 32 GB RAM-Laptop mit RTX 4060 oder MacBook Air mit 24 GB
- Mid-Range (bis 3000€): 64 GB RAM oder MacBook Pro mit 36 GB und mehr
- High-End (bis 6000€): Mac Studio M-Serie 128 GB oder Workstation mit RTX 4090
Wenn du bestehende Hardware hast:
- 8 GB Laptop: Llama 3.2 3B für den Alltag, Qwen3.5 4B für Code. Für mehr lohnt sich ein RAM-Upgrade.
- 16 GB Laptop: Bleib bei Llama 3.1 8B. Der Sprung zu höheren Modellen lohnt sich nicht ohne RAM-Upgrade.
- 32 GB: Alles bis Gemma 2 27B. Wenn dein Laptop GPU hat, nutze sie.
- 64 GB+: Llama 3.3 70B ist der Einstieg in die Pro-Liga.
Fazit
Lokale KI 2026 ist pragmatisch machbar. Die Hürde ist nicht die Software — Ollama/LM Studio sind in 20 Minuten eingerichtet. Die Hürde ist die Hardware.
Für das beste Preis-Leistungs-Verhältnis spricht ein Rechner mit 32 GB RAM und ausreichend GPU. Damit laufen Gemma 2 27B oder Qwen2.5-Coder 14B, und das deckt einen großen Teil der Alltagsaufgaben ab, die sonst in die Cloud gegangen wären.
Weiterlesen
Für Setup-Details: KI lokal in 20 Minuten. Für Cloud-Modell-Vergleich: GPT-5 vs Claude Opus 4.7. Für Coding-Tools speziell: Cursor vs. Claude Code. Für den Tooling-Vergleich: Lokale LLMs 2026: Ollama vs. MLX.
Eigene Setups? Welches Modell auf welcher Hardware? Zone "KI-Grundlagen" im Discord — dort sammeln wir Erfahrungen mit Modellstand und Hardware.
