# Ollama, LM Studio, llama.cpp & Co: welches Tool passt zu dir?

Wer lokale KI-Modelle betreiben will, steht vor einer verwirrenden Auswahl an Programmen —
Ollama, LM Studio, llama.cpp, Jan, GPT4All und mehr. Sie können alle im Kern dasselbe
(Modelle lokal laufen lassen), unterscheiden sich aber in Bedienung und Zielgruppe. Dieser
Guide ordnet nach Nutzertyp, damit du nicht das falsche wählst.

Erstellt von der [FlowKI-Community](https://flowki-club.de). Bewusst nach stabilen
Eigenschaften (Bedienphilosophie, Zielgruppe) geordnet, nicht nach Tagesform einzelner
Features — die ändern sich schnell, prüfe im Zweifel die jeweilige Doku.

---

## Die Grundunterscheidung

Alle diese Tools laden Modelle (meist im GGUF-Format) und lassen sie auf deiner Hardware
laufen. Der Unterschied ist die **Bedienphilosophie**:

- **Grafische Oberfläche (GUI):** klicken statt tippen — für Einsteiger und alle, die
  einfach chatten wollen.
- **Kommandozeile / Server:** tippen und skripten — für Entwickler und Automatisierung.

## Der Entscheidungsbaum

**Frage 1 — Willst du einfach chatten, mit Klick-Oberfläche und Modell-Browser?**
→ **Ja: eine GUI-App** (siehe unten). Kein Terminal nötig.

**Frage 2 — Willst du Modelle per Befehl starten und in eigene Skripte/Tools einbinden?**
→ **Ja: Ollama** — einfachster Weg für Entwickler, eine lokale Schnittstelle inklusive.

**Frage 3 — Willst du maximale Kontrolle und das technische Fundament direkt nutzen?**
→ **Ja: llama.cpp** — die Engine, auf der viele andere aufbauen; mächtig, aber technischer.

## Die Werkzeuge nach Nutzertyp

| Tool | Bedienung | Am besten für |
|---|---|---|
| **LM Studio** | grafische App | Einsteiger, die klicken und Modelle browsen wollen |
| **Jan** | grafische App (Open Source) | wer eine offene, aufgeräumte Chat-App sucht |
| **GPT4All** | grafische App | einfacher Einstieg, auch mit eigenen Dokumenten |
| **Ollama** | Befehl + lokale Schnittstelle | Entwickler, Automatisierung, eigene Tools |
| **llama.cpp** | Kommandozeile / Bibliothek | maximale Kontrolle, technisches Fundament |

## Für den Einstieg empfohlen

- **Du willst nur ausprobieren, ohne Terminal:** Starte mit einer **GUI-App** (LM Studio
  oder Jan). Modell aussuchen, laden, chatten — fertig.
- **Du programmierst und willst lokale Modelle einbinden:** Starte mit **Ollama** — die
  Schritt-für-Schritt-Anleitung dazu gibt es im
  [Ollama-Setup-Guide](/freebies/ollama-setup).

## Was bei ALLEN gleich ist

Egal welches Tool: Die **Modellgröße und Quantisierung** entscheiden, ob es auf deiner
Hardware flüssig läuft — das ist wichtiger als die Tool-Wahl. Kläre das zuerst mit dem
[Quantisierungs-Cheat-Sheet](/freebies/quantisierung). Und ob sich der lokale Betrieb für
dich überhaupt lohnt, klärt der Einstiegs-Guide
[Lokale LLMs — lohnt sich das für mich?](/freebies/lokale-llm-einstieg).

## Die drei häufigsten Fehler bei der Tool-Wahl

1. **Zu technisch angefangen.** Wer nur chatten will, braucht keine Kommandozeile — eine
   GUI-App reicht.
2. **Tool-Wahl über Modell-Wahl gestellt.** Das beste Tool nützt nichts, wenn das Modell zu
   groß für die Hardware ist. Erst Modellgröße/Quantisierung klären.
3. **Zu viele parallel installiert.** Ein Tool wählen, damit vertraut werden — nicht fünf
   halb ausprobieren.

Welches Tool nutzt du und warum? Teile deine Erfahrung in der
[FlowKI-Community](https://flowki-club.de).