Self-Hosted vs. Cloud LLMs: Kosten und Routing richtig kalkulieren
Self-Hosted LLMs sind nicht automatisch billiger als Cloud APIs. Neue Tools für Multi-Model-Routing und lokale Coding-Agenten ermöglichen intelligente Hybrid-Strategien für Teams.
Die Annahme, dass selbstgehostete Large Language Models (LLMs) automatisch kostengünstiger sind als Cloud-APIs, hält sich hartnäckig — trifft aber nur unter bestimmten Bedingungen zu. Ein umfassender Vergleich, wie das n8n Blog dokumentiert, zeigt: Die Entscheidung zwischen On-Premises und Cloud hängt von Hardware-Investitionen, Betriebskosten, Latenzanforderungen und Workload-Mustern ab. Gleichzeitig ermöglichen neue Open-Source-Tools ein intelligentes Hybrid-Routing zwischen lokalen und Cloud-Modellen, das die Stärken beider Ansätze kombiniert.
Was passiert
Die Branche bewegt sich zunehmend weg von der binären Wahl „entweder selbstgehostet oder Cloud" hin zu hybriden Infrastrukturen. Laut n8n Blog liegt der Knackpunkt in der Total Cost of Ownership: Eine moderne GPU wie eine NVIDIA RTX 4090 kostet zwischen 1.500 und 2.000 Euro in der DACH-Region, hinzu kommen Stromkosten von etwa 300 bis 450 Watt unter Last, Kühlungs- und Wartungsaufwand sowie obsolete Hardware nach 3–5 Jahren. Cloud-APIs wie OpenAI, Claude oder Mistral hingegen bieten Pay-as-you-go-Modelle ohne Vorab-Investition, aber mit Gebühren pro Token, die sich bei hohem Durchsatz schnell summieren.
Konkret zeigt sich diese Dynamik in zwei neuen Entwicklungen: Erstens hat Zapier ein MCP-Server-System vorgestellt, das es Teams ermöglicht, ein einziges Zapier-Ökosystem über mehrere KI-Tools hinweg zu nutzen — Claude, ChatGPT und Cursor können auf dieselbe Automation zugreifen. Das reduziert Redundanz und vereinfacht das Routing. Zweitens hat Recursive das Open-Weight-Modell Flint veröffentlicht: ein 40-Milliarden-Parameter-Mixture-of-Experts-Modell mit nur 2,5 Milliarden aktiven Parametern zur Inferenzzeit. Wie TechCrunch AI berichtet, läuft Flint auf einem M4 Pro MacBook Pro mit 125+ Tokens pro Sekunde — nicht Cloud-schnell, aber lokal verfügbar und ohne API-Kosten. Das Modell erreicht 74,2 % auf SWE-bench Verified und wurde laut Recursive selbst zu großen Teilen von KI-Systemen entwickelt.
Vercel hat parallel durable-harness als Open-Source-Paket bereitgestellt. Dieses Tool loggt jeden Model Call und Tool Call mit vollständiger Telemetrie und ermöglicht es Coding Agents (Pi, OpenCode, Claude Code, Codex), nach Crashes, Timeouts oder Redeploys nahtlos zu resumieren. Das ist technisch relevant, weil lokale Modelle — insbesondere auf Consumer-Hardware — häufiger crashen als Cloud-APIs. Mit durable-harness wird das Recovery standardisiert, was die Zuverlässigkeit selbstgehosteter Workloads erhöht.
Das Gesamtbild: Teams mit stabilen, bekannten Workload-Profilen (z.B. tägliche Batch-Summarizations oder interne Code-Reviews) profitieren von selbstgehosteten Modellen wie Flint. Teams mit volatilen, Peak-lastigen Workflows (z.B. Kundenservice im Stoßverkehr) fahren mit Cloud besser. Die intelligente Strategie ist Hybrid-Routing: Einfache, häufige Anfragen (z.B. Text-Klassifikation, einfache Summarization) gehen lokal an Flint oder ähnliche 7B–27B Modelle; komplexe, seltene Anfragen an Cloud-APIs wie Claude 3.5 Sonnet.
Warum für DACH relevant
Die Entscheidung zwischen Self-Hosted und Cloud hat in der Deutschsprachigen Region eine eigene Dringlichkeit. Erstens spielen DSGVO-Konformität und Datensouveränität eine zentrale Rolle: Ein lokales Modell wie Flint speichert Prompt und Output auf der eigenen Infrastruktur; keine Daten verlassen das Unternehmen, keine API-Logs bei OpenAI oder Anthropic in den USA. Das ist für Fintech, Gesundheitswesen und öffentliche Verwaltung entscheidend — und oft nicht verhandelbar. Viele DACH-Unternehmen zahlen heute bei Cloud-APIs für eine Konformität, die sie selbstgehostet kostenloses Grundrecht bekommen.
Zweitens ist die Energiebilanz kritisch. In Deutschland, Österreich und der Schweiz fallen hohe Stromkosten an — durchschnittlich 30–45 Cent/kWh (2026). Ein lokaler GPU-Server mit 300 Watt kostet betrieben etwa 2.600–3.900 Euro pro Jahr an Strom. Verglichen mit Cloud-Kosten von z.B. 0,0015 Dollar pro 1K Input Tokens (Claude 3.5 Haiku) amortisiert sich die Anschaffung schnell bei moderaten Nutzungsmengen (50.000–100.000 Tokens pro Tag). Mittelständische Unternehmen, die klassischerweise mit knappen IT-Budgets arbeiten, können somit durch Selbsthosting auf lange Sicht sparen — müssen aber die Betriebskomplexität schultern.
Drittens spricht die rechtliche Lage: Der EU AI Act sieht für Generative-AI-Systeme ab 2026 verstärkte Transparenzpflichten vor. Selbstgehostete, Open-Weight-Modelle wie Flint (Apache 2.0 lizenziert) bieten Unternehmen hier mehr Kontrolle über Dokumentation, Bias-Audits und Haftung. Cloud-APIs sind Black Boxes — auch wenn Anthropic und OpenAI transparent sein wollen. Für Risk-averse Märkte wie Deutschland ist das ein reales Argument.
Was du jetzt tun/wissen solltest
Das zentrale Learning ist: Hybrid-Routing ist nicht luxuriös, es wird zum Standard. Teams sollten konkret inventarisieren, welche KI-Workloads sie tatsächlich haben. Dafür reicht eine einfache Tabelle: Task, Häufigkeit pro Woche, durchschnittliche Token pro Aufruf, Latenzanforderung, Datensensibilität. Dann lässt sich mit grundlegenden Break-Even-Rechnungen klären, ob Task A lokal auf einem Flint-artigen Modell laufen sollte oder in die Cloud gehört. Die Hybrid-Routing-Infrastruktur (wie Zapier MCP oder n8n Nodes) ist heute mature genug, dass der Umstieg technisch reibungslos ist. Das Risiko liegt nicht mehr in der Technik, sondern in der organisatorischen Trägheit: Wer weiterhin alles über OpenAI läuft und Datensouveränität ignoriert, zahlt unnötig drauf — wirtschaftlich und regulatorisch. Für DACH-Unternehmen mit Kundendaten oder regulierten Informationen ist Hybrid-Routing nicht optional.
Mehr zum Thema im Ressort Kategorie Modelle & Benchmarks.
Quellen
- n8n Blog: Self-Hosted LLM vs. Cloud APIs — How to Route Between Them
- Zapier Blog: Use one Zapier MCP server across all your AI tools
- MarkTechPost: Vercel Open-Sources durable-harness for Crash-Proof Coding Agents
- MarkTechPost: Recursive Releases Flint, an Open-Weight 40B MoE Local Coding Model for Agents with 2.5B Active Params
- TechCrunch AI: Recursive launches Flint, a laptop coding model it says was largely built by AI
Häufige Fragen
Sind selbstgehostete LLMs wirklich billiger als Cloud-APIs?
Nicht automatisch. Es hängt von der Hardware-Investition, den Stromkosten und dem Nutzungsvolumen ab. Laut n8n Blog rechnen sich selbstgehostete Modelle erst bei moderaten bis hohen täglichen Token-Mengen — bei niedrigem Durchsatz ist Cloud oft günstiger, weil keine Anfangsinvestition nötig ist.
Was ist Hybrid-Routing und wofür brauche ich es?
Hybrid-Routing bedeutet, dass verschiedene KI-Tasks intelligent zwischen lokalen Modellen und Cloud-APIs verteilt werden: Einfache, häufige Anfragen laufen lokal, komplexe oder seltene Anfragen gehen in die Cloud. Tools wie Zapier MCP ermöglichen das über ein zentrales System.
Kann Flint von Recursive wirklich auf meinem Laptop laufen?
Ja. Flint ist ein 40-Milliarden-Parameter-Modell mit 2,5 Milliarden aktiven Parametern und erreicht auf einem M4 Pro MacBook Pro über 125 Token pro Sekunde, wie TechCrunch berichtet. Das macht es praktisch für lokale Entwicklung und Coding-Aufgaben.