Liquid AI hat sein neues Modell LFM2.5-2.6B veröffentlicht – ein kompaktes agentic Model, das komplexe Multi-Step-Tasks direkt auf dem Endgerät ausführt. Mit 2,69 Milliarden Parametern positioniert sich das Modell als praktische Lösung für Szenarien, in denen Cloud-Abhängigkeit oder Latenzen problematisch sind.
Architektur und Leistungsmerkmale
Die Architektur kombiniert zwei bewährte Techniken: 22 Double-Gated Short Convolution Blocks arbeiten mit 8 GQA (Grouped Query Attention) Blöcken über 30 Schichten zusammen. Diese Struktur ermöglicht es dem Modell, die Parameterzahl gering zu halten, während es trotzdem komplexe Reasoning-Tasks bewältigt.
Bemerkenswert ist das 128K-Token-Context-Fenster (131.072 tokens). Das bedeutet in der Praxis: Das Modell kann lange Dokumente, mehrteilige Instruktionen oder umfangreiche Konversationshistorien verarbeiten, ohne dass der Kontext gekürzt werden muss. Für ein Modell dieser Größe ist das ein erheblicher Vorteil gegenüber Konkurrenten mit kleineren Context-Fenstern.
On-Device Performance
Die Performance auf Standard-Hardware ist konkret beeindruckend. Auf einem MacBook Pro M5 Max dekodiert das Modell 220 Tokens pro Sekunde und benötigt dabei weniger als 2,5 GB RAM. Das ist schnell genug für interaktive Anwendungen und praktisch für Edge-Geräte, die nicht ständig mit einem Server kommunizieren können.
Diese Effizienz entsteht durch die Kombination aus dem konvolutiven Design und der GQA-Mechanik. Attention-Operationen sind normalerweise speicher- und rechenlastig – GQA reduziert diese Last, ohne die Modellqualität signifikant zu beeinträchtigen.
Tool Calling und Multi-Step Tasks
Das Kernmerkmal eines "agentic" Models ist die Fähigkeit, selbstständig externe Tools zu nutzen und Pläne zu erstellen. LFM2.5-2.6B kann:
- Sequenzen von Tasks planen
- Funktionsaufrufe strukturieren (Tool Calling)
- Ergebnisse interpretieren und nächste Schritte ableiten
- Mehrschrittiges Reasoning offline durchführen
Das funktioniert ohne API-Aufrufe. Das Modell entscheidet lokal, wann welches Tool aufzurufen ist, und kombiniert die Ergebnisse zu einer Lösung. Praktische Anwendungen: Datenanalyse auf Laptops, lokale Recherche-Workflows, Automatisierung von Dokument-Pipelines ohne Cloud-Overhead.
Open Weights und Format-Optionen
Liquid AI veröffentlicht das Modell mit Open Weights – das ist ein entscheidender Punkt für Entwickler und Unternehmen, die volle Kontrolle benötigen.
Zudem bietet das Unternehmen mehrere Formate:
- GGUF: Das Standard-Format für CPU-Inference, optimiert für llama.cpp und ähnliche Laufzeiten
- MLX: Apples Machine Learning Framework, ideal für Mac-optimierte Deployments
- ONNX: Plattformübergreifend, für Windows, Linux und spezialisierte Hardware
Diese Format-Vielfalt bedeutet: Entwickler können das Modell auf ihrer bevorzugten Hardware deployen, ohne komplizierte Konversionen vornehmen zu müssen.
Kontext und Zielmarkt
Die Freigabe von LFM2.5-2.6B passt zu einem breiteren Trend: Während die Industrie bei Large Models wie GPT-4 bleibt, wächst der praktische Druck für spezialisierte, kleinere Modelle, die local laufen. Der Markt fragt nach Lösungen für:
- Privacy: Sensible Daten verlassen das Gerät nicht
- Latenz: Keine Netzwerk-Roundtrips
- Kosten: Keine laufenden API-Gebühren
- Offline-Betrieb: Funktioniert ohne Internet
Ein 2,6B-Modell mit agentic Fähigkeiten und großem Context-Fenster adressiert diese Anforderungen direkt.
Technische Bewertung
Die Double-Gated Convolution Blocks sind interessant – sie ermöglichen selektive Informationsverarbeitung und gelten als effizienter als reine Transformer-Architektur auf dieser Skalierungsebene. Dass Liquid AI diese mit GQA kombiniert, deutet auf bewusste Architektur-Engineering hin, nicht auf einen Default-Stack.
Das 128K-Context-Fenster ist bei dieser Modellgröße beachtlich. Viele vergleichbare Modelle arbeiten mit 4K oder 8K Kontexten – hier ist die 16x-Erweiterung für Real-World Tasks erheblich.
Praktische Implikationen
Für Entwickler bedeutet das Modell: Agentic Workflows werden lokal machbar. Statt Multi-Hop-Anfragen an APIs zu schreiben, kann man das Modell die Reasoning-Schritte selbst planen lassen – alles on-device. Das vereinfacht komplexe Integrations-Szenarien.
Für Unternehmen mit Datenschutz-Anforderungen ist es ein echter Durchbruch: Agentic Intelligence ohne Cloud-Abhängigkeit ist lange ein ungelöstes Problem gewesen.
Fazit
LFM2.5-2.6B ist kein Allround-Modell – für generatives Writing oder komplexes Reasoning bleibt es hinter größeren Modellen zurück. Aber für seinen Zielbereich – lokale Agenten-Workflows mit moderaten Ressourcen – ist es eine brauchbare Lösung. Die Kombination aus Open Weights, praktischer Performance und agentic Fähigkeiten macht es interessant für Teams, die Edge-KI ernst nehmen.
