## blog - seite 29 von 33

Hugging Face präsentiert einen Code Agent auf Basis von Transformers, der den GAIA-Benchmark erfolgreich meistert. Das System kombiniert Language Models mit praktischer Code-Ausführung und zeigt, wie Agenten komplexe Aufgaben lösen.

TGI Multi-LoRA: Eine Instanz für 30 Modelle

Mit TGI Multi-LoRA können 30 unterschiedliche LoRA-Adapter auf einer einzelnen Basis-Instanz bereitgestellt werden. Das spart Ressourcen und vereinfacht die Modellverwaltung erheblich.

Mistral 7B mit Core ML auf Apple-Geräten ausführen

Hugging Face zeigt, wie sich das Mistral 7B Sprachmodell mit Core ML auf iPhones und Macs ausführen lässt. Die Integration ermöglicht lokale KI-Inferenz ohne Internetverbindung und mit vollständiger Datenkontrolle.

Llama 3.1: Meta skaliert auf 405B mit Multilingualität

Meta veröffentlicht Llama 3.1 in drei Größen bis 405B Parameter. Die neuen Modelle unterstützen 128K Token Context und verbesserte Multilingual-Fähigkeiten. Open Source verfügbar auf Hugging Face.

Falcon Mamba: Das erste starke 7B-Modell ohne Attention

29. Apr. 2026Security & Pentesting2 min

Hugging Face stellt Falcon Mamba vor – ein 7B-Modell, das auf State Space Models statt Transformer-Attention setzt. Es verspricht bessere Effizienz bei vergleichbarer Performance.

SECURITY

Hugging Face und TruffleHog: Automatische Secret-Erkennung

Hugging Face kooperiert mit TruffleHog, um API-Keys und Credentials automatisch zu scannen. Die Integration schützt vor versehentlichen Leaks in Model-Repositories und Code.

LLMs auf 1.58bit: Extreme Quantisierung leicht gemacht

29. Apr. 2026Security & Pentesting2 min

Hugging Face zeigt, wie sich Large Language Models auf extreme 1.58bit-Quantisierung reduzieren lassen – ohne großen Aufwand. Ein Durchbruch für ressourcenschonende KI-Nutzung auf Edge-Geräten.

SECURITY

Gradio 5: Sicherheitsaudit zeigt robuste Architektur

Hugging Face hat Gradio 5 einer umfassenden Sicherheitsprüfung unterzogen. Das Audit bescheinigt der Web-Framework hohe Standards bei Authentifizierung, Input-Validierung und Datenhandling.

29. Apr. 2026Software & Coding2 min

Outlines-core 0.1.0: Strukturierte Generierung für Rust und Python

Hugging Face veröffentlicht Outlines-core 0.1.0 mit nativer Unterstützung für strukturierte KI-Generierung in Rust und Python. Das Framework ermöglicht präzise Output-Formate ohne Umwege über externe APIs.

Transformers.js v3: WebGPU und neue Modelle

Transformers.js Version 3 bringt WebGPU-Unterstützung für GPU-Beschleunigung im Browser mit. Neu hinzugekommen sind Modelle und Tasks für erweiterte NLP-Anwendungen ohne Server-Backend.

Universal Assisted Generation: Schnelleres Decoding mit beliebigen Modellen

Hugging Face stellt Universal Assisted Generation vor – eine Methode für schnelleres LLM-Decoding, die mit verschiedenen Assistant-Modellen kompatibel ist. Die Technik beschleunigt Inference ohne zusätzliches Training.

SmolVLM: Effiziente Vision-Language-Modelle im Kleinstformat

28. Apr. 2026Grundlagen & Einstieg2 min

Hugging Face stellt SmolVLM vor – kompakte Vision-Language-Modelle, die auf Edge-Geräten laufen und dabei überraschend gute Performance liefern. Eine praktische Alternative zu großen Modellen.

GRUNDLAGEN

EU AI Act für Open-Source-Entwickler: Praktische Orientierung

Der EU AI Act betrifft auch Open-Source-Entwickler. Hugging Face bietet einen praktischen Leitfaden, wie Entwickler die Compliance-Anforderungen navigieren und welche Unterscheidungen zwischen kommerziellen und Community-Modellen gelten.

Text Generation Inference unterstützt jetzt mehrere Backends

Hugging Face erweitert Text Generation Inference um flexible Backend-Optionen wie TRT-LLM und vLLM. Nutzer können nun zwischen verschiedenen Inferenz-Engines wählen und so Performance und Anforderungen optimal abstimmen.

Open-R1: Open-Source-Reproduktion von DeepSeek-R1

Hugging Face veröffentlicht Open-R1, eine vollständig offene Reproduktion von DeepSeeks Reasoning-Modell. Das Projekt ermöglicht es der Community, leistungsstarke Chain-of-Thought-Systeme zu trainieren und anzupassen.

Mini-R1: Deepseek R1 mit Reinforcement Learning nachbauen

Hugging Face zeigt, wie man Deepseek R1 mit Reinforcement Learning reproduziert. Ein praktisches Tutorial für das Training von Reasoning-Modellen ohne proprietäre Infrastruktur.

Prefill und Decode: LLM-Performance bei parallelen Anfragen optimieren

Wie Prefill und Decode Phasen die Durchsatzrate großer Sprachmodelle beeinflussen. TNG Tech zeigt Optimierungsstrategien für gleichzeitige Nutzeranfragen.

Tiny Agents: Funktionsfähige KI-Agenten in 50 Codezeilen

Hugging Face zeigt, wie sich mit dem Model Context Protocol effiziente KI-Agenten minimal umsetzen lassen. Ein praktisches Beispiel für schlanke Agent-Architekturen ohne Overhead.

MCP-Server mit Gradio bauen: Praktische Integration

Gradio ermöglicht es nun, Model Context Protocol Server direkt in Python zu implementieren. Eine neue Integration vereinfacht die Entwicklung von AI-Tools mit standardisiertem Protokoll.

Tiny Agents in Python: Agenten in 70 Zeilen Code

Hugging Face zeigt, wie man mit dem Model Context Protocol (MCP) funktionsfähige AI-Agenten in knapp 70 Zeilen Python schreibt. Ein praktischer Einstieg in agentenbasierte Systeme ohne Komplexität.

CodeAgents mit Structured Output: Präzisere Tool-Ausführung

Hugging Face integriert Structured Output in CodeAgents. Das erzwingt definierte JSON-Schemas für Tool-Aufrufe und reduziert Fehler, Token-Verbrauch und Latenzen deutlich.

SmolLM3: Kompakte Sprachmodelle mit Mehrsprachigkeit und langem Kontext

Hugging Face stellt SmolLM3 vor – effiziente Sprachmodelle in verschiedenen Größen mit verbesserter Mehrsprachigkeit und erweitertem Context Window. Ideal für ressourcenbegrenzte Umgebungen.

Hugging Face baut eigenen MCP Server

Hugging Face hat einen Model Context Protocol Server entwickelt, um seine Plattform direkt in Claude und andere AI-Tools zu integrieren. Das ermöglicht Entwicklern einfacheren Zugriff auf Models, Datasets und Hub-Features.

ScreenEnv: Desktop Agents mit vollständigem Stack deployen