## blog - seite 24 von 29

Hugging Face veröffentlicht StarCoder2, ein verbessertes Open-Source-Modell für Code-Generierung. Das Modell wurde auf The Stack v2 trainiert und bietet bessere Performance bei kleinerem Footprint.

GaLore: Effizientes Training großer Modelle auf Standard-Hardware

GaLore reduziert Speicherbedarf beim LLM-Training um bis zu 65%. Die neue Methode ermöglicht es, große Sprachmodelle auf handelsüblicher GPU-Hardware zu trainieren – ohne Qualitätsverluste.

Cosmopedia: Synthetische Trainingsdaten im großen Maßstab

Hugging Face stellt Cosmopedia vor – eine Methode zur Generierung großflächiger synthetischer Daten für das Pre-Training von LLMs. Das Projekt zeigt, wie KI-Modelle effizient mit künstlich erstellten Inhalten trainiert werden können.

Llama 3: Metas neues Open-Source Sprachmodell

Meta hat Llama 3 veröffentlicht – ein Open-Source Large Language Model mit verbesserter Performance und erweiterten Capabilities. Das Modell steht kostenlos zur Verfügung und richtet sich an Entwickler und Forscher.

StarCoder2-Instruct: Open Source Code-Modell mit Self-Alignment

Hugging Face veröffentlicht StarCoder2-Instruct, ein vollständig transparentes Code-Generierungs-Modell mit Self-Alignment-Verfahren. Das Modell nutzt offene Daten und dokumentiert seinen Trainingsprozess komplett.

Strukturierte Outputs: Mehr Konsistenz bei KI-Generierung

Strukturierte Generierung verbessert die Zuverlässigkeit von LLM-Outputs durch Schema-Validierung. Hugging Face zeigt, wie konsistente Antworten die Prompt-Instabilität reduzieren.

PaliGemma: Googles offenes Vision-Language-Modell

Google hat PaliGemma veröffentlicht – ein Open-Source-Modell, das Text und Bilder verarbeitet. Das Modell eignet sich für praktische Aufgaben wie Dokumentenerkennung und visuelle Fragen.

KV-Cache Quantization: Längere Sequenzen, weniger Speicher

29. Apr. 2026security2 min

KV-Cache Quantization reduziert den Speicherverbrauch beim Inference von Language Models erheblich. Das ermöglicht längere Sequenzen und höheren Durchsatz ohne Hardware-Upgrades.

SECURITY

CyberSecEval 2: Neuer Benchmark für LLM-Sicherheit

Meta stellt CyberSecEval 2 vor – einen umfassenden Evaluations-Framework zur Bewertung von Cybersecurity-Risiken in Large Language Models. Der Benchmark misst sowohl Schwachstellen als auch defensive Fähigkeiten von LLMs.

Gemma 2: Googles neues Open-Source Sprachmodell

Google hat Gemma 2 veröffentlicht – ein offenes Sprachmodell, das Skalierbarkeit und Effizienz kombiniert. Das Modell steht in verschiedenen Größen zur Verfügung und richtet sich an Entwickler und Unternehmen.

Transformers Code Agent schlägt GAIA-Benchmark

Hugging Face präsentiert einen Code Agent auf Basis von Transformers, der den GAIA-Benchmark erfolgreich meistert. Das System kombiniert Language Models mit praktischer Code-Ausführung und zeigt, wie Agenten komplexe Aufgaben lösen.

TGI Multi-LoRA: Eine Instanz für 30 Modelle

Mit TGI Multi-LoRA können 30 unterschiedliche LoRA-Adapter auf einer einzelnen Basis-Instanz bereitgestellt werden. Das spart Ressourcen und vereinfacht die Modellverwaltung erheblich.

Mistral 7B mit Core ML auf Apple-Geräten ausführen

Hugging Face zeigt, wie sich das Mistral 7B Sprachmodell mit Core ML auf iPhones und Macs ausführen lässt. Die Integration ermöglicht lokale KI-Inferenz ohne Internetverbindung und mit vollständiger Datenkontrolle.

Llama 3.1: Meta skaliert auf 405B mit Multilingualität

Meta veröffentlicht Llama 3.1 in drei Größen bis 405B Parameter. Die neuen Modelle unterstützen 128K Token Context und verbesserte Multilingual-Fähigkeiten. Open Source verfügbar auf Hugging Face.

Falcon Mamba: Das erste starke 7B-Modell ohne Attention

29. Apr. 2026security2 min

Hugging Face stellt Falcon Mamba vor – ein 7B-Modell, das auf State Space Models statt Transformer-Attention setzt. Es verspricht bessere Effizienz bei vergleichbarer Performance.

SECURITY

Hugging Face und TruffleHog: Automatische Secret-Erkennung

Hugging Face kooperiert mit TruffleHog, um API-Keys und Credentials automatisch zu scannen. Die Integration schützt vor versehentlichen Leaks in Model-Repositories und Code.

LLMs auf 1.58bit: Extreme Quantisierung leicht gemacht

29. Apr. 2026security2 min

Hugging Face zeigt, wie sich Large Language Models auf extreme 1.58bit-Quantisierung reduzieren lassen – ohne großen Aufwand. Ein Durchbruch für ressourcenschonende KI-Nutzung auf Edge-Geräten.

SECURITY

Gradio 5: Sicherheitsaudit zeigt robuste Architektur

Hugging Face hat Gradio 5 einer umfassenden Sicherheitsprüfung unterzogen. Das Audit bescheinigt der Web-Framework hohe Standards bei Authentifizierung, Input-Validierung und Datenhandling.

Outlines-core 0.1.0: Strukturierte Generierung für Rust und Python

Hugging Face veröffentlicht Outlines-core 0.1.0 mit nativer Unterstützung für strukturierte KI-Generierung in Rust und Python. Das Framework ermöglicht präzise Output-Formate ohne Umwege über externe APIs.

Transformers.js v3: WebGPU und neue Modelle

Transformers.js Version 3 bringt WebGPU-Unterstützung für GPU-Beschleunigung im Browser mit. Neu hinzugekommen sind Modelle und Tasks für erweiterte NLP-Anwendungen ohne Server-Backend.

Universal Assisted Generation: Schnelleres Decoding mit beliebigen Modellen

Hugging Face stellt Universal Assisted Generation vor – eine Methode für schnelleres LLM-Decoding, die mit verschiedenen Assistant-Modellen kompatibel ist. Die Technik beschleunigt Inference ohne zusätzliches Training.

SmolVLM: Effiziente Vision-Language-Modelle im Kleinstformat

29. Apr. 2026industry2 min

Hugging Face stellt SmolVLM vor – kompakte Vision-Language-Modelle, die auf Edge-Geräten laufen und dabei überraschend gute Performance liefern. Eine praktische Alternative zu großen Modellen.

INDUSTRY

EU AI Act für Open-Source-Entwickler: Praktische Orientierung

Der EU AI Act betrifft auch Open-Source-Entwickler. Hugging Face bietet einen praktischen Leitfaden, wie Entwickler die Compliance-Anforderungen navigieren und welche Unterscheidungen zwischen kommerziellen und Community-Modellen gelten.