## archiv modelle & benchmarks - seite 5 von 6
Alle Artikel des Ressorts, neueste zuerst. Zur Ressort-Seite Modelle & Benchmarks
MODELLEFalcon 180B: Das größte Open-Source-Sprachmodell
Hugging Face hat Falcon 180B veröffentlicht – ein 180-Milliarden-Parameter-Modell, das mit proprietären Systemen konkurriert. Das Open-Source-Modell setzt neue Maßstäbe bei Performance und Zugänglichkeit.
MODELLEQuantisierung in Transformers: Native Unterstützung erklärt
Hugging Face integriert mehrere Quantisierungsmethoden direkt in die Transformers-Bibliothek. Das ermöglicht effizientere Modelle ohne externe Tools und mit weniger Speicherverbrauch.
MODELLELLM-Optimierung in der Produktion
Effiziente Inference, niedrigere Kosten: Hugging Face zeigt praktische Techniken zur Optimierung von Large Language Models im Produktiveinsatz.
MODELLEChat Templates: Das versteckte Performance-Problem
Hugging Face zeigt, wie falsch implementierte Chat Templates die Model-Performance heimlich sabotieren. Ein Standard-Ansatz soll das Problem lösen.
MODELLEMixtral: Neues Mixture-of-Experts Modell auf Hugging Face
Hugging Face präsentiert Mixtral, ein hochperformantes Mixture-of-Experts Modell. Das System nutzt spezialisierte Expert-Layer für effizientere Inferenz und bessere Skalierbarkeit bei gleichzeitig niedrigerem Speicherverbrauch.
MODELLEConstitutional AI: Ethische KI-Modelle selbst trainieren
Constitutional AI ermöglicht es, offene Sprachmodelle durch selbstdefinierte Regeln ethischer auszurichten. Hugging Face zeigt, wie man diesen Ansatz praktisch umsetzt.
MODELLEHugging Face TGI: Messages API für offene LLMs
Hugging Face erweitert TGI um eine OpenAI-kompatible Messages API. Entwickler können damit offene Sprachmodelle nahtlos als Drop-in-Replacement nutzen — ohne Code-Änderungen.
MODELLEStarCoder2: Offenes Code-Modell mit verbesserter Performance
Hugging Face veröffentlicht StarCoder2, ein verbessertes Open-Source-Modell für Code-Generierung. Das Modell wurde auf The Stack v2 trainiert und bietet bessere Performance bei kleinerem Footprint.
MODELLEGaLore: Effizientes Training großer Modelle auf Standard-Hardware
GaLore reduziert Speicherbedarf beim LLM-Training um bis zu 65%. Die neue Methode ermöglicht es, große Sprachmodelle auf handelsüblicher GPU-Hardware zu trainieren – ohne Qualitätsverluste.
MODELLECosmopedia: Synthetische Trainingsdaten im großen Maßstab
Hugging Face stellt Cosmopedia vor – eine Methode zur Generierung großflächiger synthetischer Daten für das Pre-Training von LLMs. Das Projekt zeigt, wie KI-Modelle effizient mit künstlich erstellten Inhalten trainiert werden können.
MODELLELlama 3: Metas neues Open-Source Sprachmodell
Meta hat Llama 3 veröffentlicht – ein Open-Source Large Language Model mit verbesserter Performance und erweiterten Capabilities. Das Modell steht kostenlos zur Verfügung und richtet sich an Entwickler und Forscher.
MODELLEStarCoder2-Instruct: Open Source Code-Modell mit Self-Alignment
Hugging Face veröffentlicht StarCoder2-Instruct, ein vollständig transparentes Code-Generierungs-Modell mit Self-Alignment-Verfahren. Das Modell nutzt offene Daten und dokumentiert seinen Trainingsprozess komplett.
MODELLEPaliGemma: Googles offenes Vision-Language-Modell
Google hat PaliGemma veröffentlicht – ein Open-Source-Modell, das Text und Bilder verarbeitet. Das Modell eignet sich für praktische Aufgaben wie Dokumentenerkennung und visuelle Fragen.
MODELLEKV-Cache Quantization: Längere Sequenzen, weniger Speicher
KV-Cache Quantization reduziert den Speicherverbrauch beim Inference von Language Models erheblich. Das ermöglicht längere Sequenzen und höheren Durchsatz ohne Hardware-Upgrades.
MODELLEGemma 2: Googles neues Open-Source Sprachmodell
Google hat Gemma 2 veröffentlicht – ein offenes Sprachmodell, das Skalierbarkeit und Effizienz kombiniert. Das Modell steht in verschiedenen Größen zur Verfügung und richtet sich an Entwickler und Unternehmen.
MODELLETransformers Code Agent schlägt GAIA-Benchmark
Hugging Face präsentiert einen Code Agent auf Basis von Transformers, der den GAIA-Benchmark erfolgreich meistert. Das System kombiniert Language Models mit praktischer Code-Ausführung und zeigt, wie Agenten komplexe Aufgaben lösen.
MODELLETGI Multi-LoRA: Eine Instanz für 30 Modelle
Mit TGI Multi-LoRA können 30 unterschiedliche LoRA-Adapter auf einer einzelnen Basis-Instanz bereitgestellt werden. Das spart Ressourcen und vereinfacht die Modellverwaltung erheblich.
MODELLEMistral 7B mit Core ML auf Apple-Geräten ausführen
Hugging Face zeigt, wie sich das Mistral 7B Sprachmodell mit Core ML auf iPhones und Macs ausführen lässt. Die Integration ermöglicht lokale KI-Inferenz ohne Internetverbindung und mit vollständiger Datenkontrolle.
MODELLELlama 3.1: Meta skaliert auf 405B mit Multilingualität
Meta veröffentlicht Llama 3.1 in drei Größen bis 405B Parameter. Die neuen Modelle unterstützen 128K Token Context und verbesserte Multilingual-Fähigkeiten. Open Source verfügbar auf Hugging Face.
MODELLEFalcon Mamba: Das erste starke 7B-Modell ohne Attention
Hugging Face stellt Falcon Mamba vor – ein 7B-Modell, das auf State Space Models statt Transformer-Attention setzt. Es verspricht bessere Effizienz bei vergleichbarer Performance.
MODELLELLMs auf 1.58bit: Extreme Quantisierung leicht gemacht
Hugging Face zeigt, wie sich Large Language Models auf extreme 1.58bit-Quantisierung reduzieren lassen – ohne großen Aufwand. Ein Durchbruch für ressourcenschonende KI-Nutzung auf Edge-Geräten.
MODELLETransformers.js v3: WebGPU und neue Modelle
Transformers.js Version 3 bringt WebGPU-Unterstützung für GPU-Beschleunigung im Browser mit. Neu hinzugekommen sind Modelle und Tasks für erweiterte NLP-Anwendungen ohne Server-Backend.
MODELLEUniversal Assisted Generation: Schnelleres Decoding mit beliebigen Modellen
Hugging Face stellt Universal Assisted Generation vor – eine Methode für schnelleres LLM-Decoding, die mit verschiedenen Assistant-Modellen kompatibel ist. Die Technik beschleunigt Inference ohne zusätzliches Training.
MODELLESmolVLM: Effiziente Vision-Language-Modelle im Kleinstformat
Hugging Face stellt SmolVLM vor – kompakte Vision-Language-Modelle, die auf Edge-Geräten laufen und dabei überraschend gute Performance liefern. Eine praktische Alternative zu großen Modellen.