## blog - seite 28 von 33
BUSINESSGoogle investiert 40 Milliarden Dollar in Anthropic
Alphabet kündigt eine 40-Milliarden-Dollar-Investition in Anthropic an – noch größer als Amazons jüngste Zusage. Der Wettbewerb um die führende AI-Position verschärft sich deutlich.
CODINGAgents.js: LLMs mit JavaScript Tools ausstatten
Hugging Face stellt Agents.js vor – eine JavaScript-Bibliothek, die Language Models mit Tools und Funktionen ausstattet. Entwickler können damit Agent-Systeme direkt im Browser oder Node.js aufbauen.
MODELLEEU AI Act: Was Entwickler über Open-Source-Modelle wissen müssen
Die EU AI Act bringt neue Anforderungen für Open-Source-KI-Modelle. Hugging Face analysiert, wie die Regulierung auf freie Modelle angewendet wird und welche praktischen Fragen noch offen sind.
MODELLEFalcon 180B: Das größte Open-Source-Sprachmodell
Hugging Face hat Falcon 180B veröffentlicht – ein 180-Milliarden-Parameter-Modell, das mit proprietären Systemen konkurriert. Das Open-Source-Modell setzt neue Maßstäbe bei Performance und Zugänglichkeit.
MODELLEQuantisierung in Transformers: Native Unterstützung erklärt
Hugging Face integriert mehrere Quantisierungsmethoden direkt in die Transformers-Bibliothek. Das ermöglicht effizientere Modelle ohne externe Tools und mit weniger Speicherverbrauch.
MODELLELLM-Optimierung in der Produktion
Effiziente Inference, niedrigere Kosten: Hugging Face zeigt praktische Techniken zur Optimierung von Large Language Models im Produktiveinsatz.
CODINGLlama 2 70B effizient mit PyTorch FSDP trainieren
PyTorch FSDP ermöglicht das Fine-Tuning großer Sprachmodelle wie Llama 2 70B mit optimiertem RAM-Verbrauch. Ein praktischer Guide zeigt, wie Speicher gespart und Training beschleunigt wird.
MODELLEChat Templates: Das versteckte Performance-Problem
Hugging Face zeigt, wie falsch implementierte Chat Templates die Model-Performance heimlich sabotieren. Ein Standard-Ansatz soll das Problem lösen.
CODINGOptimum-NVIDIA: LLM-Inferenz mit einer Codezeile
Hugging Face und NVIDIA stellen Optimum-NVIDIA vor: ein neues Tool, das LLM-Inferenz durch Optimierungen drastisch beschleunigt. Die Integration in bestehende Workflows erfolgt mit minimaler Code-Änderung.
MODELLEMixtral: Neues Mixture-of-Experts Modell auf Hugging Face
Hugging Face präsentiert Mixtral, ein hochperformantes Mixture-of-Experts Modell. Das System nutzt spezialisierte Expert-Layer für effizientere Inferenz und bessere Skalierbarkeit bei gleichzeitig niedrigerem Speicherverbrauch.
CODINGLLM Fine-tuning 2x schneller mit Unsloth und TRL
Hugging Face integriert Unsloth in TRL und verdoppelt die Geschwindigkeit beim Fine-tuning von Large Language Models. Die neue Integration reduziert Speicherverbrauch und Trainingszeit deutlich.
MODELLEConstitutional AI: Ethische KI-Modelle selbst trainieren
Constitutional AI ermöglicht es, offene Sprachmodelle durch selbstdefinierte Regeln ethischer auszurichten. Hugging Face zeigt, wie man diesen Ansatz praktisch umsetzt.
MODELLEHugging Face TGI: Messages API für offene LLMs
Hugging Face erweitert TGI um eine OpenAI-kompatible Messages API. Entwickler können damit offene Sprachmodelle nahtlos als Drop-in-Replacement nutzen — ohne Code-Änderungen.
SECURITYJerry Walkthrough — HackTheBox Easy (Windows) mit KI-Unterstützung
Wie sich die HTB-Machine Jerry in unter 10 Minuten lösen lässt — Apache Tomcat Default-Credentials, WAR-Deployment, direkt zu SYSTEM. Plus: wie Claude Code bei so einem Solve als Pair-Partner unterstützen kann.
MODELLEStarCoder2: Offenes Code-Modell mit verbesserter Performance
Hugging Face veröffentlicht StarCoder2, ein verbessertes Open-Source-Modell für Code-Generierung. Das Modell wurde auf The Stack v2 trainiert und bietet bessere Performance bei kleinerem Footprint.
MODELLEGaLore: Effizientes Training großer Modelle auf Standard-Hardware
GaLore reduziert Speicherbedarf beim LLM-Training um bis zu 65%. Die neue Methode ermöglicht es, große Sprachmodelle auf handelsüblicher GPU-Hardware zu trainieren – ohne Qualitätsverluste.
MODELLECosmopedia: Synthetische Trainingsdaten im großen Maßstab
Hugging Face stellt Cosmopedia vor – eine Methode zur Generierung großflächiger synthetischer Daten für das Pre-Training von LLMs. Das Projekt zeigt, wie KI-Modelle effizient mit künstlich erstellten Inhalten trainiert werden können.
MODELLELlama 3: Metas neues Open-Source Sprachmodell
Meta hat Llama 3 veröffentlicht – ein Open-Source Large Language Model mit verbesserter Performance und erweiterten Capabilities. Das Modell steht kostenlos zur Verfügung und richtet sich an Entwickler und Forscher.
MODELLEStarCoder2-Instruct: Open Source Code-Modell mit Self-Alignment
Hugging Face veröffentlicht StarCoder2-Instruct, ein vollständig transparentes Code-Generierungs-Modell mit Self-Alignment-Verfahren. Das Modell nutzt offene Daten und dokumentiert seinen Trainingsprozess komplett.
GRUNDLAGENStrukturierte Outputs: Mehr Konsistenz bei KI-Generierung
Strukturierte Generierung verbessert die Zuverlässigkeit von LLM-Outputs durch Schema-Validierung. Hugging Face zeigt, wie konsistente Antworten die Prompt-Instabilität reduzieren.
MODELLEPaliGemma: Googles offenes Vision-Language-Modell
Google hat PaliGemma veröffentlicht – ein Open-Source-Modell, das Text und Bilder verarbeitet. Das Modell eignet sich für praktische Aufgaben wie Dokumentenerkennung und visuelle Fragen.
MODELLEKV-Cache Quantization: Längere Sequenzen, weniger Speicher
KV-Cache Quantization reduziert den Speicherverbrauch beim Inference von Language Models erheblich. Das ermöglicht längere Sequenzen und höheren Durchsatz ohne Hardware-Upgrades.
SECURITYCyberSecEval 2: Neuer Benchmark für LLM-Sicherheit
Meta stellt CyberSecEval 2 vor – einen umfassenden Evaluations-Framework zur Bewertung von Cybersecurity-Risiken in Large Language Models. Der Benchmark misst sowohl Schwachstellen als auch defensive Fähigkeiten von LLMs.
MODELLEGemma 2: Googles neues Open-Source Sprachmodell
Google hat Gemma 2 veröffentlicht – ein offenes Sprachmodell, das Skalierbarkeit und Effizienz kombiniert. Das Modell steht in verschiedenen Größen zur Verfügung und richtet sich an Entwickler und Unternehmen.