## tools - seite 3 von 4
TOOLSAnthropic Labs: Experimentelle KI-Features für Claude-Nutzer
Anthropic startet Labs als Plattform für experimentelle Funktionen. Nutzer können neue Claude-Features testen und direktes Feedback geben, bevor diese in die Produktversion gehen.
TOOLSClaude Agent SDK jetzt in Apples Xcode verfügbar
Anthropic und Apple integrieren das Claude Agent SDK in Xcode. Entwickler können damit agentenbasierte Anwendungen direkt in der Apple-Entwicklungsumgebung erstellen und testen.
TOOLSClaude jetzt mit erweiterten Cybersecurity-Fähigkeiten
Anthropic stellt Claude mit erweiterten Sicherheitsfähigkeiten zur Verfügung. Das Modell soll Defender:innen helfen, Schwachstellen zu identifizieren und Cyberangriffe abzuwehren.
TOOLSEffektive Tools für Agents schreiben — mit Agent-Unterstützung
Die Qualität von Agent-Tools bestimmt ihre Leistung entscheidend. Anthropic zeigt, wie man hochwertige Tools und Evaluationen entwickelt und wie Claude seine eigenen Tools selbst optimieren kann.
TOOLSEffektive LLM-Agenten: Einfachheit schlägt Komplexität
Anthropic hat Dutzende Teams beim Aufbau von LLM-Agenten begleitet. Das Ergebnis ist eindeutig: Einfache, kombinierbare Muster funktionieren besser als komplexe Frameworks.
TOOLSClaude Code: So orchestriert Boris Cherny fünf AI-Agenten parallel
Boris Cherny, Schöpfer von Claude Code, hat seinen Entwicklungs-Workflow offengelegt: Er orchestriert fünf AI-Agenten gleichzeitig, nutzt ausschließlich das langsamste Modell und transformiert jede AI-Fehler in permanente Lernregeln.
TOOLSAgents.js: LLMs mit JavaScript Tools ausstatten
Hugging Face stellt Agents.js vor – eine JavaScript-Bibliothek, die Language Models mit Tools und Funktionen ausstattet. Entwickler können damit Agent-Systeme direkt im Browser oder Node.js aufbauen.
TOOLSQuantisierung in Transformers: Native Unterstützung erklärt
Hugging Face integriert mehrere Quantisierungsmethoden direkt in die Transformers-Bibliothek. Das ermöglicht effizientere Modelle ohne externe Tools und mit weniger Speicherverbrauch.
TOOLSLLM-Optimierung in der Produktion
Effiziente Inference, niedrigere Kosten: Hugging Face zeigt praktische Techniken zur Optimierung von Large Language Models im Produktiveinsatz.
TOOLSLlama 2 70B effizient mit PyTorch FSDP trainieren
PyTorch FSDP ermöglicht das Fine-Tuning großer Sprachmodelle wie Llama 2 70B mit optimiertem RAM-Verbrauch. Ein praktischer Guide zeigt, wie Speicher gespart und Training beschleunigt wird.
TOOLSChat Templates: Das versteckte Performance-Problem
Hugging Face zeigt, wie falsch implementierte Chat Templates die Model-Performance heimlich sabotieren. Ein Standard-Ansatz soll das Problem lösen.
TOOLSOptimum-NVIDIA: LLM-Inferenz mit einer Codezeile
Hugging Face und NVIDIA stellen Optimum-NVIDIA vor: ein neues Tool, das LLM-Inferenz durch Optimierungen drastisch beschleunigt. Die Integration in bestehende Workflows erfolgt mit minimaler Code-Änderung.
TOOLSLLM Fine-tuning 2x schneller mit Unsloth und TRL
Hugging Face integriert Unsloth in TRL und verdoppelt die Geschwindigkeit beim Fine-tuning von Large Language Models. Die neue Integration reduziert Speicherverbrauch und Trainingszeit deutlich.
TOOLSHugging Face TGI: Messages API für offene LLMs
Hugging Face erweitert TGI um eine OpenAI-kompatible Messages API. Entwickler können damit offene Sprachmodelle nahtlos als Drop-in-Replacement nutzen — ohne Code-Änderungen.
TOOLSStrukturierte Outputs: Mehr Konsistenz bei KI-Generierung
Strukturierte Generierung verbessert die Zuverlässigkeit von LLM-Outputs durch Schema-Validierung. Hugging Face zeigt, wie konsistente Antworten die Prompt-Instabilität reduzieren.
TOOLSTGI Multi-LoRA: Eine Instanz für 30 Modelle
Mit TGI Multi-LoRA können 30 unterschiedliche LoRA-Adapter auf einer einzelnen Basis-Instanz bereitgestellt werden. Das spart Ressourcen und vereinfacht die Modellverwaltung erheblich.
TOOLSMistral 7B mit Core ML auf Apple-Geräten ausführen
Hugging Face zeigt, wie sich das Mistral 7B Sprachmodell mit Core ML auf iPhones und Macs ausführen lässt. Die Integration ermöglicht lokale KI-Inferenz ohne Internetverbindung und mit vollständiger Datenkontrolle.
TOOLSOutlines-core 0.1.0: Strukturierte Generierung für Rust und Python
Hugging Face veröffentlicht Outlines-core 0.1.0 mit nativer Unterstützung für strukturierte KI-Generierung in Rust und Python. Das Framework ermöglicht präzise Output-Formate ohne Umwege über externe APIs.
TOOLSTransformers.js v3: WebGPU und neue Modelle
Transformers.js Version 3 bringt WebGPU-Unterstützung für GPU-Beschleunigung im Browser mit. Neu hinzugekommen sind Modelle und Tasks für erweiterte NLP-Anwendungen ohne Server-Backend.
TOOLSUniversal Assisted Generation: Schnelleres Decoding mit beliebigen Modellen
Hugging Face stellt Universal Assisted Generation vor – eine Methode für schnelleres LLM-Decoding, die mit verschiedenen Assistant-Modellen kompatibel ist. Die Technik beschleunigt Inference ohne zusätzliches Training.
TOOLSText Generation Inference unterstützt jetzt mehrere Backends
Hugging Face erweitert Text Generation Inference um flexible Backend-Optionen wie TRT-LLM und vLLM. Nutzer können nun zwischen verschiedenen Inferenz-Engines wählen und so Performance und Anforderungen optimal abstimmen.
TOOLSTiny Agents: Funktionsfähige KI-Agenten in 50 Codezeilen
Hugging Face zeigt, wie sich mit dem Model Context Protocol effiziente KI-Agenten minimal umsetzen lassen. Ein praktisches Beispiel für schlanke Agent-Architekturen ohne Overhead.
TOOLSMCP-Server mit Gradio bauen: Praktische Integration
Gradio ermöglicht es nun, Model Context Protocol Server direkt in Python zu implementieren. Eine neue Integration vereinfacht die Entwicklung von AI-Tools mit standardisiertem Protokoll.
TOOLSTiny Agents in Python: Agenten in 70 Zeilen Code
Hugging Face zeigt, wie man mit dem Model Context Protocol (MCP) funktionsfähige AI-Agenten in knapp 70 Zeilen Python schreibt. Ein praktischer Einstieg in agentenbasierte Systeme ohne Komplexität.