LLM-Agenten: Wie Anthropic und die Industrie Containment neu denken
LLM-Agenten: Containment gegen wachsende Risiken
Anthropics Engineering-Team hat eine zentrale Erkenntnis dokumentiert: Je fähiger Agenten werden, desto größer ihr Schadenspotenzial. Das Unternehmen hat daher Containment-Strategien für Claude.ai, Claude Code und Cowork entwickelt, wie in der Publikation "How we contain Claude across products" dargelegt wird. Das Problem ist nicht neu, die Lösung aber dringender geworden – mit der Verbreitung von Tool-nutzenden KI-Systemen entstehen neue Angriffsflächen.
Gleichzeitig identifizieren Sicherheitsforscher konkrete Verwundbarkeiten: Eine neue arXiv-Studie zeigt MCP-Poisoning-Attacken auf LLM-Agenten, bei denen manipulierte Werkzeuge falsche Befehle ausführen. Parallel bringt Detectify mit seinem MCP Server eine Gegenbewegung: Die Plattform integriert automatisierte Sicherheitstests direkt in KI-Workflows, sodass AppSec-Überprüfungen während der Agent-Entwicklung laufen – nicht danach. Das adressiert ein DACH-relevantes Problem: Deutsche Mittelständler setzen zunehmend auf Agenten-Workflows für Softwareentwicklung, haben aber oft keine etablierten Prozesse für deren Validierung.
Ein weiteres Warnsignal kam Anfang Mai durch Simon Willison: Microsoft Copilot Cowork konnte unter bestimmten Bedingungen Dateien exfiltrieren. Diese praktischen Sicherheitslücken zeigen, dass Containment nicht theoretisch bleibt – es ist ein Engineering-Problem mit echten Konsequenzen. ArXiv-Publikationen dokumentieren auch die Latenz-Zuverlässigkeits-Kosten-Tradeoffs bei Multi-Agent-Workflows, die oft übersehen werden: Schnellere Agenten machen weniger Sicherheitschecks.
Take-Away für Entwickler und Sicherheitsteams
Wer Agenten in Produktionsumgebungen deployt, sollte nicht auf Black-Box-Versprechen setzen. Stattdessen: Explizite Containment-Grenzen definieren (welche APIs darf der Agent aufrufen?), Toolketten validieren (nicht jedes MCP-Plugin ist vertrauenswürdig) und Continuous-Security in den Workflow einbauen – wie Detectify es macht. Für DACH-Unternehmen mit hohen Compliance-Anforderungen gilt zusätzlich: Agenten-Audit-Logs sind nicht optional.