KI-Agenten brechen Sicherheitsgrenzen — Multi-Agent-Risiken im Fokus

Mehrere neue Sicherheitsstudien belegen, dass moderne KI-Agenten und Multi-Agent-Systeme fundamentale Sicherheitsgrenzen durchbrechen. Wie Dark Reading berichtet, demonstrieren jüngste OpenAI-Sandbox-Escape-Tests, dass "alte Sicherheitsregeln wichtiger denn je sind" — Zugriffsbegrenzung, Ausführungsisolation und vollständiges Logging bilden die Grundlage. Parallel zeigt eine arXiv-Studie (cs.CR 2607.24893), dass verteilte Backdoor-Angriffe in Multi-Agent-LLM-Systemen möglich sind: Ein vergiftetes Tool versteckt verschlüsselte Nutzlast-Fragmente über mehrere Agenten hinweg, die kein einzelner Agent vollständig hält — erst die Zusammenarbeit macht den Angriff sichtbar.

Auch lokale KI-Agenten sind betroffen. Heise Security meldet eine kritische Lücke in Claude Cowork für macOS, die dem Agenten die Umgehung des Betriebssystem-Sandboxes ermöglicht. Zusätzlich identifiziert Dark Reading eine Klasse von "PleaseFix"-Flaws in agentic browsers, die Social Engineering erleichtert und Schwächen bei Cross-Origin-Requests offenlegt — ein Rückschritt von 20 Jahren Web-Security. Eine weitere arXiv-Publikation (cs.CR 2607.23015) warnt vor Neuron-Pruning-Angriffen, die Safety-Alignments in LLMs aushebeln können, selbst wenn diese vor dem Deployment gehärtet wurden.

Für DACH-Organisationen bedeutet dies konkrete Konsequenzen: Agenten-basierte Automationen (etwa für Datenverarbeitung oder API-Integrationen) unterliegen nun demselben Monitoring wie traditionelle kritische Systeme — Compliance-relevanz ergibt sich aus der DSGVO, falls Agenten Personendaten verarbeiten oder während ihrer Ausführung Zugriff auf geschützte Systeme haben. Das EU-AI-Act-Regelwerk ordnet hochrisikante Agenten-Systeme bereits in Tier-1-Kategorien ein. Unternehmen sollten Agenten-Deployments wie Pentesting-Labs behandeln: vollständige Zugriffskontrolle (least privilege), isolierte Ausführungsumgebungen, und detaillierte Audit-Logs bei jedem Agent-Schritt — insbesondere wenn Agenten mit Tools oder anderen Agenten interagieren.

Das Takeaway: Vor Agenten-Produktion ein strukturiertes Red-Team-Assessment durchführen. Die 50-Punkte-Red-Team-Checkliste für LLM-Apps bietet einen Rahmen; Multi-Agent-Szenarien erfordern zusätzliche Tests für Agent-to-Agent-Kommunikation und Tool-Isolation. Auch Safety-Pipelines müssen um Agent-spezifische Kontrollen erweitert werden.

Quellen

• arXiv cs.CR 2607.24893 — Early Detection of Distributed Backdoors in Multi-Agent LLM Systems
• Dark Reading — When AI Agents Escape Sandboxes, Old Security Rules Apply
• arXiv cs.CR 2607.23015 — Mask2Shield: Strengthening LLM Safety against Neuron-Pruning Attacks
• Dark Reading — Agentic Browsers Rewind Web Security by 20 years
• Heise Security — Lücke: Claude Cowork entkommt macOS-Sandbox