Multi-Agent-KI: Sicherheitslücken in autonomen Systemen eskalieren
Autonome KI-Agenten und Multi-Agent-Systeme geraten zunehmend in den Fokus von Sicherheitsforschung — mit beunruhigenden Ergebnissen. Laut arXiv-Studien aus April 2026 entstehen kritische Schwachstellen dort, wo mehrere autonome Agenten ohne hinreichende Vertrauensmechanismen miteinander interagieren. Eine neue Studie zu "Architecture Matters for Multi-Agent Security" zeigt, dass die grundlegende Systemarchitektur entscheidend für Anfälligkeit ist: Multi-Agent-Systeme (MAS) mit unzureichend isolierten Kommunikationskanälen ermöglichen Lateral-Movement und Cross-Agent-Attacken. Parallel dokumentiert Forschung zu "Enhancing Linux Privilege Escalation Attack Capabilities of Local LLM Agents", dass lokal betriebene Agenten mit Shell-Zugriff gezielt Eskalationswege ausnutzen können — besonders problematisch bei Penetration-Testing-Szenarien, die unkontrolliert eskalieren.
Die fehlende Identitätsverifikation ist ein Kern-Problem. Ein neuer Ansatz namens "Agent Name Service (ANS)" adressiert dies als Proof-of-Concept: Ein dezentrales Trust-Layer für Kubernetes-basierte Agent-Ökosysteme, das Agenten-Discovery, Identity-Attestation und Policy-Governance standardisiert. Ohne solche Mechanismen können böswillige oder kompromittierte Agenten sich als legitime Systeme ausgeben und Capabilities anfordern, die nicht ihnen gehören.
Für den DACH-Raum relevant: Unternehmen, die Multi-Agent-LLM-Pipelines in Deutschland oder unter DSGVO-Jurisdiktion betreiben (etwa für Datenverarbeitung oder Dokumenten-Automation), müssen explizit nachweisen, dass Agent-zu-Agent-Kommunikation revisionssicher protokolliert ist. Das EU-AI-Act sieht für Hochrisiko-Systeme Transparenzanforderungen vor — unkontrollierte Agent-Interaktionen können diese verletzten. Zusätzlich zeigt Forschung zu LLM-generierten Cryptographic-Code-Libraries, dass autonome Agenten, die selbst Code erzeugen, eine neue Angriffsebene bilden: Wenn ein Agent Shell-Zugang hat und Code generiert, benötigt der Security-Review zusätzliche Ebenen.
Handlung jetzt: Wer Multi-Agent-Systeme plant oder betreibt, sollte vor Production-Rollout ein Architektur-Security-Review durchführen, das explizit Agent-Isolation, Capability-Attestation und Audit-Logging einfordert — und nicht erst auf Sicherheitsvorfälle warten.